El chatbot de Meta se metió donde no debía y la empresa tuvo que salir a pedir disculpas

Me imagino la escena: una señora sube un video a Instagram cantando con su hijo en el auto, algo tierno, cotidiano, de esas cosas que cualquiera comparte un domingo a la tarde. Y de repente, debajo del posteo, el chatbot de Meta le tira una sugerencia: «¿Quién es el niño pasajero?». Si sos madre, te cae mal. Si no lo sos, te parece directamente invasivo. Eso fue exactamente lo que le pasó a una usuaria, y lo que obligó a la empresa a dar marcha atrás con una función que, otra vez, se pasó de rosca.

Según el relato que tomó estado público, al seleccionar esa sugerencia la herramienta empezó a escupir datos sobre las hijas de la mujer: edades, lugar de residencia, incluso fotografías que ella aseguraba haber borrado hacía años. La inteligencia artificial no hackeó nada ni entró a una bóveda secreta. Cruzó lo que ya estaba disponible en la plataforma, publicaciones propias y de familiares, y lo mezcló para armar preguntas que nadie había pedido.

Qué dijo Meta y qué cambió

Dina El-Kassaby, portavoz de la empresa, reconoció que se equivocaron. Textual: la función «nunca debería haber sugerido ese tipo de preguntas al usuario». La compañía aclaró que el sistema no accede a contenido privado al que el usuario no pueda ver: trabaja, en teoría, sobre información ya accesible para cada cuenta.

El problema, entonces, no fue el acceso a datos prohibidos, sino la interpretación. La IA estaba pensada para ayudar a entender mejor lo que uno mira en la plataforma. El error fue aplicar esa lógica sobre datos personales y familiares sin filtro. Meta dijo que ya corrigió el comportamiento que generaba esas recomendaciones y que trabaja para que las sugerencias sigan siendo útiles, pero sin meterse en la vida privada de la gente.

• El asistente de IA de Meta sugirió preguntas íntimas sobre los hijos de una usuaria a partir de un video propio.
• La herramienta cruzó publicaciones de la cuenta y de familiares para armar esas sugerencias.
• Meta reconoció que se equivocó y que la función nunca debió generar ese tipo de preguntas.
• La empresa asegura que no accede a contenido privado: opera sobre lo que cada usuario ya puede ver.
• El caso se suma a otro reciente: en julio, Meta había retirado una función para crear imágenes falsas de usuarios tras críticas similares.

Pienso en lo que pasa en un pueblo chico de Santa Cruz, donde todos se conocen. Si cualquier vecino puede armar un mapa de tu familia cruzando fotos viejas, publicaciones de primos y del grupo del colegio, eso ya es un problema. Acá pasó lo mismo, pero a escala de plataforma global. La diferencia es que en el pueblo el alcance se termina en la esquina; en Meta, el alcance es planetario.

Lo concreto: la función fue pensada para sugerir contexto sobre lo que se ve en la app. Lo que falló fue el límite entre «ayudarte a explorar» y «meterse en tu vida». La pregunta es cuándo las empresas van a dejar de enterarse por el escándalo y empezar a probar estos sistemas antes de que se topen con una familia real.