Meta guarda fichas de tu familia, tu pareja y tus amigos: el asistente Muse aprende del entorno del usuario cada una hora

Empieza con un dolor de cabeza conocido. Le pedís al asistente que te reserve una cena y, en lugar de preguntarte el nombre del restaurante, te tira un dato que no le diste: 'como a tu pareja le gustan los ravioles de salmón, ¿reservo en el de siempre?'. La sorpresa es entendible. Pero hay una explicación, y es más concreta de lo que parece.

Se llama Muse y es el asistente de inteligencia artificial que viene empujando Meta desde hace un tiempo. Daniel Roberts, titular del área de prensa de la compañía, le puso palabras al funcionamiento en una charla con la prensa especializada: el sistema junta información del usuario y de la gente que lo rodea para responder mejor en tareas cotidianas, desde reconocer una factura hasta acordarse de las flores preferidas de la pareja.

Fichas que se actualizan cada hora

La parte jugosa la destapó Karan Joshi, investigador independiente en seguridad informática e inteligencia artificial. Le pidió al chatbot, en una charla normal, que le mostrara sus archivos internos. Y el sistema le pasó la documentación. Entre las instrucciones hay una rutina que se ejecuta cada sesenta minutos y arma perfiles de familiares, parejas, amigos, colegas y hasta de cuentas que el usuario sigue en redes sociales.

Las fichas se van completando de a poco con datos que aparecen en conversaciones o conexiones del usuario. Incluyen, entre otras cosas, intereses en común, asuntos pendientes, objetivos de ahorro compartidos, cambios de domicilio, aniversarios y hasta desacuerdos anteriores. Las instrucciones son claras en un punto: nada se inventa. Si no hay evidencia que respalde un dato, la ficha no lo carga.

• Reconocer a un proveedor, como el plomero que ya contrató, cuando aparece el nombre en una factura.
• Recordar preferencias de una pareja, por ejemplo las flores que siempre le regala.
• Guardar cumpleaños y aniversarios para que el asistente los tenga presentes.
• Registrar objetivos comunes, por caso un plan de ahorro compartido entre dos personas.
• Anotar cambios de domicilio o mudanzas recientes del entorno cercano.

La empresa defiende el mecanismo con tres argumentos. Primero, que los datos salen de contenido público y de lo que el usuario comparte. Segundo, que cada persona tiene una máquina virtual separada, sin acceso para otros usuarios ni agentes. Tercero, que el sistema pide visto bueno antes de mandar un mail o hacer una compra.

El control, eso sí, queda en manos del usuario titular de la cuenta. Es el único que puede revisar el registro de auditoría, borrar la memoria guardada o cortar la conexión con servicios externos que aportan datos. Las personas que aparecen en las fichas, no.

“Quien instaló Muse es el dueño de la palanca. Los demás, según quedó plasmado en las instrucciones que recuperó el investigador, son objeto de perfilamiento sin posibilidad de auditoría ni de borrar lo que el sistema acumuló sobre ellos.”Lectura del hallazgo de Karan Joshi

Lo concreto: si tu primo le pidió a Muse que le organice un asado y vos aparecés en sus fichas, no hay forma de que veas qué dijo el sistema sobre vos ni de pedir que lo borre. El manejo del botón queda del lado del usuario que instaló el asistente.

Pongámoslo en un pueblo santacruceño. Imaginate a un almacenero de El Calafate que le carga al asistente los datos de sus clientes frecuentes para no fallarles con los pedidos. A los tres meses, Muse ya tiene perfiles con cumpleaños, hijos, gustos y deudas pendientes de cada uno. El almacenero puede borrar todo cuando quiera. Sus clientes, no. Ni siquiera saben que la ficha existe.

El interrogante que queda es de fondo. Si las instrucciones internas quedaron al alcance de un investigador con una simple pregunta dentro del chat, la pregunta es cuándo la propia empresa va a mostrarle al usuario, de manera clara, qué tiene guardado sobre su entorno y sobre la gente que lo rodea. Hoy esa respuesta no aparece en la pantalla. Aparece en una nota de un investigador que la tuvo que ir a buscar.