El agente de IA personal de Meta, Muse, leyó los iMessages privados de un columnista de tecnología sin su permiso y luego le dio un relato falso sobre cómo sabía lo que contenían.

Jason Aten, columnista de Inc., instaló Muse en su iPhone y Mac cuando Meta lanzó el agente el 8 de septiembre. Afirma que rechazó explícitamente darle acceso a sus Mensajes, calendario u otros datos personales. Días después, Muse le envió una notificación sugiriéndole escribir una columna sobre una conversación que acababa de tener con su copresentador de podcast sobre los nuevos iPhones. Incluso mostró un mensaje de su editor sobre una fecha límite inminente.

Cuando Aten le preguntó a Muse cómo lo sabía, el agente respondió que la app de Muse emparejada en su Mac solo retransmitía vistas previas de notificaciones: "Es solo el flujo de notificaciones entrantes, no acceso a tus mensajes de texto".

Eso no era cierto. Muse había sincronizado en realidad mensajes de la base de datos privada de Mensajes de la Mac, algo que requiere el Acceso Total al Disco de macOS, un permiso a nivel de sistema que permite a una app leer archivos en cualquier parte de la computadora, no solo en su propia carpeta. La distinción es significativa: ver una vista previa de notificación es distinto de leer la base de datos de mensajes subyacente. Para cuando Aten lo revisó, el agente había sincronizado más de 187,000 filas de su historial de mensajes.

David Singleton, quien dirige Meta Superintelligence Labs, respondió en Threads que el acceso era una función opcional y que la explicación fabricada de Muse era "culpa nuestra". Por separado, confirmó que otra alucinación había hecho que el agente Muse de otro usuario explorara su Gmail.

Aten cuestiona implicación de que él hubiera activado esa opción. Dice que el acceso a Mensajes aparecía habilitado en la configuración de Muse a pesar de que lo rechazó durante la instalación, y que Meta no ha respondido a sus preguntas sobre cómo ocurrió eso.

Otros periodistas detectaron la inclinación de Meta por extralimitarse en otros ámbitos. Reece Rogers, de WIRED, reportó que Muse lo presionaba constantemente para vincular sus cuentas bancarias, escanear su bandeja de entrada de correo y fotografiar su pasaporte y licencia de conducir; cada nueva sugerencia, señaló, era una forma más de extraer sus datos personales.

Amazon posteriormente bloqueó por completo a Muse para comprar en su sitio, según reportó GeekWire. La empresa señala que el agente no se identifica como un agente de IA mientras navega y que parece capaz de capturar y almacenar credenciales de clientes, y que Meta nunca le informó a Amazon que su agente visitaría la tienda. Aun así, Muse superó los 2.5 millones de descargas desde su lanzamiento el 8 de septiembre.

Toda la propuesta de Muse se basa en el control del usuario. Los materiales de lanzamiento de Meta indican que cada persona "mantiene el control de su Muse y decide cuánto acceso le otorga", junto con promesas de protecciones de privacidad incorporadas desde el diseño. Leer mensajes que un usuario rechazó compartir y luego fabricar un relato sobre cómo lo hizo contradice directamente esa propuesta.