La inversionista Katie Jacobs Stanton descubrió este verano que su asistente de IA, Instinct, había enviado un correo electrónico en su nombre sin consultarla primero, según TechCrunch. Ella describió el correo como inofensivo. La ruptura de confianza no lo fue: el próximo mensaje no autorizado podría igualmente costarle a alguien un empleo, un matrimonio o una demanda.

El atractivo de los agentes personales de IA es innegable. Un asistente capaz de identificar correos prioritarios y redactar respuestas, recordar el cumpleaños de un familiar y comprar un regalo basándose en correspondencia privada resulta tentador. Para las personas que lidian con exigentes trabajos, labores de cuidado o una discapacidad, esa ayuda puede ser transformadora. Los inversionistas ven el mismo potencial: Forbes informó que el interés de capital de riesgo en Instinct ha sido tan intenso que impulsó la valoración del asistente a multiplicarse por cinco en cuestión de semanas. Pero el episodio plantea una pregunta importante: una vez que un asistente tiene acceso a nuestras vidas, ¿cómo mantenemos el control? Asistentes como Instinct y Muse de Meta actúan en nombre de los usuarios en lugar de simplemente responder preguntas o hacer recomendaciones. Una compra errónea puede ser reembolsable; una revelación íntima no puede recuperarse.

Los daños ya están emergiendo. Forbes informó que cuando el inversionista Jason Yeh pidió a Instinct buscar reservas de cena disponibles, el asistente reservó una mesa, dejándole un cargo de cancelación de 200 dólares que nunca aprobó. TechCrunch reportó que un probador no pudo eliminar sus datos, y que otra recibió un resumen de su bandeja de entrada horas después de desconectar su cuenta. En septiembre, el investigador de seguridad Patrick Wardle expuso una falla en la app de Mac de Muse que permitiría a malware ya presente en una computadora secuestrar al asistente, la cual Meta parchó rápidamente.

El problema ahora alcanza también a las cuentas bancarias. La semana pasada, importantes instituciones financieras reportaron que agentes personales de IA operaban dentro de cuentas en línea, y en un caso un agente llamó a un banco sin autorización para presentar una queja. El CEO de JPMorgan Chase, Jamie Dimon, dijo que el banco no permitiría que "agentes externos no verificados entraran dentro de la empresa", y el CEO de Schwab dijo que la firma está bloqueando activamente a los agentes no autorizados. El asesor de la Casa Blanca David Sacks respondió que los datos fueron compartidos voluntariamente y que los episodios "de ninguna manera son ciberataques". Cada parte tiene su punto, y ahí radica precisamente la dificultad: aún no existe una definición establecida de lo que significa la autorización cuando la parte que actúa es un software.

Las fallas también son difíciles de ver. Un registro público lanzado esta semana por la empresa de seguridad Manifold contabiliza 59 incidentes desde julio de 2025, cuarenta y dos de ellos revelados solo en los últimos cuatro meses. El incidente mediano tardó 70 días en salir a la luz, y solo 11 de los 59 fueron detectados por un control de seguridad. Las cifras brindan a las empresas, reguladores y usuarios un punto de referencia común sobre la frecuencia de estas fallas y cuánto tiempo pueden permanecer ocultas.

EqualAI, cuya directora ejecutiva escribió la columna, ha sostenido durante mucho tiempo que una buena gobernanza de IA es un buen negocio, porque la confianza determinará en última instancia si las personas adoptan estas herramientas. La organización reunió recientemente a altos ejecutivos que desarrollan y despliegan agentes para trabajar en una crisis simulada, y el ejercicio expuso repetidamente las mismas brechas. En la empresa simulada, los registros de auditoría eran demasiado escasos para reconstruir lo que un agente había hecho; los contratos con proveedores no decían quién responde cuando un agente se equivoca; y la responsabilidad de supervisión se asumía en lugar de asignarse. Las brechas eran más agudas donde la velocidad había superado a la precaución, y moldearon la hoja de ruta producida por el ejercicio, publicada como el libro blanco de Gobernanza de IA Agéntica de EqualAI.

El panorama legal avanza en la misma dirección. La ley de California ahora impide que las empresas evaden la responsabilidad civil argumentando que la IA actuó de forma autónoma, y los senadores Hawley y Murphy han propuesto extender la ley federal antihackeo a desarrolladores y operadores cuyos agentes causen daño por negligencia. Esos mismos principios deberían aplicar a los asistentes que las personas llevan a sus hogares. Para los consumidores, se traducen en cuatro compromisos.

Hacer los permisos específicos. Un asistente debería recibir solo el acceso que requiere una tarea. El permiso para leer una bandeja de entrada no debería convertirse automáticamente en permiso para enviar correos en nombre del usuario. Antes de que un asistente gaste dinero, cambie quién puede acceder a una cuenta o comparta datos sensibles, deben existir salvaguardas conocidas por los usuarios.

Asignar responsabilidad de antemano. Si un asistente cancela erróneamente un vuelo, el remedio debe ser claro. Las empresas deberían determinar antes del despliegue quién investiga las acciones no autorizadas de un asistente, quién puede detenerlas y cómo se indemniza a los usuarios.

Probar con la perspectiva del usuario. Las pruebas independientes deberían confirmar que los asistentes preguntan antes de actuar, respetan sus límites y se desconectan completamente cuando se revoca el acceso. Como los modelos cambian constantemente, las pruebas deben ser continuas. El descubrimiento de Wardle fue valioso, y un trabajo como el suyo debería ser la norma.

Reportar y estudiar las fallas. La aviación se convirtió en una de las formas de viaje más seguras en parte porque los pilotos y aerolíneas reportan incidentes cercanos y los investigadores aprenden de ellos. Se debería esperar que las empresas identifiquen un "incidente de IA", preserven los registros, notifiquen a los afectados y corrijan la causa subyacente, mientras que los reguladores pueden establecer requisitos de reporte para casos graves.

Los consumidores también tienen un papel. Necesitan entender los permisos que han otorgado y cómo revocar el acceso. Pero la mayor responsabilidad recae en las empresas que venden las herramientas, las cuales deben definir sus límites y establecer expectativas razonables. Las personas no deberían necesitar conocimientos de ciberseguridad para usar estas herramientas de forma segura.

Los viajeros abordan aviones sin entender cómo vuelan porque la industria y los reguladores responden por su seguridad. Se necesita un marco similar para los asistentes de IA. Si las empresas quieren las bandejas de entrada, las cuentas y los encargos de los usuarios, deben ganarse su confianza aclarando qué se está autorizando, cómo se puede recuperar el control y quién responde cuando los asistentes cometen errores en nombre de los usuarios.

Las opiniones expresadas en las columnas de Fortune.com son únicamente las opiniones de sus autores y no necesariamente reflejan las opiniones y creencias de Fortune.

Esta historia fue publicada originalmente en Fortune.com.