Meta ejecutó en secreto una prueba en la que contratistas de call center realizaron algunas de las llamadas telefónicas solicitadas a través de su agente de IA Muse, según publicaciones internas de la empresa vistas por Reuters. La prueba, habilitada la semana pasada para la mitad de los empleados de Meta, ya fue revertida.

Muse, lanzado el 8 de septiembre, está diseñado para enviar correos electrónicos, comprar y reservar viajes por sí solo. Su función de llamadas marca a empresas de Estados Unidos para agendar cortes de cabello, verificar si una tienda tiene un producto en stock u obtener cotizaciones de contratistas. Meta comenzó a probar las llamadas con empleados en agosto y las extendió gradualmente a los usuarios de Muse tras el lanzamiento de la aplicación. Este episodio pone el foco en una pregunta que acompaña a cualquier producto tipo agente: cuando una IA delega una tarea a una persona detrás de escena, ¿a quién del otro lado de la línea se le informa?

Los agentes humanos elevaron la tasa de éxito de las llamadas a entre 95% y 98%

La función de llamadas solo con IA tenía fallas. Algunas empresas colgaron al agente, y un empleado dijo que una aseguradora repetidamente terminaba la llamada en cuanto se enteraba de que Muse era una IA.

La semana pasada, Meta habilitó las "llamadas de agente humano" para la mitad de sus empleados. El personal podía unirse a un grupo de exclusión voluntaria, y Muse podía entonces transferir una solicitud a un agente capacitado, quien realizaba la llamada y la gestionaba hasta el final. Una vicepresidenta de Meta Superintelligence Labs les dijo a los empleados que las pruebas mostraron que la tasa de éxito de las llamadas realizadas por humanos podía elevarse a entre 95% y 98%, un nivel que las llamadas solo con IA no habían alcanzado, dijo. Para las empresas que recibían esas llamadas, no había señal de que una persona, y no el agente, estuviera al teléfono: la brecha de divulgación que la vicepresidenta luego admitió como un error.

Preocupaciones de privacidad y un comentario racista precedieron la reversión

Los empleados advirtieron que la información sensible que los usuarios proporcionan a Muse podría filtrarse a los contratistas de call center. Algunos señalaron el de lanzamiento de Meta de que cada agente de Muse se ejecuta en su propia máquina virtual aislada. Un empleado que hizo que Muse negociara una factura de cable dijo que la transcripción de la llamada mostraba que el contratista hizo un comentario racista. Para un producto que pide a los usuarios delegar correo electrónico, compras y viajes, la prueba mostró la rapidez con la que las preguntas de confianza se extienden más allá de la IA misma hacia las personas y proveedores en su flujo de trabajo.

La vicepresidenta reconoció que fue un error iniciar llamadas realizadas por contratistas sin las divulgaciones adecuadas y dijo que Meta había revertido la función por ahora. El contratista en cuestión, dijo, no volvería a trabajar en proyectos de Meta.

El vocero de Meta, Daniel Roberts, dijo que la prueba tenía como objetivo recopilar comentarios para que la empresa pueda incorporar protecciones de seguridad y privacidad antes de cualquier lanzamiento público. "Estamos trabajando con comercios para seguir mejorando esta potential función de llamadas y solo la lanzaremos cuando esté lista y con las divulgaciones adecuadas", dijo Roberts.

Muse ha superado los 2.5 millones de descargas. Desde su lanzamiento, las acciones de Meta han subido más de 20%, añadiendo más de 200,000 millones de dólares a su valor de mercado. Si la función de llamadas regresa —y bajo qué divulgaciones para empresas y usuarios— se perfila como la prueba inmediata de cómo Meta lanza un agente diseñado para actuar en nombre de las personas.