Anthropic y Accenture amplían su colaboración en seguridad de inteligencia artificial mediante un nuevo programa de evaluación integrada para IA de frontera, con una inversión esperada de al menos 1.000 millones de dólares por parte de cada empresa en los próximos cinco años. El esfuerzo apunta a una brecha que la industria aún no ha cerrado: hacer que los compromisos de seguridad de un laboratorio de frontera sean verificables de forma independiente.

El programa estará liderado por Faculty, la unidad especializada en IA de Accenture, cuya adquisición la empresa anunció planeaba a inicios de este año como parte de una expansión más amplia de sus capacidades de IA. Los evaluadores de Faculty trabajarán junto a los equipos de Anthropic para evaluar los modelos y realizarles red teaming, llevar a cabo evaluaciones de alineamiento y probar las salvaguardas de los modelos.

A diferencia de los evaluadores externos convencionales, se espera que los equipos integrados reciban un acceso comparable al de los empleados de Anthropic. Esto les permitiría observar los modelos durante el entrenamiento, examinar las decisiones sobre desarrollo y despliegue, y evaluar si la empresa está cumpliendo sus compromisos de seguridad. La profundidad del acceso es lo que distingue este modelo, al llevar la evaluación al interior del proceso de desarrollo en lugar de dejarla en el perímetro del laboratorio.

La iniciativa sigue un compromiso asumido por el CEO de Anthropic, Dario Amodei, en su reciente ensayo "We Must Pace the Frontier", en el que pidió que evaluadores independientes operen dentro de los laboratorios de IA de frontera como parte de esfuerzos más amplios para hacer verificables los compromisos de seguridad. El nuevo programa convierte esa propuesta en un acuerdo operativo, con un socio identificado y un compromiso de financiamiento definido.

Faculty ha trabajado previamente con grandes desarrolladores de IA en pruebas de seguridad, incluidas contribuciones a las evaluaciones de bioseguridad de los modelos Claude 4 de Anthropic y el red teaming de o1 de OpenAI. Ese historial significa que el equipo llega con experiencia práctica probando modelos de frontera de más de un laboratorio.

Anthropic señaló que el marco sigue siendo experimental, ya que aún no existen estándares industriales establecidos que determinen a qué deberían tener acceso los evaluadores integrados ni cómo deberían reportarse sus hallazgos. En ausencia de normas acordadas, las propias prácticas del programa en materia de acceso y divulgación definirán sus términos. El financiamiento también sigue sin resolverse. Anthropic ha sostenido previamente que las evaluaciones independientes deberían financiarse eventualmente mediante mecanismos mancomunados o respaldados por gobiernos, pero para la asociación con Accenture, la empresa financiará directamente el trabajo de evaluación, lo que significa que el modelo descansa por ahora en financiamiento corporativo directo en lugar de la infraestructura compartida que Anthropic ha defendido.

El acuerdo no es exclusivo. Anthropic indicó que también está en conversaciones con el evaluador sin fines de lucro METR y planea anunciar socios de evaluación adicionales en las próximas semanas, mientras que Accenture seguirá libre para trabajar con otros desarrolladores de IA. La estructura apunta a un grupo de evaluadores integrados en Anthropic en lugar de depender de una única relación.

Anthropic subrayó que los evaluadores integrados no transfieren la de la seguridad de los modelos a organizaciones externas. En cambio, el programa está diseñado para que los propios compromisos de seguridad de la empresa sean más fáciles de verificar de forma independiente. Las próximas semanas deberían aclarar al menos dos cosas: qué evaluadores adicionales se suman al programa y cómo se configuran sus términos experimentales de acceso y presentación de resultados.