Anthropic ha selezionato Accenture come suo primo evaluatore incorporato, una partnership volta a sostenere il rallentamento dello sviluppo dell'IA proposto la scorsa settimana dal CEO di Anthropic Dario Amodei.

Amodei ha pubblicato una proposta in tre fasi il 12 settembre in cui chiede che lo sviluppo dell'IA proceda a un ritmo più lento affinché possano essere messe in atto misure di sicurezza, citando avvertimenti su potenziali danni catastrofici derivanti da progressi rapidi e privi di controlli.

Le reazioni nel settore sono state contrastanti. Il CEO di OpenAI Sam Altman e il CEO di SpaceX Elon Musk hanno espresso sostegno al piano, mentre il CEO di Nvidia Jensen Huang non lo ha fatto, sostenendo che tale regolamentazione non fosse necessaria. La mossa di Anthropic per iniziare a implementare il piano arriva in mezzo a questa mancanza di consenso nel settore.

Nella proposta, Amodei ha scritto che «l'IA sta avanzando drasticamente più rapidamente, trainata principalmente dalla crescente capacità dell'IA di costruire la prossima generazione di IA. Questa dinamica è chiamata auto-miglioramento ricorsivo», aggiungendo che «lasciata senza controllo, potrebbe superare la nostra capacità di comprendere e controllare questi sistemi».

Il primo passo del piano prevede valutatori indipendenti con un accesso simile a quello dei dipendenti ai sistemi di IA — un impegno che Anthropic aveva già assunto unilateralmente, secondo Amodei. Venerdì, l'azienda si è mossa per onorare quell'impegno annunciando una partnership con Accenture e la sua attività di IA Faculty incentrata su «valutazione e red-teaming dei modelli, accertamenti di allineamento e test delle salvaguardie dei modelli». L'annuncio porta il primo passo della proposta dal principio alla pratica.

L'azienda haato che i dettagli su come funzionerà l'accordo sono ancora in fase di definizione, poiché la valutazione incorporata è un campo nuovo — un ambito in cui persino domande fondamentali, come funzionerà in pratica l'accesso simile a quello dei dipendenti, restano senza risposta.

Secondo l'annuncio, Anthropic e Accenture prevedono ciascuna di investire almeno 1 miliardo di dollari nel progetto nei prossimi cinque anni.

Anthropic finanzierà direttamente il lavoro vista l'urgenza

Anthropic ha sottolineato che attualmente non esiste alcun sistema per finanziare la valutazione indipendente e che il finanziamento a lungo termine dovrebbe in ultima analisi provenire da fonti condivise o governative. Vista l'urgenza del lavoro, tuttavia, Anthropic finanzierà direttamente il lavoro di Accenture. Finché non esisteranno tali meccanismi di finanziamento più ampi, gli impegni delle due società sono l'unico finanziamento che attualmente sostiene questo lavoro.

La partnership è non esclusiva, e Anthropic ha dichiarato di prevedere di annunciare ulteriori valutatori nelle prossime settimane. Tali annunci, insieme ai dettagli operativi ancora da definire, saranno gli elementi da osservare man mano che il nuovo campo prende forma.

Secondo Accenture, Faculty è specializzata nel testare e valutare modelli per alcuni dei principali laboratori di IA al mondo e nella costruzione di sistemi di IA complessi sicuri ed etici per design.

«La valutazione incorporata è un settore emergente e non vediamo l'ora di collaborare con Anthropic per contribuire ad accelerare lo sviluppo di evaluator incorporati, che consideriamo una parte importante del panorama della sicurezza in futuro», ha dichiarato Julie Sweet, presidentessa e CEO di Accenture.