Anthropic ha dichiarato giovedì di aver interrotto diversi tentativi, compiuti quest’anno, di usare i propri modelli di intelligenza artificiale per ricerche biologiche che avrebbero potuto potenzialmente sostenere lo sviluppo di armi biologiche. La società ha affermato di aver sospeso gli account collegati e rafforzato le proprie misure di sicurezza in seguito a questi episodi.

Nel suo rapporto di 154 pagine, Detecting and Countering Misuse of AI, Anthropic ha illustrato cinque casi di studio riguardanti ricercatori che hanno usato il chatbot Claude per ricerche biologiche avanzate con potenziali applicazioni a duplice uso.

A seguito dell’indagine, Anthropic ha dichiarato di aver sospeso gli account, condiviso i risultati con le autorità governative e altri laboratori di intelligenza artificiale e ampliato le proprie misure di sicurezza.

«Abbiamo sospeso tutti gli account associati, collaborato con i partner per smantellare le reti relay che aggiravano i blocchi regionali e condiviso i nostri risultati con i laboratori di IA e le autorità governative interessati», ha dichiarato Anthropic.

La società ha sottolineato di non accusare i ricercatori di aver avuto l’intenzione di causare danni. Secondo Anthropic, la ricerca biologica può sostenere lo sviluppo di vaccini e trattamenti, ma le stesse conoscenze possono anche essere utilizzate impropriamente.

«Le capacità biologiche sono a duplice uso: possono essere impiegate per scopi benefici o dannosi ed è spesso difficile distinguerli», si legge nel rapporto. «Le stesse informazioni che possono essere utilizzate per sviluppare un’arma biologica potrebbero anche essere impiegate, per esempio, per sviluppare un vaccino o una cura per una malattia.»

Un caso riguardava un ricercatore che aveva chiesto a Claude di contribuire alla stesura di una proposta di finanziamento per una ricerca di gain-of-function sulla chikungunya, un virus trasmesso dalle zanzare. Anthropic ha affermato che la proposta prevedeva di modificare il virus per renderlo più trasmissibile e più pericoloso.

Sebbene questo tipo di ricerca possa aiutare gli scienziati a sviluppare vaccini e trattamenti, la società ha affermato che potrebbe anche essere utilizzato impropriamente per rendere il virus più dannoso. Anthropic ha dichiarato di aver bloccato la richiesta e di aver successivamente scoperto che i ricercatori utilizzavano una piattaforma di terze parti per aggirare le restrizioni regionali e inoltrare automaticamente le richieste rifiutate a un altro modello di IA.

Secondo il rapporto, altri casi riguardavano l’influenza aviaria, la ricerca sugli orthopoxvirus e ricerche relative a veleni e tossine non trasmissibili.

«Attori sofisticati delle minacce sono consapevoli del fatto che noi, così come altri fornitori di IA, stiamo cercando di rilevare gli usi pericolosi dei nostri modelli e sfruttano la natura a duplice uso della biologia per mantenere una sorta di “negazione plausibile” riguardo alle loro ricerche», ha dichiarato la società.

Il rapporto ha inoltre descritto diversi casi collegati all’Iran, nei quali alcuni attori avrebbero usato Claude per sostenere campagne di influenza, operazioni di sorveglianza e ricerche riguardanti le forze navali statunitensi.

«Abbiamo identificato e interrotto l’attività di un attore delle minacce legato all’Iran che ha usato Claude per raccogliere e analizzare dati accessibili pubblicamente al fine di sviluppare raccomandazioni di targeting contro le forze navali statunitensi nella regione», ha dichiarato Anthropic. «Abbiamo sospeso l’account dell’attore, sviluppato sistemi di rilevamento per ridurre il rischio di futuri usi impropri e condiviso informazioni sulle minacce con le autorità governative per interrompere la minaccia.»

Il rapporto è stato pubblicato dopo che, martedì, un ricercatore senior di Anthropic specializzato nella sicurezza ha dichiarato che esiste una probabilità superiore al 10% che l’IA “uccida tutti gli esseri umani” entro il prossimo decennio. La dichiarazione è arrivata in risposta alle dimissioni di un ex dipendente, che aveva accusato la società di agire in modo irresponsabile.

Jacob Coxon, ex ricercatore di Anthropic e OpenAI, ha scritto domenica, in un lungo messaggio di dimissioni pubblicato su X, che «le persone che costruiscono l’IA credono sinceramente che potrebbe ucciderci tutti entro la fine del decennio».

«Oggi mi sono dimesso da Anthropic. Ho trascorso gli ultimi tre anni occupandomi di ricerca sul pretraining sia presso OpenAI sia presso Anthropic. Nessuna delle due società sta agendo responsabilmente. Stanno correndo direttamente verso una superintelligenza capace di auto-migliorarsi e stanno scommettendo sulle nostre vite», ha scritto Coxon.

Anthropic non ha potuto essere contattata immediatamente da FOX Business per un commento. Robert McGreevy di FOX Business ha contribuito a questo articolo.

Fonte: FOX Business