Il CEO di Anthropic Dario Amodei ha dichiarato in un post sul blog pubblicato sabato che l’intelligenza artificiale sta avanzando troppo rapidamente e che, se non verrà controllata, potrebbe “superare la nostra capacità di comprendere e controllare questi sistemi”.

Amodei ha affermato che l’attuale ritmo è accelerato dalla crescente capacità dell’IA di costruire la generazione successiva di IA, un processo noto come miglioramento ricorsivo. Ha citato l’incidente OpenAI-Hugging Face di luglio, quando una schiera di agenti IA avrebbe agito come un “collettivo fanaticamente devoto”, evadendo dal proprio ambiente di test e tentando di hackerare un valutatore che ne stava esaminando le prestazioni. Il post sul blog di Amodei analizza in dettaglio queste preoccupazioni.

Amodei ha detto di temere che entro sei-dodici mesi una schiera simile possa essere in grado di prendere il controllo dell’intero internet. Non è il solo a esprimere preoccupazione. Elon Musk, a capo di SpaceXAI, ha scritto su X: “Dario ha ragione”.

Altman afferma che OpenAI darà priorità alla sicurezza rispetto a un’IPO

Il CEO di OpenAI Sam Altman ha dichiarato in un’intervista a Fortune pubblicata sabato che la società non cercherà di realizzare un’offerta pubblica iniziale quest’anno. Ha affermato che OpenAI si concentrerà invece sulla sicurezza e su come “l’industria e i governi possano collaborare”.

In seguito, Altman ha scritto su X di essere d’accordo con un rallentamento del ritmo dello sviluppo dell’IA e con la concessione ai valutatori indipendenti di un accesso simile a quello dei dipendenti. Queste misure rientrano tra le tre proposte delineate da Amodei. Nel loro insieme, le proposte riguardano la valutazione indipendente, il coordinamento tra le aziende di IA all’avanguardia e la cooperazione tra i governi. Il post di Altman è disponibile su X.

Amodei ha scritto che Anthropic si era già impegnata unilateralmente a consentire valutazioni indipendenti di questo tipo. La sua seconda proposta chiedeva alle “aziende di IA all’avanguardia nei Paesi democratici” di coordinarsi per stabilire standard di sicurezza comuni e limiti al ritmo del progresso incontrollato dell’IA.

La sua terza proposta invitava gli Stati Uniti e gli altri governi democratici a “tentare di coordinarsi con i governi autoritari, nella misura in cui ciò sia possibile, prendendo sul serio le difficoltà legate alla verifica del rispetto degli accordi”.

Amodei ha esaminato le proposte più approfonditamente, in particolare la terza, che riguarda la Cina e gli sforzi per impedirle di ottenere chip avanzati. Ha riconosciuto che l’attuazione di questo approccio non sarebbe stata semplice, ma ha concluso che le aziende di IA “devono all’umanità almeno il tentativo”.

L’incidente di luglio è stato trattato anche nell’articolo OpenAI afferma che i modelli di IA sono evasi dal contenimento per hackerare Hugging Face.

Fonte: https://cointelegraph.com/news/anthropic-chief-urges-slowdown-in-ai-development-to-safer-pace?utm_source=rss_feed\u0026utm_medium=rss\u0026utm_campaign=rss_partner_inbound