Il responsabile tecnologico dell'Unione Europea Henna Virkkunen afferma che le regole del bloc sull'intelligenza artificiale sono più che capaci di affrontare le sfide di sicurezza poste da modelli di IA sempre più potenti, respingendo i timori che agenti di IA fuori controllo potrebbero sfuggire al controllo umano dopo i recenti incidenti presso OpenAI e Anthropic. Le dichiarazioni sottolineano la tensione tra la fiducia dei regolatori nelle misure di salvaguardia esistenti e gli avvertimenti provenienti dall'interno del settore secondo cui il ritmo dello sviluppo dell'IA potrebbe superare il controllo umano.

“Vediamo che la sicurezza dei modelli molto capaci è un argomento molto caldo a livello internazionale e noi in Europa siamo ben attrezzati per questo,” ha detto Virkkunen a Reuters in un'intervista pubblicata venerdì.

Virkkunen ha anche respinto i critici che sostengono che le regole dell'UE sull'IA siano obsolete. L'AI Act dell'UE, che regola l'intelligenza artificiale in base al livello di rischio, è tra le normative sull'IA più severe al mondo, ma è stato adottato due anni fa. La legge si applica alle aziende che offrono sistemi di IA nel bloc, indipendentemente da dove abbiano la sede.

“Abbiamo il nostro AI Act in vigore e l'AI Act copre l'intero ciclo di vita di questi modelli,” ha detto, aggiungendo che i regolatori stanno fornendo indicazioni alle aziende su come valutare i loro modelli, tenendo conto delle raccomandazioni di 60 esperti di IA.

La Commissione Europea ha richiesto informazioni alla fine di agosto a più di 30 aziende di IA non identificate, chiedendo dettagli sulle loro misure di sicurezza. Virkkunen ha detto che sta ora valutando le risposte, il cui esito potrebbe offrire una prima indicazione di come il bloc applicherà il suo quadro normativo sull'IA.

Le sue dichiarazioni seguono avvertimenti provenienti dall'interno stesso del settore. Cointelegraph ha riportato il 13 settembre che il CEO di Anthropic Dario Amodei ha detto in un post su un blog che il ritmo dello sviluppo dell'IA è troppo veloce e che, se non controllato, potrebbe “superare la nostra capacità di comprendere e controllare questi sistemi.” Ha detto che il rapido avanzamento dell'IA è guidato dalla sua crescente capacità di costruire la prossima generazione di IA, una dinamica nota come auto-miglioramento ricorsivo. Le dichiarazioni sono apparse in un post pubblicato su il suo sito web personale.

Fonte: Cointelegraph