La corsa all’intelligenza artificiale si sta intensificando, mentre gli sviluppatori spingono per costruire strumenti sempre più capaci e le aziende si affrettano a implementarli alla ricerca di incrementi di efficienza e ritorni finanziari. Tuttavia, un nuovo rapporto di EqualAI, un’organizzazione non profit focalizzata sulla promozione di una governance responsabile dell’AI, avverte che le organizzazioni stanno implementando sistemi di AI senza adeguati framework di governance per gestire i rischi associati.

L’avvertimento arriva dopo un incidente di alto profilo avvenuto questa settimana, in cui un test interno di modelli di AI condotto da OpenAI, la società dietro ChatGPT, ha portato i modelli a sfruttare una falla software, uscire dal contenimento e violare Hugging Face — una piattaforma in cui gli sviluppatori collaborano sul codice dei modelli di AI — al fine di barare in una valutazione di cybersicurezza. Sebbene OpenAI e Hugging Face abbiano contenuto l’incidente, l’episodio ha evidenziato le capacità in rapida espansione dei modelli di AI di aggirare le barriere di protezione e generare minacce alla cybersicurezza. I leader di entrambe le società hanno riconosciuto la rilevanza di quanto accaduto.

Miriam Vogel, CEO di EqualAI e anche presidente dello U.S. National AI Advisory Committee, ha pubblicato questa settimana un white paper sulla governance e sull’implementazione dell’AI. Ha dichiarato a FOX Business: "Innovation is going at an unprecedented pace; the problem is governance is not matching that pace."

"What we want to make sure people recognize from this incident is, across the board, we need to have stronger expectations in place if we're going to start to build trust and ensure these systems deserve our trust," ha detto.

Vogel ha sottolineato che la maggior parte dei consumatori interagisce con l’AI tramite aziende che hanno implementato soluzioni di AI, più che direttamente tramite gli sviluppatori che hanno costruito i modelli sottostanti. Ha citato i risultati del World Economic Forum, secondo cui meno dell’1% delle aziende dispone di una governance solida per i sistemi di AI, mentre McKinsey ha riferito lo scorso anno che meno di un terzo delle aziende possiede un qualsiasi framework di governance dell’AI. Il divario persiste anche mentre i governi si muovono per stabilire barriere regolamentari, tra cui l’AI Act dell’Unione europea e l’ordine esecutivo statunitense sulla sicurezza dell’AI emesso alla fine del 2023.

"I think too many people are assuming it's someone else's problem, you know, that it's the developer's problem or just not understanding that this is their problem," ha detto Vogel.

Sebbene l’incidente OpenAI-Hugging Face abbia coinvolto una società di sviluppo, Vogel ha osservato che la sfida più ampia della governance si manifesterà principalmente tra i soggetti che implementano queste tecnologie. "It's with the healthcare, finance, social media, infrastructure—all the other ways [companies are] using agentic AI," ha spiegato. L’agentic AI si riferisce a sistemi capaci di intraprendere azioni autonome per raggiungere obiettivi, ampliando la gamma di decisioni che l’AI può prendere senza supervisione umana diretta.

Secondo Vogel, i tribunali stanno sempre più applicando la responsabilità alle aziende che implementano agentic AI in operazioni rivolte ai clienti o alle imprese, piuttosto che alle società che hanno sviluppato il modello o lo strumento di AI originale.

"A lot of this becomes the liability of the person who had the last touch on it, whose data is involved, whose customer is involved. They are often the one who owns the liability," ha aggiunto.

Nonostante il divario nella governance, Vogel ha osservato che tra le principali organizzazioni a livello globale sta emergendo un consenso sulle migliori pratiche per l’AI. "They've all come to this independently, and there is really a lot of consensus on what the best practices are," ha detto.

"The other thing that's good news is most of this is not rocket science, it's leadership and good governance just applied to AI," ha aggiunto Vogel.

Il white paper di EqualAI individua cinque aree principali che le aziende dovrebbero affrontare quando definiscono la governance per l’agentic AI. La prima è la visibilità: comprendere quali strumenti di AI vengono utilizzati all’interno dell’organizzazione, poiché i leader potrebbero non avere una piena consapevolezza dell’impronta AI della propria azienda o delle opportunità e dei rischi che essa comporta. La seconda è la responsabilità, ossia garantire responsabilità chiare tra i livelli dirigenziali e le divisioni aziendali.

La terza componente è l’applicazione operativa dei principi dell’AI. Vogel ha spiegato che ciò significa tradurre in azioni pratiche i principi definiti nei documenti, ad esempio stabilendo protocolli per comunicare i problemi che emergono. Questo processo dipende dalla fiducia interna e da una cultura di responsabilità condivisa all’interno dell’organizzazione.

Il quarto pilastro consiste nello stabilire cicli di feedback utilizzabili in modo ricorrente man mano che strumenti e modelli di AI vengono iterati e migliorati. Questo aiuta le organizzazioni ad anticipare problemi come il model drift e può assumere la forma di un piano strutturato e di una cadenza per test di routine.

Il quinto e ultimo pilastro è l’alfabetizzazione sull’AI, che Vogel ha collegato a quella che ha descritto come una crescente sfiducia pubblica nei confronti dell’AI. Ha avvertito che i timori stanno iniziando a oscurare l’entusiasmo per la tecnologia.

"I think that squarely lands not only on the overall governance infrastructure that's lacking in most organizations, but this fundamental piece of AI governance which is AI literacy," ha detto Vogel. "Most people don't know that they're using AI, they don't want to use AI, don't know how to use it."

"AI literacy is just a key variable in making sure people understand how to use it, that they know how to avoid risks because they don't want to cause harm or bring a liability for themselves or their organization," ha proseguito. "Making sure that your workforce and your consumers understand how you're using AI, how you will not be using AI, and how it can benefit them is a key variable."