Il pioniere dell’IA Geoffrey Hinton afferma che le fughe degli agenti sono preoccupanti
Punti chiave
- •Geoffrey Hinton ha descritto le fughe non autorizzate degli agenti IA dagli ambienti sandbox di Anthropic e OpenAI come un fallimento rilevante dei metodi di contenimento esistenti.
- •Hinton ha avvertito che i sistemi IA stanno dimostrando capacità oltre i parametri previsti, aumentando i timori sui rischi dell’agentic AI man mano che i modelli diventano più potenti.
- •La natura a duplice uso di modelli avanzati di cybersecurity come Mythos di Anthropic e GPT 5.6 Sol di OpenAI è diventata una tensione centrale nei continui sforzi di governance dell’IA negli Stati Uniti, nell’UE e nel Regno Unito.
- •I ricercatori sulla sicurezza dell’IA chiedono red-teaming esterno standardizzato da parte di terzi per gli agenti IA avanzati prima che vengano distribuiti in contesti reali.
- •I leader aziendali raccomandano di trattare gli agenti IA come entità soggette al controllo degli accessi e di mettere in sicurezza i dati alla fonte per prevenire esposizioni non autorizzate.
LAS VEGAS — Per Geoffrey Hinton, ampiamente conosciuto come il “godfather of AI”, i recenti episodi in cui gli agenti IA di Anthropic e OpenAI sono usciti senza autorizzazione dai loro ambienti sandbox sono profondamente preoccupanti. Gli ambienti di test in sandbox sono progettati come perimetri controllati in cui i ricercatori valutano il comportamento dell’IA prima di una più ampia distribuzione, e le violazioni segnano un fallimento rilevante di quel paradigma di contenimento mentre il settore si spinge più a fondo nell’agentic AI — sistemi che possono pianificare ed eseguire autonomamente attività in più fasi invece di limitarsi a rispondere ai prompt.
“Si vedono IA con molta capacità fare cose che le persone non intendevano che facessero. È preoccupante”, ha detto Hinton, veterano data scientist e vincitore del Turing Award, durante una tavola rotonda mercoledì alla conferenza Ai4 2026. Hinton è da tempo una voce autorevole nel mettere in guardia sui pericoli esistenziali che l’intelligenza artificiale generale potrebbe porre all’umanità. Ha lasciato il suo storico ruolo in Google nel 2023, citando il desiderio di parlare apertamente del rischio dell’IA senza vincoli, ed è stato successivamente premiato con il Nobel per la Fisica per i contributi fondamentali al machine learning.
Le sue osservazioni sugli agenti incontrollabili arrivano in un contesto di crescente attenzione su quanto potenti siano diventati i sistemi di IA. L’ultimo allarme è emerso dopo che Anthropic ha introdotto Mythos ad aprile, quando il laboratorio di frontiera ha definito il modello di cybersecurity il più potente mai realizzato e ha limitato l’accesso a poche aziende selezionate.
Related: Tokenmaxxing Is Actually Good
I modelli di cybersecurity come Mythos e GPT 5.6 Sol di OpenAI dispongono di capacità di sicurezza avanzate, ma nelle mani sbagliate sono anche in grado di penetrare perfino le difese più robuste.
“C’è molto di cui preoccuparsi, e penso che se non ce ne preoccupiamo adesso potrebbero esserci problemi”, ha detto Hinton.
“Le persone dicono che il difensore può avere più risorse dell’attaccante”, ha aggiunto durante un evento per i media alla conferenza. “Il problema è che l’attaccante deve riuscire una sola volta, mentre il difensore deve riuscire ogni volta.”
L’approccio di Smartsheet
Per il fornitore di piattaforme di work management Smartsheet, quando gli agenti IA violano i protocolli di contenimento, la preoccupazione è elevata. Il fornitore ha una partnership con Anthropic e utilizza internamente i modelli dell’azienda.
“Queste grandi notizie su cose andate [storte] ci mettono sempre in una postura difensiva”, ha detto in un’intervista Markus McKay-Fleisch, professional services enablement director di Smartsheet. McKay-Fleisch contribuisce a guidare l’adozione dei sistemi IA in tutta Smartsheet.
Ha detto che le aziende non dovrebbero attivare sistemi IA senza sapere quale valore specifico intendono ottenere dall’agente o dal modello.
“Abbiamo fatto molto lavoro con l’IT per aiutare a predisporre l’infrastruttura e capire qual è il valore”, ha continuato McKay-Fleisch. Ha aggiunto che Smartsheet richiede ai dipendenti che vogliono usare strumenti IA di specificare cosa intendono ottenere dai sistemi, che si tratti di guadagni di efficienza, impatti sui KPI o variazioni di ricavi o costi.
“Questo tende a dare un po’ di comfort all’IT”, ha detto. “Sapere in modo specifico cosa le persone stanno cercando di fare con questo? Qual è il caso d’uso?”
Related: AI Safety From a Hardware Perspective
La necessità di sicurezza
Sebbene le aziende debbano essere chiare sulle applicazioni specifiche dell’IA, le fughe degli agenti OpenAI e Anthropic, rivelate all’inizio di questa settimana, mostrano anche quanto resti ancora sconosciuto sui sistemi di IA.
“Probabilmente ci sono ancora limiti a quanto profondamente [le aziende] vogliano inserire queste cose nell’apparato decisionale delle [loro] organizzazioni”, ha detto in un’intervista Jed Dougherty, senior vice president of AI and platform presso il fornitore di IA Dataiku.
Le aziende dovrebbero inoltre cercare di mettere in sicurezza i propri dati e concedere agli agenti IA accesso solo alle informazioni a cui vogliono che accedano, ha detto Todd Barr, CEO di Axonis, sviluppatore di una piattaforma di infrastruttura IA progettata per eseguire l’IA direttamente su dati sensibili.
“Se metti in sicurezza le cose a livello di dati, allora l’agente non avrà mai accesso né saprà che esistono”, ha detto Barr in un’intervista, aggiungendo che la maggior parte dei modelli IA è addestrata su dati pubblici, non privati, quindi aziende ed enterprise possono proteggerli e impedire agli agenti IA di accedervi. Ha aggiunto che Axonis mette in sicurezza tutti i dati che entrano nel suo sistema.
“Se tratti gli agenti come entità nel tuo sistema di controllo degli accessi, e poi etichetti i tuoi dati in modi che si allineano al tuo sistema di controllo degli accessi, allora dovresti trovarti in una buona posizione con gli agenti”, ha detto.
Informazioni sull’autrice
Esther Shittu
News Writer, AI Business
Esther Shittu si occupa di tecnologie IA e trend di settore dal 2021. In qualità di co-conduttrice del podcast Targeting AI, conversa con esperti, leader di pensiero e professionisti che analizzano gli sviluppi più importanti dell’IA. Prima di AI Business, ha scritto per SearchEnterpriseAI, New York Daily News, Bklyner e Brooklyn Daily Eagle. Quando non approfondisce il mondo dell’IA, dedica il suo tempo a progetti personali e alla crescita delle sue tre figlie.
Vuoi vedere più articoli di AI Business nei risultati di ricerca Google?
Ultime notizie
Vuoi vedere più articoli di AI Business nei risultati di ricerca Google?
Articoli di tendenza
Aug 5, 2026
Aug 5, 2026
Generative AI AI Arrives in the Private Markets Business Jul 28, 2026
AI Arrives in the Private Markets Business
Agentic AI Using AI Agents to Collaborate with Human Workers Jul 10, 2026
Using AI Agents to Collaborate with Human Workers
Generative AI How SMBs Can Take Advantage of Generative AI Jun 29, 2026
How SMBs Can Take Advantage of Generative AI
Generative AI Rebellions Aims to Take on Nvidia in AI Inference Chip Battle Jun 15, 2026
Rebellions Aims to Take on Nvidia in AI Inference Chip Battle
Sponsored by Google Cloud
Choosing Your First Generative AI Use Cases
Per iniziare con la generative AI, concentrati prima sulle aree che possono migliorare l’esperienza umana con le informazioni.
The AI Summit New York 2026
