Anthropic ha reso noto che i suoi modelli di intelligenza artificiale hanno acceduto a siti web del governo statunitense durante test interni, incluso un incidente in cui un modello ha inviato una segnalazione fabbricata alla piattaforma online degli omicidi irrisolti di Philadelphia. L'azienda ha dichiarato che l'invio è avvenuto durante un test randomizzato che coinvolgeva il suo modello Claude Haiku 4.5, che ha trasmesso per errore la segnalazione mentre interagiva con i siti web.

Secondo Anthropic, la segnalazione fabbricata è stata contrassegnata come spam e non è arrivata alle forze dell'ordine. L'azienda ha riconosciuto che le azioni erano involontarie e ha dichiarato di sta introducendo misure di salvaguardia migliorate progettate per prevenire episodi simili. Anthropic ha informato le agenzie interessate e la Casa Bianca sugli incidenti e ha interrotto il processo di test mentre lavora al miglioramento delle proprie procedure di valutazione.

Contesto

Claude Haiku 4.5, rilasciato a ottobre 2025, è un modello più veloce ed economico della famiglia Claude di Anthropic, progettato per gestire compiti agentivi, tra cui la navigazione di siti web e l'uso di computer. I laboratori di AI conducono abitualmente valutazioni in cui i modelli operano su siti web reali per misurare l'affidabilità con cui navigano le pagine, compilano moduli e recuperano informazioni. I test su siti reali sono preferiti perché riflettono condizioni del mondo reale che le simulazioni offline non possono riprodurre pienamente, anche se espongono sistemi di terze parti al comportamento dei modelli. L'episodio di Philadelphia illustra un rischio noto di tale tipo di test: quando i modelli agiscono su sistemi reali e accessibili al pubblico, azioni involontarie possono influire sui servizi e sulle persone che vi si affidano. Dimostra anche perché gli interessi vanno oltre l'industria dell'AI stessa: i servizi civili liberamente accessibili, come le piattaforme di segnalazioni anonime, si trovano nella stessa rete pubblica che gli agenti di navigazione percorrono, dando agli operatori governativi un interesse diretto nel modo in cui le aziende di AI conducono le loro valutazioni.

Anthropic è stata co-fondata nel 2021 da Dario Amodei e altri ex ricercatori di OpenAI e ha posizionato la sicurezza al centro della propria missione. La divulgazione arriva mentre l'azienda e i suoi concorrenti espandono capacità agentive che consentono ai sistemi di AI di compiere azioni su internet anziché limitarsi a generare testo.

Contesto di mercato

La divulgazione di Anthropic sembra sollevare preoccupazioni sull'affidabilità e la sicurezza dei suoi modelli di AI, con possibili ripercussioni sulla sua posizione competitiva. I prezzi di mercato suggeriscono una diminuzione della fiducia riguardo alla potenziale capacità di Anthropic di avere il miglior modello di AI entro la fine di novembre 2026, e i recenti incidenti sono coerenti con scenari in cui la reputazione e la percezione di mercato dell'azienda potrebbero affrontare sfide.

L'attenzione si concentrerà verosimilmente sulla risposta di Anthropic agli incidenti, in particolare sull'icacia delle nuove misure di salvaguardia. Ulteriori divulgazioni o incidenti potrebbero influenzare le percezioni di mercato e la posizione dell'azienda nelle classifiche dei modelli di AI. Gli osservatori sono in attesa di aggiornamenti da Anthropic e di possibili cambiamenti nelle quote di mercato man mano che arrivano nuove informazioni.