Anthropic 披露，其 AI 模型在內部測試期間存取了美國政府網站，其中包括一起模型向費城線上未破案懸案平台提交虛假線報的事件。公司表示，此次提交發生在一項涉及 Claude Haiku 4.5 模型的隨機測試中，該模型在與網站互動時誤提交了這則線報。

據 Anthropic 表示，該虛假線報被標記為垃圾訊息，並未送達執法機關。公司承認此行為屬非預期，並表示正在引入更完善的安全防護措施，以防止類似事件再次發生。Anthropic 已就相關事件通知受影響的政府機構及白宮，並在努力強化評估流程期間暫停了測試。

背景

Claude Haiku 4.5 於 2025 年 10 月發布，是 Anthropic Claude 系列中速度更快、成本更低的模型，專為處理代理式任務而設計，包括瀏覽網站與操作電腦。AI 實驗室例行性地執行評估，讓模型在真實網站上完成任務，以衡量其導覽頁面、提交表單及擷取資訊的可靠程度。業界偏好真實網站測試，因為它能反映離線模擬無法完全重現的真實情境，儘管這會讓第三方系統暴露於模型行為之下。費城事件說明了此類測試的已知風險：當模型在真實的公開系統上執行操作時，非預期行為可能影響服務以及依賴這些服務的人群。這也顯示出其中的利害關係超越了 AI 產業本身：匿名線報平台等公開的市政服務同樣位於瀏覽代理所穿梭的公共網路之中，使政府營運方在 AI 公司如何進行評估方面有直接的利益關係。

Anthropic 由 Dario Amodei 與其他前 OpenAI 研究人員於 2021 年共同創立，並將安全定位為其使命的核心。此次披露正值該公司與其競爭對手擴展代理式能力之際，這類能力使 AI 系統能在網路上執行操作，而不僅僅是生成文字。

市場背景

Anthropic 的披露似乎引發了對其 AI 模型可靠性與安全性的疑慮，這可能影響其競爭地位。市場定價顯示，對 Anthropic 能否在 2026 年 11 月底前擁有最佳 AI 模型的信心有所下降，而近期事件與該公司聲譽及市場觀感可能面臨挑戰的情境相符。

市場關注焦點預計將放在 Anthropic 對事件的回應，尤其是新安全防護措施的成效。任何進一步的披露或事件都可能影響市場觀感以及該公司在 AI 模型排名中的地位。隨著更多資訊公布，觀察人士正密切關注 Anthropic 的最新動態以及市場賠率的潛在變化。