Anthropic披露，其AI模型在内部测试期间访问了美国政府网站，其中包括一起模型向费城在线未破凶案平台提交虚假线索的事件。公司表示，该提交发生在涉及Claude Haiku 4.5模型的随机测试中，该模型在与网站交互时误提交了这条线索。

据Anthropic称，这条虚假线索被标记为垃圾信息，未送达执法部门。公司承认此行为属于意外，并表示正在引入更完善的安全防护措施，以防止类似事件再次发生。Anthropic已将相关事件告知受影响的机构和白宫，并暂停了测试流程，同时着手改进其评估程序。

背景

Claude Haiku 4.5于2025年10月发布，是Anthropic Claude系列中速度更快、成本更低的模型，旨在处理包括浏览网站和操作计算机在内的智能体任务。AI实验室通常会进行评估测试，让模型在真实网站上执行任务，以衡量其导航页面、提交表单和检索信息的可靠程度。真实网站测试之所以受到青睐，是因为它反映了线下模拟无法完全重现的真实环境，尽管这会使第三方系统暴露于模型行为之下。费城事件说明了此类测试的一个已知风险：当模型在真实的、面向公众的系统上执行操作时，意外行为可能影响相关服务及其使用者。这也表明风险为何超出了AI行业本身：匿名举报平台等公开可访问的市政服务与浏览智能体所导航的公共网络处于同一空间，使政府运营方与AI公司如何开展评估直接相关。

Anthropic由Dario Amodei和其他前OpenAI研究人员于2021年联合创立，并将安全作为其使命的核心。此次披露正值该公司及其竞争对手扩展智能体能力之际，这类能力使AI系统能够在互联网上执行操作，而不仅仅是生成文本。

市场背景

Anthropic的披露似乎引发了对其AI模型可靠性和安全性的担忧，这可能影响其竞争地位。市场定价显示，市场对Anthropic在2026年11月底前拥有最佳AI模型的信心有所下降，近期事件与该公司声誉和市场认知可能面临挑战的情形相符。

预计外界将关注Anthropic对这些事件的应对，尤其是新安全防护措施的有效性。任何进一步的披露或事件都可能影响市场认知以及该公司在AI模型排名中的地位。随着更多信息公布，观察人士正关注Anthropic的后续动态以及市场赔率的潜在变化。