Jacob Coxon在Anthropic任職期間協助打造先進AI。如今,他將前往市政廳,向紐約立法者就這項技術發出警告。

這位前Anthropic研究員定於2026年10月5日在紐約市議會一場關於AI安全風險的聽證會上作證。Anthropic、OpenAI、Google和Meta的代表預計也將出席同場會議,使這位剛離職的業界內部人士與該領域最大型的開發商同桌。

聽證會概況

市議會議長Julie Menin召集了這場聽證會,將以全體委員會形式舉行。此一形式意味著全部51名議員均參與,而非交由單一小組委員會處理。

市議會已致函四家大型AI公司的執行長邀請其出席:Anthropic的Dario Amodei、OpenAI的Sam Altman、Google的Sundar Pichai,以及Meta的Mark Zuckerberg。

並非所有受邀者的回應都如議會所願。SpaceXAI因未遵守要求,法律行動啟動後,於2026年9月30日左右被送達傳票。根據研究結果,這場聽證會是美國立法機構首次強制就AI安全進行宣誓作證,而不遵守將面臨嚴重的法律後果。

待審議的法案

立法者計劃利用這場會議審議多項立法提案,其中三項尤為突出。

第一項將要求對市府使用的AI系統進行第三方驗證。第二項將建立提案所稱的全國領先的吹哨人激勵機制,旨在獎勵揭露AI實驗室內部危險行為的內部人士。第三項將賦予個人因AI系統造成損害而提起訴訟求償的權利。

綜合來看,這些提案將塑造AI系統用於市政用途時的驗證方式、實驗室員工發出警報的途徑,以及居民在系統造成傷害時尋求賠償的方式。

吹哨人法案也使Coxon的出席更具對比意義:他的警告是在離職後、從實驗室外部發出,而這項法案則是為仍在AI實驗室內部工作的內部人士而設。

Coxon為何在此事中舉足輕重

Coxon於2026年9月8日至9日前後從Anthropic辭職。他的公開離職聲明已被瀏覽超過1.73億次。在聲明中,他形容AI公司是在「拿我們的生命作賭注」,並警告這項技術可能在這個十年結束前毀滅全人類。

根據研究結果,他的辭職極大地推動了這場聽證會的促成。
他並非唯一一位發出警報的Anthropic人士。Anthropic的Evan Hubinger也表達了與Coxon類似的擔憂,估計AI在十年內對人類構成致命威脅的機率高於10%。研究結果指出,這些警告反映出部分Anthropic研究員對先進AI存亡風險日益形成的共識。所提及的憂慮包括可與生物武器相比的風險,以及人類完全失去控制的可能。

Coxon的敘述也並非沒有受到質疑。懷疑者對他與一家與AI安全倡議有關聯的公關公司的關係提出疑慮,他已駁斥這些說法。

當會議於10月5日召開時,兩條線索仍待解:SpaceXAI是否會應傳票出席,以及宣誓作證結束後三項法案將如何推進。