Anthropic 已宣布對驅動 Claude Fable 5 的安全系統進行更新，優化該 AI 模型處理生物學相關請求的方式，同時減少對合法科學用途的不必要限制。

根據該公司表示，更新後的安全防護機制已將誤判回退減少約 85%，使研究人員和一般使用者能夠獲得更適當的回應，而不會觸發不必要的限制。

同時，Anthropic 確認其繼續限制對某些形式的雙用途生物研究的存取，將這些功能限定於其更先進的 Opus 5 模型。

這一發展凸顯了頂尖 AI 公司面臨的持續挑戰：打造足夠強大的系統以推動科學進展，同時防止在敏感領域中的濫用。

此次更新在 Cointelegraph 的 X 帳號 (https://x.com/Cointelegraph/status/2085576921367146751) 發布後獲得更廣泛的關注，反映出人們對主要 AI 開發商如何平衡創新、安全和負責任部署的興趣日益濃厚。

Anthropic 優先精確的 AI 安全控制

隨著模型能力日益增強，AI 安全已成為一項關鍵發展領域。現代 AI 系統可以協助複雜的研究、程式設計、教育、數據分析和科學工作流程。然而，其不斷擴展的能力也引發了對潛在濫用的擔憂——尤其是在生物學、網路安全和其他敏感領域。

Anthropic 強調，有效的 AI 安全需要的不僅是簡單地封鎖大類別的請求。該公司認為，安全系統必須變得更加精確，讓合法使用者能從 AI 工具中受益，同時對潛在有害的應用維持限制。最新的 Claude Fable 5 更新正是為了改善這種平衡。Anthropic 在公開披露的「負責任擴展政策」下運作，該政策將模型分配至不同的 AI 安全等級（ASL），這是一套分級框架，將特定的能力門檻與相應的安全和防護承諾掛鉤。

減少不必要的限制

Anthropic 宣布的一項關鍵變更涉及減少誤判安全回應。誤判是指 AI 系統錯誤地將無害請求識別為潛在危險並拒絕提供協助的情況。對研究人員、教育工作者和專業人士而言，過度的限制會造成挫折感並降低生產力。

Anthropic 表示，更新後的系統將這些不必要的回退減少了約 85%，使 Claude Fable 5 能更好地區分合法的科學問題與確實需要額外安全防護的請求。該公司的做法反映了整個 AI 產業趨向更先進安全評估系統而非全面限制的更廣泛趨勢。包括 Anthropic 在內的多家主要 AI 開發商已簽署 2023 年在白宮宣布的自願安全承諾，承諾在模型發布前進行內部和外部測試，包括對生物風險的測試。

雙用途研究仍受限制

雖然 Anthropic 正在改善一般生物學相關任務的可用性，但該公司表示某些進階功能仍受到限制。雙用途研究是指可能同時具有有益和潛在有害應用的科學工作。在生物學中，這一類別可能涵蓋那些資訊可能有助於重要醫學突破、但若遭濫用也可能引發安全疑慮的領域。

Anthropic 表示，這些高風險功能仍受限於其 Opus 5 模型，該模型在額外的控制和防護下運作。這一策略反映了在為研究人員提供強大工具的同時，對敏感應用維持更嚴格監督的努力。生物學相關的 AI 能力已引起政策制定者的特別審查；2023 年 10 月發布的美國人工智慧行政命令特別指示各機構應因應前沿 AI 系統可能帶來的生物風險。

AI 與科學研究

人工智慧已成為科學發現中日益重要的工具。研究人員正利用 AI 系統來分析複雜的數據集、加速模擬、協助文獻回顧，並支援跨多個學科的創新。在生物學和醫療保健領域，AI 已對蛋白質研究、藥物發現和醫學分析等領域做出貢獻。

然而，專家也強調，強大的 AI 系統需要負責任的部署框架。挑戰在於確保 AI 能加速正向的科學進展，同時不會造成不必要的風險。

AI 安全領域的競爭加劇

Anthropic 是多家在安全研究方面投入大量資金的主要 AI 公司之一。開發先進 AI 模型的公司面臨來自政府、研究人員、企業和公眾日益增加的壓力，要求其展現負責任的做法。

安全系統已成為 AI 平台之間的主要差異化因素。雖然原始效能仍然重要，但各組織越來越多地根據可靠性、透明度、安全控制和負責任部署政策來評估 AI 供應商。Anthropic 已將安全定位為其發展策略的核心支柱。

Claude Fable 5 與模型差異化

Claude Fable 5 和 Opus 5 之間的區別反映了 AI 產品設計的更廣泛趨勢。AI 公司越來越多地創建具有不同能力、存取等級和安全控制的多層模型。較小型或通用型模型可能提供廣泛的可用性，而更先進的系統則包含額外的防護措施和限制。

這種方法使公司能夠服務不同的使用者群體，同時管理與日益強大模型相關的風險。對企業和研究人員而言，模型選擇正成為一項基於能力需求和合規要求的重要考量。

平衡創新與安全

圍繞 AI 安全的辯論經常集中在如何找到開放性與保護性之間的正確平衡。過度限制性的系統可能會阻礙研究人員從有價值的 AI 協助中受益，而不充分的防護措施則可能在先進能力遭到濫用時帶來嚴重風險。

Anthropic 最新的更新說明了設計兼具實用性和安全性的 AI 系統的複雜性。在減少誤判的同時維持對敏感研究的限制，是當今 AI 開發商面臨的最重大挑戰之一。

產業反應與未來發展

隨著模型能力的不斷提升，AI 產業預計將持續完善安全系統。未來的 AI 平台可能會納入更精密的監控、風險評估和使用者驗證機制。研究人員認為，適應性安全系統將變得越來越重要，因為 AI 能力的發展速度超過了傳統的監管框架。預期各公司將繼續投資於技術防護措施、透明度報告和負責任的部署策略。

監管機構關注 AI 安全

世界各國政府也正在加強對 AI 安全的關注。監管機構正在審查先進 AI 系統應如何開發、測試和部署，特別是在敏感領域。生物學相關的 AI 應用因其對醫療保健、研究和國家安全的潛在影響而受到特別關注。

隨著政策制定者制定新的框架，科技公司被期望展現更強的安全實踐。Anthropic 的最新更新正值這場關於負責任 AI 發展的更廣泛全球對話之中。

展望未來

Anthropic 對 Claude Fable 5 的更新突顯了 AI 安全技術的持續演進。透過減少誤判限制，同時對敏感的雙用途研究維持更嚴格的控制，該公司正試圖為 AI 輔助生物學創造更為平衡的方法。

這一發展反映了更大的產業努力，即在不損害安全性的前提下使先進 AI 工具更加實用。隨著人工智慧日益融入科學研究、醫療保健和專業工作流程，管理機遇與風險的能力將始終是一項核心挑戰。對研究人員、企業和政策制定者而言，AI 的未來不僅取決於這些系統變得多麼強大，還取決於它們被設計和部署得多麼負責任。