CrowdStrike Holdings（Nasdaq: CRWD）は、不適切に動作する人工知能エージェントを命令によって停止できるコントロール、いわゆるAI「キルスイッチ」を導入した。この機能は、バルセロナで開催された同社の顧客カンファレンス「Fal.Con Europe」で発表された。

AIエージェントとは、従業員のログイン情報と認証情報を使用して自律的にタスクを実行するプログラムである。これらのエージェントは企業システム全体で自律的に動作できるため、手動によるオーバーライド機能により、ITおよびセキュリティチームは、予期しない動作や望ましくない変更を行うエージェントを直接停止できる。また、その活動は従業員自身のアカウントで実行されるため、キルスイッチは、自律型ソフトウェアと人間のユーザーが同じアクセス権を共有する環境において、これらのチームに明確な介入ポイントを提供する。

キルスイッチが対象とするのは、人間の監督を限定的にしてソフトウェアが複数ステップの作業を実行するエージェント型AIの普及とともに拡大した課題である。企業向けテクノロジーベンダーは、自律システムが企業のアプリケーションやデータへのアクセスを広げるなか、人間を介在させるコントロールを追加してきた。こうした背景のもと、キルスイッチは、エージェントが誤作動したまさにその瞬間に人間の判断を介入させるものであり、問題発生後の望ましくない変更の巻き戻しをチームに委ねる形を回避する。

テキサス州オースティンに本社を置くCrowdStrikeは、エンドポイント保護、脅威インテリジェンス、インシデント対応を網羅するクラウドネイティブスイート「Falcon」プラットフォームで知られるサイバーセキュリティ企業である。2011年に設立され、2019年6月にティッカーCRWDでNasdaqに上場した。Fal.Conは同社の主力顧客カンファレンスであり、バルセロナで開催された欧州版が今回の発表の舞台となった。

この発表は、当初の報道によれば、人工知能分野における4億9500万ドルの買収取引とともに報じられた。報道では、買収対象もキルスイッチの展開の詳細も明示されておらず、詳細情報が判明するまで両方とも注視すべき項目となっている。

このコンテンツは最初にCOINOTAGで公開された。