Многие в индустрии ИИ ожидают крупный инцидент, вызванный ИИ, в ближайшие шесть-двенадцать месяцев. По данным Axios, руководители Anthropic, OpenAI и других крупных разработчиков уже работают с законодателями, которые впоследствии будут писать правила.

Руководители признают, что сейчас ни один законопроект об ИИ не пройдет, поэтому они пытаются подготовить почву для чрезвычайного законодательства, которое Вашингтон примет, как только произойдет первая катастрофа.

Законопроект Сандерса предусматривает лишение свободы нарушителей на срок до 20 лет

Планировщики ожидают, что демократы выйдут из промежуточных выборов 3 ноября, которые определят контроль над Конгрессом, в более сильной позиции и оперативно начнут действовать против продвинутого ИИ. Первый инцидент в пределах шестимесячного-годичного окна руководителей пришелся бы на срок полномочий Конгресса, избранного на этих выборах. Но эти усилия сталкиваются с Конгрессом старшего поколения, который не понимает технологию, с экономикой, зависящей от расходов на дата-центры, и с открытыми моделями, ИИ с публично доступными для скачивания параметрами.

Компании не считают, что контроль над обеими палатами положит конец внутренним разногласиям, включая расколы среди демократов. На столе лежат предложения — от запрета сверхразума до паузы в продвинутой разработке.

Один из законопроектов, предложенный сенатором Берни Сандерсом и конгрессменом Грегом Касаром, называется Законом о запрете искусственного сверхразума (Ban Artificial Superintelligence Act). Он запретил бы ИИ, соответствующий или превосходящий человека в широком спектре задач, и остановил бы продвинутые разработки, пока новое федеральное агентство не сформулирует стандарты безопасности. Предусмотрено наказание до 20 лет лишения свободы.

Обязательные аварийные выключатели для продвинутых моделей поддерживаются обеими партиями и частью отрасли, хотя некоторые эксперты сомневаются, можно ли вообще отключить все системы искусственного интеллекта — разногласие, напрямую влияющее на осуществимость такого требования.

Один из помощников демократов сослался на финансовый кризис 2008 года и COVID как примеры того, как Конгресс быстро действовал в предыдущих чрезвычайных ситуациях.

Планировщики Anthropic и OpenAI опасаются атаки, отключающей электричество и воду

Наиболее вероятным сценарием планировщики считают кибератаку, достаточно мощную, чтобы вывести из строя банки, интернет-сервисы или даже электросети и водоснабжение —ой, который затронет домохозяйства и бизнес далеко за пределами индустрии ИИ. Они ожидают, что первый реальный вред от небезопасного ИИ лишь усилит настороженное отношение общества к отрасли.

Генеральный директор Anthropic Дарио Амодеи, генеральный директор OpenAI Сэм Альтман и президент Дональд Трамп, который уклонялся от регулирования ИИ, все оказались бы под огнем критики.

Компании также проводят редсимуляцию худших сценариев, атакуя собственную защиту в поисках уязвимостей. Военные учения — стандартная практика в бизнесе и национальной безопасности, но в данном случае многие старшие исследователи и руководители считают крупный инцидент неизбежным.

"OpenAI проводит учения по готовности, в ходе которых команды обсуждают и прорабатывают ряд потенциальных сценариев", — заявил представитель компании. "Эти сценарии не рассматриваются как неизбежные, а предназначены для того, чтобы помочь нам подготовиться к различным обстоятельствам". Anthropic отказалась от комментариев.

В Южной Корее одиночный злоумышленник, как утверждается, использовал китайские модели ИИ, включая DeepSeek, для атаки на два банка и кражи данных десятков тысяч клиентов. CrowdStrike с умеренной уверенностью оценивает, что злоумышленник, скорее всего, является носителем китайского языка, и, по данным компании, затем злоумышленник обратился к Claude Code от Anthropic за советом, где продать украденные данные. Для планировщиков это признак того, что инструменты ИИ уже вплетаются в реальные атаки, даже когда направляющей рукой остается человек.

Anthropic раскрыла четыре примера попадания моделей Claude в открытый интернет во время тестирования и проникновения во внешние системы. Лаборатории также изучают десятки тысяч случаев неожиданного поведения моделей — показатель того, сколько еще предстоит узнать о том, как эти системы ведут себя после выхода из контролируемых условий.