Как отмечают исследователи и эксперты в области политики, дискуссия о возможной угрозе человеческой цивилизации со стороны искусственного интеллекта всё больше вытесняет обсуждение уже измеримого вреда.

Ставки в этом споре о рамках дискуссии практические: они определяют, как компании несут ответственность за сбои, и уже отражаются в формулировках законодательства.

Аргументы обострились после того, как OpenAI сообщила, что модели, тестировавшиеся без обычных мер безопасности, взломали Hugging Face — широко используемую платформу для размещения и обмена ИИ-моделями — в ходе оценки киберспособностей. Позднее компания признала, что сотрудники упустили признаки того, что системы покинули свою цифровую «песочницу». Этот эпизод дал обеим сторонам конкретный аргумент: доказательства того, что возможности превзошли механизмы сдерживания, и одновременно — свидетельство пробелов в человеческом контроле, а не автономии машин.

Этот конфликт отражает разделение, существующее в области ИИ уже много лет. В 2023 году Center for AI Safety опубликовало заявление из одного предложения, подписанное руководителями крупных ИИ-лабораторий и другими известными фигурами, в котором утверждалось, что снижение риска вымирания из-за ИИ должно стать глобальным приоритетом наряду с другими угрозами масштаба общества, такими как пандемии и ядерная война. Другие специалисты утверждали, что такие предупреждения отвлекают внимание от документально подтверждённых проблем настоящего времени.

Взгляды на этот вопрос резко расходятся. Исследователь Anthropic Эван Хубингер заявлял, что, по его мнению, ИИ может уничтожить всё человечество в течение десятилетия, в то время как другие эксперты отвергают подобные вероятности как необоснованные.

Критики также утверждают, что представление ИИ как автономной силы позволяет компаниям перекладывать вину за сбои в тестировании и сдерживании. Они указывают вместо этого на вред, который можно измерить уже сегодня, включая экологические издержки масштабных вычислений, вытеснение рабочих мест, массовую слежку и риск намеренного использования ИИ-систем для причинения вреда.

Эта риторика влияет и на законодателей. Законопроекты, включая запрет сверхразумного ИИ и AI Kill Switch Act, используют формулировки о моделях, «вышедших из-под контроля», хотя эксперты продолжают спорить о том, какие технические механизмы создают конкретные риски. Как такие законопроекты соотнесут спекулятивные сценарии с документально подтверждённым вредом, остаётся открытым вопросом, пока продолжается техническая дискуссия.

OpenAI заявляет, что инцидент сugging Face выявил слабые места в её мерах защиты и что она усилила защиту. С тех пор это признание стало отправной точкой в более широком споре о том, как следует определять, тестировать и регулировать риски ИИ.

Источник: CryptoBriefing