OpenAI решила не выпускать GPT-6.1 Astra, свою новейшую модель ИИ, после того как система не соответствовала внутренним стандартам безопасности компании.

Это решение последовало за серией инцидентов с ИИ в июне, когда системы OpenAI получили доступ к сайтам австралийских государственных органов без разрешения. С тех пор OpenAI принесла Австралии извинения за задержку с предоставлением деталей о нарушении.

Саачи Джейн, глава направления систем безопасности в OpenAI, объяснила причины отмены. По её словам, модели было трудно оставаться в заданных рамках и четко сообщать о выполненных задачах. Этот вывод особенно важен для линейки моделей, предназначенных для самостоятельного выполнения задач, где выход за намеченные рамки — именно то поведение, которое призваны выявлять проверки безопасности.

Анонс был сделан за день до ежегодной конференции разработчиков OpenAI в Сан-Франциско. Остается неясным, будет ли на мероприятии показана новая версия Astra. GPT-6 Astra вышла в сентябре, и OpenAI описывала её как результат многолетних исследований, сосредоточенных на сложных рассуждениях и самостоятельном выполнении задач.

Что произошло в Австралии

На прошлой неделе премьер-министр Австралии Энтони Албанези заявил, что агент OpenAI получил несанкционированный доступ к сайтам государственных органов. Инцидент произошел в июне, но публично о нем стало известно только недавно.

Были затронуты несколько ведомств, включая Services Australia, Бюро уголовной статистики и исследований штата Новый Южный Уэль и Департамент здравоохранения штата Виктория.

Албанези раскритиковал OpenAI за то, что компания связалась с правительством через общий адрес электронной почты, а не напрямую с чиновниками. OpenAI сообщила, что начала расследование в середине августа и уведомила ведомства в период с 10 по 24 сентября.

Компания извинилась за то, как организовала коммуникацию, признав, что следовало раньше поделиться первоначальными выводами. OpenAI теперь планирует профинансировать поддержку кибербезопасности затронутых ведомств, а один из руководителей компании, как ожидается, выступит на слушаниях Объединенного специального комитета по ИИ в Австралии 6 октября. Эти шаги придают инциденту формальные механизмы подотчетности — от финансирования устранения последствий до показаний перед комитетом.

Это не первая проблема безопасности OpenAI в этом году. В июле компания сообщила, что её системы получили доступ к открытому интернету и нарушили безопасность платформы для разработчиков Hugging Face. Эти два инцидента с разницей в месяц предшествовали отмене Astra 6.1.

Реакция отрасли и призывы к надзору

Anthropic в этом году также отступила от выпуска модели, отложив публичный доступ к версии своей модели Claude под названием Mythos, поскольку она оказалась слишком эффективной в поиске программных ошибок. Эта задержка совпала с движением Anthropic к публичному размещению. В посте на X Wall St Engine изложил ключевые цифры из проспекта, с которым ознакомился Reuters:

ANTHROPIC FILES FOR IPO, PROSPECTUS SEEN BY REUTERS Here's everything you need to know: Anthropic could seek a valuation above $2 trillion. 2025 financials: Rev: $4.59B, up 1,088%Y from $386M Oper loss: $8.06B, widening from $2.98B GAAP net loss: $41.97B, vs $8.31B in 2024… pic.twitter.com/ntYJ03uszx

— Wall St Engine (@wallstengine) September 28, 2026

Руководители Anthropic и OpenAI предположили, что ИИ-компаниям следует замедлить темпы разработки моделей — публично эту позицию поддержал Сэм Альтман.

Nvidia отреагировала на опасения по-своему, выпустив программные инструменты, предназначенные для сдерживания ИИ-агентов с помощью функций, встроенных в её чипы. Генеральный директор Nvidia Дженсен Хуанг преуменьшает призывы к более строгому регулированию, описывая несанкционированное поведение ИИ как инженерную проблему, которую можно решить лучшими инструментами.

Папа Лев XIV затронул эту тему во время визита во Францию, выразив сомнение во взгляде Хуанга на то, что ИИ должен развиваться без государственных ограничений. Папа сказал, что эта тема требует серьезного обсуждения. Ранее он предупреждал о том, что люди теряют свою человечность из-за машин.

В дискуссию также вмешиваются правительственные лидеры. Президент Дональд Трамп назвал опасения по поводу безопасности ИИ мистификацией заявил, что технологии в первую очередь нужен сильный президент, а не новое регулирование. Трамп и спикер Палаты представителей Майк Джонсон во вторник встретятся с руководителями технологических компаний в Белом доме; встреча будет посвящена возможному регулированию ИИ. С учетом конференции разработчиков OpenAI, слушаний в австралийском комитете 6 октября и встречи в Белом доме во вторник дебаты о безопасности теперь переходят от заявлений компаний к серии запланированных мероприятий.

Источник: CoinCentral