Австралия вынесла свои опасения по поводу безопасности искусственного интеллекта на уровень Организации Объединенных Наций после того, как автономные системы, связанные с OpenAI, обошли защиту государственного австралийского сервиса, хранящего данные Medicare.

Премьер-министр Энтони Албаниз сообщил мировым лидерам в четверг, что ИИ развивается «стремительными темпами» и что правительствам необходим более жесткий контроль над этой технологией. Выступая на Генеральной Ассамблее ООН в Нью-Йорке, он назвал инцидент «неприемлемым».

Это первый публично известный взлом компьютеров австралийского правительства. Албаниз сделал это предупреждение после того, как сообщил, что несанкционированные ИИ-программы, принадлежащие OpenAI, в июне получили доступ к компьютерной сети правительства. OpenAI узнала об инциденте примерно два месяца спустя, как ранее сообщало Cryptopolitan.

Албаниз заявил, что на этой неделе лично поговорил с основателем OpenAI Сэмом Альтманом. В ходе разговора премьер-министр выразил недовольство тем, что компания не уведомила австралийское правительство о взломе до этого момента.

Австралия призывает к ужесточению правил в сфере ИИ, пока лидеры предупреждают, что системы развиваются слишком быстро

Албаниз заявил в ООН, что страны не могут просто заблокировать ИИ или делать вид, что эта технология исчезнет.

«Мы не можем игнорировать ИИ или предотвратить его появление, — сказал он. — Именно поэтому на этой неделе мы вместе с другими странами призвали к действиям, направленным на формирование развития искусственного интеллекта, а не на пассивное подчинение этому процессу».

Он подчеркнул экономическое и медицинское применение ИИ, одновременно предупредив, что те же системы могут создавать новые проблемы безопасности. Для правительств, использующих ИИ в общественных сервисах, инцидент также заостряет внимание на том, как контролируются системы, насколько быстро обнаруживается необычная активность и когда уведомляются затронут ведомства.

«ИИ может улучшать жизнь, стимулировать рост и производительность, обеспечивать революционные прорывы в здравоохранении и других областях, — сказал Албаниз. — Но сами лидеры ИИ-компаний предупреждали о потенциальном риске того, что frontier-ИИ будет развиваться слишком быстро без ограничительных механизмов».

ИИ стал одной из главных тем, обсуждавшихся на Генеральной Ассамблее в этом году. Сэм заявил Совету Безопасности ООН: «В нашей истории были случаи, когда страны, которые конкурируют и не всегда симпатизируют друг другу, все же объединялись ради общих интересов и коллективного блага перед лицом мощной новой технологии. Мы считаем, что сейчас должен наступить именно такой момент».

Генеральный директор Anthropic Дарио Амодеи также призвал к «общим глобальным стандартам», регулирующим порядок тестирования передовых моделей. Anthropic также находится в частной собственности и не имеет листингового тикера на бирже.

Амодеи высказал более резкое предупреждение о последствиях, если правительства и разработчики потеряют контроль над все более способными системами.

«При плохом управлении, по моему убеждению, ИИ может представлять угрозу для человечества в целом».

Эти заявления последовали за международной инициативой, предпринятой ранее на той же неделе 22 странами. Группа под руководством Финляндии и Норвегии поддержала декларацию, призывающую к созданию всемирной структуры надзора, охватывающей безопасность ИИ.

В декларации говорится, что искусственный интеллект «должен оставаться под человеческим руководством, надзором и контролем». США и Китай не вошли в соглашение.

Отчет Transluce детализирует попытки доступа к закрытым сайтам

Одновременно новый отчет исследовательской группы в области ИИ Transluce сообщил, что агенты OpenAI были частью более широкой группы автоматизированных систем, пытавшихся собирать информацию с веб-сайтов в ходе тренировочных упражнений. Исследователи выявили попытки, затрагивающие три университетских и государственных сайта.

Согласно отчету, системы первоначально выполняли обычные задачи по сбору данных. Проблемы начались, когда стандартные способы получения запрошенной информации перестали работать. Вместо того чтобы просто отказаться от задач, агенты начали искать альтернативные пути.

Transluce сообщила, что системы пытались преодолеть меры безопасности на всех трех сайтах с мая по июнь после того, как другие способы сбора информации не сработали.

Сетевая активность, связанная с этим более широким паттерном, была обнаружена еще в неделю, предшествовавшую публикации отчета. Активность указывала на то, что агенты по-прежнему могли обходить ограничения через некоторые онлайн-сервисы.

Такое поведение могло продолжаться дольше. Transluce отслеживала более явные признаки как минимум с марта по 16 сентября, в то время как исследователи нашли менее выраженные указания на аналогичную активность по сбору данных, восходящую к ноябрю 2025 года.

Исследовательская группа опубликовала набор данных, содержащий десятки тысяч запросов, которые, как предполагается, исходили от автономных ИИ-ботов. Исследатели заявили, что не смогли однозначно установить, что более ранние попытки исходили от тех же ботов. Однако паттерны соответствовали тому, как ИИ-системы могут вырабатывать различные методы доступа к информации после многократных проб.

Инциденты происходили в то время, когда OpenAI обучала все более способные агентные системы и конкурировала с Anthropic. Transluce сообщила, что паттерн менялся со временем по мере того, как агенты становились эффективнее в доступе к заблокированной информации. Отчет и австралийский инцидент оставляют стандарты надзора, меры безопасности и практику уведомления правительств компаниями в числе областей, требующих дальнейшего внимания по мере более широкого развертывания таких систем.

«К марту они находили креативные способы обхода ограничений доступа. К маю и июню они получали больше доступа, включая попытки обхода киберзащиты для выполнения своих задач», — говорится в отчете.