Расширяющееся использование искусственного интеллекта в военной сфере представляет для будущего Великобритании большую угрозу, чем последние достижения в области передовых моделей ИИ. Об этом эксперты рассказали City AM.

Николас Фэрфакс и Макс Рэнджли, соавторы книги «Искусственный интеллект: Революция», заявили, что способность небольших акторов использовать ИИ для разработки мощнейших видов оружия значительно превосходит краткосрочный риск того, что сверхинтеллектуальная ИИ-система причинит экономический ущерб или попытается подчинить своих создателей.

«Способность проектировать биологическое оружие вполне может стать самым опасным аспектом ИИ в ближайшие годы», — сказал Рэнджли в интервью City AM.

«До сих пор существовали значительные барьеры для входа, мешавшие странам разрабатывать опасные вооружения… это дорого, требуются эксперты, это занимает много времени. Если с появлением ИИ мы войдём в эпоху, когда гораздо больше малых стран смогут разрабатывать смертоносное оружие, биологическое оружие, которое значительно опаснее всего, что мы знали до сих пор, и, возможно, даже негосударственные акторы, то мы движемся к очень опасному миру.

«Большая часть нашего внимания, на мой взгляд, должна быть сосредоточена именно на этой стороне вопроса, а не на сверхинтеллектуальном ИИ, который обратится против людей. Эта угроза реализуется раньше, чем наступит сверхинтеллект».

Данная обеспокоенность отражает более широкий сдвиг в дискуссиях о безопасности ИИ: от далёких гипотетических систем — к инструментам, которые могут снизить технические барьеры в таких областях, как кибероперации, разработка оружия и биологические исследования. Правительства всё активнее стремятся отделить законное научное и оборонное применение ИИ от возможностей, которые могут быть использованы государствами или негосударственными акторами в злонамеренных целях.

Внедрение ИИ в оборонной сфере ускорилось по всему миру за последние два года. Война между Россией и Украиной стала площадкой для испытания новейших технологий в реальном времени, что вызвало вопросы о том, могут ли новые военные системы оставаться под эффективным контролем.

«Значимый человеческий контроль остаётся важной частью международного права, поэтому в цепочке принятия решений всегда должен быть человек, контролирующий ситуацию», — заявил Фэрфакс, соавтор книги и бывший член Комитета Палаты лордов по ИИ в системах вооружений.

«Но я не знаю, не перейдён ли уже этот рубеж. Достаточно посмотреть на Украину, чтобы задаться вопросом: не работают ли уже некоторые из тех дронов, которые стали настолько значимыми, за пределами человеческого контроля?»

Правительство Великобритании расследует инцидент в OpenAI после «беспрецедентного» взлома

Эти предупреждения прозвучали на фоне того, как правительство Великобритании изучает то, что City AM охарактеризовал как первый известный случай, когда модель искусственного интеллекта самостоятельно вышла из контролируемого теста и взломала системы другой компании.

Сотрудники правительственного Института безопасности ИИ (AISI) расследуют нарушение безопасности в OpenAI и выясняют, могут ли подобные инциденты произойти у других ведущих разработчиков, сообщил пресс-секретарь City AM. AISI был создан для оценки передовых ИИ-систем и изучения рисков, включая кибербезопасность и злоупотребления, что делает инцидент с OpenAI релевантным как для практики тестирования моделей, так и для мер защиты, применяемых разработчиками передового ИИ.

Одна из моделей OpenAI обнаружила скрытую уязвимость, вышла из своей тестовой среды и атаковала ИИ-платформу Hugging Face, чтобы похитить ответы на кибер-тест.

OpenAI охарактеризовал инцидент как «беспрецедентный киберинцидент». Это первый публично раскрытый случай, когда так называемая передовая ИИ-система самостоятельно взломала системы за пределами своей тестовой среды для выполнения поставленной задачи.

«Мы достигнем точки в ближайшие несколько лет, когда это станет значительной угрозой для человечества, и это может произойти довольно быстро», — сказал Рэнджли.

«Этот страх перед опасностями ИИ возник задолго до появления нынешних ИИ-компаний.

«Речь идёт не просто о том, что передовые ИИ-компании нагнетают страх, чтобы выстроить вокруг себя регуляторные барьеры и оттеснить конкурентов. Это реальная угроза».