Президент Дональд Трамп заявил, что не испытывает «никаких опасений» по поводу того, что искусственный интеллект может привести к исчезновению человечества, в то время как исследователи OpenAI и Anthropic публично выразили серьезную обеспокоенность рисками стремительно развивающихся систем ИИ.

На вопрос в четверг, может ли ИИ привести к исчезновению человечества, Трамп ответил: «Нет, у меня таких опасений нет». Он заявил, что его главная задача — обеспечить победу США в гонке за лидерство в сфере ИИ с Китаем.

«Я обеспокоен тем, что если мы не победим в сфере ИИ, то окажемся в очень неблагоприятном положении», — сказал Трамп журналистам. Он добавил, что, по его мнению, США сейчас опережают Китай примерно на год.

Эти комментарии прозвучали в то время, когда сотрудники и исследователи двух ведущих мировых компаний в сфере ИИ предупредили, что разработка может идти слишком быстро, чтобы меры безопасности успевали за ней. Разные приоритеты вывели на первый план спора темпы развития ИИ и масштаб необходимых защитных механизмов.

Исследователи предупреждают о рекурсивном самоулучшении

Во вторник исследователь Anthropic Джейкоб Коксон объявил, что покидает компанию. Коксон заявил, что Anthropic и OpenAI «играют с нашими жизнями», и утверждал, что люди, создающие ИИ, считают, что он может «убить нас всех к концу десятилетия». Другие сотрудники обеих компаний высказывали аналогичные опасения.

Одной из главных проблем для исследователей безопасности ИИ является так называемое рекурсивное самоулучшение, или RSI. Этот термин обозначает сценарий, при котором модель ИИ получает возможность улучшать собственную производительность без помощи человека.

Исследователь выравнивания ИИ в OpenAI Джасмин Ван в среду вечером написала: «Сложно переоценить, насколько опасно ускоренное движение к RSI».

Главный научный сотрудник OpenAI Якуб Пахоцкий в субботу усилил эти опасения. Он заявил, что «твердо ожидает», что развитие ИИ может продолжиться в направлении рекурсивного самоулучшения.

«Я обеспокоен тем, что никто не готов к последствиям продолжающегося стремительного роста машинного интеллекта», — сказал Пахоцкий.

Конгресс добивается усиления надзора за ИИ

Законодатели обеих партий добиваются усиления надзора за передовыми системами ИИ. В июле конгрессмены Джей Обернолт и Лори Трахан объявили о планах представить FRONTIER Act, который установит правила использования передовых моделей ИИ.

В среду Трахан написала в X: «Исследователи безопасности уходят в отставку, мощные модели ИИ вырываются из лабораторий, а компании все равно продолжают гонку. Конгрессу пора перестать оставаться в стороне и выполнять свою работу».

В начале этого месяца сенатор Берни Сандерс и конгрессмен Грег Касар представили Ban Artificial Superintelligence Act. Этот законопроект предусматривает временную приостановку разработки передовых систем ИИ до тех пор, пока федеральное правительство не установит правила безопасности. В совокупности эти инициативы показывают, что политические дебаты касаются как правил развертывания передовых моделей, так и вопроса о том, следует ли продолжать разработку до введения новых защитных механизмов.

Трамп не выражал поддержки ни одному из законопроектов. Его внимание по-прежнему сосредоточено на сохранении лидерства США над Китаем в глобальной конкуренции в сфере ИИ, что подчеркивает растущий разрыв между позицией администрации и опасениями, которые высказывают исследователи безопасности ИИ.

Источник: CoinCentral.