Билл Гейтс предупредил, что компании в сфере искусственного интеллекта не должны оставаться на саморегулировании, и призвал законодателей в Вашингтоне ввести формальные правила безопасности для быстрорастущей отрасли.

Сооснователь Microsoft изложил свою позицию в интервью NBC News, опубликованном 25 сентября, за два дня до выхода полной версии беседы в эфире «Meet the Press». Его призыв к государственному надзору прозвучал в переломный момент: Goldman Sachs прогнозирует, что мировые инвестиции в ИИ превысят 1 триллион долларов в 2026 году. На этом фоне новые требования безопасности могут повлечь серьёзные последствия для разработчиков систем ИИ, инвесторов, финансирующих их, и компаний, внедряющих системы безопасности, необходимые для соблюдения новых правил.

«Никто не считает, что саморегулирования достаточно»

На вопрос ведущей Кристен Уэлкер о том, должен ли Конгресс действовать, Гейтс ответил: «Безусловно».

«Никто не считает, что саморегулирования достаточно», — сказал Гейтс. По его мнению, законодатели и правоприменительные органы должны чётко определить, как компании в сфере ИИ отслеживают риски и какие меры защиты они обязаны внедрить. Он охарактеризовал вытекающие из этого обязательства для разработчиков как «небольшие накладные расходы», а не тормоз прогресса.

Его обеспокоенность выходит далеко за рамки обычного злоупотребления. В беседе с NBC Гейтс заявил, что ИИ «безусловно достаточно мощен, чтобы вызывать события, которые, знаете ли, приводят к гибели миллиарда человек», особенно если продвинутые системы попадут в руки людей со злым умыслом.

Лидеры индустрии расходятся во мнениях о том, насколько далеко должны заходить меры защиты. Глава Anthropic Дарио Амодеи поднимал идею «полного ограничения темпа или даже „паузы“» как крайней формы коллективного замедления. Глава OpenAI Сэм Альтман выразил схожую обеспокоенность, утверждая, что «ограничение темпа будет стоить этих затрат», и что давление конкуренции не должно служить оправданием безрассудных действий.

Глава Meta Марк Цукерберг занял противоположную позицию. В интервью NBC News он заявил: «Я не думаю, что нам нужна какая-то отраслевая координация». Цукерберг предпочитает подход, при котором отдельные лаборатории замедляются только тогда, когда сами считают, что сталкиваются с рисками безопасности. Этот обмен мнениями подчёркивает более раскол в руководстве индустрии по вопросу о том, должно ли управление ИИ координироваться по всей отрасли или оставаться на усмотрение отдельных компаний. Спор носит не только философский характер: любые обязательные правила США будут применяться ко всей отрасли, независимо от позиции отдельных лабораторий.

Гейтс хочет управлять рисками, а не останавливать развитие

Гейтс не требует, чтобы технологический сектор прекратил разработку систем ИИ. В эссе, опубликованном в августе в его блоге Gates Notes, он написал, что искусственный интеллект «либо станет величайшим уравнителем из когда-либо изобретённых, либо худшим источником несправедливости».

Он добавил, что, вероятно, поддержал бы достоверный план скоординированного глобального замедления разработки ИИ, хотя сомневался, что такой план окажется эффективным, учитывая экономические и политические силы, способствующие продолжению развития.

Его позиция, таким образом, заключается не столько в остановке нового развития, сколько в готовности: подготовке компаний, правительств и частных лиц к технологии, которая уже находит применение в таких областях, как медицина, право, программное обеспечение и обслуживание клиентов.

Рынок в 1 триллион долларов в ожидании правил

Дискуссия о мерах защиты разворачивается на фоне притока капитала в ИИ, что повышает ставки любого нового регулирования. Goldman Sachs ожидает, что мировые инвестиции в ИИ превысят 1 триллион долларов в 2026 году, включая примерно 581 миллиард долларов в США, при этом совокупные инвестиции с 2022 года могут приблизиться к 1,8 триллиона долларов к концу года.

Однако выгоды распределяются неравномерно. Данные Microsoft о диффузии ИИ показывают растущий разрыв между Глобальным Севером и Глобальным Югом, в то время как ОЭСР отмечает, что возможности в сфере ИИ остаются ограниченными несколькими странами и компаниями.

Этот дисбаланс делает регулирование ещё более сложной задачей балансирования. Более сильная защита могла бы снизить риски, но для небольших лабораторий и менее богатых стран дополнительные издержки соблюдения правил могут оказаться очень тяжёлым бременем.

Регуляторная лоскутная система уже формируется

Всё больше доказательств подтверждают необходимость более строгого надзора. Международный доклад о безопасности ИИ 2026, подготовленный под руководством лауреата Премии Тьюринга Йошуа Бенджио и созданный более чем 100 экспертами в этой области, описывает существующие опасности и потенциальные будущие угрозы, связанные с растущими возможностями систем ИИ.

Тем временем правительства уже формируют правила вокруг этих рисков. По данным TRM Labs, формируется новая глобальная «лоскутная» система регулирования ИИ, поскольку страны применяют различные подходы к управлению, внедрению и подотчётности.\nЕвропейский Союз продвигает эти цели активнее большинства юрисдикций. Согласно EU AI Act, поставщики моделей ИИ общего назначения обязаны соблюдать строгие требования в области документации, авторских прав и прозрачности данных для обучения. Модели, использующие более 10^25 FLOP — операций с плавающей запятой, меры вычислительной мощности, затраченной на обучение модели, — считаются несущими системные риски, что влечёт дополнительные требования к оценке моделей, управлению рисками, отчётности об инцидентах и кибербезопасности.

Расходы на соблюдение норм растут вместе с разработкой правил. По данным Gartner, расходы организаций на защиту ИИ вырастут на 68,7% почти до 4,8 миллиарда долларов к 2027 году, с прогнозами приближения к 7,7 миллиарда долларов в 2028 году.

Вашингтон, судя по всему, также движется к более надёжной регуляторной структуре. До настоящего времени США в значительной степени полагались на добровольные обязательства отдельных компаний, а не на обязательную федеральную структуру, сопоставимую с европейской. Как сообщает Cryptopolitan, сенаторы прорабатывают двухпартийную инициативу по установлению «обязанностей заботы» для разработчиков ИИ, которая могла бы позволить правительству предотвращать выпуск небезопасных моделей. Если инициатива будет одобрена, меры защиты, которых требует Гейтс, перейдут из области добровольных обязательств в юридически обязывающие. Эти переговоры остаются на предварительной стадии, оставляя объём, условия и сроки любой обязательной американской структуры открытыми вопросами.