НовостиМакроСенатор Хикенлупер: США должны выиграть гонку ИИ у Китая, но регулируйте передовые модели, как ядерное оружие и самолёты

Сенатор Хикенлупер: США должны выиграть гонку ИИ у Китая, но регулируйте передовые модели, как ядерное оружие и самолёты

Автор: Fortune Crypto·

Ключевые выводы

  • •Хикенлупер выразил обеспокоенность тем, что ИИ-системы могут перестраивать себя за пределами заданных областей, заявив, что неограниченное рекурсивное обучение может быть не нужно.
  • •Призывая к тому, чтобы американский передовой ИИ был лучшим в мире в условиях международного соперничества, он не против быстрых темпов лабораторий и предлагает адаптировать существующие модели регулирования из сфер ядерного оружия и авиации.
  • •В сентябре более 20 исследователей, включая Джеффри Хинтона и Йошуа Бенджио, опубликовали статью с предупреждением, что автоматизация ИИ-исследований может вызвать «интеллектуальный взрыв», а соавтор Алан Чан заявил, что действенных механизмов безопасности нет.
  • •Поддерживаемый Хикенлупером Bipartisan American Affordability and Jobs Act ускорит одобрение энергетических проектов и обяжет центры обработки данных полностью оплачивать новые линии электропередачи и подстанции; мера продвинулась при голосовании в Сенате 73-25 при поддержке Трампа.
  • •После отставки Дженсена Хуанга с поста гендиректора Nvidia Комитет Сената по банкам попросил Хуанга и министра торговли Говарда Лютника дать показания в следующем месяце, а Хикенлупер хочет ясности в том, насколько США уверены в безопасности передачи технологий Китаю.
Сенатор Хикенлупер: США должны выиграть гонку ИИ у Китая, но регулируйте передовые модели, как ядерное оружие и самолёты

Сенатор Джон Хикенлупер хочет, чтобы американский искусственный интеллект победил в том, что он считает международной гонкой ИИ-вооружений. Однако он не уверен, что передовым системам нужна способность перестраивать себя без ограничений.

«Возможно, нам не нужна рекурсивное обучение без ограничений», — заявил демокат из Колорадо Диане Брейди из Fortune в понедельник на форуме Fortune 500 Innovation Forum в Детройте, куда он подключился по видеосвязи. Он описал машины, «иногда переизобретающие себя за пределами границ той области, в которой им положено оставаться».

«Это должно вызывать серьёзную обеспокоенность», — сказал Хикенлупер.

Его замечания прозвучали через две недели после победы на втором и последнем сроке: в ночь выборов он опередил республиканца, сенатора штата Марка Бейсли, с результатом 61% против 35%. Хотя его место ожидалось за демократами, демокаты обеспечили себе контроль над Сенатом, выиграв восемь мест на промежуточных выборах в прошлый вторник, где центры обработки данных и строительство ИИ-инфраструктуры вошли в число наиболее часто упоминавшихся тем, повлиявших на решения избирателей.

Член Комитета Сената по торговле, обладающего юрисдикцией в области технологической и коммуникационной политики, Хикенлупер выступил в то время, когда строительство ИИ-инфраструктуры продолжается, а ИИ-компании используют свои модели для ускорения собственных исследований. В сентябре более 20 исследователей, в том числе Джеффри Хинтон и Йошуа Бенджио, опубликовали статью с предупреждением о том, что автоматизация ИИ-исследований может запустить «интеллектуальный взрыв». Алан Чан, один из ведущих соавторов работы, заявил, что действенные механизмы безопасности отсутствуют.

Хикенлупер сказал, что не против того, чтобы лаборатории двигались быстро. «Они выжимают максимум из своих возможностей. Я это понимаю, и это хорошо», — сказал он, имея в виду международное соперничество. «Мы хотим убедиться, что наш передовой ИИ — лучший в мире, потому что он обладает потенциалом доминировать на планете».

По его мнению, США могут безопасно добиваться этой цели, опираясь на уже существующие нормы для других технологий. «Мы регулируем ядерное оружие. У нас есть правила, прежде чем самолёт может быть введён в эксплуатацию», — сказал он. «Нам нужно определить, какие фундаментальные меры предосторожности и ограничения нам следует установить».

Глобальная гонка вооружений

Брейди также спросила о Nvidia и министре торговли Говарде Лютнике — на фоне отставки Дженсена Хуанга с поста гендиректора Nvidia на прошлой неделе после сообщений о романе с предполагаемой китайской шпионкой. Комитет Сената по банкам попросил Хуанга и Лютника дать показания в следующем месяце. Хикенлупер, не входящий в комитет, сказал, что его вопросы по этому делу «не столь настойчивы», но сначала он хочет получить ответы на базовые вопросы.

«Каковы наши отношения с Китаем и насколько уверенно мы себя чувствуем, делясь с ними нашей технологией на любом уровне?» — сказал он. «Потому что мне от этого некомфортно».

Во внутренней политике Хикенлупер поддерживает Bipartisan American Affordability and Jobs Act, призванный сдержать рост центров обработки данных. Законопроект о разрешениях ускорит одобрение энергетических проектов и обяжет центры обработки данных оплачивать модернизацию электросетей, построенную для их обслуживания. Сенат на прошлой неделе проголосовал 73-25 за начало дебатов по мере — первый процедурный шаг к полному рассмотрению в палате — и президент Дональд Трамп её поддержал.

Хикенлупер сказал, что центры обработки данных должны сначала гарантировать отсутствие громких шумов, опасностей и неудобств для окружающих сообществ. Согласно двухпартийному закону, расходы на новые линии электропередачи и подстанции «полностью лягут на центр обработки данных». Эти положения о расходах напрямую отвечают опасениям по поводу доступности, которые сделали центры обработки данных постоянной темой предвыборной кампании.

Он назвал закон компромиссом. Трамп «не любит ветер. Он не любит солнце», — сказал Хикенлупер, но законодательство уравняет оба источника энергии в правах с природным газом. Хотя у закона есть ограничения, добавил он, в нынешнем виде он «значительно улучшен» по сравнению с первоначальной версией. «Я хотел бы, чтобы мы могли пойти дальше».

Хикенлупер расценил итоги промежуточных выборов как испытание для своей партии, а не победу, на которую можно опереться. «Это не мандат», — сказал он. «Я думаю, это скорее список задач, почти прослушивание». Демократы, по его словам, должны доказать, что способны снижать расходы и создавать рабочие места.

«Когда вы пытаетесь заключить сделку, вам нужно понять, с кем вы ведёте переговоры», — сказал он. «Нужно увидеть, что в этом для них, и найти способ, чтобы обе стороны извлекли выгоду из итогового соглашения».

Этот материал впервые был опубликован на Fortune.com.