Недавний взлом Hugging Face стал темой новой колонки Тайлера Кауэна в The Free Press. Hugging Face — одна из крупнейших открытых платформ для размещения ИИ-моделей и датасетов, широко используемая исследователями и компаниями, работающими с открытым машинным обучением, — стала важной частью инфраструктуры экосистемы ИИ, поэтому инцидент безопасности там привлёк такое внимание. Некоторые наблюдатели отреагировали на него весьма драматично.

Один комментатор опасается «полного захвата власти ИИ в течение нескольких месяцев», а другой написал, что «немного грустит из-за нашего надвигающегося вымирания». Нейт Соарс, работающий в движении за безопасность ИИ и соавтор бестселлера о гибели от ИИ If Anyone Builds It, Everyone Dies, написал: «Это может быть последнее предупреждение, которое мы получим». Котра заявила, что инцидент «ощущается как более чем 50-процентный путь к полному захвату власти ИИ».

Кауэн, экономист Университета Джорджа Мейсона, известный работами по экономике технологий и блогом Marginal Revolution, предлагает иной, более технократический подход:

Как он писал на прошлой неделе в The Free Press, необходимы скоординированные национальные и, более того, международные усилия, чтобы ограничить подобные случаи выхода мощной ИИ-модели из-под контроля в будущем. Это, вероятно, будет дорого, и ни за какие деньги не существует простого и полного решения.

Тем не менее, по мнению Кауэна, люди повторяют ошибку, которую американцы совершали много раз прежде. «Они переходят в режим истерики и анекдотичности, позволяя эмоциональным реакциям подменять разум и количественные оценки».

Он приводит несколько других примеров: DDT в 1960-е и 1970-е, «кризис» Y2K 2000 года, глобальное потепление, Covid, детей, пострадавших от талидомида, и атомную энергетику. Все это было — или остаётся — весьма реальными проблемами. Однако каждый раз, утверждает он, мы резко перегибали палку, поддаваясь атмосфере страха после одного эмоционально яркого инцидента, о котором часто сообщали в сенсационном стиле.

Что касается кибербезопасностных рисков передового ИИ, Кауэн пишет, что они, весьма вероятно, будут далеко не столь серьёзными, как Covid или глобальное потепление. Но действует та же логика преувеличения, усиливаемая социальными сетями и склонностью мейнстримных СМИ к негативизму и пессимизму.

Поэтому у него есть просьба: «Если вы собираетесь говорить об этой проблеме, пожалуйста, приведите количественную оценку того, какими, по вашему мнению, будут затраты на кибербезопасность из-за передового ИИ в ближайший год или два. Ещё лучше — выразите эту цифру в процентах от валового внутреннего продукта. Попросту говоря: сколько реалистично будет стоить создание базовых мер защиты, в необходимости которых мы все согласны? И каков будет оставшийся ущерб от проблем, которые мы не сможем контролировать?»

Те, кто обеспокоен рисками ИИ-систем, пишет Кауэн, по-видимому, стремятся доказать серьёзность своих опасений. «Но они впадают в весьма типичные эмоциональные перегибы нашего прошлого, вместо того чтобы сосредоточиться на количественном и научном подходе». В заключение он вспоминает слова Скотти, главного инженера из классического «Звёздного пути»: «Обманешь меня один раз — стыд тебе, обманешь дважды — стыд мне».

Кауэн рекомендует читателям ознакомиться с колонкой целиком.