Наши технологические сюзерены утверждают, что искусственный интеллект вскоре создаст мир изобилия и одновременно решит такие крупные проблемы, как изменение климата. Чтобы было понятно, что имеется в виду под этим термином, я ранее определял наших технологических сюзеренов как "сборную солянку из технологических компаний, технологических учёных и изобретателей, а также технологических инвесторов и журналистов, которые околдовали современный мир изобретениями, ускоряющими нашу повседневную жизнь, но не обязательно делающими её лучше."

В недавнем интервью журналу The Economist главный технологический сюзерен Илон Маск сказал, что "[i]f you have vast numbers of robots with vast amounts of digital intelligence, you have a sort of a quasi-infinite economy." В такой экономике "anyone can have anything they think of." Он добавил, что "money won't matter in 2036" because everyone will have a high income without working. Маск назвал это Star Trek-версией будущего.

Комментарии Маска отражают знакомую фантазию технологической индустрии: будущее изобилия по нажатию кнопки и голосовой команде, похожее на мир, показанный в телесериалах и фильмах Star Trek. Как знает любой внимательный зритель, будущее Star Trek — это мир, в котором бедность устранена, деньги больше не нужны, и всё, что вам нужно или хочется, доступно.

Однажды мой друг спросил: "If you have a replicator and a holodeck, why would you need to go anywhere?" Но персонажи Star Trek довольно много путешествуют, чтобы "to seek out new life and new civilizations. To explore brave new worlds, to boldly go where no man has gone before.” Позже эта фраза была обновлена в Star Trek: The Next Generation на "where no one has gone before."

Маск сказал, что в его будущем изобилия некоторые люди всё же могут выбирать работу — так же, как некоторые люди выбирают сажать сады у себя во дворе, хотя всю необходимую еду можно купить в магазине.

Центральный вопрос в этом воображаемом будущем таков: через 10 лет ИИ будет управлять миром без людей. Если это произойдёт, спросил интервьюер, как компании будут зарабатывать деньги? Как они вообще смогут существовать? У Маска ответа не было.

Это приводит ко второму вопросу: как люди будут получать деньги, чтобы покупать всё необходимое? Маск сказал, что правительство может просто выдавать людям чеки. Это интересная позиция для человека, который присоединился к администрации Трампа, чтобы сократить государственные расходы, возглавляя её расплывчатый и неудавшийся Департамент эффективности правительства. Похоже, что Маск предлагает форму вызванного ИИ социализма. Много лет назад он называл себя социалистом, но теперь к этому утверждению трудно относиться всерьёз, учитывая его публично продемонстрированные политические взгляды, действия и политических кандидатов, которых он финансирует.

Важно проверить эту фантазию о будущем с помощью того, что я назову тестом "will", придуманным критиком ИИ Эдом Зитроном. Он просит сторонников ИИ объяснить, на что способны нынешние модели ИИ, не используя слово "will." Таким сторонникам почти нечего показать.

Описанная выше технологическая фантазия полностью зависит от слова "will" в том, что касается ИИ. Ничто из того, что способны делать нынешние модели ИИ, даже отдалённо не подтверждает это видение. Эти модели — известные как Large Language Models, или LLMs — делают так много ошибок, что передача критически важных систем во всей экономике ИИ, как предлагает Маск, почти наверняка привела бы не к процветанию, а к катастрофе. Проблема так называемых "hallucinations" является неотъемлемой особенностью работы LLMs и не может быть устранена. А тот вид интеллекта, который необходим для управления большинством критически важных систем, то есть человеческий интеллект, с LLMs просто недостижим.

Идея о том, что крупные технологические компании, которые сейчас контролируют развитие ИИ, исчезнут по мере распространения мирового процветания, выглядит как история, призванная усыпить общество и склонить его к пассивности. Неудивительно, что эта версия устраивает индустрию, поскольку возникающие по-настоящему "убийственные" приложения ИИ — это системы наблюдения и военные вооружения. Похоже, правительства готовы платить высокую цену за ИИ ради более эффективного наблюдения за гражданами и более действенного оружия. То, что такие системы неизбежно будут допускать множество ошибок, для правительств, которые их используют, кажется не слишком существенным.

Бизнес и потребители, возможно, действительно получают некоторую пользу от ИИ, особенно в более эффективном поиске в интернете. Но реальные издержки таких ограниченных выгод во много раз превышают то, что они платят сейчас. А с учётом того, как работает ИИ, то есть необходимости дополнительной ёмкости дата-центров для каждого нового пользователя, здесь фактически нет эффекта масштаба, который бы снижал расходы. Проще говоря, каждый новый пользователь стоит поставщику ИИ дополнительных денег. ИИ в его нынешнем виде вряд ли будет прибыльным, за исключением нишевых пользователей, которые считают его результат достаточно ценным, чтобы платить за него реальные издержки.

Технологические сюзерены годами повторяют одну и ту же мантру: доверьтесь нам, откиньтесь назад и позвольте нам вести вас в всё более грандиозное техно-утопическое будущее. Новые утверждения о том, что ИИ станет проводником этого будущего, — часть пропагандистской кампании, призванной лишить общество права голоса в вопросах ИИ и его использования. К счастью, многие сообщества уже говорят, что не хотят нести издержки и неудобства, связанные с новыми дата-центрами, необходимыми для расширения ИИ. Эту обеспокоенность следует распространить и на само использование ИИ, и на злоупотребления им.

By Kurt Cobb via Resource Insights

More Top Reads From Oilprice.com

Oil Prices Plunge 5% After U.S. and Iran Halt Attacks

Saudi Crude Tanker Goes Dark to Slip Through Bab el-Mandeb

Hormuz Tanker Crossings Sink to Lowest Level Since May as War Risk Spikes