Хотя Илон Маск последовательно рисует утопическую картину будущего искусственного интеллекта, многие другие технологические лидеры и правительства бьют тревогу из-за потенциальных опасностей этой технологии.

Главный специалист Google DeepMind по готовности к ИИ Лила Ибрагим была среди подписавших заявление 2023 года, в котором говорилось, что снижение риска вымирания человечества из-за ИИ следует воспринимать с той же серьезностью, что и ядерную войну. Теперь она дает собственную оценку того, насколько вероятен такой худший сценарий.

«Это не ноль», — сказала Ибрагим Fortune. «Все, что дальше, — это уже мои догадки… это во мне говорит инженер».

Хотя с момента подписания Ибрагим заявления Center for AI Safety прошло три года, и она сделала это вместе с Сэмом Альтманом из OpenAI и Дарио Амодеи из Anthropic, она сказала, что по-прежнему «было бы безответственно не говорить об экзистенциальном риске».

Джеффри Хинтон, которого часто называют «крестным отцом ИИ», оценивал вероятность вымирания человечества в 10%–20% в течение всего трех десятилетий. Амодеи заявил, что существует 25%-ная вероятность, что будущее — то есть человеческое существование — пойдет «очень, очень плохо». Даже покойный физик Стивен Хокинг, который использовал ИИ, чтобы доносить свои идеи до мира, предупреждал, что технология может положить конец человечеству почти за десять лет до появления ChatGPT.

«Две вещи, которые не дают мне спать по ночам, — это: делаем ли мы все возможное, чтобы снизить риски? И делаем ли мы все возможное, чтобы максимизировать возможности? Эти две вещи, на мой взгляд, идут рука об руку», — сказала Ибрагим.

Ибрагим, которая была первым главным операционным директором компании, отметила, что пандемия COVID-19 напомнила: катастрофические риски — это не всегда те, которых ожидаешь. Она также указала, что бизнес исторически недостаточно обсуждал возможные негативные последствия во время предыдущих технологических сдвигов, таких как развитие интернета, а затем социальных сетей.

«Когда мы принимали инвестиционные решения, мы не садились за стол и не обсуждали риски так, как должны были. Иногда мы слишком сосредоточены на настоящем моменте», — сказала Ибрагим, добавив, что апокалиптические голливудские научно-фантастические фильмы следует рассматривать как предостережения.

«Если мы ничего не сделаем, чтобы снизить этот риск, или не будем инвестировать в хорошие вещи по пути, то мы окажемся именно там, куда не хотим попасть», — добавила она. «Есть многое, что может пойти не так».

Маск говорит, что к 2036 году деньги утратят значение. Ибрагим считает, что этого тоже никто не знает

Если Ибрагим осторожна в том, чтобы называть точную вероятность того, что ИИ приведет к гибели человечества, то она столь же скептически относится и к противоположной крайности: обществу изобилия после дефицита.

Маск неоднократно выдвигал представление о будущем, в котором ИИ и роботы создадут такое изобилие, что работа станет необязательной, а заработная плата — несущественной. И недавно он даже обозначил десятилетний срок, через который роботы возьмут на себя рабочие места и сделают зарплаты устаревшими.

«Деньги не будут иметь значения в 2036 году», — только что сказал Маск The Economist, добавив, что товары станут настолько дешевыми, что мы войдем в эпоху дефляции, а правительства будут выплачивать гражданам универсальный высокий доход, освободив их от ежедневной рутины работы.

Аналогично, основатель Amazon Джефф Безос предсказал, что к 2045 году «миллионы людей» будут жить в космосе, а роботы будут обслуживать ежедневные поездки, поскольку, по его видению, мы будем ездить не в офис, а на другие планеты. А Сэм Альтман из OpenAI заявил, что менее чем через 10 лет выпускники колледжей будут работать на «совершенно новой, захватывающей, очень хорошо оплачиваемой» работе в космосе.

Однако Ибрагим в это не верит. Несмотря на то что она находится в первых рядах самых значимых прорывов ИИ в Google DeepMind — передовой лаборатории ИИ, занимающейся решением крупных научных задач, — она говорит, что технологии развиваются слишком быстро, чтобы кто-либо мог с реальной точностью предсказать, что будет дальше. Именно поэтому, по ее словам, она рассматривает дискуссию не как выбор между утопией и катастрофой, а как практический вопрос управления, безопасности и реальных сценариев использования.

«Я не думаю, что мы действительно можем предсказать, как будет выглядеть будущее состояние», — сказала она Fortune.

По ее словам, ее внимание сосредоточено не столько на том, на какой планете мы можем жить через два десятилетия, сколько на том, как эти новые технологии можно практически использовать, чтобы сделать нынешний мир лучше: решать конкретные проблемы, такие как экстремальные погодные условия и промышленные отходы, при этом следя за тем, чтобы выгоды не доставались лишь небольшой группе людей, управляющих этими мощными компаниями в сфере ИИ.

«Я бы предпочла, чтобы мы сосредоточили внимание на том, как использовать технологии как инструмент для максимизации человеческого потенциала», — сказала Ибрагим. «Именно туда нам нужно инвестировать и тратить свое время — вести дискуссии о том, какие болезни мы можем победить с помощью этого нового инструмента, который способен находить закономерности, которых мы, люди, не видим».

«Я много думаю о том, как мы приходим к будущему, а не о том, каким это будущее будет», — добавила она.

Этот материал впервые был опубликован на Fortune.com