尽管 Elon Musk 一直对人工智能的未来描绘出乌托邦式图景，但许多其他科技领袖和政府一直在就这项技术的潜在危险发出警告。

Google DeepMind 的首席 AI 预备就绪官 Lila Ibrahim 也是 2023 年一份声明的签署者之一，该声明称，降低 AI 导致人类灭绝的风险应被视为与核战争同等严重。如今，她正在说明自己认为这种末日情景究竟有多大可能发生。

“Its not zero,” Ibrahim 告诉 Fortune。“Anything beyond that is just me guessing… that’s the engineer in me.”

尽管自 Ibrahim 与 OpenAI 的 Sam Altman 和 Anthropic 的 Dario Amodei 一同签署 Center for AI Safety 的声明 已经过了三年，她表示，“我们如果不谈论生存性风险，那就是不负责任。”

被称为“AI 教父”的 Geoffrey Hinton 曾 估计人类灭绝的概率在 10% 到 20% 之间，时间跨度仅为三十年。Amodei 说，未来——也就是人类的存续——会走向“really, really badly”的概率为 25%。就连已故物理学家 Stephen Hawking——他曾借助 AI 向世界传达自己的观点——也曾在 ChatGPT 出现近十年前 警告该技术可能终结人类。

“I keep up at night 的两件事是：我们是否已经尽我们所能来降低风险？以及我们是否已经尽我们所能来最大化机遇？在我看来，这两者是相辅相成的，”Ibrahim 说。

这位公司的首任 COO 表示，新冠疫情提醒人们，灾难性风险并不总是那些你预见得到的风险——而且企业在此前几轮技术浪潮中，比如互联网兴起以及随后社交媒体普及期间，往往没有充分讨论可能出错的地方。

“我们在做投资决策时，没有围坐在桌旁，以我们本该采用的方式讨论风险。有时候我们太沉浸于当下，”Ibrahim 说，并补充说，我们反而应该把末日题材的好莱坞科幻电影当作警示故事。

“如果我们不采取任何措施去缓解这种风险，或者不去投资沿途那些好的事情，那么我们最终就会走到我们最不想去的地方，”她补充说。“会有很多事情可能出错。”

Elon Musk 说到 2036 年金钱将不再重要。Ibrahim 说没人真的知道这件事

如果说 Ibrahim 对给出 AI 导致人类走向终结的精确概率持谨慎态度，那么她对另一种极端——一个后稀缺的乐园——同样怀疑。

Musk 一再提出这样一种未来：AI 和机器人将创造出如此充足的供给，以至于工作变得可有可无，工资也不再重要。他最近甚至为机器人接管职场、让薪资制度过时设定了 10 年期限。

“Money won’t matter in 2036,” Musk 刚对 The Economist 表示，并补充说，商品会便宜到我们将进入通缩时代，政府会向从日常劳动中解放出来的公民发放普遍高收入。

同样地，Amazon 创始人 Jeff Bezos 预测，到 2045 年，将有“millions of people”生活在太空中，由机器人处理日常通勤——因为在他的设想里，人们通勤的对象将是其他行星，而不是办公室。OpenAI 的 Altman 也表示，在不到 10 年的时间里，大学毕业生将从事“some completely new, exciting, super well-paid”job in space。

但 Ibrahim 并不认同。尽管她在 Google DeepMind——一家致力于解决重大科学问题的先进 AI 实验室——近距离见证了 AI 最重要的突破，她认为，这项技术发展太快，任何人都无法准确预测下一步会发生什么。

“我不认为我们真的能预测未来状态会是什么样子，”她告诉 Fortune。

她说，她的关注点与其说是我们二十年后可能会生活在哪个星球，不如说是这些新技术如何切实用于改善我们当下所处的世界：解决极端天气和工业废弃物等具体问题，同时确保收益不会只流向少数掌控这些强大 AI 公司的高管。

“我更愿意把注意力放在我们如何把技术作为工具来最大化人类潜力上，”Ibrahim 说。“这将是我们需要投入资金和时间的地方——围绕我们能借助这项能够发现我们人类尚未察觉模式的新工具来解决哪些疾病展开讨论。”

“我更多思考的是我们如何走向未来，而不是未来究竟是什么，”她补充说。

This story was originally featured on Fortune.com