Während Elon Musk seit Langem eine utopische Zukunft der künstlichen Intelligenz zeichnet, schlagen zahlreiche andere Technologieführer und Regierungen wegen der potenziellen Gefahren der Technologie Alarm.

Lila Ibrahim, Chief AI Readiness Officer bei Google DeepMind, gehörte zu den Unterzeichnern einer Erklärung aus dem Jahr 2023, in der gefordert wurde, das Risiko eines durch KI verursachten Aussterbens der Menschheit mit derselben Ernsthaftigkeit zu behandeln wie einen Atomkrieg. Nun legt sie ihre eigene Einschätzung dazu vor, wie wahrscheinlich dieses Worst-Case-Szenario sein könnte.

„Es ist nicht null“, sagte Ibrahim gegenüber Fortune. „Alles darüber hinaus ist nur geraten … das ist der Ingenieur in mir.“

Obwohl seit der von Ibrahim mitunterzeichneten Erklärung des Center for AI Safety drei Jahre vergangen sind — gemeinsam mit OpenAI’s Sam Altman und Anthropic’s Dario Amodei — sagte sie, es wäre weiterhin „unverantwortlich von uns, nicht über existenzielle Risiken zu sprechen“.

Geoffrey Hinton, weithin als der „Godfather of AI“ bezeichnet, hat die Wahrscheinlichkeit eines Aussterbens der Menschheit auf 10% bis 20% innerhalb von nur drei Jahrzehnten geschätzt. Amodei sagte, es gebe eine 25% Chance, dass die Zukunft — also die menschliche Existenz — „wirklich, wirklich schlecht“ verlaufen werde. Sogar der verstorbene Physiker Stephen Hawking, der KI nutzte, um seine angesehenen Ansichten mit der Welt zu teilen, warnte, die Technologie könne die Menschheit auslöschen — fast ein Jahrzehnt bevor ChatGPT auf den Markt kam.

„Die zwei Dinge, die mich nachts wach halten, sind: Tun wir alles, was wir können, um die Risiken zu mindern? Und tun wir alles, was wir können, um die Chancen zu maximieren? Diese beiden Dinge gehören aus meiner Sicht zusammen“, sagte Ibrahim.

Ibrahim, die erste COO des Unternehmens, sagte, die Pandemie sei eine Erinnerung daran gewesen, dass katastrophale Risiken nicht immer die sind, die man erwartet. Außerdem hätten Unternehmen in früheren Technologiewellen, etwa beim Aufstieg des Internets und später der sozialen Medien, historisch gesehen oft nicht genug über mögliche negative Folgen gesprochen.

„Wir haben uns bei Investitionsentscheidungen nicht an den Tisch gesetzt und über die Risiken so gesprochen, wie wir es hätten tun sollen. Manchmal sind wir zu sehr im Hier und Jetzt“, sagte Ibrahim und fügte hinzu, man solle apokalyptische Science-Fiction-Filme aus Hollywood stattdessen als Warnungen betrachten.

„Wenn wir nichts tun, um das zu mindern oder unterwegs in die guten Dinge zu investieren, dann landen wir genau dort, wo wir nicht hinwollen“, fügte sie hinzu. „Es gibt viele Dinge, die schiefgehen könnten.“

Musk sagt, Geld werde bis 2036 keine Rolle mehr spielen. Ibrahim sagt, das wisse niemand wirklich

Wenn Ibrahim vorsichtig ist, eine exakte prozentuale Vorhersage darüber zu treffen, wie wahrscheinlich es ist, dass KI den Untergang der Menschheit verursacht, ist sie ebenso skeptisch gegenüber dem anderen Extrem: einem Zustand postknapper Fülle.

Musk hat wiederholt eine Zukunft in Aussicht gestellt, in der KI und Roboter so viel Überfluss erzeugen, dass Arbeit optional wird und Löhne ihre Bedeutung verlieren. Und erst kürzlich setzte er sogar eine Frist von 10 Jahren, bis Roboter den Arbeitsmarkt übernehmen und Gehälter überflüssig machen.

„Money won’t matter in 2036“, sagte Musk gerade erst gegenüber The Economist, und erklärte, Güter würden so billig, dass wir in eine Phase der Deflation eintreten würden und Regierungen ihren Bürgern ein universelles hohes Einkommen auszahlen würden, weil sie vom täglichen Arbeitsalltag befreit seien.

Ebenso hat Amazon-Gründer Jeff Bezos prognostiziert, dass bis 2045 „millions of people“ im Weltraum leben werden, wobei Roboter den täglichen Arbeitsweg übernehmen — denn in seiner Vision werden wir zu anderen Planeten pendeln statt ins Büro. Und in weniger als 10 Jahren, so sagt OpenAI-Chef Altman, würden Hochschulabsolventen einen „some completely new, exciting, super well-paid“ Job im Weltraum ausüben.

Ibrahim glaubt das jedoch nicht. Trotz ihres Logenplatzes bei den größten Durchbrüchen von KI bei Google DeepMind — einem fortschrittlichen KI-Labor, das sich der Lösung großer wissenschaftlicher Probleme widmet — sagt Ibrahim, die Technologie bewege sich zu schnell, als dass irgendjemand mit echter Genauigkeit vorhersagen könne, was als Nächstes komme.

„Ich glaube nicht, dass wir wirklich vorhersagen können, wie ein zukünftiger Zustand aussieht“, sagte sie gegenüber Fortune.

Ihr Fokus liege, so erklärte sie, weniger darauf, auf welchem Planeten wir in zwei Jahrzehnten leben könnten, sondern mehr darauf, wie diese neuen Technologien praktisch genutzt werden können, um die Welt, in der wir derzeit leben, zu verbessern: durch die Lösung konkreter Probleme wie extremer Wetterereignisse und industrieller Abfälle und zugleich durch die Sicherstellung, dass die Vorteile nicht nur an die wenigen Menschen fließen, die diese mächtigen KI-Unternehmen führen.

„Ich würde es vorziehen, wenn wir unsere Aufmerksamkeit darauf richten, wie wir Technologie als Werkzeug einsetzen, um das menschliche Potenzial zu maximieren“, sagte Ibrahim. „Darin werden wir investieren und unsere Zeit verbringen müssen — indem wir Debatten darüber führen, welche Krankheiten wir mit diesem neuen Werkzeug lösen können, das Muster erkennt, die wir Menschen nicht sehen.“

„Ich denke viel darüber nach, wie wir in eine Zukunft gelangen, statt darüber, wie die Zukunft aussieht“, fügte sie hinzu.

Diese Geschichte erschien ursprünglich auf Fortune.com