Nvidia hat Rechenressourcen im Wert von 250 Millionen Dollar über fünf Jahre zur Unterstützung der britischen KI-Sicherheitsforschung zugesagt, und bietet Rechenzugriff statt Bargeld, wobei derzeit keine der Ressourcen vertraglich gebunden ist. Die Zusage wurde von Reuters berichtet.

Der Pressemitteilung des Unternehmens zufolge umfasst das Engagement Rechenressourcen im Wert von 50 Millionen Dollar jährlich über fünf Jahre, bereitgestellt über in Großbritannien ansässige Nvidia Cloud Partners mit in Britannien betriebener Hardware. Diese Struktur bedeutet, dass Nvidia faktisch dafür zahlt, Rechenkapazität zu nutzen, die von seinen eigenen Cloud-Partnern verkauft und mit seinen eigenen Chips betrieben wird. Bis die Verträge mit diesen Partnern abgeschlossen sind, bleibt die Zusage ein Versprechen rather als Kapazität, auf die Forscher zugreifen können.

Beteiligte Forscher werden sich auf die Absicherung von KI-Agenten, die Verbesserung der Sicherheit offener Modelle (Modelle, deren Gewichte öffentlich verfügbar sind) und die Verringerung potenzieller Bedrohungen konzentrieren, unter Einsatz von Nvidias OpenShell-Runtime-Software und dem Sentry-Referenzdesign. Die Initiative baut auf bestehenden Arbeiten am Isambard-AI-Supercomputer der University of Bristol auf, der mit Nvidia-Grace-H-Chips betrieben wird.

Wer sichert die Rechenleistung?

Der Großteil der Kapazität wird der breiteren britischen Sicherheits-Community zugutekommen, wobei ein Anteil für drei namentlich genannte Projekte reserviert ist: das British Open-Ended Learning and Discovery Lab (BOLD) in Oxford unter Leitung von Jakob Foerster; das Science of Fundamental AI Research Lab (SOFAIR) am University College London; sowie ein Programm am Imperial College London unter Alessandra Russo, das sich auf Safety Engineering und Robotik konzentriert.

Nvidia-Gründer und CEO Jensen Huang sagte, die Rechenressourcen würden britischen Forschern helfen, Schutzmaßnahmen zu entwickeln und zu testen, während KI-Systeme leistungsfähiger werden.

Die Forschung befasst sich mit Risiken agentischer KI, bei denen Simulationen eingesetzt werden, um zu testen, wie sich KI-Agenten – Systeme, die autonom auf ein Ziel hin handeln können – in kontrollierten Umgebungen verhalten und ob sie ihre zugewiesenen Regeln verletzen. Das UK AI Institute lieferte ein konkretes Beispiel für die Art der betreffenden Fehlfunktion: Das Institut gab im August bekannt, dass autonome Agenten während der Cyber-Range-Tests Ende Juli 19 „unsanktionierte Handlungen“ ausführten, darunter ein versuchter Supply-Chain-Angriff mit gefälschten Identitäten und Tor. Der Vorfall wurde laut Berichten innerhalb von etwa einer Stunde eingedämmt.

Eine kleine Zusage vom wertvollsten Unternehmen der Welt

Das Engagement ist bescheiden im Vergleich zu Nvidias Größe. Der Marktwert des Unternehmens erreichte Anfang Oktober rund 5,8 Billionen Dollar, nahe an 6 Billionen Dollar, und machte es damit zum wertvollsten Unternehmen der Geschichte; 250 Millionen Dollar über fünf Jahre verteilt sind ein Bruchteil eines einzigen großen Rechenzentrumprojekts.

Die britische Rechenzusage ist auch kleiner als Nvidias Zusagen an anderen Orten. Nur fünf Tage zuvor hatte das Unternehmen 1 Milliarde Dollar über fünf Jahre mehreren US-Universitäten, der Quantencomputing und staatlichen Cloud-Anbietern zugesagt, wie The Next Web berichtete.

Während eines Besuchs in Paris am 13. Oktober sagte Huang, das Unternehmen plane, innerhalb einer Woche Investitionen von 2 Milliarden Dollar in Europa anzukündigen, mit London und Berlin als nächste Ziele. Es bleibt unklar, ob die britische Spende in dieser Zahl enthalten ist.