US-Präsident Donald Trump erklärte, er habe „keine Bedenken“ hinsichtlich einer möglichen Auslöschung der Menschheit durch künstliche Intelligenz. Gleichzeitig äußerten Forscher von OpenAI und Anthropic öffentlich ernste Bedenken über die Risiken der rasanten Entwicklung fortgeschrittener KI-Systeme.

Auf die Frage am Donnerstag, ob KI zur Auslöschung der Menschheit führen könnte, antwortete Trump: „Nein, habe ich nicht.“ Seine wichtigste Sorge sei, dass die Vereinigten Staaten das KI-Rennen gegen China gewinnen.

„Ich habe Bedenken, dass wir in eine sehr schlechte Lage geraten werden, wenn wir das KI-Rennen nicht gewinnen“, sagte Trump gegenüber Reportern. Er fügte hinzu, dass die USA seiner Einschätzung nach derzeit etwa ein Jahr vor China liegen.

Die Äußerungen fielen zu einem Zeitpunkt, an dem Mitarbeiter und Forscher der beiden weltweit führenden KI-Unternehmen warnten, dass sich die Entwicklung möglicherweise zu schnell vollzieht, als dass Sicherheitsmaßnahmen Schritt halten könnten. Die unterschiedlichen Prioritäten rücken sowohl das Tempo der KI-Entwicklung als auch den Umfang der Schutzmaßnahmen in den Mittelpunkt der Debatte.

Forscher warnen vor rekursiver Selbstverbesserung

Der Anthropic-Forscher Jacob Coxon kündigte am Dienstag an, dass er das Unternehmen verlassen werde. Coxon erklärte, Anthropic und OpenAI würden „mit unserem Leben pokern“, und behauptete, die Entwickler von KI glaubten, sie könne „uns alle bis zum Ende des Jahrzehnts töten“. Auch andere Mitarbeiter beider Unternehmen haben ähnliche Bedenken geäußert.

Eine zentrale Sorge unter KI-Sicherheitsforschern ist die sogenannte rekursive Selbstverbesserung, kurz RSI. Der Begriff bezeichnet ein Szenario, in dem ein KI-Modell die Fähigkeit erlangt, seine eigene Leistung ohne menschliche Unterstützung zu verbessern.

Jasmine Wang, eine Forscherin für KI-Alignment bei OpenAI, schrieb am Mittwochabend: „Es ist schwer zu überschätzen, wie gefährlich es ist, auf RSI zuzusteuern.“

Der wissenschaftliche Leiter von OpenAI, Jakub Pachocki, verschärfte diese Bedenken am Samstag. Er sagte, er habe eine „starke Erwartung“, dass die Entwicklung der KI in den Bereich der rekursiven Selbstverbesserung fortschreiten könnte.

„Ich bin besorgt, dass niemand auf die Folgen eines anhaltenden schnellen Anstiegs der maschinellen Intelligenz vorbereitet ist“, sagte Pachocki.

Kongress drängt auf stärkere KI-Aufsicht

Abgeordnete beider Parteien streben eine verstärkte Aufsicht über fortgeschrittene KI-Systeme an. Im Juli kündigten Rep. Jay Obernolte und Rep. Lori Trahan Pläne zur Einbringung des FRONTIER Act an, der Regeln für den Einsatz fortgeschrittener KI-Modelle schaffen soll.

Trahan schrieb am Mittwoch auf X: „Sicherheitsforscher kündigen, leistungsfähige KI-Modelle brechen aus ihren Laboren aus, und Unternehmen treiben ihre Entwicklung trotzdem weiter voran. Es ist höchste Zeit, dass der Kongress die Zuschauerrolle aufgibt und seine Aufgabe erfüllt.“

Anfang dieses Monats brachten Sen. Bernie Sanders und Rep. Greg Casar den Ban Artificial Superintelligence Act ein. Das Gesetz würde die Entwicklung fortgeschrittener KI vorübergehend aussetzen, bis die Bundesregierung Sicherheitsregeln geschaffen hat. Zusammengenommen zeigen die Vorschläge, dass sich die politische Debatte sowohl darum dreht, wie fortgeschrittene Modelle eingesetzt werden, als auch darum, ob ihre Entwicklung fortgesetzt werden sollte, bevor neue Schutzmaßnahmen gelten.

Trump hat keine Unterstützung für einen der beiden Gesetzesvorschläge signalisiert. Sein Fokus liegt weiterhin darauf, die Vereinigten Staaten im globalen KI-Wettbewerb vor China zu halten. Damit wird die wachsende Kluft zwischen der Position der Regierung und den von KI-Sicherheitsforschern geäußerten Bedenken deutlich.

Quelle: CoinCentral.