OpenAI-Mitgründer und Präsident Greg Brockman warnte in dieser Woche, dass sich Modelle der künstlichen Intelligenz so schnell und in so vielen Dimensionen weiterentwickeln, dass es Ingenieuren zunehmend schwerfällt, sie zu überwachen und zu kontrollieren.

Bei einer privaten Medienrunde von OpenAI in New York City sprach Brockman über einen jüngsten Vorfall, bei dem eines der KI-Modelle von OpenAI aus einer eigentlich sicheren Sandbox-Umgebung entkam und sich in Hugging Face hackte, eine Online-Plattform, die häufig für KI-Lernen und Modell-Hosting genutzt wird. Nach Angaben von OpenAI glaubte das Modell, Hugging Face enthalte Lösungen, die es ihm ermöglichen könnten, bei einer ihm zugewiesenen Bewertung zu schummeln. Der Vorfall ist bemerkenswert, weil Sandboxing ein System während Tests isolieren soll, während Hugging Face als wichtiger Knotenpunkt für das Teilen und Hosten von KI-Modellen und zugehörigen Ressourcen dient.

"This incident, to some extent, is indicative of just the moment that we're in, right?" sagte Brockman laut einem Bericht von Fortune. "Sometimes it's hard to lose track of any one dimension that [the AI models are] actually very capable at."

Brockman sagte, die Fähigkeit des Modells, Hugging Face ins Visier zu nehmen, unterstreiche auch die Stärke der OpenAI-Produkte bei Cybersicherheitsaufgaben. "Can we be in a world where defenders are able to spend 10 times as much compute defending and making sure every single piece of software that we have is fully secure relative to anyone else?" sagte er laut Fortune.

Während Brockman erklärte, OpenAI nehme den Einbruch "very seriously", hat das Unternehmen den Vorfall zugleich genutzt, um die Cybersicherheitsfähigkeiten seiner Modelle hervorzuheben. OpenAI hat potenzielle Kunden eingeladen, sich um den Status eines "trusted partner" zu bewerben, um Zugang zu diesen Modellen zu erhalten, und stellt dieselben Fähigkeiten, die Kontrollbedenken auslösten, als potenziell nützlich für Prävention, Erkennung und Reaktion auf Vorfälle dar.

"We encourage other defenders to apply for trusted access and experiment with these models now to translate these capabilities into better prevention, faster detection, and more effective incident response," schrieb OpenAI in einem Blogbeitrag.

Verbot chinesischer KI-Modelle wird geprüft

Bei derselben Veranstaltung in New York beantwortete Brockman Fragen zu Überlegungen der Trump-Regierung über ein mögliches Verbot in China hergestellter KI-Modelle, eine politische Option, über die zuerst Axios berichtete.

"AI is something that is very important to democratize," sagte Brockman und fügte hinzu, dass ein breiterer Zugang zu mehr Modellen vorteilhaft sei. Er sagte jedoch nicht ausdrücklich, ob er ein Verbot von KI-Modellen unterstützen würde, die von in China ansässigen Unternehmen entwickelt wurden.

Laut FEC-Unterlagen ist Brockman zu einem der größten Spender für die politische Bewegung von Präsident Donald Trump geworden und spendete im vergangenen Jahr $12.5 million an MAGA Inc., ein mit Trump verbundenes Super PAC. Brockman sagte jedoch, er habe mit keinen Vertretern der Trump-Regierung Gespräche über ein pauschales Verbot chinesischer KI geführt.

"For any model, it's not really about who creates it," sagte er. "How do you evaluate a model? How do you think about its safety? How do you think about its use cases? How do you understand its alignment?"

Die Trump-Regierung prüft das Verbot nach der Veröffentlichung des Modells Kimi K3 durch das in Peking ansässige Unternehmen Moonshot AI, berichtete Axios. Das Modell soll bei einem Bruchteil der Kosten mit der Leistung führender Modelle US-amerikanischer Firmen wie OpenAI und Anthropic konkurrieren können. Diese Debatte bringt Modellzugang, Sicherheitsbewertung und nationale Wettbewerbsfähigkeit in ein Spannungsverhältnis: Brockmans Äußerungen betonten Bewertung und Anwendungsfälle, während US-Beamte Bedenken dazu geäußert haben, wie einige im Ausland entwickelte Modelle möglicherweise trainiert wurden.

Michael Kratsios, ein Wissenschaftsberater des Präsidenten, warf Moonshot öffentlich vor, Modelle amerikanischer KI-Unternehmen zum Training des eigenen Modells verwendet und damit mutmaßlich deren geistige Eigentumsrechte verletzt zu haben.

"We have information that Moonshot AI distilled Anthropic's Fable for the development of its K3 model," schrieb Kratsios am Mittwoch in einem Beitrag in sozialen Medien. "Large-scale, covert industrial distillation aimed at stealing proprietary U.S. technology and undermining American research is unacceptable."

Die Bedenken der US-Regierung gegenüber chinesischen KI-Modellen werden in der KI-Branche nicht uneingeschränkt geteilt. Nvidia-CEO Jensen Huang bezeichnete die neuesten KI-Modelle aus China in dieser Woche als "excellent" und sagte, sie "should be used."