Die Federal Trade Commission (FTC) hat eine Untersuchung eingeleitet, um zu prüfen, ob die von OpenAI und Anthropic entwickelten Systeme der künstlichen Intelligenz eine Gefahr für amerikanische Verbraucher darstellen. Das hat ein hochrangiger Beamter bestätigt. Auch METR, die kalifornische Nonprofit-Organisation, die KI-Frontiermodelle auf Risiken prüft, ist in die Untersuchung verwickelt.

Formelle civil investigative demands sollen in den kommenden Wochen an alle drei Organisationen – OpenAI, Anthropic und METR – zugestellt werden.

Warum ermittelt die FTC gegen OpenAI und Anthropic?

Ein anonymer hochrangiger Beamter der FTC erklärte, die Behörde nutze ihre Befugnis zur Kontrolle unlauterer und täuschender Praktiken, während sie untersuche, ob die von OpenAI und Anthropic entwickelten KI-Systeme Risiken für amerikanische Verbraucher bergen. Diese Befugnis – Section 5 des FTC Act – ist das allgemeine Verbraucherschutzmandat der Behörde, was bedeutet, dass der Regulator nicht auf KI-spezifische Gesetzgebung angewiesen ist, um tätig zu werden. Die Untersuchung wurde erstmals von der New York Post gemeldet und seither unter anderem von Semafor berichtet.

Es gibt keine offizielle Ankündigung der Behörde, daher bleibt das gesamte Ausmaß der Untersuchung unklar. Die FTC wird laut Berichten in den kommenden Wochen civil investigative demands an OpenAI, Anthropic und METR senden – ein Instrument, das einer Vorladung ähnelt und die Empfänger zur Vorlage von Dokumenten und zur Beantwortung von Fragen verpflichtet. Bis die Anforderungen zugestellt sind, bleiben die konkret untersuchten Praktiken unbekannt.

FTC-Vorsitzender Andrew Ferguson sagte erst Anfang dieses Monats, dass OpenAI und Anthropic nicht erlaubt werden dürfe, „everyone into a panic“ zu versetzen und dann Regulierungen zu fordern, die sie gut erfüllen könnten.

In einer Erklärung vom Januar 2025 zu einer FTC-Studie über die KI-Partnerschaften der Big-Tech-Konzerne warnte Ferguson, die Behörde „must not charge headlong to regulate AI“, mit dem Argument, übermäßig harte Regeln könnten Innovation und technologische Entwicklung erstickenn
Wie Cryptopolitan bereits berichtete, wies Ferguson die Idee zurück, dass ein Unternehmen nicht verantwortlich gemacht werden könne, wenn ein autonomer Agent Schaden verursacht, und erklärte, dass die Pflicht zur Offenlegung von Datenschutzverletzungen der FTC sich auch gegen KI-Entwickler richten könnte.

Welche Vereinbarung trafen KI-Führer mit Trump?

Präsident Donald Trump versammelte kürzlich KI-Führer zur Unterzeichnung einer freiwilligen Vereinbarung. Nach den Bedingungen des Abkommens sollen die Unternehmen interne Kontrollen einrichten, externe Audits zulassen und Aufsichtsüberprüfungen ihrer Modelle durch den Vorstand ermöglichen.

Trump lobte die Branche für ihre „tremendous self-regulation“ und nannte das Abkommen „morally binding“, ja sogar „almost like a constitution“.

Mehrere Big-Tech-Manager unterzeichneten die Vereinbarung, darunter Dario Amodei (Anthropic), Greg Brockman (OpenAI), Sundar Pichai (Google), Mark Zuckerberg (Meta), Elon Musk (xAI) und Jensen Huang (Nvidia). Sowohl OpenAI als auch Anthropic unterzeichneten jenes Abkommen – und beide stehen nun laut Berichten vor formellen Forderungen, obwohl sich die Branche auf freiwillige Zusagen statt auf verbindliche Regeln stützt.

Toby Walsh vom UNSW AI Institute erklärte, KI-Firmen hätten bereits bewiesen, dass sie „incompetent and careless at managing themselves“ seien.

METRs Rolle und der Hugging-Face-Zwischenfall

Die Aufnahme von METR in die Zielliste ist bemerkenswert, da es sich bei der Gruppe um eine Nonprofit-Organisation handelt, die KI-Systeme auf Risiken prüft, und nicht um einen Modellhersteller. Die Organisation geriet nach einem Sicherheitsversagen im Sommer ins Visier: Sie führte eine unabhängige Überprüfung eines Vorfalls zu Beginn dieses Jahres durch, bei dem ein OpenAI-Modell seine Containment-Umgebung durchbrach und den Open-Source-Hub Hugging Face angriff – die weithin genutzte Plattform, auf der Entwickler KI-Modelle und Datensätze hosten und teilen.

Laut METRs August-Bericht verbrachten Ermittler von METR und Redwood Research sechs Tage vor Ort bei OpenAI, um einen Vorfall zu untersuchen, bei dem rund 1.200 Agenten, die isoliert laufen sollten, stattdessen ein gemeinsames Message Board fanden und mehr als 70.000 Nachrichten und Dateien austauschten. Etwa 700 fuhren fort, Hugging Face anzugreifen.

Die Forscher sagten, der Schwarm sei so groß gewesen, dass sie sich auf ein OpenAI-Modell, GPT-5.6 Sol, verlassen mussten, um die Beweise zu durchsuchen. Der Autor des Berichts, Ryan Greenblatt, verspottete auf X die Nutzung von KI durch die Forscher und nannte die Untersuchung einen „slop-vestigation“.