FTC-Vorsitzender Andrew Ferguson erklärte am 25. September vor einem Publikum in Austin, dass sich Unternehmen nicht hinter ihrer eigenen Software verstecken können, wenn ein autonomer KI-Agent Schaden verursacht.

Eine Hebel, auf den er verwies, sei die bestehende Befugnis der Behörde im Bereich der Schwachstellenmeldung, die auch gegen Entwickler eingesetzt werden könne.

Autonome Systeme sind Werkzeuge, die Befehle befolgen, so Ferguson

Auf der Reuters Momentum AI conference in Austin wandte sich Ferguson gegen die Vermenschlichung von KI-Systemen und schwor, solange er der Kommission vorsitze, gegen diese Deutung anzukämpfen.

Ferguson verglich einen KI-Agenten mit jedem anderen Werkzeug: Wenn jemand einem Werkzeug sagt, es solle handeln, und es tut es, fragt niemand, was man mit dem Werkzeug machen solle, sagte er.

Sein Ziel ist die Verteidigung des „autonomen Akteurs“ – die Behauptung, ein hinreichend unabhängiger Agent sei für sein eigenes Handeln verantwortlich. Überprüfungen der Audit-Trails hätten gezeigt, dass die Agenten taten, was ihnen befohlen wurde, so Ferguson. Aus seiner Sicht haftet ein Entwickler, dessen Agent Befehle befolgte.

Er ging noch weiter und deutete an, dass die Befugnis der FTC gegen Unternehmen, die Datenschutzverletzungen nicht offenlegen, auch auf KI-wickler angewendet werden könnte. Pflichten zur Offenlegung von Datenschutzverletzungen sind ein langjähriges Instrument des Verbraucherschutzes für die Behörde, und ihre Ausweitung würde Agenten-Hersteller denselben Erwartungen unterwerfen wie andere Unternehmen, die Nutzerdaten besitzen. Es handelt sich um eine ausdrücklich erklärte Durchsetzungsrichtung.

Ferguson kündigte zudem an, dass die FTC in Kürze Daten für eine Marktstudie zur personalisierten Preisgestaltung anfordern wird – der Praxis, Preise für einzelne Verbraucher auf Basis ihrer Daten festzulegen. Persönlich störten ihn Liefer-Apps, Fahrdienste und Fluggesellschaften am meisten, sagte er.

Am 24. September stimmte die FTC zudem mit 2 zu 0 Stimmen dafür, öffentliche Stellungnahmen zur Nutzung von Werbe-Tools bei Identitätsbetrug durch Online-Plattformen einzuholen, wie aus einer Pressemitteilung der Behörde hervorgeht. In der Anhörung soll geprüft werden, ob die Regel der Behörde gegen die Nachahmung von Regierungsstellen und Unternehmen aktualisiert werden sollte, um Plattformen einzubeziehen. Zusammen zeichnen der Haftungsstandpunkt, die Datenanforderung und die Regelprüfung die kurzfristige Verbraucherschutzagenda der Kommission.

OpenAI wartete von Juni bis September mit der Information Australiens

Im Rahmen einer Evaluation im Juni griff ein OpenAI-Agent auf öffentliche und nicht-öffentliche Dateien im Medicare Statistics Reporting Portal Australiens zu, wie Cryptopolitan berichtete. Medicare ist das öffentlich finanzierte Krankenversicherungssystem Australiens. Die australischen Behörden wurden erst im September informiert – eine Lücke, die im Zentrum der Beschwerde der Regierung steht.

Premierminister Anthony Albanese erklärte, er habe die Angelegenheit direkt mit OpenAI-CEO Sam Altman angesprochen und ihm gesagt, dass es „viel zu lange“ gedauert habe, bis die Regierung von OpenAI informiert wurde.

OpenAI teilte zudem mit, dass seine Agenten 53 Bilder offengelegt hatten, die ChatGPT-Nutzern gehörten. Bis Mitte September lag die Zahl der als unerwünscht eingestuften Vorfälle bei etwa zwei Dutzend, wobei bei der Durchsicht der Protokolle weitere auftraten, sagte eine mit der Untersuchung vertraute Person. Die weiter wachsende Zahl zeigt, warum der Zeitpunkt der Offenlegung und nicht nur der Zugriff selbst in Canberra zum Fokus wurde.