Insider warnt: Kongress wird mit „absolut verstörenden“ KI-Gesetzentwürfen überflutet
Wichtige Erkenntnisse
- •Mitarbeiter des Kongresses und Interessenverbände setzen zunehmend auf Chatbots wie Anthropics Claude und OpenAIs ChatGPT, um Gesetzestexte zu erstellen – das überparteiliche House Office of Legislative Counsel muss die Entwürfe korrigieren.
- •Ein Berater von Kongressbüros sagte, das OLC verbringe inzwischen mehr Zeit mit der Korrektur KI-verfasster Gesetzestexte, als deren vollständige Neuausarbeitung dauern würde – unter anderem, weil die Modelle bei Unterscheidungen wie Steuergutschrift, Steuerabzug, Steuerbefreiung oder Zuschuss scheitern.
- •Von Chatbots erzeugte Rechtstexte sind anfällig für Halluzinationen – erfundene Fälle, Fundstellen und Bestimmungen. Diese Schwäche zeigte sich 2023, als ein Bundesrichter in New York Anwälte sanktionierte, die in einem Schriftsatz sechs erfundene Gerichtsentscheidungen zitiert hatten.
- •Im Juni veröffentlichte das Büro der Abgeordneten Anna Paulina Luna eine Zusammenfassung eines Änderungsantrags, die noch den unbearbeiteten Chatbot-Satz „Claude responded“ enthielt; die Abgeordnete räumte auf X ein, dass ihr Team KI zur Korrektur eines Entwurfs genutzt hatte, ohne ihn zu bearbeiten.
- •Da Gesetze mit ihrer Verabschiedung verbindlich werden und Fehler in der Regel neuer Gesetzgebung zu ihrer Korrektur bedürfen, warnte der Anwalt und Technologieexperte Ari Hershowitz, dass unkontrolliertes KI-Drafting ein garantierter Weg ist, tausende Fehler in das Rechtssystem einzuschleusen.
Künstliche Intelligenz hat sich still und leise in die Ausarbeitung amerikanischer Gesetzgebung eingeschlichen – und diejenigen, die dafür sorgen sollen, dass Gesetzentwürfe in Ordnung sind, sagen, dass daraus ein wachsendes Chaos entsteht.
Laut Politico greifen Mitarbeiter des Kongresses und externe Interessenverbände zunehmend auf Chatbots wie den von Anthropic entwickelten Claude und den von OpenAI entwickelten ChatGPT zurück, um Gesetzestexte zu erstellen – was das House Office of Legislative Counsel (OLC), das überparteiliche Amt, das Abgeordnete des Repräsentantenhauses bei der Ausarbeitung von Gesetzentwürfen unterstützt, zum Aufräumen zwingt.
„KI ist für vieles gut geeignet“, sagte Daniel Schuman, geschäftsführender Direktor des American Governance Institute. „Aber sie ist nicht in der Lage, Gesetzentwürfe zu verfassen, die man als Gesetz verabschieden möchte.“
Eine Person, die Kongressbüros berät, sagte, das OLC verbringe inzwischen „mehr Zeit damit, von KI verfasste Gesetzestexte auszubessern, als deren komplette Neuausarbeitung dauern würde“, und wies darauf hin, dass KI-Modelle Berichten zufolge an feinen rechtlichen Unterscheidungen scheitern – etwa ob eine Finanzierung als „Steuergutschrift, Steuerabzug, Steuerbefreiung oder Zuschuss“ ausgestaltet sein sollte.
Das Präzisionsproblem wird durch eine gut dokumentierte Schwäche der Technologie verschärft: Chatbots setzen flüssige Texte zusammen, statt auf geprüfte juristische Quellen zurückzugreifen, und erfinden nachweislich Fälle, Fundstellen und Bestimmungen – ein Versagensmuster, das als Halluzination bekannt ist. Die Bundesgerichte sahen sich schon wenige Monate nach der öffentlichen Veröffentlichung von ChatGPT Ende 2022 mit dem Problem konfrontiert: 2023 verhängte ein Bundesrichter in New York Sanktionen gegen Anwälte, die in einem Schriftsatz sechs Gerichtsentscheidungen zitiert hatten, die ChatGPT erfunden hatte.
Ein Mitarbeiter des Kongresses, der mit der gründlichen Durchsicht von Gesetzentwürfen betraut ist, sagte, die Abgeordneten hätten wegen Fehlern und Zitaten, die bei aufkommenden Konflikten einer Überprüfung nicht standhielten, keine Vorstellung davon, was da auf sie zukomme.
„Das ist absolut verstörend, und bislang denkt noch niemand darüber nach“, sagte der Mitarbeiter.
Die Tragweite ist dem Medium eigen: Gesetze werden – anders als Memos oder Reden – mit ihrer Verabschiedung zu verbindlichem Text, und genau deren Wortlaut müssen Gerichte und Bundesbehörden auslegen und durchsetzen. Fehler, die es in ein Gesetz schaffen, erfordern in der Regel neue Gesetzgebung zu ihrer Korrektur – die Aufräumarbeit des OLC ist damit faktisch die letzte Kontrollstelle, bevor Entwurfsfehler dauerhaft werden können.
Die Risiken sind nicht rein hypothetisch, berichtet Politico. Im Juni veröffentlichte das Büro der Abgeordneten Anna Paulina Luna (Republikanerin, Florida) eine Zusammenfassung eines Änderungsantrags, die noch den unbearbeiteten Chatbot-Satz „Claude responded“ enthielt. Luna räumte auf X ein: „Mein Team hat KI genutzt, um einen Entwurfstext zu korrigieren, und ihn anschließend nicht bearbeitet“ – eine Angabe, die damals Alarm auslöste.
Ari Hershowitz, ein Anwalt und Technologieexperte, der mit dem Büro daran gearbeitet hat, technische Werkzeuge in den Gesetzgebungsprozess zu integrieren, sagte, ohne Kontrollen sei das Vorgehen „ein garantierter Weg, tausende Fehler in unser Rechtssystem einzuschleusen“.
