New Mexicos Generalstaatsanwalt Raúl Torrez, dessen Behörde in den USA das erste Jury-Urteil gegen Meta wegen Kindersicherheit erstritten hat, sagte Fortune, dass die diese Woche mit 51 anderen Generalstaatsanwälten geschlossene Einigung nicht so weit gehe wie die Schutzmaßnahmen, die sein Bundesstaat bereits vor Gericht durchgesetzt habe.

„Wir hatten gehofft, ein landesweiter Vergleich könnte die volle Stärke der in New Mexico vor Gericht gesicherten Schutzmaßnahmen widerspiegeln – einschließlich eines direkten Verbots romantischer und sexualisierter Interaktionen von KI-Chatbots mit Minderjährigen und stärkerer Schutzmaßnahmen gegen Erwachsene, die Kinder in privaten Nachrichten ansprechen“, sagte Torrez gegenüber Fortune. „Aber dieser Vergleich bedeutet dennoch echten Fortschritt und verleiht Schwung, die Arbeit zum Schutz von Kindern online zu Ende zu bringen.“

Der Streit zeigt eine bemerkenswerte Kluft in einer sonst geschlossenen Front. Torrez ist in besonderer Weise geeignet, den Vergleich zu ziehen, da New Mexico der einzige Ort ist, an dem ein Gericht und nicht ein Vergleich bereits darüber entschieden hat, was Meta Kindern schuldet.

Torrez’ Büro gewann im März ein Jury-Urteil gegen Meta, als eine Jury in Santa Fe das Unternehmen für 75.000 Verstöße gegen das Verbraucherschutzgesetz des Bundesstaats haftbar machte und ihm zivilrechtliche Strafzahlungen in Höhe von 375 Millionen US-Dollar auferlegte. Im August kamen weitere 567 Millionen US-Dollar hinzu, nachdem ein Richter entschieden hatte, Meta habe eine „öffentliche Belästigung“ geschaffen, ähnlich wie Luftverschmutzung. Damit beläuft sich New Mexicos Forderung gegen das Unternehmen auf rund 942 Millionen US-Dollar.

Dennoch bezeichnete Torrez den dieswöchigen Deal als historisch. „New Mexico war der erste Bundesstaat, der Meta wegen der Schäden vor Gericht gestellt hat, die seine Plattformen Kindern zufügen, und wir begrüßen es, dass dieser Kampf nun in einen landesweiten Vergleich mündet“, sagte Torrez. „Das ist ein Beleg für die Generalstaatsanwälte im ganzen Land, aus beiden Parteien, die zusammengekommen sind und sich geweigert haben, dieses Unternehmen davonkommen zu lassen.“

Meta erklärte sich bereit, über das nächste Jahrzehnt bis zu 18 Milliarden US-Dollar zu zahlen und die Funktionsweise von Facebook und Instagram für alle unter 18 Jahren zu ändern. Damit wurde die von der 51-Bundesstaaten-Koalition eingereichte Klage beigelegt, in der dem Unternehmen vorgeworfen wurde, seine Plattformen so gestaltet zu haben, dass sie für Kinder süchtig machend wirken. Die Vereinbarung, die noch der gerichtlichen Genehmigung bedarf, sieht standardmäßig ein tägliches Zeitlimit von zwei Stunden, eine Sperre zwischen Mitternacht und 6 Uhr morgens, stummgeschaltete Benachrichtigungen während des Schultags, verborgene Like-Zahlen, ein Verbot von Filtern für Schönheitsoperationen und extremem Make-up, strengere Altersverifikation sowie einen unabhängigen Prüfer vor, der Metas Einhaltung fünf Jahre lang überwachen soll.

Das Büro des kalifornischen Generalstaatsanwalts Rob Bonta, das den Fall führte, hatte auf Fortunes Bitte um Stellungnahme über seine öffentlichen Erklärungen hinaus noch nicht reagiert. Auch TikTok und YouTube reagierten nicht auf Anfragen um Stellungnahme, obwohl Meta beide Unternehmen öffentlich dazu aufgerufen hatte, dieselben Beschränkungen zu übernehmen, in einem am selben Tag wie der Vergleich veröffentlichten offenen Brief.

In einer Stellungnahme gegenüber Fortune sagte Metas Chefjustiziar C.J. Mahoney, das Unternehmen fordere TikTok und YouTube auf, dieselben Zusagen zu machen.

„Ich freue mich, bekannt zu geben, dass Meta mit einer überparteilichen Gruppe von Generalstaatsanwälten aus dem ganzen Land eine Einigung über neue Regeln für die Nutzung sozialer Medien durch Jugendliche erzielt hat“, sagte Mahoney. „Da Jugendliche nahtlos zwischen Dutzenden von Apps wechseln, brauchen wir eine branchenweite Lösung. Deshalb rufen wir unsere Branchenkollegen TikTok und YouTube auf, diesen neuen Rahmen unverzüglich umzusetzen. Als Elternteil bin ich stolz auf die Arbeit, die Meta historisch zum Schutz von Kindern geleistet hat, und auf diese neue bahnbrechende Vereinbarung. Ihr Erfolg hängt jedoch davon ab, dass alle anderen Social-Media-Plattformen Metas Beispiel folgen.“

Die Kinderschutzorganisation Fairplay nannte den Deal in einer Stellungnahme gegenüber Fortune „einen Wendepunkt für die wachsende Bewegung, Kinder vor süchtig machenden und gefährlich gestalteten sozialen Medien zu schützen“, und verwies auf Schlafschutzmaßnahmen wie die nächtliche Sperre als „die bislang bedeutendste gerichtliche Unterlassungsmaßnahme gegen Meta“. Die Erklärung griff jedoch rasch die gleiche Lücke auf, die Torrez angesprochen hatte.

„Wir sind enttäuscht, dass der Vergleich Empfehlungsalgorithmen nicht standardmäßig deaktiviert, die Kinder mit Tätern verbinden und junge Menschen in gefährliche Gedankenspiralen ziehen“, sagte die Gruppe. „Im Allgemeinen konzentriert sich der Vergleich zu sehr darauf, Eltern Werkzeuge an die Hand zu geben, statt schädliche Funktionen zu beschränken. Er setzt außerdem stark darauf, Nutzer zu Pausen zu bewegen, und wir sind skeptisch, dass das wirksam sein wird. Und selbst die finanziellen Strafen – obwohl sie die bislang höchsten gegen Meta sind – reichen nicht aus, um Metas unerbittliches Zielen auf Jugendliche grundlegend zu verändern.“

Fairplay verband seine Kritik direkt mit einer konkreten Forderung: einer Abstimmung im Plenum über den Kids Online Safety Act (KOSA), der im Kongress seit Jahren feststeckt, obwohl die Gruppe sagt, mehr als drei Viertel des US-Senats unterstützten ihn. „Wie interne Dokumente immer und immer wieder gezeigt haben, gestalten Meta und andere Social-Media-Unternehmen ihre Produkte absichtlich so, dass sie Kinder süchtig machen, und das ist die Grundursache für so viele psychische Probleme und ernsthafte Online-Schäden für Minderjährige“, sagte die Gruppe.

Das Center for Democracy and Technology sagte, die Behebung eines Problems schaffe ein anderes. „Meta hat sich im Rahmen seines Vergleichs mit 52 Generalstaatsanwälten der Bundesstaaten bereit erklärt, mehrere Änderungen auf seinen Plattformen umzusetzen“, sagte Kate Ruane, Direktorin des Free Expression Project der Gruppe, in einer Stellungnahme. „Im Rahmen dieser Vereinbarung stellt Meta Werkzeuge bereit, die Familien helfen sollen, eigene Entscheidungen über das Online-Erlebnis und die Bildschirmzeit von Kindern zu treffen – mehr Wahlmöglichkeiten und Kontrolle für Kinder und ihre Eltern sind positiv. Wir sehen aber auch die potenziellen erheblichen Risiken für die Privatsphäre und die Rechte auf freie Meinungsäußerung aller Nutzer online, insbesondere durch die Art und Weise, wie dieser Vergleich alle Nutzer einer invasiven Altersprüfung unterwirft und allen Kindern den Zugang zu Inhalten und Diensten ungeachtet ihrer individuellen Bedürfnisse beschränkt. Wir werden den Vergleich weiterhin prüfen und seine Umsetzung genau beobachten.“

Der Wunsch nach strengeren Altersprüfungen und die Sorge darüber, was diese Prüfungen für alle anderen bedeuten, haben den breiteren Streit über Kinder und soziale Medien in diesem Jahr geprägt, da Plattformen auf Gesichtsscans, ID-Uploads und andere biometrische Werkzeuge setzen, um Minderjährige zu identifizieren. Die meisten Amerikaner trauen dem nicht zu, dass es tatsächlich funktioniert, und Berichte zeigen, dass Kinder Wege finden, bestehende Prüfungen zu umgehen, darunter das Zeichnen von Gesichtsbehaarung, um Alters-Schätzsoftware zu täuschen. Dieselbe Abwägung spielt sich im Ausland ab: Australien, das Vereinigte Königreich und Frankreich sind in diesem Jahr alle in Richtung Social-Media-Verbote für Unter-16-Jährige gegangen, und alle stießen auf dasselbe von Ruane beschriebene Problem: Das Alter eines Kindes zu verifizieren bedeutet meist, das Alter aller zu verifizieren.

Kinder online schützen, ohne die Privatsphäre zu beeinträchtigen

Phillip Yannella, Co-Vorsitzender der Praxis für Privacy, Security and Data Protection bei Blank Rome, sagte Fortune, die Bedeutung des Vergleichs liege möglicherweise weniger in den von Meta akzeptierten Details als darin, was er für Washington signalisiere. „Der Kongress, der seit Ewigkeiten nichts zum Thema Datenschutz getan hat, interessiert sich bei einem Thema tatsächlich, nämlich der Sicherheit von Kindern, und es sieht so aus, als ob KOSA vorankommt“, sagte er.

Yannella war jedoch vorsichtiger als die Interessengruppen und Torrez, wenn es darum ging, Metas Zugeständnisse als unzureichend zu bezeichnen.

„Befürworter der Kindersicherheit und Klägeranwälte werden eine maximalistische Sicht auf Kindersicherheit einnehmen, und ich würde vermuten, dass sie sagen würden, es könnte noch viel, viel mehr getan werden“, sagte er. „Aber es handelt sich um einen Vergleich, und manchmal sollte das Perfekte nicht der Feind des Guten sein. Das sind Schritte in die richtige Richtung, wenn man es aus der Perspektive der Kindersicherheit betrachtet, die es gestern noch nicht gab.“ Er fügte hinzu, der Deal könne über Meta hinaus zu einem Wendepunkt werden: „Man könnte das so betrachten, dass wirklich der erste Dominostein gefallen ist und es in diesem Umfeld noch viele weitere Veränderungen geben wird, nicht nur für Meta, sondern für alle: TikTok und alle anderen.“

Julie Scelfo, Gründerin von Mothers Against Media Addiction, sagte Fortune, die Einigung sei „großartige Nachricht, mit der man aufwachen kann“, gehe aber bei Weitem nicht weit genug. „Auch wenn die Summe dieses Vergleichs bedeutend und historisch ist, kommt sie nicht annähernd an das heran, was den gesamten Umfang der Schäden betrifft, die Meta verursacht hat“, sagte Scelfo. „Es gibt auf der Welt keine Zahl, die den Verlust von Kindern für amerikanische Familien ausgleichen könnte – wir können ihn nicht einmal beziffern, weil so viele Kinder schädlichen Botschaften ausgesetzt waren oder auf einen zerstörerischen Weg geführt wurden, aber weil dies privat auf ihrem eigenen Bildschirm geschah, wissen selbst Familienmitglieder und Ärzte möglicherweise nicht, woher es ursprünglich kam.“

Scelfo verwies darauf, dass der Vergleich rund 1 % von Metas Marktkapitalisierung entspreche. „Ich war ehrlich gesagt enttäuscht, diese Zahl zu sehen“, sagte sie. „Wenn man die Größe des Tabakvergleichs und die Zahl der dort Geschädigten betrachtet und das mit diesem Fall vergleicht, sieht man, dass diese Summe unzureichend ist.“

Sie bezweifelte auch, dass Metas öffentlicher Aufruf an TikTok und YouTube, ähnliche Regeln zu übernehmen, echte Branchenführerschaft darstellt. „Es ist faszinierend, oder? Auch hier geht es wieder um Marktanteile und darum, den Schaden für das Ergebnis so gering wie möglich zu halten“, sagte Scelfo.

Auf die Frage, ob andere Plattformen, darunter Gaming-Unternehmen, ähnliche Änderungen aus eigenem Antrieb vornehmen würden, verwies sie auf ein Muster, das nach ihrer Darstellung Jahrzehnte zurückreiche. „Die Geschichte hat uns gezeigt, dass diese Unternehmen vor nichts zurückschrecken werden, um ihre Gewinne zu maximieren, und dass nur eine angemessene Regulierung und Durchsetzung sie aufhält“, sagte sie und verglich die Situation mit Upton Sinclairs Enthüllungen über die Fleischverarbeitung und späteren Werbestandards, die erst entstanden, nachdem Eltern sich über auf Kinder zielende Werbung für zuckerhaltiges Müsli beschwert hatten. „Gesetze hinken der Entstehung neuer Arten gefährlicher Produkte immer hinterher.“

Diese Verzögerung ist dieselbe, die Fortune seit Monaten verfolgt. Die FTC zog sich aus der Regulierung sozialer Medien zurück, obwohl fast eines von fünf amerikanischen Kindern mehr als vier Stunden pro Tag online verbringt. Der Kongress brachte KOSA und den App Store Accountability Act im März aus den Ausschüssen voran, nur damit beide erneut festzustecken. Im April schrieben mehr als 200 Kinderschutzgruppen und Forschende an YouTube und forderten ein Vorgehen gegen von KI erzeugte „Slop“-Inhalte, die YouTube Kids überschwemmen. Im selben Monat drohte Meta, seine Apps ganz aus New Mexico abzuziehen, statt der von Torrez’ Büro erstrittenen Gerichtsanordnung nachzukommen. Im Mai baten Fairplay und das National Center on Sexual Exploitation die FTC, Roblox wegen ähnlicher Vorwürfe zu untersuchen. Und Tage bevor der Prozess in Oakland in diesem Monat begann, entwarf Torrez bereits neue bundesstaatliche Gesetze, um den Kinderschutz auf KI-Chatbots auszuweiten – dieselbe Schadenskategorie, die seiner Ansicht nach durch den nationalen Vergleich nicht erfasst wird.

Torrez, wie Fairplay und Scelfo, kam am Ende zum selben Punkt: dem Kongress.

„Eine überparteiliche Koalition von Generalstaatsanwälten hat gerade bewiesen, dass der Schutz von Kindern online keine parteipolitische Frage ist, sondern eine moralische, und dass sogar ein Unternehmen mit Metas Ressourcen zu Veränderungen gezwungen werden kann“, sagte er Fortune. „Der Kongress sieht seit langem zu, wie die Bundesstaaten diese Arbeit Gerichtssaal für Gerichtssaal leisten. Eltern und Familien haben das Warten satt, und sie sollten nicht weiter auf State-by-State-Ebene gegen die Lobbyisten der Tech-Branche ankämpfen müssen, um ihre Kinder zu schützen. Der Kongress hat die Macht, zu Ende zu bringen, was diese Vergleiche begonnen haben, und diese Schutzmaßnahmen für jedes Kind in Amerika zum Gesetz des Landes zu machen.“

Diese Geschichte erschien ursprünglich auf Fortune.com