L’Attorney General del New Mexico Raúl Torrez, il cui ufficio ha ottenuto il primo verdetto di una giuria contro Meta per la sicurezza dei minori negli Stati Uniti, ha detto a Fortune che il patteggiamento raggiunto questa settimana da Meta con altri 51 attorney general statali non va altrettanto lontano delle tutele che il suo Stato ha già ottenuto in tribunale.

“Ci auguravamo che un patteggiamento nazionale potesse rispecchiare la piena forza delle protezioni che il New Mexico ha ottenuto in tribunale — compreso un divieto diretto delle interazioni romantiche e sessualizzate dei chatbot AI con i minori e tutele più forti contro gli adulti che prendono di mira i bambini nei messaggi privati”, ha detto Torrez a Fortune. “Ma questo patteggiamento rappresenta comunque un progresso reale e aggiunge slancio per portare a termine il lavoro di proteggere i bambini online.”

Il disaccordo segna una frattura notevole in un fronte altrimenti compatto. Torrez è nella posizione ideale per fare il confronto, perché il New Mexico è l’unico luogo in cui un tribunale, e non un patteggiamento, ha già stabilito ciò che Meta deve ai bambini.

L’ufficio di Torrez ha ottenuto un verdetto della giuria contro Meta a marzo, quando una giuria di Santa Fe ha ritenuto la società responsabile di 75,000 violazioni della legge statale sulla tutela dei consumatori e le ha ordinato di pagare 375 milioni di dollari in sanzioni civili. Ad agosto, un giudice ha aggiunto altri 567 milioni di dollari dopo aver stabilito che Meta aveva creato un “public nuisance” simile all’inquinamento atmosferico, portando il totale del New Mexico contro la società a circa 942 milioni di dollari.

Nonostante ciò, Torrez ha definito storico l’accordo di questa settimana. “Il New Mexico è stato il primo Stato a portare Meta a processo per il danno che le sue piattaforme causano ai bambini, e siamo incoraggiati nel vedere che questa battaglia si traduce ora in un patteggiamento nazionale”, ha detto Torrez. “È la prova degli attorney general di tutto il Paese, di entrambi i partiti, che si sono uniti e hanno rifiutato di lasciare che questa società la facesse franca.”

Gli esperti di sicurezza online dei minori concordano

Meta ha accettato di pagare fino a 18 miliardi di dollari nel prossimo decennio e di cambiare il funzionamento di Facebook e Instagram per chiunque abbia meno di 18 anni, chiudendo la causa intentata dalla coalizione dei 51 Stati, che accusava la società di aver progettato le proprie piattaforme per creare dipendenza nei bambini. L’accordo, ancora soggetto all’approvazione del tribunale, prevede un limite giornaliero predefinito di due ore, un blocco notturno tra mezzanotte e le 6 del mattino, notifiche silenziate durante l’orario scolastico, conteggi dei like nascosti, il divieto di filtri per la chirurgia estetica e il make-up estremo, verifiche dell’età più rigorose e un revisore indipendente per controllare la conformità di Meta per cinque anni. L’ufficio dell’Attorney General della California Rob Bonta, che ha guidato il caso, non ha ancora risposto alla richiesta di commento di Fortune oltre alle sue dichiarazioni pubbliche. Anche TikTok e YouTube non hanno risposto alle richieste di commento, nonostante Meta abbia pubblicamente chiesto a entrambe le società di adottare le stesse restrizioni in una lettera aperta pubblicata lo stesso giorno del patteggiamento.

In una dichiarazione a Fortune, il Chief Legal Officer di Meta C.J. Mahoney ha detto che la società stava chiedendo a TikTok e YouTube di assumere gli stessi impegni.

“Sono lieto di annunciare che Meta ha raggiunto un accordo con un gruppo bipartisan di attorney general statali di tutto il Paese su una nuova serie di regole che disciplinano l’uso dei social media da parte degli adolescenti”, ha detto Mahoney. “Poiché gli adolescenti si spostano con fluidità tra decine di app, abbiamo bisogno di una soluzione che coinvolga l’intero settore. Per questo chiediamo ai nostri pari del settore, TikTok e YouTube, di implementare subito questo nuovo quadro. Come genitore, sono orgoglioso sia del lavoro svolto storicamente da Meta per proteggere i bambini, sia di questo nuovo accordo innovativo. Ma il suo successo dipende dal fatto che tutte le altre piattaforme social seguano l’esempio di Meta.”

Il gruppo di tutela dei minori Fairplay ha definito l’accordo “un momento di svolta per il movimento in crescita volto a proteggere i bambini dai social media progettati in modo dipendente e pericoloso”, indicando le protezioni sul sonno, come il blocco notturno, come “il più significativo provvedimento inibitorio finora ottenuto da Meta”. Ma la sua dichiarazione ha rapidamente richiamato la stessa lacuna evidenziata da Torrez.

“Siamo delusi dal fatto che il patteggiamento non disattivi per impostazione predefinita gli algoritmi di raccomandazione che collegano i bambini ai predatori e trascinano i giovani in pericolose spirali”, ha affermato il gruppo. “In generale, il patteggiamento è troppo concentrato nel fornire strumenti ai genitori invece di limitare le funzionalità dannose. Si affida inoltre molto all’idea di spingere gli utenti a fare pause, e siamo scettici sul fatto che ciò sarà efficace. E persino le sanzioni economiche — pur essendo le più elevate mai affrontate da Meta — non sono abbastanza grandi da cambiare in modo fondamentale la sua incessante attenzione verso i giovani.”

Fairplay ha collegato la sua critica a una richiesta legislativa specifica: un voto in aula sul Kids Online Safety Act, o KOSA, rimasto bloccato per anni al Congresso nonostante, secondo il gruppo, il sostegno di oltre tre quarti del Senato degli Stati Uniti. “Come hanno dimostrato più e più volte i documenti interni, Meta e altre società di social media progettano deliberatamente i loro prodotti per creare dipendenza nei bambini, e questa è la causa principale di tante difficoltà di salute mentale e di gravi danni online per i minori”, ha affermato il gruppo.

Il Center for Democracy and Technology ha detto che risolvere un problema ne crea un altro. “Meta ha accettato di implementare diverse modifiche sulle proprie piattaforme come parte del patteggiamento con 52 attorney general statali”, ha detto in una nota Kate Ruane, direttrice del Free Expression Project del gruppo. “Nell’ambito di quell’accordo, Meta sta fornendo strumenti per aiutare le famiglie a prendere le proprie decisioni sull’esperienza online e sul tempo di schermo dei bambini: dare ai bambini e ai loro genitori più scelta e controllo è positivo. Ma vediamo anche il potenziale di rischi significativi per la privacy e i diritti alla libertà di espressione di tutti online, soprattutto per il modo in cui questo patteggiamento sottoporrà tutti gli utenti a un’invasiva verifica dell’età e limiterà l’accesso di tutti i bambini a contenuti e servizi indipendentemente dalle loro esigenze individuali. Continueremo a esaminare il patteggiamento e ne monitoreremo da vicino l’attuazione.”

Il desiderio di controlli dell’età più rigorosi e la preoccupazione per ciò che tali controlli richiedono a tutti gli altri hanno definito quest’anno il più ampio dibattito su bambini e social media, mentre le piattaforme ricorrono a scansioni facciali, caricamenti di documenti d’identità e altri strumenti biometrici per capire chi sia minorenne. La maggior parte degli americani non si fida che tutto ciò funzioni davvero, e le cronache mostrano che i bambini trovano modi per aggirare i controlli esistenti, anche disegnando i peli del viso per ingannare i software di stima dell’età. Lo stesso compromesso si sta manifestando all’estero: Australia, Regno Unito e Francia si sono tutte mosse quest’anno verso divieti dei social media per gli under 16, e ciascuna ha incontrato lo stesso problema descritto da Ruane: verificare l’età di un bambino tende a significare verificare quella di tutti.

Proteggere i bambini online senza compromettere la privacy

Phillip Yannella, co-responsabile della pratica privacy, sicurezza e protezione dei dati di Blank Rome, ha detto a Fortune che l’importanza del patteggiamento potrebbe stare meno nei termini specifici accettati da Meta che in ciò che segnala per Washington. “Il Congresso, che non ha fatto nulla sulla privacy da sempre, l’unico tema che gli sta davvero a cuore è la sicurezza dei bambini, e sembra che il KOSA stia andando avanti”, ha detto.

Yannella è stato però più cauto dei gruppi di tutela e di Torrez nel definire insufficienti le concessioni di Meta.

“Gli attivisti per la sicurezza dei minori e gli avvocati dei querelanti adotteranno una visione massimalista della sicurezza dei bambini, e immagino che suggeriranno che si potrebbe fare molto, molto di più”, ha detto. “Ma questo è un patteggiamento, e a volte non si vuole che il perfetto sia il nemico del buono. Questi sono passi nella giusta direzione, se li si guarda dal punto di vista della sicurezza dei bambini, che ieri non c’erano.” Ha aggiunto che l’accordo potrebbe segnare un punto di svolta oltre Meta: “Si potrebbe guardare a questo e dire che è davvero il primo domino a cadere, e che ci saranno molti altri cambiamenti in questo contesto, non solo per Meta, ma per tutti: TikTok e tutti gli altri.”

Julie Scelfo, fondatrice di Mothers Against Media Addiction, ha detto a Fortune che l’accordo era “una grande notizia con cui svegliarsi”, ma ben lontano dall’essere sufficiente. “Sebbene l’ammontare di questo patteggiamento sia significativo e storico, non si avvicina minimamente a rappresentare la piena entità dei danni che Meta ha causato”, ha detto Scelfo. “Non esiste una cifra al mondo che possa compensare la perdita di bambini per le famiglie americane, che non possiamo nemmeno quantificare, perché sono così tanti i bambini che hanno ricevuto messaggi dannosi o sono stati condotti lungo un percorso distruttivo, ma poiché è accaduto privatamente sul loro schermo, persino i familiari e i medici potrebbero non conoscere la fonte originaria.”

Scelfo ha sottolineato che il patteggiamento vale circa l’1% della capitalizzazione di mercato di Meta. “Sono stata francamente delusa nel vedere questa cifra”, ha detto. “Se si guarda alla dimensione del patteggiamento sul tabacco e al numero di persone che ne sono state danneggiate, e lo si confronta con questo, si vede che questa cifra è inadeguata.”

Ha anche espresso scetticismo sul fatto che l’appello pubblico di Meta a TikTok e YouTube affinché adottino regole analoghe rappresenti una vera leadership di settore. “È affascinante, no? Anche in questo caso, si tratta tutto di quota di mercato e del tentativo di minimizzare il danno per il loro risultato economico”, ha detto Scelfo. Alla domanda se altre piattaforme, comprese le società di videogiochi, adotteranno cambiamenti simili di propria iniziativa, ha indicato un modello che, a suo dire, risale a decenni fa. “La storia ci ha mostrato che queste società non si fermeranno davanti a nulla pur di massimizzare i profitti, e l’unica cosa che le ferma è una regolamentazione e un’applicazione adeguate”, ha detto, paragonandolo alle inchieste di Upton Sinclair sull’industria della carne e, in seguito, agli standard pubblicitari emersi solo dopo che i genitori si opposero alle pubblicità di cereali zuccherati rivolte ai bambini. “Le leggi sono sempre in ritardo rispetto all’arrivo di nuovi tipi di prodotti pericolosi.”

Quel ritardo è lo stesso che Fortune ha monitorato per mesi. La FTC si è ritirata dalla definizione di regole sui social media anche se quasi un bambino americano su cinque trascorre online più di quattro ore al giorno. A marzo il Congresso ha fatto avanzare il KOSA e l’App Store Accountability Act fuori commissione, per poi vederli entrambi fermarsi di nuovo. Ad aprile, oltre 200 gruppi e ricercatori per la tutela dei minori hanno scritto a YouTube chiedendo di fermare il contenuto “slop” generato dall’AI che invade YouTube Kids. Lo stesso mese Meta ha minacciato di ritirare le proprie app dal New Mexico piuttosto che rispettare l’ordine del tribunale statale ottenuto dall’ufficio di Torrez. A maggio, Fairplay e il National Center on Sexual Exploitation hanno chiesto alla FTC di indagare su Roblox per accuse simili. E pochi giorni prima dell’inizio del processo di Oakland questo mese, Torrez stava già redigendo nuova legislazione statale per estendere le tutele per i minori ai chatbot AI — la stessa categoria di danno che, secondo lui, il patteggiamento nazionale non copre.

Torrez, come Fairplay e Scelfo, è arrivato allo stesso punto: il Congresso.

“Una coalizione bipartisan di attorney general ha appena dimostrato che proteggere i bambini online non è una questione di parte; è una questione morale, e che persino un’azienda con le risorse di Meta può essere indotta a cambiare”, ha detto a Fortune. “Il Congresso ha osservato gli Stati portare avanti questo lavoro, una aula di tribunale alla volta, abbastanza a lungo. Genitori e famiglie sono stanchi di aspettare e non dovrebbero continuare a battere i lobbisti dell’industria tecnologica Stato per Stato per tenere al sicuro i loro figli. Il Congresso ha il potere di portare a termine ciò che questi patteggiamenti hanno iniziato e di trasformare queste tutele nella legge del Paese per ogni bambino in America.”

Questo articolo è apparso originariamente su Fortune.com