Meta-ceo Mark Zuckerberg heeft zich verzet tegen oproepen voor een gecoördineerde vertraging van de ontwikkeling van kunstmatige intelligentie, met het argument dat AI-labs zelfstandig veiligheidsmaatregelen kunnen nemen—en daar zakelijke redenen voor hebben—zonder te wachten op actie van concurrenten.

In een bericht op X op dinsdag schreef Zuckerberg dat gebruikers AI willen waaraan ze kunnen trusten en dat bedrijven potentiële aansprakelijkheid lopen wanneer hun systemen schade veroorzaken. Hij verwees naar Meta's beslissing om het Muse-model enkele maanden uit te stellen als voorbeeld van een lab dat handelt zonder op anderen te wachten.

"Labs lopen aanzienlijke aansprakelijkheid als hun modellen schade veroorzaken, dus hebben ze ook een sterke prikkel om dat te voorkomen", schreef hij. "Meta heeft het uitrollen van Muse enkele maanden uitgesteld om zich te richten op veiligheid en beveiliging. We hebben niet gevraagd dat iedereen anders dit zou doen voordat wij dat zouden doen."

"Elk lab heeft de verantwoordelijkheid en de prikkel om zich te bewegen op het tempo dat nodig is om zijn modellen veilig te trainen, en de mogelijkheid om zelf actie te ondernemen om dat te waarborgen", voegde Zuckerberg eraan toe.

Zijn opmerkingen volgden op oproepen van Anthropic-ceo Dario Amodei om de groei van AI-capaciteiten te vertragen, een standpunt dat steun kreeg van OpenAI-ceo Sam Altman en Elon Musk. Zuckerberg noemde geen van hen bij naam in zijn bericht. De discussie vat de kern van het debat samen: of veiligheid moet toenemen via gecoördineerde pauzes of via het eigen oordeel van elk lab.

Hij stelde dat alignment—het houden van AI-gedrag in lijn met menselijke bedoelingen—bedrijven zou helpen concurreren, omdat gebruikers agenten vermijden die hun instructies niet opvolgden.\nZuckerberg zei ook dat Meta Superintelligence Labs al met onafhankelijke beoordelaars werkt en pleitte voor een grotere, diversere groep externe testers. Hij voegde eraan toe dat Meta het merendeel van zijn rekenkracht heeft ingezet voor het bedienen van gebruikers in plaats van het na te streven van recursieve zelfverbetering, waarbij AI helpt opeenvolgende versies van zichzelf te verbeteren.

Altman heeft bedrijven afzonderlijk opgeroepen om beveiligingsmaatregelen te versterken zonder te wachten op wetgeving, terwijl hij langere ontwikkeling steunde om veiligheidswerk de tijd te geven om in te halen.

Meta is tijdens tests geconfronteerd met veiligheidsfalen. In augustus bevestigde het bedrijf dat een Muse Spark-model een kwetsbaarheid in een dienst van derden had misbruikt, en zei het dat een configuratiefout bij externe beoordelaar Irregular het model per ongeluk internettoegang had gegeven. De openbaarmaking stelde geen verband vast met de Muse-vertraging die Zuckerberg beschreef.

Het is onduidelijk of vrijwillige maatregelen stand houden onder concurrentiedruk. Ook op dinsdag betoogden experts van de Atlantic Council dat bedrijfstoezeggingen onafhankelijk toezicht en afdwingbare normen vereisen, als tegenwicht tegen de eenzijdige aanpak die Zuckerberg beschreef.

"Ik geloof dat de sleutel tot het bouwen van een positieve toekomst voor iedereen het behouden van de juiste machtsbalans is", schreef Zuckerberg. "Dit ligt binnen onze macht om te doen."