Het libertaire Cato Institute waarschuwt dat een door de overheid opgelegde pauze in de ontwikkeling van kunstmatige intelligentie dominante bedrijven zou kunnen beschermen tegen concurrentie en nuttige technologie zou kunnen vertragen, een waarschuwing die klinkt nu wetgevers en AI-bestuurders pleiten voor nieuwe beperkingen op de sector. Hoe Washington er uiteindelijk voor kiest om de technologie te reguleren, zou niet alleen bepalen hoe de veiligheid wordt bewaakt, maar ook welke bedrijven überhaupt AI-systemen kunnen bouwen en inzetten.

In een blogpost die maandag werd gepubliceerd, betoogde Jennifer Huddleston, technologierechtbegeleerde aan het denkwinkel, dat bedrijven specifieke gevaren kunnen aanpakken via vrijwillige waarborgen en gedeelde normen, zonder de ontwikkeling in de hele sector stil te leggen.

“Een door de overheid opgelegde pauze zou verschillende zorgen opleveren en zou waarschijnlijk niet voldoen aan de beloofde veiligheidsverbeteringen”, schreef ze, eraan toevoegend dat overheidsregels traag worden opgesteld en nog trager worden aangepast. “Een reguleringskader dat is gebouwd voor de modellen van vandaag kan de modellen van morgen juist actief hinderen, en voorkomen wat betere of veiligere oplossingen zou kunnen zijn.”

Huddleston erkent de risico's van AI, maar waarschuwt dat regels die rond toonaangevende ontwikkelaars zijn vormgegeven hen zouden kunnen helpen hun macht te consoliden en concurrentie te beperken—een vorm van marktvorming die het voor kleinere bedrijven moeilijker zou maken om te concurreren. Ze voert ook aan dat een pauze in de Amerikaansewikkeling de cyberveiligheidsverdediging van het land zou kunnen verzwakken terwijl buitenlandse rivalen doorgaan met vorderen.

Haar commentaar volgt op een voorstel van de onafhankelijke senator uit Vermont, Bernie Sanders, en de Democratische afgevaardigde uit Texas, Greg Casar, om geavanceerde AI-ontwikkeling te pauzeren tot federale veiligheidsnormen zijn vastgesteld en om kunstmatige superintelligentie permanent te verbieden—een hypothetisch systeem dat menselijke prestaties in de meeste cognitieve taken kan evenaren of overtreffen. Oproepen tot een doordachte vertraging zijn eerder geuit: in maart 2023 riep een open brief, georganiseerd door het Future of Life Institute en ondertekend door duizenden mensen, waaronder Elon Musk, AI-labs op om de training van systemen krachtiger dan GPT-4 ten minste zes maanden te pauzeren. OpenAI-ceo Sam Altman heeft inmiddels een langzamere ontwikkeling gesteund en bedrijven opgeroepen om waarborgen te versterken zonder te wachten op de federale regels die hij ondersteunt.

“Veel van deze oproepen gaan gepaard met sciencefictionachtige doemscenario's over het ergste dat kan gebeuren”, schreef Huddleston. “Toch kan een haastige regulering uit angst langduriger negatieve gevolgen hebben dan het risico waarop ze zich richt.”

Jack Dorsey, voorzitter en medeoprichter van Block en medeoprichter van Twitter, uiteende maandag vergelijkbare zorgen over concurrentie in een bericht op X.

“De bedrijven die aan het roer staan van machine-intelligentie verdienen gehoord te worden. Ze hebben expertise en commerciële belangen te beschermen”, schreef Dorsey. “Regels die rond hun middelen zijn gebouwd, zouden ervoor kunnen zorgen dat zij de enigen zijn die kunnen deelnemen. Een oprechte zorg om veiligheid kan nog steeds een toetredingsdrempel creëren.”

Dorsey zei dat hij open releases verkiest die onderzoekers kunnen inspecteren, aanpassen en testen, met gepubliceerde evaluaties en bekende beperkingen, zodat buitenstaanders de veiligheidsclaims van ontwikkelaars kunnen toetsen.

“Ik steun kritische controle. Ik ben tegen sectorbrede beperkingen die door de huidige koplopers zijn onderhandeld, omdat die mensen zouden kunnen uitsluiten die fouten aan het licht zouden kunnen brengen of alternatieven zouden kunnen bouwen”, schreef hij. “Het behoud van het commerciële voordeel van een bedrijf is geen veiligheidsdoel.”

Dorsey zei ook onafhankelijke testing en openbaar verantwoorde handhaving te steunen, waaronder het inhouden van modellen wanneer bewijs aantoont dat hun vrijlating catastrofale ris's wezenlijk zou vergroten die met beperktere maatregelen niet adequaat kunnen worden aangepakt.

“Rekenkrant kan tot controle leiden zonder ontwikkeling te beperken. Onderzoek is geen toestemming van een toezichthouder of concurrent”, zei hij. “Ik wil geen algemene goedkeuringseisen of wachttijden. Elke opgelegde veiligheidsvertraging van publicatie moet worden gerechtvaardigd door de uitzondering voor catastrofaal risico.”

Het debat over hoe AI moet worden gereguleerd is nog niet beslist. Een recente analyse van de Atlantic Council betoogt dat concurrentiedruk afdwingbare AI-veiligheidsnormen vereist, terwijl wantrouwen tussen de Verenigde Staten en China internationale overeenkomsten bemoeilijkt. Samenwerking tussen ontwikkelaars roept ook antitrustvragen op: OpenAI heeft wetgevers gevraagd of rivaliserende ontwikkelaars wettelijk zouden kunnen overeenkomen de ontwikkeling te vertragen. Of er überhaupt federale veiligheidsnormen worden opgesteld, en hoe toezichthouders uiteindelijk omgaan met coördinatie tussen ontwikkelaars, zullen helpen bepalen wat de volgende fase van het debat wordt.