Libertariański Cato Institute ostrzega, że wymuszona przez rząd przerwa w rozwoju sztucznej inteligencji mogłaby chronić dominujące firmy przed konkurencją i opóźniać korzystne technologie — ostrzeżenie pojawiło się w momencie, gdy ustawodawcy i szefowie firm AI domagają się nowych ograniczeń w tej branży. Sposób, w jaki Waszyngton ostatecznie zdecyduje się regulować tę technologię, może ukształtować nie tylko to, jak nadzorowane będzie bezpieczeństwo, ale także to, które firmy w ogóle będą mogły tworzyć i wdrażać systemy AI.

W wpisie na blogu opublikowanym w poniedziałek Jennifer Huddleston, badaczka polityki technologicznej w tym think tanku, argumentowała, że firmy mogą radzić sobie z konkretnymi zagrożeniami poprzez dobrowolne zabezpieczenia i wspólne standardy, bez zatrzymywania rozwoju całej branży.

„Wymuszona przez rząd przerwa wzbudziłaby szereg obaw i prawdopodobnie nie spełniłaby obiecywanych poprawek w zakresie bezpieczeństwa” — napisała, dodając, że przepisy rządowe powstają powoli, a zmieniają się jeszcze wolniej. „Ramy regulacyjne zbudowane dla dzisiejszych modeli mogątywnie utrudniać modele jutrzejsze, uniemożliwiając lepsze lub bezpieczniejsze rozwiązania.”

Huddleston przyznaje, że AI niesie ryzyko, ale ostrzega, że przepisy kształtowane wokół wiodących deweloperów mogłyby pomóc im skonsolidować władzę i ograniczyć konkurencję — formę przejęcia rynku, która utrudniłaby mniejszym firmom konkurowanie. Argumentowała również, że wstrzymanie rozwoju w USA mogłoby osłabić cyberbezpieczeństwo kraju, podczas gdy zagraniczni rywale będą dalej się rozwijać.

Jej komentarz następuje po propozycji senatora Berniego Sandersa, niezależnego z Vermontu, i kongresmena Grega Casara, demokraty z Teksasu, aby wstrzymać rozwój zaawansowanego AI do momentu ustanowienia federalnych standardów bezpieczeństwa oraz aby trwale zakazać sztucznej superinteligencji — hipotetycznego systemu zdolnego dorównać lub przewyższyć ludzkie osiągnięcia w większości zadań poznawczych. Postulaty świadomego spowolnienia pojawiały się już wcześniej: w marcu 2023 roku otwarty list zorganizowany przez Future of Life Institute, podpisany przez tysiące osób, w tym Elona Muska, wzywał laboratoria AI do wstrzymania na co najmniej sześć miesięcy trenowania systemów potężniejszych niż GPT-4. Tymczasem dyrektor generalny OpenAI Sam Altman popiera wolniejszy rozwój i wzywa firmy do wzmacniania zabezpieczeń bez czekania na federalne przepisy, których sam sobie życzy.

„Wiele z tych wezwań towarzyszy scenariuszom zagłady rodem z science fiction o najgorszym, co mogłoby się wydarzyć” — napisała Huddleston. „Tymczasem pośpieszna regulacja ze strachu mogłaby przynieść dłuższe negatywne skutki niż ryzyko, które rzekomo ma adresować.”

Jack Dorsey, przewodniczący i współzałożyciel Blocka oraz współzałożyciel Twittera, wyraził podobne obawy dotyczące konkurencji we wpisie na X w poniedziałek.

„Firmy prowadzące w dziedzinie inteligencji maszynowej zasługują na to, by ich usłyszano. Mają wiedzę ekspercką i interesy komercyjne do ochrony” — napisał Dorsey. „Przepisy zbudowane wokół ich zasobów mogłyby sprawić, że to właśnie one będą jedynymi zdolnymi do uczestnictwa. Szczera troska o bezpieczeństwo nadal może stworzyć barierę wejścia.”

Dorsey powiedział, że opowiada się za otwartymi publikacjami modeli, które badacze mogą sprawdzać, modyfikować i testować, z publikacją ocen i znanych ograniczeń, aby osoby z zewnątrz mogły kwestionować deklaracje deweloperów o bezpiestwie.

„Popieram kontrolę. Sprzeciwiam się ograniczeniom dla całej branży negocjowanym przez dzisiejszych liderów, ponieważ mogłyby wykluczyć osoby, które mogłyby ujawnić awarie lub tworzyć alternatywy” — napisał. „Zachowywanie przewagi komercyjnej firmy nie jest celem związanym z bezpieczeństwem.”

Dorsey powiedział również, że popiera niezależne testy i egzekwowanie prawa z rozliczalnością publiczną, w tym wstrzymywanie modeli, gdy dowody wskazują, że ich publikacja istotnie zwiększałaby ryzyko katastrofalne, którego węższe środki nie potrafią odpowiednio zaadresować.

„Moc obliczeniowa może wywołać kontrolę bez limitowania rozwoju. Badanie nie jest pozwoleniem od regulatora ani konkurenta” — powiedział. „Nie chcę ogólnych wymogów zatwierdzenia ani okresów oczekiwania. Każde narzucone opóźnienie publikacji ze względów bezpieczeństwa musi być uzasadnione wyjątkiem dotyczącym ryzyka katastrofalnego.”

Debata o tym, jak zarządzać AI, pozostaje nierozstrzygnięta. Niedawna analiza Atlantic Council argumentuje, że presja konkurencyjna wymaga egzekwowalnych standardów bezpieczeństwa AI, podczas gdy nieufność między Stanami Zjednoczonymi a Chinami komplikuje porozumienia międzynarodowe. Współpraca między deweloperami budzi też obawy antymonopolowe: OpenAI zapytała ustawodawców, czy konkurencyjni deweloperzy mogą zgodnie z prawem uzgodnić spowolnienie rozwoju. To, czy federalne standardy bezpieczeństwa w ogóle powstaną, i to, jak regulatorzy ostatecznie potraktują koordynację między deweloperami, pomoże ukształtować kolejną fazę tej debaty.