Prezydent Donald Trump powiedział, że nie ma „żadnych obaw” związanych z możliwością doprowadzenia przez sztuczną inteligencję do wyginięcia ludzkości, podczas gdy badacze z OpenAI i Anthropic publicznie wyrazili poważne obawy dotyczące ryzyka związanego z szybkim rozwojem systemów AI.

Zapytany w czwartek, czy AI może doprowadzić do wyginięcia ludzkości, Trump odpowiedział: „Nie, nie mam żadnych”. Powiedział, że jego głównym zmartwieniem jest zapewnienie Stanom Zjednoczonym zwycięstwa w wyścigu technologicznym z Chinami.

„Obawiam się, że jeśli nie wygramy wyścigu AI, znajdziemy się w bardzo trudnej sytuacji” — powiedział Trump dziennikarzom. Dodał, że jego zdaniem USA wyprzedzają obecnie Chiny o około rok.

Komentarze te padły w czasie, gdy pracownicy i badacze dwóch czołowych firm zajmujących się AI ostrzegali, że rozwój może postępować zbyt szybko, aby środki bezpieczeństwa mogły za nim nadążyć. Sprzeczne priorytety stawiają w centrum debaty tempo rozwoju AI oraz zakres zabezpieczeń.

Badacze wyrażają obawy dotyczące rekurencyjnego samodoskonalenia

We wtorek badacz Anthropic Jacob Coxon poinformował, że odchodzi z firmy. Coxon powiedział, że Anthropic i OpenAI „ryzykują naszym życiem”, twierdząc, że osoby budujące AI uważają, iż technologia może „zabić nas wszystkich do końca dekady”. Inni pracownicy obu firm wyrażali podobne obawy.

Jedną z głównych obaw badaczy zajmujących się bezpieczeństwem AI jest rekurencyjne samodoskonalenie, czyli RSI. Termin ten odnosi się do scenariusza, w którym model AI zyskuje zdolność poprawiania własnego działania bez pomocy człowieka.

Jasmine Wang, badaczka alignmentu w OpenAI, napisała w środę wieczorem: „Trudno przecenić, jak niebezpieczne jest przyspieszanie w kierunku RSI”.

Główny naukowiec OpenAI, Jakub Pachocki, w sobotę również wyraził takie obawy. Powiedział, że ma „silne przekonanie”, iż rozwój AI może wejść w obszar rekurencyjnego samodoskonalenia.

„Obawiam się, że nikt nie jest przygotowany na konsekwencje dalszego, szybkiego wzrostu inteligencji maszyn” — powiedział Pachocki.

Kongres dąży do zwiększenia nadzoru nad AI

Ustawodawcy z obu partii zabiegają o zwiększenie nadzoru nad zaawansowanymi systemami AI. W lipcu Rep. Jay Obernolte i Rep. Lori Trahan ogłosili plany przedstawienia FRONTIER Act, który miałby ustanowić zasady regulujące wdrażanie zaawansowanych modeli AI.

Trahan napisała w środę na X: „Badacze zajmujący się bezpieczeństwem odchodzą z pracy, potężne modele AI wydostają się ze swoich laboratoriów, a firmy mimo wszystko nadal przyspieszają. Najwyższy czas, aby Kongres przestał stać z boku i zaczął wykonywać swoją pracę”.

Na początku tego miesiąca Sen. Bernie Sanders i Rep. Greg Casar przedstawili Ban Artificial Superintelligence Act. Ustawa tymczasowo wstrzymałaby rozwój zaawansowanej AI do czasu ustanowienia przez rząd federalny zasad bezpieczeństwa. Obie propozycje pokazują, że debata polityczna dotyczy zarówno sposobu wdrażania zaawansowanych modeli, jak i tego, czy ich rozwój powinien być kontynuowany przed wprowadzeniem nowych zabezpieczeń.

Trump nie zasygnalizował poparcia dla żadnego z tych projektów. Jego celem pozostaje utrzymanie przewagi Stanów Zjednoczonych nad Chinami w globalnej rywalizacji dotyczącej AI, co podkreśla pogłębiający się rozdźwięk między stanowiskiem administracji a obawami wyrażanymi przez badaczy zajmujących się bezpieczeństwem AI.

Źródło: CoinCentral.