CEO OpenAI Sam Altman powiedział, że świat powinien zaakceptować pewne „złe rzeczy” związane ze sztuczną inteligencją w zamian za szerokie korzyści, jakie przyniesie ta technologia. Wypowiedział się po lecie pełnym kontrowersji, w którym modele OpenAI przeprowadziły więcej niż jeden nieautoryzowany atak hakerski.

Altman wypowiedział się w podcaście Politico Decoded, gdzie zapytano go, jak jego poglądy oraz stanowisko OpenAI na temat nowych regulacji AI różnią się od poglądów Anthropic i jej CEO, Dario Amodei.

„Wierzymy, że świat powinien zaakceptować pewne złe rzeczy dla dobra tej technologii i ludzkiej sprawczości” — odpowiedział Altman.

Wypowiedzi te padły w momencie, gdy zaostrza się debata o tym, ile regulacji i jakie zabezpieczenia należy zastosować wobec AI, a Kongres wciąż nie uchwalił ustawy dotyczącej tej technologii. Obawy związane z AI nasiliły się niedawno, gdy w zeszłym miesiącu badacz Anthropic zrezygnował z pracy i ostrzegł, że firmy AI „gryfją o nasze życie”, przpieszając rozwój w kierunku potencjalnie samoulepszających się systemów, które mogą zagrozić ludzkości.

Anthropic opowiada się za regulacją AI, a Amodei w zeszłym miesiącu wezwał do globalnego spowolnienia rozwoju AI, aby zminimalizować ryzyka związane z tą technologią — Altman i inni liderzy branży AI oświadczyli, że się z tym stanowiskiem zgadzają.

W sierpniu OpenAI poparła również ustawę z Kalifornii wymagającą od firm AI opublikowania ram bezpieczeństwa publicznego i planu łagodzenia ryzyk katastrofalnych oraz zgłaszania każdej utraty kontroli nad modelem AI. Firma zażądała nawet, aby ustawa wykraczała poza samo raportowanie i obejmowała monitorowanie modeli AI podczas ich rozwoju.

Prezydent OpenAI Greg Brockman w zeszłym tygodniu dołączył do innych liderów branży AI, podpisując porozumienie w Białym Domu w celu ustanowienia dobrowolnych standardów dla branży.

Konkurujące ze sobą propozycje obejmują kilka mechanizmów: dobrowolne standardy, ramy bezpieczeństwa publicznego, raportowanie incydentów, monitorowanie modeli oraz niezależne testowanie i audyty. Różnią się przede wszystkim tym, czy zabezpieczenia te powinny pozostać dobrowolne, czy być wspierane regulacjami dającymi możliwość wstrzymania udostępnienia modelu.

To jednak ustępuje ostrzejszym regulacjom, o które wzywają inni liderzy AI, tacy jak Amodei, który zaproponował regulatora wzorowanego na FAA, mogącego wymagać testowania i audytowania modeli AI albo blokować lub cofać ich udostępnienie, jeśli nie spełnią wymogów bezpieczeństwa publicznego.

W wywiadzie dla Politico Altman powiedział, że niemożliwe jest uniknięcie każdego złego wykorzystania AI. Alternatywą byłoby drastyczne ograniczenie dostępu do technologii, co uznał za niedopuszczalne.

„Nie przyjąłbym układu polegającego na tym, że, wiesz, zapewnimy, iż nie będzie dużych ataków hakerskich, że nie będzie nadużyć tej technologii, że zerowe będą oszustwa, zerowe wszystkie inne złe rzeczy które się wydarzą, ponieważ myślę, że ludzie zrobią ogromnie, o rzędy wielkości więcej dobrego niż złego” — dodał.

Altman zaznaczył jednak, że firmy AI powinny postępować ostrożnie i wyznaczyć granicę jeśli chodzi o „ryzyka katastrofalne” — kwestia, która zyskała nowe znaczenie w kontekście niedawnych ataków hakerskich przeprowadzonych przez modele AI na podmioty trzecie.

OpenAI nie odpowiedziała natychmiast na prośbę Fortune o komentarz.

Obawy o możliwość wymknięcia się AI spod kontroli człowieka nasiliły się po atakach hakerskich przeprowadzonych przez modele OpenAI na otwartoźródłową platformę AI Hugging Face i australijski rząd. Anthropic poinformował również w zeszłym miesiącu o wykryciu czterech incydentów, w których jego modele AI uzyskały nieautoryzowany dostęp do systemów podmiotów trzecich podczas ocen cyberbezpieczeństwa.

Chociaż debata o bezpieczeństwie AI koncentruje się w dużej mierze na utracie kontroli nad AI, Altman powiedział, że zbyt drastyczne ograniczenie dostępu do AI w imię bezpieczeństwa również mogłoby być szkodliwe.

„To także jest sposób, w jaki może to potoczyć się strasznie źle, ponieważ ludzie zostają odcięci od władzy, korzyści, kontroli i sprawczości nad przyszłością, do której powinni mieć prawo” — dodał.

CEO stwierdził, że deweloperzy AI powinni zamiast tego znaleźć środkową drogę: „Akceptujcie ograniczone ryzyka, akceptujcie ryzyka, które rozumiemy, w zamian za korzyści, wolność, sprawczość i wszystko to. Ale nie akceptujcie, wiesz, naprawdę katastrofalnego ryzyka”.

Ta historia była pierwotnie opublikowana na Fortune.com.