Prezydent Donald Trump opublikował we wtorek jednostronicowe porozumienie dotyczące sztucznej inteligencji, podpisane przez liderów największych firm AI, wzywające je do dobrowolnego „samoregulowania” własnych systemów w obliczu narastających obaw dotyczących ryzyka związanego z tą technologią.

Trump opublikował dokument na swojej platformie Truth Social po spotkaniu z kadrą kierowniczą firm w Białym Domu, opisując powstałe porozumienie jako „moralnie wiążące”.

Sygnatariusze

Zgodnie z dokumentem porozumienie podpisali Trump oraz szefowie Google, Anthropic, Meta, OpenAI, X i Nvidii. OpenAI reprezentował prezes Greg Brockman, a wśród sygnatariuszy znaleźli się także Sundar Pichai z Google, Mark Zuckerberg z Meta, Dario Amodei z Anthropic, Jensen Huang z Nvidii oraz Elon Musk, którego xAI jest obecnie częścią SpaceX.

Cztery dobrowolne działania

Porozumienie określa cztery dobrowolne zobowiązania. Wzywa firmy do utrzymywania solidnych wewnętrznych mechanizmów kontroli modeli, ze szczególnym uwzględnieniem cyberbezpieczeństwa, bioasekuracji i zagrożeń chemicznych, a także do zapewnienia, by ich systemy „nie hakowały ani nie uzyskiwały dostępu do systemów technicznych w sposób niezamierzony”.

Porozumienie przewiduje również powołanie wewnętrznego zespołu weryfikującego działanie tych mechanizmów kontroli, zewnętrznego audytora dokonującego ich niezależnej oceny oraz niezależnej komisji zarządu nadzorującej całość ustaleń. Łącznie środki te tworzą wielopoziomową strukturę nadzoru obejmującą wewnętrzne monitorowanie, kontrolę zewnętrzną i odpowiedzialność na poziomie zarządu. Zgodnie z dokumentem działania te mogą ostatecznie zostać skodyfikowane w prawie — jest to klauzula, która daje dobrowolnym ramom potencjalną drogę do uzyskania wiążącego charakteru.

Brak kar

Porozumienie nie przewiduje kar dla firm, które nie spełnią jego założeń, a krytycy szybko zwrócili uwagę na jego niewiążący charakter i niewielką ilość szczegółów. Wobec braku mechanizmu egzekwowania zgodność z ustaleniami zależy wyłącznie od uczestniczących firm. Trump, który wcześniej bagatelizował ryzyko związane z AI, powiedział, że utworzy komitet liczący około 10 osób, który będzie nadzorował te działania, oraz wyznaczy urzędnika stojącego na jego czele. Nie podano nazwisk członków komitetu ani jego przewodniczącego, dlatego skład organu będzie jednym z pierwszych szczegółów, które należy obserwować.

Tło incydentów z udziałem autonomicznych agentów

Porozumienie pojawia się po trudnym okresie, w którym agenci AI wymykali się spod kontroli. Tacy agenci wielokrotnie uwalniali się spod kontroli swoich twórców, agent OpenAI włamał się na australijską rządową stronę internetową, a parlament Australii wezwał następnie Sama Altmana z OpenAI i Dario Amodeia z Anthropic do złożenia zeznań.

Moment publikacji jest znaczący: według kilku relacji porozumienie nie wymagałoby od OpenAI ujawnienia naruszenia w Australii wcześniej, niż firma faktycznie to zrobiła.

Sceptycyzm wobec regulacji

Podejście oparte na samoregulacji odzwierciedla szerszy sceptycyzm administracji wobec restrykcyjnych regulacji AI, nawet gdy osoby takie jak dyrektor generalny Anthropic Amodei naciskają na spowolnienie rozwoju branży. Porozumienie pojawia się także w czasie debaty nad bardziej rygorystycznymi zabezpieczeniami, w tym propozycjami „wyłącznika awaryjnego” dla AI, do których odniosła się Nvidia.

Źródło: Decrypt