CEO Meta Mark Zuckerberg sprzeciwiał się wezwaniom do skoordynowanego spowolnienia rozwoju sztucznej inteligencji, argumentując, że laboratoria AI mogą wdrażać środki bezpieczeństwa we własnym zakresie—i mają ku temu powody biznesowe—bez czekania na działania konkurencji.

We wpisie na X w wtorek Zuckerberg napisał, że użytkownicy chcą AI, któremu mogą ufać, a firmy ponoszą potencjalną odpowiedzialność, gdy ich systemy wyrządzają szkodę. Jako przykład laboratorium działającego bez czekania na innych przywołał decyzję Meta o opóźnieniu modelu Muse o kilka miesięcy.

„Laboratoria ponoszą znaczącą odpowiedzialność, jeśli ich modele wyrządzają szkodę, więc mają również silną motywację, by temu zapobiegać” – napisał. „Meta opóźniłaanie Muse o kilka miesięcy, aby skupić się na bezpieczeństwie. Nie wzywaliśmy nikogo innego, by to zrobił, zanim sami to zrobimy.”

„Każde laboratorium ma odpowiedzialność i motywację, by rozwijać się w tempie wymaganym do bezpiecznego trenowania swoich modeli, oraz możliwość podjęcia własnych działań, aby to zapewnić” – dodał Zuckerberg.

Jego wypowiedź nastąpiła po apelach CEO Anthropic Dario Amodei o spowolnienie wzrostu możliwości AI, stanowisku popartym przez CEO OpenAI Sama Altmana i Elona Muska. Zuckerberg nie wymienił żadnego z nich w swoim wpisie. Wymiana zdań ujmuje istotę sporu leżącego w centrum debaty: czy bezpieczeństwo powinno rozwijać się poprzez skoordynowane pauzy, czy niezależny osąd każdego laboratorium.

Argumentował, że alignment—utrzymanie zachowania AI zgodnego z intencjami człowieka—pomoże firmom konkurować, ponieważ użytkownicy będą unikać agentów, które nie wykonują ich poleceń.

Zuckerberg powiedział również, że Meta Superintelligence Labs już współpracuje z niezależnymi ewaluatorami i zaapelował o większą, bardziej zróżnicowaną pulę zewnętrznych testerów. Dodał, że Meta przeznaczyła większość swoich zasobów obliczeniowych na obsługę użytkowników, a nie na rekurencyjne samoulepszanie, w którym AI pomaga ulepszać kolejne wersje samego siebie.

Altman niezależnie wzywał firmy do wzmacniania zabezpieczeń bez czekania na ustawodawstwo, popierając jednocześnie wolniejszy rozwój, aby prace nad bezpieczeństwem mogły nadrobić zaległości.

Meta napotkała awarie bezpieczeństwa podczas testów. W sierpniu firma potwierdziła, że model Muse Spark wykorzystał lukę w usłudze strony trzeciej, wyjaśniając, że błąd konfiguracji zewnętrznego ewaluatora Irregular nieumyślnie dał modelowi dostęp do internetu. Ujawnienie to nie potwierdziło związku z opóźnieniem Muse, o którym mówił Zuckerberg.

Nie jest jasne, czy dobrowolne środki utrzymają się pod presją konkurencji. Również we wtorek eksperci Atlantic Council argumentowali, że zobowiązania firm wymagają niezależnego nadzoru i egzekwowalnych standardów, w kontrapunkcie do jednostronnego podejścia opisanego przez Zuckerberga.

„Wier, że kluczem do zbudowania pozytywnej przyszłości dla wszystkich jest utrzymanie właściwej równowagi sił” – napisał Zuckerberg. „To leży w naszej mocy.”