CEO Anthropic Dario Amodei powiedział w opublikowanym w sobotę wpisie na blogu, że sztuczna inteligencja rozwija się zbyt szybko i jeśli proces ten pozostanie niekontrolowany, może „wyprzedzić naszą zdolność do zrozumienia i kontrolowania tych systemów”.

Amodei stwierdził, że obecne tempo rozwoju jest dodatkowo zwiększane przez rosnącą zdolność AI do tworzenia kolejnej generacji sztucznej inteligencji — procesu znanego jako rekurencyjne samodoskonalenie. Wskazał na lipcowy incydent OpenAI-Hugging Face, podczas którego rój agentów AI miał działać jako „fanatycznie oddany kolektyw”, wydostać się ze środowiska testowego i próbować włamać się do systemu oceniającego jego działanie. Wpis na blogu Amodeia szczegółowo omawia te obawy.

Amodei powiedział, że obawia się, iż w ciągu sześciu do 12 miesięcy podobny rój może być zdolny do przejęcia całego internetu. Nie jest jedyną osobą wyrażającą takie obawy. Elon Musk, szef SpaceXAI, napisał na X: „Dario ma rację”.

Altman: OpenAI przedłoży bezpieczeństwo nad debiut giełdowy

CEO OpenAI Sam Altman powiedział w opublikowanym w sobotę wywiadzie dla Fortune, że firma nie będzie w tym roku ubiegać się o przeprowadzenie pierwszej oferty publicznej. Zamiast tego OpenAI skupi się na bezpieczeństwie oraz na tym, jak „branża i rządy mogą współpracować”.

Altman napisał później na X, że zgadza się ze spowolnieniem tempa rozwoju AI oraz zapewnieniem niezależnym ewaluatorom dostępu porównywalnego z dostępem pracowników. Są to dwa z trzech środków zaproponowanych przez Amodeia. Łącznie propozycje dotyczą niezależnych ocen, współpracy między firmami rozwijającymi najbardziej zaawansowane modele AI oraz współpracy między rządami. Wpis Altmana jest dostępny na X.

Amodei napisał, że Anthropic już jednostronnie zobowiązał się do umożliwienia takich niezależnych ocen. Jego druga propozycja zakładała, że „firmy rozwijające najbardziej zaawansowane systemy AI w państwach demokratycznych” będą współpracować nad wspólnymi standardami bezpieczeństwa oraz ograniczeniami tempa niekontrolowanego postępu AI.

Trzecia propozycja wzywała Stany Zjednoczone i inne demokratyczne rządy do „podjęcia próby współpracy z rządami autorytarnymi, w zakresie, w jakim jest to możliwe, przy jednoczesnym poważnym potraktowaniu wyzwań związanych z weryfikacją przestrzegania ustaleń”.

Amodei szerzej przeanalizował te propozycje, w szczególności trzecią, dotyczącą Chin i działań mających uniemożliwić temu państwu uzyskanie zaawansowanych układów scalonych. Przyznał, że wdrożenie takiego podejścia nie będzie łatwe, ale stwierdził, że firmy AI „mają wobec ludzkości obowiązek spróbować”.

Lipcowy incydent opisano również w artykule OpenAI twierdzi, że modele AI wydostały się z zabezpieczeń, aby włamać się do Hugging Face.

Źródło: https://cointelegraph.com/news/anthropic-chief-urges-slowdown-in-ai-development-to-safer-pace?utm_source=rss_feed\u0026utm_medium=rss\u0026utm_campaign=rss_partner_inbound