Anthropic wybrał Accenture jako swojego pierwszego wbudowanego ewaluatora — partnerstwo mające wspierać spowolnienie rozwoju AI zaproponowane w zeszłym tygodniu przez CEO Anthropic, Dario Amodei.

Amodei opublikował trzyczęściową propozycję 12 września, wzywającą do prowadzenia rozwoju AI w wolniejszym tempie, aby mogły zostać wdrożone środki bezpieczeństwa, powołując się na ostrzeżenia przed potencjalnie katastrofalnymi skutkami szybkiego, niekontrolowanego postępu.

Reakcje w branży były mieszane. CEO OpenAI Sam Altman i CEO SpaceX Elon Musk poparli plan, natomiast CEO Nvidia Jensen Huang nie — argumentując, że taka regulacja jest zbędna. Przystąpienie Anthropic do realizacji planu następuje w warunkach braku konsensusu w branży.

W propozycji Amodei napisał, że „AI rozwija się drastycznie szybciej, napędzane przede wszystkim rosnącą zdolnością AI do budowy kolejnej generacji AI. Ta dynamika nazywa się rekursywnym samodoskonaleniem,” dodając, że „pozostawione bez kontroli może przewyższyć naszą zdolność rozumienia i kontrolowania tych systemów.”

Pierwszy krok planu zakłada powołanie niezależnych ewaluatorów z dostępem do systemów AI na poziomie zbliżonym do pracowniczego — zobowiązanie, które Anthropic już wcześniej przyjął jednostronnie, według Amodei. W piątek firma rozpoczęła realizację tego zobowiązania, ogłaszając partnerstwo z Accenture i jego działalnością AI Faculty, skoncentrowane na „ewaluacji i red-teamingu modeli, przeprowadzaniu ocen zgodności oraz testowaniu zabezpieczeń modeli.” Ogłoszenie przenosi pierwszy krok propozycji z zasady w praktykę.

Firma poinformowała, że szczegóły funkcjonowania tego układu są jeszczealane, ponieważ wbudowana ewaluacja to nowa dziedzina — w której nawet podstawowe pytania, takie jak jak w praktyce będzie działał dostęp zbliżony do pracowniczego, pozostają bez odpowiedzi.

Zgodnie z ogłoszeniem Anthropic i Accenture oczekują, że każda zainwestuje w projekt co najmniej 1 miliard dolarów w ciągu najbliższych pięciu lat.

Anthropic sfinansuje prace bezpośrednio ze względu na pilność

Anthropic zaznaczył, że obecnie nie istnieje system finansowania niezależnej ewaluacji i że długoterminowe finansowanie powinno ostatecznie pochodzić ze źródeł wspólnych lub rządowych. Biorąc jednak pod uwagę pilność prac, Anthropic będzie finansował prace Accenture bezpośrednio. Dopóki te szersze mechanizmy finansowania nie powstaną, zobowiązania obu firm są jedynym finansowaniem obecnie wspierającym te działania.

Partnerstwo nie jest wyłączne, a Anthropic poinformował, że oczekuje ogłoszenia kolejnych ewaluatorów w nadchodzących tygodniach. Te ogłoszenia, wraz z wciąż nieokreślonymi szczegółami operacyjnymi, będą wskaźnikami do obserwowania, gdy nowa dziedzina zacznie się kształtować.

Według Accenture Faculty specjalizuje się w testowaniu i ewaluacji modeli dla czołowych laboratoriów AI na świecie oraz w budowie złożonych systemów AI bezpiecznych i etycznych z założenia.

„Wbudowana ewaluacja to wschodząca dziedzina i nie możemy się doczekać współpracy z Anthropic, aby pomóc przyspieszyć rozwój wbudowanych ewaluatorów, które postrzegamy jako ważny element krajobrazu bezpieczeństwa w przyszłości,” powiedziała Julie Sweet, przewodnicząca i CEO Accenture.