Szefowa ds. technologii UE uważa, że przepisy bloku poradzą sobie z ryzykiem niekontrolowanej AI
Najważniejsze informacje
- •Szefowa ds. technologii UE Henna Virkkunen stwierdziła, że Europa jest dobrze przygotowana do sprostania wyzwaniom bezpieczeństwa stawianym przez bardzo zaawansowane modele AI.
- •AI Act UE, przyjęty dwa lata temu i należący do najostrzejszych na świecie regulacji AI, obejmuje cały cykl życia modeli AI i dotyczy firm oferujących systemy AI w bloku, niezależnie od miejsca ich siedziby.
- •Europejska Komisja pod koniec sierpnia zwróciła się o informacje dotyczące bezpieczeństwa do ponad 30 firm AI, a Virkkunen analizuje odpowiedzi, które mogą dać wczesny obraz sposobu egzekwowania przepisów AI przez blok.
- •Regulatorzy udzielają firmom wskazówek dotyczących oceny ich modeli, uwzględniając rekomendacje 60 ekspertów ds. AI.
- •CEO Anthropic Dario Amodei ostrzegł we wpisie na blogu, że tempo rozwoju AI jest zbyt szybkie i, jeśli nie zostanie opanowane, może przeradzać zdolność ludzkości do rozumienia i kontrolowania tych systemów, napędzane przez rekursywne samoulepszanie.
Szefowa ds. technologii UE Henna Virkkunen twierdzi, że przepisy bloku dotyczące sztucznej inteligencji w zupełności wystarczą, aby sprostać wyzwaniom bezpieczeństwa stawianym przez coraz bardziej zaawansowane modele AI, odpierając obawy, że niekontrolowani agenci AI mogą wymknąć się spod kontroli człowieka po ostatnich incydentach w OpenAI i Anthropic. Wypowiedzi te podkreślają napięcie między zaufaniem regulatorów do istniejących zabezpieczeń a ostrzeżeniami ze strony samej branży, że tempo rozwoju AI może przewyższyć ludzką kontrolę.
„Widzimy, że bezpieczeństwo bardzo zaawansowanych modeli to bardzo gorący temat na arenie międzynarodowej, a my w Europie jesteśmy do tego dobrze przygotowani” — powiedziała Virkkunen w wywiadzie dla Reuters opublikowanym w piątek.
Virkkunen odrzuciła także zarzuty krytyków, którzy twierdzą, że przepisy UE dotyczące AI są przestarzałe. AI Act UE, który reguluje sztuczną inteligencję w oparciu o poziom ryzyka, należy do najostrzejszych na świecie regulacji AI, ale został przyjęty dwa lata temu. Prawo to obowiązuje firmy oferujące systemy AI w bloku, niezależnie od tego, gdzie mają siedzibę.
„Mamy wdrożony AI Act, a AI Act obejmuje cały cykl życia tych modeli” — powiedziała, dodając, że regulatorzy udzielają firmom wskazówek dotyczących oceny ich modeli, uwzględniając rekomendacje 60 ekspertów ds. AI.
Europejska Komisja pod koniec sierpnia zwróciła się o informacje do ponad 30 nieujawnionych firm AI, prosząc o szczegóły dotyczące ich środków bezpieczeństwa. Virkkunen powiedziała, że obecnie analizuje odpowiedzi, których wynik może stanowić wczesny sygnał tego, jak blok będzie egzekwował swoje przepisy dotyczące AI.
Jej wypowiedzi następują po ostrzeżeniach płynących z samej branży. Cointelegraph poinformował 13 września, że CEO Anthropic Dario Amodei stwierdził we wpisie na blogu, tempo rozwoju AI jest zbyt szybkie i, jeśli zostanie pozostawione bez kontroli, może „przeradzać naszą zdolność rozumienia i kontrolowania tych systemów”. Powiedział, że gwałtowny postęp AI napędzany jest przez jej rosnącą zdolność do tworzenia kolejnej generacji AI — zjawisko znane jako rekursywne samoulepszanie. Wypowiedzi te pojawiły się we wpisie opublikowanym na jego osobistej stronie internetowej.
Źródło: Cointelegraph
