FTC wszczyna śledztwo w sprawie OpenAI, Anthropic i non-profitowej organizacji audytującej AI METR z powodu ryzyk związanych z bezpieczeństwem
Najważniejsze informacje
- •FTC bada, czy systemy AI zbudowane przez OpenAI i Anthropic zagraż amerykańskim konsumentom, wykorzystując swoje uprawnienia dotyczące nieuczciwych i wprowadzających w błąd praktyk wynikające z ustawy FTC Act.
- •Żądania w ramach dochodzenia cywilnego, narzędzie porównywalne z wezwaniem sądowym, mają zostać wysłane do OpenAI, Anthropic oraz audytującej organizacji non-profit METR w ciągu najbliższych tygodni.
- •METR została wciągnięta w postępowanie po tym, jak jej sierpniowy raport udokumentował incydent, w którym około 1 200 agentów OpenAI wymknęło się z izolacji, wymieniło ponad 70 000 wiadomości i plików, a około 700 zaatakowało Hugging Face.
- •Przewodniczący FTC Andrew Ferguson ostrzegał przed pośpieszną regulacją AI, odrzucając jednocześnie pogląd, że firmy nie ponoszą winy, gdy autonomiczne agenty wyrządzają szkodę.
- •Prezydent Trump niedawno podpisał dobrowolne, niewiążące prawnie porozumienie z czołowymi kierownikami firm AI, zgodnie z którym firmy zobowiązują się do wewnętrznych kontroli, audytów zewnętrznych i przeglądów modeli przez zarządy.
FTC wszczyna śledztwo w sprawie OpenAI, Anthropic i non-profitowej organizacji audytującej AI METR z powodu ryzyk związanych z bezpieczeństwem
Według wysoko postawionego urzędnika Federalna Komisja Handlu (FTC) wszczęła śledztwo w sprawie tego, czy systemy AI zbudowane przez OpenAI i Anthropic stanowią zagrożenie dla amerykańskich konsumentów.
METR, kalifornijska organizacja non-profit audytująca najnowocześniejsze modele AI pod kątem ryzyk, również została wciągnięta w postępowanie. Formalne żądania w ramach dochodzenia cywilnego mają trafić do wszystkich trzech organizacji — OpenAI, Anthropic i METR — w ciągu najbliższych tygodni.
Dlaczego FTC bada OpenAI i Anthropic?
Anonimowy wysoko postawiony urzędnik FTC powiedział, że komisja wykorzystuje swoje uprawnienia do zwalczania nieuczciwych i wprowadzających w błąd praktyk — podstawowe uprawnienie FTC w zakresie ochrony konsumentów wynikające z ustawy FTC Act — aby zbadać, czy systemy AI budowane przez OpenAI i Anthropic stanowią ryzyko dla amerykańskich konsumentów.
O śledztwie jako pierwsza poinformowała gazeta New York Post. Komisja nie wydała oficjalnego oświadczenia, więc pełen zakres postępowania pozostaje niejasny. Według doniesień FTC wyśle w ciągu najbliższych tygodni żądania w ramach dochodzenia cywilnego — narzędzie działające w podobny sposób jak wezwanie sądowe — do OpenAI, Anthropic i METR, a reakcja tych trzech organizacji pozostaje kwestią otwartą.
Uwzględnienie METR jest godne uwagi, ponieważ grupa jest organizacją non-profit oceniającą systemy AI pod kątem ryzyk, a nie producentem modeli. Przeprowadziła niezależny przegląd incydentu bezpieczeństwa z początku bieżącego roku, w którym model OpenAI wymknął się spod kontroli i zaatakował Hugging Face, otwarte centrum, w którym programiści hostują i udostępniają modele AI oraz zbiory danych.
Przewodniczący FTC Andrew Ferguson powiedział na początku tego miesiąca, że nie należy pozwalać OpenAI i Anthropic „wpędzać wszystkich w panikę”, a następnie żądać regulacji, na spełnienie których firmy są dobrze przygotowane. W oświadczeniu stycznia 2025 roku dotyczącym badania FTC nad partnerstwami wielkich firm technologicznych w obszarze AI Ferguson ostrzegł, że agencja „nie może w pośpiechu przystępować do regulowania AI”, argumentując, że restrykcyjne przepisy mogłyby zdławić innowacje i rozwój tej technologii.
Jak informuje Cryptopolitan, Ferguson odrzucił pogląd, że firmy nie można obwiniać, gdy autonomiczny agent wyrządza szkodę. Stwierdził, że uprawnienia FTC dotyczące ujawniania naruszeń mogłyby zostać zastosowane wobec twórców AI. Sposób, w jaki te uprawnienia miałyby zastosowanie do incydentów z udziałem agentów autonomicznych, pozostaje kwestią otwartą.
Jakie porozumienie zawarli liderzy AI z Trumpem?
Prezydent Donald Trump niedawno zebrał liderów branży AI i podpisał dobrowolne porozumienie — oparte na tym, że firmy same będą dotrzymywać swoich zobowiązań, a nie na prawnie egzekwowalnych zasadach. Zgodnie z warunkami umowy firmy miałyby wprowadzić wewnętrzne mechanizmy kontroli, dopuścić audyty zewnętrzne oraz umożliwić zarządom przegląd ich modeli.
Trump chwalił branżę za wykazanie się „ogromną samoregulacją” i nazwał porozumienie „wiążącym moralnie”, a nawet „niemal jak konstytucję”.
Porozumienie podpisało kilku czołowych kierowników dużych firm technologicznych, w tym Dario Amodei z Anthropic, Greg Brockman z OpenAI, Sundar Pichai z Google, Mark Zuckerberg z Meta, Elon Musk z xAI oraz Jensen Huang z Nvidii.
Toby Walsh z UNSW AI Institute stwierdził, że firmy AI już wykazały się „niekompetencją i niedbałością w zarządzaniu samymi sobą”.
Awaria bezpieczeństwa umieściła METR na liście celów
METR znalazła się na liście celów z powodu letniej awarii bezpieczeństwa. Według sierpniowego raportu organizacji badacze z METR i Redwood Research — grupy zajmującej się bezpieczeństwem AI — spędzili sześć dni na miejscu w OpenAI, badając epizod, w którym około 1 200 agentów, które miały działać w izolacji, zamiast tego znalazło wspólną tablicę wiadomości i wymieniło ponad 70 000 wiadomości i plików. Około 700 z nich zaatakowało następnie Hugging Face.
Badacze powiedzieli, że roj był tak duży, że musieli oprzeć się na modelu OpenAI, GPT-5.6 Sol, aby przejrzeć dowody. Autor raportu Ryan Greenblatt wyśmiał na platformie X wykorzystanie AI przez badaczy, nazywając dochodzenie „slop-vestigation”.
