Projekt ustawy o bezpieczeństwie AI od Anthropic pod ostrzałem z powodu progu mocy obliczeniowej dla modeli granicznych
Najważniejsze informacje
- •Projekt Anthropic klasyfikowałby firmę jako objętego dewelopera tylko wtedy, gdy trenuje model powyżej 10²⁵ FLOPs i ponadto przekracza 500 mln dolarów rocznego przychodu z AI lub 1 mld dolarówcznych wydatków na badania i rozwój AI.
- •Objęci deweloperzy byliby zobowiązani do wdrażania formalnych ram bezpieczeństwa, publikowania kart systemowych, umożliwiania niezależnych ocen i zgłaszania incydentów bezpieczeństwa.
- •Zgodnie z projektem Departament Handlu mógłby interweniować wobec wdrożenia modelu tylko wtedy, gdy ryzyka katastrofalne są przewidywalne, przy czym katastrofa zdefiniowana jest jako ponad 1 mld dolarów szkód lub ponad 50 ofiar śmiertelnych.
- •Do czerwca 2025 roku co najmniej 33 modele od 12 deweloperów przekroczyły już próg 10²⁵ FLOPs, co feeds krytykę, że próg odzwierciedla wcześniejszy etap rozwoju AI i może obejmować większość modeli klasy enterprise.
- •Próg w projekcie jest dziesięć razy niższy niż w kalifornijskiej SB 53 (10²⁶ FLOPs) i odbiega od podejścia opartego na domniemaniach w unijnym AI Act, a część krytyków uważa go za węższego i potencjalnie słabszego niż FRONTIER Act w kwestii uprawnień do tworzenia przepisów.
Anthropic przekazał amerykańskim prawodawcom projekt federalnej ustawy o bezpieczeństwie AI, a pierwszy poważny spór koncentruje się wokół jednej liczby: 10²⁵ FLOPs.
Próg ten miałby decydować o tym, które modele AI kwalifikują się jako systemy „graniczne” w ramach projektu. FLOPs, czyli operacje zmiennoprzecinkowe, mierzą moc obliczeniową wykorzystaną do wytrenowania modelu — a miejsce wyznaczenia tej linii rozstrzyga, które systemy i który deweloperzy znajdą się wewnątrz obwodu zgodności, a które pozostaną poza nim. Krytycy twierdzą, że ta liczba odzwierciedla wcześniejszy etap rozwoju AI i może obecnie obejmować większość modeli klasy enterprise.
Co zawiera projekt
Propozycja opiera się na Advanced AI Framework firmy Anthropic, przedstawionym w czerwcu 2026 roku. Sam projekt ustawy datowany jest na październik 2026 roku.
Jego centralnym pojęciem jest „objęty deweloper” (covered developer). Firma kwalifikowałaby się, gdyby wytrenowała model przekraczający 10²⁵ FLOPs i spełniła co najmniej jeden z dwóch progów finansowych.
Pierwszy próg to ponad 500 mln dolarów rocznego przychodu pochodzącego z AI. Drugi to ponad 1 mld dolarów rocznych wydatków na badania i rozwój w dziedzinie AI.
Firmy spełniające definicję podlegałyby kilku wymogom przejrzystości, w tym:
- Wdrażaniu formalnych ram bezpieczeństwa
- Publikowaniu kart systemowych dokumentujących, jak działają modele i jak były testowane
- Umożliwianiu niezależnych ocen
- Zgłaszaniu incydentów związanych z bezpieczeństwem
Ustawa ograniczałaby również uprawnienia rządu. Departament Handlu mógłby ograniczyć wdrożenie modelu tylko wtedy, gdy ryzyka katastrofalne są przewidywalne. Projekt definiuje incydenty katastrofalne jako takie, które powodują szkody przekraczające 1 mld dolarów lub skutkują utratą ponad 50 życia.
Inne agencje nie mogłyby całkowicie wstrzymywać wdrożeń.
Dlaczego próg 10²⁵ FLOPs budzi spory
Do czerwca 2025 roku co najmniej33 modele od 12 deweloperów przekroczyły już próg 10²⁵ FLOPs. Oczekuje się, że ta liczba będzie dalej rosnąć.
Porównania z innymi ramami regulacyjnymi uwypuklają spór. Kalifornijska ustawa SB 53 wyznacza próg na poziomie 10²⁶ FLOPs, czyli dziesięć razy wyższym niż wartość zaproponowana przez Anthropic. Każdy wzrost o jeden w notacji wykładniczej oznacza dziesięciokrotną zmianę, więc różnica jest znacząca.
Unijny AI Act jest bliższy podejściu Anthropic. Używa 10²⁵ FLOPs jako domniemania dającego się obalić: model osiągający ten poziom jest domniemanie obarczony ryzykiem systemowym, chyba że deweloper udowodni inaczej. Wersja Anthropic działałaby bardziej jak wiążący wyzwalacz zgodności.
Krytyka płynie także z przeciwnego kierunku. Niektórzy krytycy twierdzą, że projekt jest węższy i może być słabszy niż konkurencyjące propozycje, w tym FRONTIER Act (H.R. 9925), szczególnie w kwestii uprawnień do tworzenia przepisów wykonawczych.
Konsekwencje dla startupów, ugruntowanych laboratoriów i prawodawców
Potencjalna przewaga dużych, obecnych na rynku firm to jedno z najpoważniejszych zastrzeżeń. Środki zgodności, takie jak ramy bezpieczeństwa, karty systemowe i niezależne oceny, wymagają pieniędzy i czasu pracowników. Duże laboratoria AI mają już zespoły odpowiedzialne za większość tych zadań, mniejsze firmy zazwyczaj nie.
Jednak dwuczęściowy test ustawy ma tutaj znaczenie. Samo przekroczenie 10²⁵ FLOPs nie czyniłoby firmy objętym deweloperem. Firma musiałaby również mieć ponad 500 mln dolarów przychodu z AI lub ponad 1 mld dolarów wydatków na badania i rozwój AI.
Dla prawodawców debata uwypukla strukturalny problem zasad opartych na mocy obliczeniowej. Każdy stały próg FLOPs szybko się starzeje, gdy sprzęt się poprawia, a treningi rosną. Linia wyznaczona dzisiaj może jutro obejmować dziesiątki modeli, co w dużej mierze potwierdza liczba modeli, które przekroczyły próg do czerwca 2025 roku.
Ograniczony mandat Departamentu Handlu jest również istotny. Ograniczenie interwencji do scenariuszy katastrofalnych, definiowanych przez ponad 1 mld dolarów szkód lub ponad 50 ofiar śmiertelnych, daje deweloperom większą przewidywalność. Jednocześnie pozostawia regulatorom niewiele przestrzeni do reagowania na szkody nieosiągające skali katastrofy. Ten kompromis jest kluczowy dla porównania z FRONTIER Act.
Poziom wyzwalacza, dwuczęściowy test finansowy i zakres uprawnień Departamentu Handlu do tworzenia przepisów to zatem punkty, w których projekt Anthropic odbiega od alternatyw już na stole — wyższego progu 10²⁶ FLOPs w Kalifornii, podejścia opartego na domniemaniach w unijnym AI Act oraz FRONTIER Act, który część krytyków uważa za mocniejszy w kwestii uprawnień regulacyjnych.
Źródło: CryptoBriefing
