W miarę jak niektóre z najbardziej znanych osobowości sztucznej inteligencji wzywają do wolniejszego, bardziej przemyślanego podejścia do rozwoju AI granicznej, w przypadku modeli o otwartych wagach wyłania się odrębne pytanie o ład korporacyjny: kto odpowiada za ich bezpieczeństwo, gdy deweloperzy udostępnią wagi (czyli wyuczone parametry określające sposób generowania wyników przez model)?

W eseju z 12 września, który zapoczątkował ostatnią debatę o spowolnieniu AI, dyrektor generalny Anthropic Dario Amodei argumentował, że rozwój AI musi zwolnić, aby prace nad bezpieczeństwem zdążyły nadążyć za możliwościami modeli. Dyrektor generalny OpenAI Sam Altman oraz inni liderzy i badacze AI również wzywali do bardziej umiarkowanego tempa.

Jak dotąd debata ta koncentrowała się głównie na deweloperach modeli granicznych i ich zdolności do kontrolowania sposobu korzystania z modeli. Niektóre przedsiębiorstwa już jednak eksperymentują i budują rozwiązania w oparciu o modele o otwartych wagach — pobierając je, dostosowując i uruchamiając na własnej infrastrukturze.

Na przykład Databricks oferuje na swojej platformie modele takie jak Kimi K3, Qwen i DeepSeek. Szerszy ekosystem obejmuje także Llamę od Meta oraz modele firmy Mistral, między wieloma innymi. Sięga on znacznie dalej niż te znane nazwy: platforma open source Hugging Face poinformowała w sierpniu o blisko 3 milionach publicznych modeli w swoich repozytoriach, obejmujących modele różnej wielkości i o różnym przeznaczeniu.

Chociaż modele te dają przedsiębiorstwom większą kontrolę nad wdrożeniem, pierwotni deweloperzy zazwyczaj tracą bezpośrednią kontrolę techniczną nad tym, jak udostępnione wagi są modyfikowane, wdrażane i wykorzystywane, choć warunki licencji i ograniczenia prawne nadal mogą ograniczać ichżycie i redystrybucję.

Debata o spowolnieniu ujawnia granice scentralizowanego bezpieczeństwa

W przypadku zamkniętego, czyli własnościowego modelu AI, deweloper zazwyczaj zarządza dostępem do systemu. Może nakładać ograniczenia użytkowania, monitorować aktywność oraz zmieniać lub cofać dostęp w razie potrzeby.

Modele o otwartych wagach zmieniają tę dynamikę. Po publicznym udostępnieniu wag organizacje mogą pobierać je i uruchamiać we własnych środowiskach. Mogą modyfikować lub dostrajać modele — dostosowując wstępnie wytrenowany model do określonych zadań za pomocą dodatkowych danych — i potencjalnie wdrażać je u różnych dostawców infrastruktury.

Ta elastyczność może czynić AI o otwartych wagach atrakcyjną dla przedsiębiorstw, ale utrudnia także stosowanie tradycyjnych podejść do nadzoru nad AI. Gdy wagi są publicznie dostępne, pierwotny deweloper ma znacznie mniejszy wgląd w to, jak organizacje modyfikują i wdrażają model. Dostawcy open source nie mogą też realistycznie cofnąć wag po ich udostępnieniu.

"Proponowane rozwiązania, wbudowani audytorzy i ciągły monitoring działają tylko wtedy, gdy dostawca nadal kontroluje model" — powiedział Manuel Schonfeld, dyrektor ds. AI w Qu, firmie z siedzibą w Arlington w stanie Wirginia, która buduje platformy zintegrowanego handlu i inteligentnych kuchni dla branży restauracyjnej. "Gdy wagi opuszczą budynek, to zadanie spada na przedsiębiorstwo, które je wdraża, a nie na to, które je trenuje."

Nie oznacza to, że modele o otwartych wagach powinny być zwolnione z wymogów bezpieczeństwa, ponieważ mogą nieść własne ryzyka związane z bezpieczeństwem i nadużyciami. Niedawne badanie zlecone przez rząd Wielkiej Brytanii wykazało, że podczas gdy tradycyjne oprogramowanie open source ma bardziej ugruntowane praktyki bezpieczeństwa, open-source'owa AI wprowadza dodatkowe ryzyka dotyczące wag modeli, danych treningowych, procesów dostrajania i pochodzenia modelu. Przegląd wykazał również, że badania nad bezpieczeństwem i ładem open-source'owej AI pozostają ograniczone.

Surowsze zasady nadzoru mogą podnieść koszty AI o otwartych wagach

Jednym ze sposobów rozwiązania tego wyzwania bezpieczeństwa byłoby przeniesienie większej odpowiedzialności na deweloperów. Ale jeśli debata o spowolnieniu doprowadzi do surowszych wymogów zgodności i ewaluacji, duże firmy AI mogą mieć łatwiej niż mniejsi deweloperzy modeli o otwartych wagach.

Największe laboratoria mają zasoby, aby sprostać testom, ewaluacjom i zgodności, podczas gdy mniejsi deweloperzy mogą mieć trudności ze spełnieniem surowszych wymogów.

Noah Kenney, założyciel i główny konsultant w Digital 520, firmie usług IT specjalizującej się w strategii i rozwoju firm technologicznych, powiedział, że wymogi zgodności mogą stać się barierą, jeśli przedsiębiorstwa będą wymagać od mniejszych dostawców takich samych audytów i dowodów jakich oczekują od większych dostawców. "Jeśli koszty zgodności sprzyjają większym dostawcom, przedsiębiorstwa mogą mieć mniej alternatyw wobec największych firm AI" — dodał.

Propozycja Amodeiego dotycząca zewnętrznych ewaluacji bezpieczeństwa, przedstawiona w jego eseju, również ilustruje to wyzwanie. Jego plan zakładałby niezależnym ewaluatorom ciągły, podobny do pracowniczego dostęp do laboratoriów AI granicznej. To podejście staje się trudniejsze do zastosowania w przypadku modeli o otwartych wagach po udostępnieniu wag, gdy organizacje mogą je modyfikować i redystrybuować bez udziału pierwotnego dewelopera.

Niezależne ewaluacje mogą nadal pomagać w poprawie bezpieczeństwa AI, ale modele o otwartych wagach utrudniają określenie, kto powinien nadzorować model po jego udostępnieniu przez deweloperów.

Przedsiębiorstwa mogą odziedziczyć większą odpowiedzialność

Jeśli debata o spowolnieniu doprowadzi do większego nacisku na testowanie, monitorowanie i rozliczalność, przedsiębiorstwa wdrażające modele o otwartych wagach mogą przejąć większą część tego ciężaru ładu korporacyjnego na siebie.

Prince Kohli, prezes i dyrektor generalny Sauce Labs, twórcy chmurowej platformy do testowania oprogramowania, który współpracował z dostawcami modeli o otwartych wagach, powiedział, że modele te dają przedsiębiorstwom większą kontrolę nad miejscem uruchamiania modeli, sposobem ich dostosowania i zarządzania danymi. Ale ta kontrola wiąże się też z odpowiedzialnością operacyjną i ładem korporacyjnym.

"Przedsiębiorstwa będą musiały rozważyć ryzyka każdego przypadku użycia przy podejmowaniu decyzji, który model wdrożyć" — powiedział Kohli. Model o otwartych wagach może dobrze sprawdzać się przy prostym, niskoryzykowym zadaniu, podczas gdy złożone lub krytyczne dla biznesu przepływy pracy wymagają wyższego progu bezpieczeństwa i przewidywalności.

Gdy przedsiębiorstwo samo modyfikuje i obsługuje model, Kohli powiedział, że musi rozumieć pochodzenie modelu, kontrolować, do jakich danych ma dostęp, i stale oceniać jego wyniki, zwłaszcza gdy generuje kod lub zasila agentów mogących podejmować lub wpływać na działania.

Kenney powiedział, że odpowiedzialność powinna prawdopodobnie odpowiadać temu, co każda strona wnosi i kontroluje: pierwotny deweloper powinien odpowiadać za wydany model i jego znane ograniczenia, a przedsiębiorstwo powinno odpowiadać za dostrajanie, dane, narzędzia, uprawnienia i decyzje dotyczące wdrożenia.

Oznacza to, że przedsiębiorstwa mogą potrzebować walidować model, zabezpieczyć środowisko, w którym działa, monitorować zachowanie w produkcji i prowadzić dowody audytowe.

Dla przedsiębiorstw, zwłaszcza tych wdrażających modele o otwartych wagach, bezpieczeństwo i ład korporacyjny nie kończą się na wyborze modelu — trwają przez wdrożenie i użytkowanie. Wyzwaniem nie jest jedynie decyzja, jak szybko AI powinna się rozwijać. Chodzi także o ustalenie, jak rozliczalność powinna działać, gdy firma, która zbudowała model o otwartych wagach, traci bezpośrednią kontrolę techniczną nad wykorzystaniem udępnionych wag. Sposób rozwiązania debaty o spowolnieniu — w tym czy ewentualne nowe wymogi ewaluacji i zgodności uwzględnią wagi, które są już publiczne — pozostaje otwartym pytaniem zarówno dla deweloperów, jak i przedsiębiorstw.

Źródło: AI Business — Calls for AI slowdown raise new challenges for open-weight models