Jeden z najważniejszych graczy na rynku, amerykańskie laboratorium Anthropic, postanowiło przejąć inicjatywę legislacyjną i przedstawia własną wizję państwowego nadzoru. Z przygotowanego przez firmę projektu ustawy wynika, że rynkowy debiut modelu AI powinien zostać wstrzymany, jeśli stworzy on bezpośrednie ryzyko śmierci co najmniej 50 osób lub wygeneruje koszty szkód materialnych przekraczające miliard dolarów.
Progi katastroficznego ryzyka w nowym projekcie ustawy
Z ustaleń serwisu Politico wynika, że propozycja regulacyjna przygotowana przez Anthropic trafiła już do amerykańskich parlamentarzystów. Projekt definiuje sytuacje krytyczne, które powinny skutkować natychmiastowym wstrzymaniem dystrybucji danej technologii. Kluczowym kryterium jest obecność „przewidywalnego i nieuchronnego ryzyka” o charakterze katastrofalnym.
Twórcy dokumentu wskazują konkretne wartości liczbowe wyznaczające granicę bezpieczeństwa. O zablokowaniu wydania modelu miałaby decydować groźba utraty życia przez ponad 50 osób lub ryzyko powstania szkód materialnych o wartości powyżej miliarda dolarów. Aby opisane procedury weszły w życie, zagrożenie musi wynikać z konkretnych scenariuszy: stworzenia lub użycia broni biologicznej, przełamania przez model zabezpieczeń i wymknięcia się spod kontroli deweloperów bądź z przeprowadzenia na dużą skalę cyberataku. Podobne parametry progowe znalazły się wcześniej w kalifornijskiej ustawie Senate Bill 53, która w analogiczny sposób definiuje pojęcie katastrofalnego ryzyka.
Niezależni specjaliści i rola Departamentu Handlu USA
Proponowane przez Anthropic ramy prawne zakładają utworzenie systemu weryfikacji opartego na zewnętrznych audytorach. Oceną potencjalnego niebezpieczeństwa generowanego przez nowe modele zajmowaliby się niezależni ewaluatorzy, zarejestrowani przy Departamencie Handlu Stanów Zjednoczonych. Zgodnie z zapisami w projekcie, wynagrodzenie dla ekspertów mogłoby pochodzić bezpośrednio od samych laboratoriów AI, o ile wysokość i fakt wypłaty środków nie byłyby powiązane z ostatecznym wynikiem audytu.
Propozycja ta wywołuje pytania o zachowanie pełnej bezstronności w sytuacji finansowania ocen przez podmioty kontrolowane. Wpisuje się jednak w szerszą dyskusję na temat samoregulacji sektora technicznego. Dla przykładu: Demis Hassabis z DeepMind sugerował wcześniej stworzenie branżowego organu nadzorczego na wzór Financial Industry Regulatory Authority (FINRA), który pilnuje standardów w branży finansowej.
Sądownicza blokada zamiast arbitralnych decyzji urzędników
Projekt precyzyjnie opisuje ścieżkę formalną w przypadku wykrycia krytycznych zagrożeń. Jeśli ewaluatorzy uznają, że model AI niesie ze sobą nieuchronne ryzyko katastrofy, będą zobowiązani poinformować o tym Departament Handlu w ciągu 72 godzin. W kolejnym kroku urzędnicy musieliby złożyć wniosek do sądu w Waszyngtonie o wydanie nakazu wstrzymania premiery rynkowej danej technologii.
Co kluczowe, projekt ustawy jednoznacznie ogranicza samowolę władzy wykonawczej. Żadna agencja federalna nie otrzyma prawa do samodzielnego blokowania dystrybucji modeli bez uzyskania wcześniejszej zgody sądu. Rzecznik Anthropic potwierdził istnienie dokumentu, zaznaczając: zapisy projektu stanowią rozwinięcie założeń Advanced AI Framework, o których firma rozmawia z ustawodawcami od czerwca tego roku.
Teoretyczne scenariusze a codzienne wyzwania branży AI
Wizja katastroficznych wydarzeń opisana w propozycji Anthropic mocno odbiega od problemów, z którymi sektor mierzy się obecnie. Podczas gdy w przestrzeni medialnej pojawiają się ostrzeżenia przed skrajnymi zagrożeniami dla ludzkości, uwaga inżynierów skupia się na tak zwanym agentic hackingu. Ostatnie incydenty, w których programy oparte na AI samowolnie przejmowały kontrolę nad operacjami i łamały zabezpieczenia witryn internetowych, uwypukliły brak wystarczających mechanizmów bezpieczeństwa na poziomie wykonawczym.
Postawa laboratoriów AI wobec państwowego nadzoru pozostaje niejednoznaczna. Z jednej strony twórcy systemów ostrzegają przed zagrożeniami technologicznymi, z drugiej – preferują dobrowolne systemy kontroli z udziałem wewnętrznych obserwatorów. Inicjatywa Anthropic idzie jednak dalej niż propozycje większości konkurentów. Dla kontrastu, Jensen Huang z firmy Nvidia stwierdził niedawno: branża sztucznej inteligencji w ogóle nie potrzebuje tworzenia nowych regulacji prawnych.
