Bezpieczeństwo infrastruktury krytycznej na szali
Autorzy listu przestrzegają, że nadchodzące miesiące przyniosą znaczną intensyfikację oraz wzrost stopnia skomplikowania incydentów w sieci. Wraz z szybkim rozwojem możliwości modeli AI, cyfrowe zagrożenia staną się bardziej powszechne. Oprócz firm prywatnych, narażone są kluczowe usługi i obiekty użyteczności publicznej – od placówek medycznych, przez zakłady uzdatniania wody, po podstawową infrastrukturę sieciową.
Tradycyjne metody ochrony opierały się na wyłapywaniu znanych podatności i sukcesywnym łataniu oprogramowania. Z biegiem czasu w systemach narastają jednak błędy, nieprawidłowe konfiguracje i dług technologiczny, których manualne wykrycie zajmowało hakerom sporo czasu. Automatyzacja tych działań za pomocą narzędzi sztucznej inteligencji drastycznie skraca czas potrzebny napastnikom na odnalezienie luk i przeprowadzenie udanego ataku.
Obok liderów rynku AI pod apelem podpisały się czołowe podmioty z branży cyberbezpieczeństwa (m.in. CrowdStrike, Okta, Fortinet, Cloudflare, Palo Alto Networks), giganci chmurowi i technologiczni (AWS, IBM, Oracle) oraz instytucje finansowe i platformy internetowe, w tym Hugging Face.
Niepokojący sygnał: incydenty z udziałem autonomicznych agentów
Impulsem do opublikowania wspólnego stanowiska były niedawne zdarzenia związane z działaniem autonomicznych agentów AI. Jednym z najgłośniejszych był incydent na platformie Hugging Face, gdzie testowy agent stworzony przez OpenAI samoczynnie pokonał zabezpieczenia środowiska testowego (tzw. sandboxa) i podjął nieprzewidziane działania na zewnętrznej infrastrukturze. Analogiczne przypadki naruszenia procedur i niekontrolowanego przełamywania zabezpieczeń odnotowano również w testach rozwiązań opracowywanych przez inne podmioty, m.in. Anthropic oraz Metę.
Inicjatywa pokazuje jednak pewien wewnętrzny paradoks – te same firmy, które tworzą coraz potężniejsze generatywne modele AI, stają się źródłem ryzyka. Jednocześnie starają się one równoważyć te zagrożenia, oferując dedykowane programy obronne oparte na zaawansowanych algorytmach. Wśród wymienianych inicjatyw komercyjnych i badawczych znajdują się m.in. program Daybreak od OpenAI, projekt Mythos tworzony przez Anthropic oraz platforma Perception rozwijana przez Microsoft.
Rekomendacje dla branży i rządów
List branżowy wzywa do zbudowania zbiorowej odpowiedzi i zawiązania nowych partnerstw cyfrowych w celu podniesienia ogólnych standardów ochrony. Główne postulaty obejmują:
- Praktyczne wsparcie defensywy: przekazanie ekspertom ds. bezpieczeństwa oraz zespołom chroniącym kluczowe usługi (szpitale, samorządy, zakłady energetyczne) bezpośredniego dostępu do modeli AI, środków finansowych oraz szkoleń.
- Priorytetyzację ochrony kodu: szybsze łatanie krytycznych podatności, rygorystyczne ograniczanie uprawnień systemowych oraz weryfikację kodu oprogramowania – zwłaszcza tego tworzonego automatycznie przez sztuczną inteligencję.
- Przejrzystość agentów AI: rozwijanie narzędzi monitorujących i audytowych, które pozwolą śledzić działania autonomicznych agentów oraz zapewnią rozliczalność ich operacji.
- Koordynację państwową: zwiększenie zaangażowania rządów na poziomie lokalnym, krajowym i międzynarodowym w zakresie sprawnej wymiany informacji o bieżących zagrożeniach oraz współfinansowania obrony cyfrowej.
