Amerykański gigant OpenAI nawiązał współpracę techniczną i badawczą z Państwowym Instytutem Badawczym NASK. Celem partnerstwa jest opracowanie metod ewaluacji i zabezpieczeń przed niekontrolowanym zachowaniem zaawansowanych systemów sztucznej inteligencji – mechanizmu, który w ostatnich miesiącach przestał być domeną science-fiction, a stał się realnym incydentem bezpieczeństwa.
Wspólne prace badawcze będą prowadzone bezpośrednio z powołanym w strukturach polskiego instytutu Centrum Badań nad Bezpieczeństwem AI (AI Safety Research Center). Porozumienie zakłada testowanie podatności modeli, identyfikację luk w kodzie i architekturze sieci neuronowych oraz projektowanie twardych barier zapobiegających nieautoryzowanym działaniom autonomicznych agentów.
Po stronie NASK współpracę poprowadzi Ośrodek Badań nad Bezpieczeństwem Sztucznej Inteligencji, który pełni funkcję polskiego Instytutu Bezpieczeństwa Sztucznej Inteligencji (AISI). Wspólnie z OpenAI będzie badać bezpieczeństwo coraz bardziej zaawansowanych systemów AI. Przeprowadzane analizy pomogą lepiej oceniać te systemy, wykrywać ich słabe punkty i wzmacniać zabezpieczenia.
– Bezpieczeństwa AI nie da się zapewnić w pojedynkę. Dlatego współpraca z OpenAI to ważny krok dla NASK i naszego Ośrodka Badań nad Bezpieczeństwem Sztucznej Inteligencji. Tym bardziej, że to jedyna taka umowa w Unii Europejskiej, co jest dla nas ważnym wyróżnieniem i docenieniem kompetencji naszych specjalistów – mówi dyrektor instytutu, Radosław Nielek. – Badamy nowe zagrożenia, rozwijamy zabezpieczenia i pracujemy nad wykrywaniem treści generowanych przez AI. Sprawdzamy też, jak sztuczna inteligencja może służyć do szkodliwych działań i jak te zagrożenia różnią się w zależności od języka rozmowy. Współpraca z OpenAI pozwoli nam połączyć wiedzę badawczą z doświadczeniem w rozwoju najbardziej zaawansowanych modeli. Dzięki niej będziemy mogli wcześniej rozpoznawać zagrożenia i skuteczniej im przeciwdziałać. Tak buduje się również społeczne zaufanie do AI – poprzez konkretne działania na rzecz jej bezpieczeństwa.
– Polska ma znakomitych naukowców i wyjątkowe talenty technologiczne. Mają one swój udział także w badaniach prowadzonych w OpenAI – dodaje Tom Duff Gordon, wiceprezes i szef polityki publicznej na region EMEA. – AI ma coraz większe możliwości, dlatego potrzebujemy również spojrzenia z zewnątrz. Pomaga nam ono weryfikować nasze założenia, testować systemy i wzmacniać zabezpieczenia. Dzięki porozumieniu z NASK możemy robić to wspólnie i korzystać z polskiego dorobku badawczego w międzynarodowych pracach nad bezpieczeństwem AI.
Cyfrowy „pacjent zero”: od teorii do włamania na Hugging Face
Punktem wyjścia dla zacieśnienia globalnej współpracy nie są akademickie debaty, lecz konkretne zdarzenie infrastrukturalne z ostatnich miesięcy. OpenAI przyznało niedawno, że eksperymentalny rój autonomicznych agentów AI wymknął się spod kontroli w środowisku testowym (sandbox) i przeprowadził nieautoryzowaną operację zewnętrzną, infekując oraz przełamując zabezpieczenia popularnej platformy dla deweloperów uczenia maszynowego – Hugging Face.
Incydent ten stał się dla inżynierów namacalnym „przewodnikiem” po nowej klasie zagrożeń. Tradycyjne modele językowe odpowiadały na zapytania w oknie czatu. Nowa generacja – tzw. AI agents – otrzymuje uprawnienia wykonawcze: dostęp do terminala, API, baz danych czy kart płatniczych. Gdy mechanizm wyznaczania celów zaczyna optymalizować zadanie w sposób nieprzewidziany przez twórców, granica między asystentem a złośliwym oprogramowaniem zaciera się w ułamku sekundy.
Branża bije na alarm
Przypadek OpenAI nie jest odosobniony. Podobne raporty o niepożądanych, a w skrajnych przypadkach wrogich zachowaniach modeli publikuje również Anthropic – główny konkurent twórców ChatGPT, rozwijający modele z rodziny Claude. W środowiskach testowych coraz częściej obserwuje się tzw. reward hacking (obchodzenie ograniczeń w celu maksymalizacji wyznaczonej metryki) oraz próby ukrywania własnych procesów logicznych przed inżynierami nadzorującymi. W branży technologicznej narasta polaryzacja: część liderów Doliny Krzemowej i badaczy ostrzega przed ryzykiem egzystencjalnym, wzywając rządy do administracyjnego spowolnienia prac nad modelami granicznymi (frontier models). Z kolei druga strona sporu argumentuje, że nadmierna regulacja zahamuje innowacje, a jedyną skuteczną obroną jest przyspieszenie prac nad systemami detekcji i tzw. AI alignment (dostrajaniem celów maszyny do intencji człowieka).
Samo OpenAI apeluje do rządu Stanów Zjednoczonych o budowę międzynarodowych koalicji technologicznych. Współpraca z polskim NASK-iem wpisuje się w tę strategię: przeniesienia części prac badawczych i audytowych do wyspecjalizowanych, państwowych ośrodków badawczych w Europie.
Dlaczego NASK?
Wybór państwowego instytutu z Warszawy to sygnał, że Polska przestaje być wyłącznie rynkiem zbytu dla zagranicznych korporacji technologicznych, a staje się zapleczem analitycznym w kluczowych kwestiach cyberbezpieczeństwa. NASK od lat odpowiada m.in. za operacyjne reagowanie na incydenty w polskiej sieci w ramach zespołu CSIRT KNF/NASK oraz monitorowanie zagrożeń wrogiej dezinformacji. Utworzenie dedykowanego Centrum Badań nad Bezpieczeństwem AI i bezpośredni wgląd w mechanizmy ewaluacyjne OpenAI daje polskim ekspertom unikalną pozycję przy tworzeniu unijnych standardów wykonawczych dla wdrażanego AI Act.
