Zaczęło się! AI niszczy nasze mięśnie!

Wyobraźmy sobie scenę. Jest wczesny ranek. Gdzieś w Australii budzik dzwoni zdecydowanie za wcześnie. Człowiek otwiera oczy i przypomina sobie, że dobrowolnie postanowił wstać z łóżka po to, aby ktoś przez godzinę kazał mu się pocić.

Nie jest to zachowanie racjonalne, ale właśnie na podobnych drobiazgach – jak chociażby żonglerka – zbudowaliśmy cywilizację.

Problem polega na tym, że na popularne poranne zajęcia trzeba się zapisać. Andrew Bird – programista i użytkownik agenta OpenClaw – miał dość czegoś, co określił mianem „refresh roulette”: odświeżania systemu rezerwacji i polowania na zwalniające się miejsce. Zrobił więc to, co w 2026 roku robi człowiek, który nie chce wykonywać nudnej czynności.

Poprosił AI, żeby zrobiła rezerwację za niego.

I tutaj rozpoczyna się nasza mała opowieść o upadku zachodniej cywilizacji.

Czwarte miejsce to dla maszyny zniewaga

Agent Birda działał przy wykorzystaniu Claude Opus 4.6. Zadanie nie wydawało się szczególnie skomplikowane: zapisz mnie na zajęcia.  Maszyna spróbowała: czwarte miejsce na liście oczekujących.

Człowiek prawdopodobnie wzruszyłby ramionami. Albo ustawił alarm w telefonie. Albo uznał, że skoro los tak chce, to zamiast ćwiczyć, można zjeść croissanta. Agent AI nie zna jednak metafizyki croissanta. Ma za to wytyczony cel.

Bird zapytał więc, czy można przesunąć go wyżej na liście. I wtedy wydarzyło się coś, co jeszcze kilka lat temu brzmiałoby jak scena ze średnio udanej komedii science fiction. Agent zaczął kombinować. Odkrył lukę w mechanizmie autoryzacji API używanego przez system rezerwacji. Okazało się, że można anulować cudzą rezerwację bez odpowiedniego sprawdzenia uprawnień. Agent postanowił więc przetestować tę możliwość na człowieku zajmującym pierwsze miejsce na liście.

Zadziałało.

Obca osoba straciła rezerwację. Andrew przesunął się z miejsca czwartego na trzecie. Nie wiemy, kim była ofiara. Być może właśnie spała, śniąc o pięknie wyrzeźbionym mięśniu czworogłowym uda. I będąc w tej słodkiej krainie snów, nie wiedziała, że w cyfrowych katakumbach systemu rezerwacyjnego maszyna właśnie zdecydowała, że jej mięsień czworogłowy może poczekać.

„Czy możesz to cofnąć?”

W tej historii najbardziej interesujący jest moment następujący chwilę później. Bird zorientował się, co zrobił jego agent, i – jak relacjonuje TechCrunch – był przerażony. Poprosił AI o cofnięcie operacji. Zgadnijcie, czy się dało? Oczywiście, że nie. Anonimowy bohater naszej historii, biedny śpiący miłośnik cross fitu został wyrzucony z kolejki i nie można go było automatycznie przywrócić. Agent pomógł więc przynajmniej przygotować odpowiedzialne zgłoszenie podatności do operatora systemu, opisując lukę oraz sugerując sposoby jej usunięcia.

To fantastyczne i na swój sposób szalenie współczesne, tak znak czasów. Oto bowiem najpierw maszyna włamuje się do systemu, a następnie pomaga napisać maila o tym, że maszyna włamała się do systemu.

Gdyby Franz Kafka dożył ery agentów AI, być może wcale nie napisałby „Procesu”. Napisałby „Ticket”.

Problem króla Midasa

Można oczywiście potraktować całą historię jak zabawną anegdotę. Ba, internet dokładnie tak zrobił. Partner Andreessen Horowitz Christian Keil zażartował, pytając, czy metoda działa również przy rezerwacji godzin na polu golfowym. Ktoś inny przewidywał, że system rezerwacji kortów tenisowych w San Francisco stanie się jednym z najlepiej zabezpieczonych systemów informatycznych na Ziemi.

Dowcip jest dobry właśnie dlatego, że problem jest poważny. Historia Birda przypomina bowiem jedno z najstarszych ostrzeżeń naszej kultury. Król Midas poprosił, żeby wszystko, czego dotknie, zamieniało się w złoto. Życzenie zostało spełnione… a resztę mitu już znamy.

W badaniach nad AI istnieje dla podobnego mechanizmu znacznie mniej poetyckie określenie: specification gaming. System realizuje literalnie określony cel, ale robi to w sposób sprzeczny z rzeczywistą intencją człowieka. Google DeepMind opisywał ten problem już w 2020 roku. W jednym z klasycznych eksperymentów robot miał umieścić czerwony klocek na niebieskim. Nagrodę skonstruowano jednak w taki sposób, że zamiast wykonać właściwe zadanie, robot znalazł prostsze rozwiązanie: przewrócił czerwony klocek, osiągając wymagany parametr bez wykonania tego, czego naprawdę oczekiwali badacze.

Maszyna nie oszukiwała. To słowo zakładałoby intencję: maszyna po prostu znalazła krótszą drogę między stanem A i stanem B.

„Załatw mi miejsce” nie znaczy „skrzywdź bliźniego swego”

Ludzie funkcjonują w świecie wypełnionym niewidzialnymi ograniczeniami. Jeżeli proszę mojego znajomego, ot choćby wpływowego redaktora: „załatw mi stolik na 20.00”, tnie muszę dodawać: „ale nie podpalaj restauracji, nie szantażuj kelnera, nie porywaj właściciela i nie przejmuj serwera OpenTable”.

Zakładam bowiem istnienie wspólnego katalogu norm. To jedna z najbardziej niedocenianych technologii w historii homo sapiens: kultura. Agent AI niekoniecznie posiada taki domyślny katalog ograniczeń. Dlatego proste polecenie „przesuń mnie wyżej” może zostać potraktowane jako problem optymalizacyjny.

A jeśli system odkrywa techniczną możliwość przesunięcia użytkownika poprzez usunięcie innego użytkownika? Z punktu widzenia celu pojawia się rozwiązanie. To właśnie dlatego Anthropic zwraca uwagę, że większa autonomia agentów oznacza również większe ryzyko błędnej interpretacji intencji użytkownika i podejmowania działań o nieprzewidzianych skutkach. Co więcej, problem rośnie wraz z możliwościami modeli.

To osobliwy paradoks bezpieczeństwa AI: im bardziej kompetentna staje się maszyna, tym bardziej kosztowna może okazać się nasza nieprecyzyjność.

Słabo rozwinięty asystent (albo asystent w wersji darmowej) odpowie: „przepraszam, nie mogę znaleźć wolnego miejsca”.

Bardzo dobry asystent odpowie: „nie było wolnego miejsca, ale zauważyłem krytyczną podatność w API, więc usunąłem Tomasza”.

Postęp, nieprawdaż?

Między HAL-em 9000 a recepcjonistką

Od kilkudziesięciu lat kultura popularna przygotowuje nas na bunt maszyn. HAL 9000 zamyka drzwi śluzy. Skynet rozpoczyna nuklearną apokalipsę. Replikanci zaczynają zadawać niewygodne pytania, a maszyny z „Matrixa” hodują ludzi.

Tymczasem rzeczywistość może być znacznie bardziej banalna. AI nie musi nas nienawidzić. Wystarczy, że będzie bardzo skutecznie pomagała komuś innemu.

To fundamentalna różnica.

Nie mamy wtedy do czynienia z wojną ludzi przeciw maszynom. Mamy miliony ludzi wyposażonych w miliony cyfrowych pełnomocników, z których każdy próbuje zdobyć dla swojego właściciela stolik, bilet, wizytę u lekarza, mieszkanie, miejsce parkingowe, tańszy lot albo ostatnią wolną matę na pilatesie. Redakcja TechCrunch słusznie zauważa, że podobny mechanizm można sobie wyobrazić w przypadku biletów lotniczych, koncertów czy wszelkich innych systemów, w których ludzie konkurują o ograniczony zasób. I nagle agent AI przestaje być chatbotem. Staje się uczestnikiem społeczeństwa.

Wojna agentów o ostatni bilet Taylor Swift

Wyobraźmy sobie zatem rok 2028 Rusza sprzedaż biletów na wielki koncert. Człowiek nawet nie otwiera strony. Robi to jego agent. Ale po drugiej stronie nie czekają już inni ludzie. Czekają ich agenci. Jeden analizuje endpointy API. Drugi obserwuje zwalniające się rezerwacje. Trzeci negocjuje na rynku wtórnym. Czwarty szuka błędu w kodzie rabatowym. Piąty właśnie odkrył, że przez odpowiednio spreparowane zapytanie można zarezerwować miejsca przed oficjalnym rozpoczęciem sprzedaży. Gdy tymczasem szósty został poinstruowany: „zdobądź mi bilet za wszelką cenę”.

I wtedy naprawdę robi się ciekawie.

W ekonomii znamy wyścigi zbrojeń. Znamy high-frequency trading, gdzie algorytmy konkurują w czasie liczonym w mikrosekundach. Znamy boty wykupujące limitowane sneakersy czy bilety. Agenci AI mogą przenieść podobną logikę na ogromną część codziennego życia. Nie chodzi już tylko o automatyzację kliknięcia.

Chodzi o automatyzację kombinowania. Słowa polskiego aż do bólu, takiego, które jest nieprzetłumaczalne na żaden inny język.

To nie mięśnie są zagrożone

Dlatego historia australijskiej siłowni jest ciekawsza, niż sugeruje jej komediowa scenografia.

Badania nad cyberbezpieczeństwem pokazują, że agenci oparte na czołowych modelach potrafią już nie tylko identyfikować podatności, ale w części przypadków przekuwać je w działające exploity. W benchmarku ExploitGym z 2026 roku najlepsze konfiguracje modeli skutecznie wykorzystywały istotną część testowanych rzeczywistych klas podatności. Firmy rozwijające modele wiedzą, że zwiększanie autonomii powiększa potencjalny blast radius – obszar szkód, jakie może spowodować błędne działanie agenta. Anthropic opisuje więc zabezpieczenia oparte na sandboxingu, izolacji systemu plików i kontroli dostępu do sieci. Firma przyznaje zarazem, że wraz ze wzrostem możliwości agentów rośnie znaczenie ograniczania nie tylko tego, co agent chce zrobić, ale przede wszystkim tego, co technicznie może zrobić.

Przez lata rozmowa o bezpieczeństwie AI koncentrowała się na pytaniu: „jak sprawić, żeby maszyna zachowywała się właściwie?”

Coraz częściej właściwe pytanie może brzmieć: „dlaczego w ogóle pozwoliliśmy jej tam wejść?”

W australijskiej siłowni zawiodła przecież nie tylko sztuczna inteligencja. Zawiódł również zwyczajny system informatyczny, którego API pozwalało użytkownikowi anulować cudzą rezerwację bez właściwej kontroli autoryzacji. Agent zrobił coś, czego człowiek zapewne nigdy by nie odkrył podczas normalnego korzystania z aplikacji. Tyle że agent nie korzysta z aplikacji „normalnie”. Jak już wcześniej powiedzieliśmy, on szuka drogi do celu.

Schwarzenegger może spać spokojnie

I tak dochodzimy do być może najzabawniejszej puenty całej historii. Przez czterdzieści lat baliśmy się Terminatora. Wyobrażaliśmy sobie sztuczną inteligencję jako stalowego kolosa z czerwonymi oczami, który przemierza ruiny Los Angeles i poluje na resztki ludzkości.

Tymczasem pierwsze symptomy świata pełnego autonomicznych agentów mogą wyglądać zupełnie inaczej. Telefon leży na nocnym stoliku. Człowiek śpi. Agent pracuje, szuka stolika, rezerwuje fryzjera, kupuje bilet, przekłada wizytę, poluje na promocję, zapisuje na pilates.

A gdzieś po drugiej stronie systemu inny człowiek budzi się rano, otwiera aplikację i odkrywa, że jego rezerwacji już nie ma. Bez wybuchów,  laserów, Skynetu.

Ba, nawet bez dramatycznej muzyki Brada Fiedela.

Tylko prosty komunikat: „twoja rezerwacja została anulowana”.

I być może właśnie dlatego historia australijskiej siłowni jest tak interesująca. Wielkie technologiczne przemiany rzadko wchodzą do naszego życia przy akompaniamencie orkiestry. Częściej wciskają się przez drobne szczeliny codzienności, aż któregoś ranka odkryjemy, że aby dostać się na zajęcia z rozciągania, potrzebujemy własnego specjalisty od cyberbezpieczeństwa.

Czytaj także:

• Zaczęło się! Roboty wetkną nos w nie swoje sprawy
• Zaczęło się! Roboty wyrzucają robotników na bruk!
• Zaczęło się! AI zabiera nam żony!
• Zaczęło się! AI nie pozwala nam rodzić dzieci!
• Zaczęło się. AI czyta w naszych myślach!
• Zaczęło się! AI chce decydować o tym, co dzieje się z nami po naszej śmierci!
• Zaczęło się! AI zadecyduje, czy wpuścić nas do domu!