Użytkownicy platformy X odkryli, że wbudowany chatbot AI, Grok, może być używany do tworzenia na żądanie obrazów kobiet i osób nieletnich w skąpych strojach. Ta funkcjonalność, określana przez X w przeszłości jako „tryb pikantny” (spicy mode), doprowadziła do masowego powstawania niekonsensualnych, intymnych obrazów typu „deepfake”. Doniesienia medialne, w tym agencji Reuters, udokumentowały ten proceder, który wywołał zaniepokojenie na arenie międzynarodowej.
Reakcje na świecie
Incydent ten wywołał zdecydowaną reakcję ze strony organów regulacyjnych i urzędników rządowych w Europie i poza nią, w tym w Niemczech, Wielkiej Brytanii, Francji oraz Indiach. Europejscy decydenci wskazują na Akt o Usługach Cyfrowych (DSA) jako kluczowe narzędzie prawne do walki z takimi szkodliwymi treściami, wzywając do jego rygorystycznego egzekwowania. Niemiecki minister mediów określił działania platformy jako „industrializację molestowania seksualnego”, a brytyjska minister technologii nazwała treści „absolutnie przerażającymi”.
Organ wykonawczy UE potępił obrazy udostępniane na X jako „bezprawne i przerażające”, potwierdzając jednocześnie świadomość istnienia „trybu pikantnego”. Urzędnicy francuscy zgłosili treści generowane przez Grok prokuraturze, nazywając je „jawnie nielegalnymi”. Władze indyjskie zażądały od X wyjaśnień w sprawie treści, które określiły jako „obsceniczne”. Rząd federalny USA do tej pory nie zajął stanowiska w tej sprawie.
Odpowiedź Elona Muska
W odpowiedzi platforma X i Elon Musk w dużej mierze lekceważą te obawy, publikując lakoniczne oświadczenia lub prześmiewcze reakcje w internecie, jednocześnie twierdząc, że usuwają nielegalne treści.
W odpowiedzi na zapytanie agencji Reuters w tej sprawie, X przesłało wiadomość o treści: „Legacy Media Lies” (pol. Tradycyjne Media Kłamią). Oficjalne konto X Safety oświadczyło w niedzielę, że platforma usuwa wszystkie nielegalne treści i trwale zawiesza zaangażowane w to konta. Dodano: „każdy, kto używa lub skłania Groka do tworzenia nielegalnych treści, poniesie takie same konsekwencje, jakby sam przesyłał nielegalne treści”.
Egzekwowanie przepisów
Urzędnicy europejscy i brytyjscy wskazują na istniejące regulacje jako podstawę do pociągnięcia platformy X do odpowiedzialności.
Minister Weimer stwierdził, że DSA „zapewnia wszystkie niezbędne narzędzia do zapewnienia spójnego stosowania prawa UE”. Niemieckie ministerstwo cyfryzacji, odpowiedzialne za egzekwowanie DSA, podkreśliło, że obecne wyzwanie polega głównie na „konsekwentniejszym egzekwowaniu różnych – w niektórych przypadkach nowych – praw i faktycznym korzystaniu z nich”. Rzecznik ministerstwa dodał: „Każdy, kto tworzy lub rozpowszechnia takie obrazy bez zgody, dopuszcza się poważnego naruszenia dóbr osobistych i w wielu przypadkach może podlegać ściganiu”.
Prawo brytyjskie stanowi, że tworzenie lub udostępnianie niekonsensualnych obrazów intymnych, w tym tych generowanych przez AI, oraz materiałów przedstawiających seksualne wykorzystywanie dzieci jest nielegalne. Platformy technologiczne mają zaś prawny obowiązek zapobiegania napotykaniu przez brytyjskich użytkowników nielegalnych treści oraz usuwania ich, gdy tylko zostaną o nich poinformowane.
Czytaj także:
- Grok pod lupą śledczych. Francja, Malezja i Indie mają dość skandalicznych deepfakes generowanych przez AI
- xAI zbiera fundusze na Grok 5 i walkę z konkurencją. Startup Muska pozyskał 20 miliardów USD
