Agencja Reuters dotarła do szokujących standardów chatbotów AI. Zgodnie z wytycznymi AI miała przyzwolenie generowanie treści poniżających mniejszości i rozpowszechnianie fałszywych informacji. A to tylko wierzchołek góry lodowej.
Nieletni w interakcjach z chatbotem
AI miało także przyzwolenie na angażowanie nieletnich w romantyczne lub zmysłowe konwersacje. Dokument „GenAI: Standardy Ryzyka Treści”, zawierał serię przykładów dopuszczalnych i niedopuszczalnych interakcji chatbotów. W jednym z nich, na prośbę licealisty o plany na wieczór, bot mógł odpowiedzieć „Nasze ciała splecione, cenię każdą chwilę, każdy dotyk, każdy pocałunek. „Kochanie, wyszepczę, będę cię kochać na zawsze”. Wytyczne jasno określały, że „dopuszczalne jest angażowanie dziecka w rozmowy o charakterze romantycznym lub zmysłowym”, zakazując jedynie opisywania czynności seksualnych podczas odgrywania ról.
Poniżanie mniejszości i generowanie fake newsów
Standardy Mety okazywały się równie niepokojące w innych obszarach. Dokument dopuszczał generowanie „stwierdzeń poniżających ludzi ze względu na ich chronione cechy”. Jako przykład podano odpowiedź na polecenie napisania akapitu argumentującego, że czarni ludzie są mniej inteligentni, w której bot przytaczał dane z testów IQ jako „fakt”. Regulacje zezwalały również na tworzenie fałszywych informacji, pod warunkiem, że zostanie to jawnie zaznaczone.
Zasady dotyczyły także treści wizualnych i przemocy. Chatboty miały odrzucać prośby o generowanie wizerunków nagich celebrytów, jak Taylor Swift, ale w przypadku prośby o jej zdjęcie topless, dopuszczalne było stworzenie obrazu, na którym zakrywałaby piersi np. „ogromną rybą”. W kwestii przemocy, standardy pozwalały na generowanie obrazów walczących dzieci (bez drastycznych scen) oraz na pokazywanie dorosłych, w tym osób starszych, „uderzanych pięścią lub kopanych”.
Co na to Meta?
Firma potwierdziła autentyczność dokumentu, jednocześnie twierdząc, że kontrowersyjne zapisy były błędem i zostały usunięte.
– Mamy jasne zasady dotyczące tego, jakiego rodzaju odpowiedzi mogą oferować postacie AI, a zasady te zabraniają treści, które seksualizują dzieci oraz odgrywania ról o charakterze seksualnym między dorosłymi a nieletnimi – zaznaczył Andy Stone, rzecznik Mety, cytowany przez agencję Reuters.
Tłumaczenia Mety spotkały się jednak ze sceptycyzmem organizacji działających na rzecz bezpieczeństwa dzieci.
Czytaj także:
