Wyborcza walka w USA dopiero się zaczyna, a za nami już pierwszy, spektakularny przypadek deep fake. 22 stycznia mieszkańcy stanu New Hampshire mogli w wiadomości głosowej (robocall) usłyszeć głos Joe Bidena, który zachęcał ich do powstrzymania się od udziału w tamtejszych prawyborach. Okazuje się, że nagranie zostało stworzone w oparciu o generator voice AI polskiego unicorna, Eleven Labs. Startup zawiesił twórcę deep fake’a.
Akcja, analiza, reakcja
Głos imitujący głos obecnego prezydenta Stanów Zjednoczonych zachęcał wyborców do „zachowania” swojego głosu na później, tłumacząc to tym, że „twój głos ma znaczenie w listopadzie, a nie w ten wtorek”. W listopadzie, czyli wtedy, gdy będą odbywały się ogólnokrajowe wybory prezydenckie. Obecnie, w Stanach odbywają się prawybory, podczas których wyborcy Demokratów i Republikanów w każdym ze stanów wybierają swoich przedstawicieli na jesienne starcie. Analizę nagrania przeprowadzili eksperci z PinDrop Studio Inc., którzy wskazali, że nagranie powstało przy wykorzystaniu generatora mowy opracowanego przez ElevenLabs.
Kilka dni po tym, gdy przedstawiciele Partii Demokratycznej zaprzeczyli, aby ta wiadomość pochodziła od Joe Bidena, startup ElevenLabs zawiesił twórcę fałszywego głosu Bidena.
Mocny głos przeciwko nieuczciwym głosom
Na internetowej stronie ElevenLabs można przeczytać, że deepfake w kontekście polityków może być używany tylko w niektórych przypadkach, w tym karykatury, parodii lub satyry.
– Naszym celem jest zapobieganie niewłaściwemu wykorzystaniu narzędzi audio AI i traktujemy wszelkie przypadki niewłaściwego użycia niezwykle poważnie – zapowiedział w rozmowie z redakcją Bloomberga przedstawiciel startupu. Gdy firma dowiedziała się o deep fake’u Bidena, przeprowadziła dochodzenie i zawiesiła osobę odpowiedzialne za to działanie, o czym jako pierwszy poinformował Bloomberg.
ElevenLabs to generator głosów AI, który jest obsługiwany przez model, który według jego strony internetowej może dodawać ludzką fleksję do głosu w oparciu o kontekst. Generator ma tysiące gotowych głosów AI do wyboru. Można też stworzyć własny dźwięk.
W cytowanym przez serwis Mashable wywiadzie dla The Hill, profesor informatyki na Carnegie Mellon University Kathleen Carley powiedziała, że robocall Bidena to „wierzchołek góry lodowej”, jeśli chodzi o próby oszukiwania wyborców. Carley dodała, że jest to dopiero zapowiedź tego, co może nas czekać już niebawem.
Po co ten deepfake?
ElevenLabs nie zdradza szczegółów dotyczących twórcy fałszywego nagrania. Można zakładać, że deep fake został stworzony albo przez kogoś z polityków Partii Demokratycznej, którzy w New Hampshire rywalizowali o głosy z Joe Bidenem, albo przez przedstawiciela Partii Republikańskiej. W tym drugim wypadku niska liczba głosów oddanych w prawyborach na Bidena miałaby być dowodem, że nawet Demokraci nie chcą wspierać obecnego prezydenta USA. Tym samym, byłby to pośredni dowód na siłę Donalda Trumpa, najbardziej prawdopodobnego rywala Demokraty w walce o najwyższe stanowisko w Stanach Zjednoczonych.
Źródło: Bloomberg, Mashable, The Hill.
Zdjęcie: The White House.
Czytaj także:
