Człowiek udaje sztuczną inteligencję. Meta testowała „ludzkiego konsjerża” dla asystenta Muse

Sztuczna inteligencja miewa swoje ograniczenia, zwłaszcza gdy musi zadzwonić do lokalnego fryzjera czy dostawcy usług i porozmawiać z żywym człowiekiem.

Jak wynika z wewnętrznych wpisów firmy, do których dotarł Reuters, Meta postanowiła poradzić sobie z tym problemem w dość nietypowy sposób. W ramach testów nowej funkcji asystenta Muse po cichu angażowano zewnętrznych podwykonawców, którzy wykonywali połączenia telefoniczne w imieniu użytkowników. Sprawa wywołała spore kontrowersje wewnątrz korporacji, a zarzuty dotyczą przede wszystkim prywatności danych oraz przejrzystości działań.

Nowy hit rynkowy i wyzwanie wykonywania połączeń

Osobowy agent AI o nazwie Muse zadebiutował zaledwie kilkanaście dni temu i błyskawicznie wspiął się na szczyty list najczęściej pobieranych aplikacji w Stanach Zjednoczonych. Aplikacja została zaprojektowana tak, aby autonomicznie realizować codzienne zadania: wysyłać wiadomości e-mail, robić zakupy internetowe, rezerwować podróże czy wypełniać formularze. Zgodnie z założeniami twórców, kluczowym wyróżnikiem aplikacji miała być funkcja dzwonienia do firm i punktów usługowych. Użytkownik może polecić Muse m.in. zarezerwowanie wizyty w salonie fryzjerskim, sprawdzenie dostępności towaru na półkach sklepowych czy zebranie wycen od lokalnych wykonawców.

W praktyce automatyczne połączenia napotkały jednak na istotny opór. Jak wynika z relacji pracowników uczestniczących w testach, firmy często rozłączały się natychmiast po usłyszeniu sygnału lub komunikatu głosowego generowanego przez AI. Aby rozwiązać ten problem i zwiększyć skuteczność usługi, Meta wdrożyła eksperymentalne rozwiązanie określane wewnętrznie jako „human concierge” (ludzki konsjerż) lub „human agent calls”.

Jak działał ludzki konsjerż i dlaczego wzbudził opór?

Funkcja została udostępniona w ubiegłym tygodniu połowie pracowników testujących system. W sytuacji, gdy asystent cyfrowy miał problem ze zrealizowaniem połączenia, zadanie przekazywano przeszkolonemu konsultantowi z zewnętrznego call center. Człowiek wykonywał telefon, przeprowadzał rozmowę z punktem usługowym i załatwiał sprawę w imieniu użytkownika.

Przedstawiciele jednostki Meta Superintelligence Labs wskazywali we wewnętrznych dyskusjach, że zaangażowanie ludzi pozwalało podnieść wskaźnik sukcesu realizowanych połączeń do poziomu 95–98%, podczas gdy sama sztuczna inteligencja osiągała znacznie niższe wyniki. Testy szybko wywołały jednak sprzeciw części zespołu.

Pracownicy zwrócili uwagę na istotne ryzyko naruszenia prywatności. Zauważyli, że podczas rozmów rezerwacyjnych lub weryfikacyjnych do zewnętrznych podwykonawców mogą nieintencjonalnie trafiać wrażliwe dane użytkowników, takie jak dane osobowe czy szczegóły zamówień. Krytycy projektu podkreślali, że testowanie tego typu rozwiązań bez wyraźnego poinformowania użytkowników podważa jedno z głównych haseł promocyjnych Muse, którym było bezpieczeństwo i działanie w odizolowanych, zabezpieczonych maszynach wirtualnych.

Powrót do przeszłości i stanowisko Mety

Eksperyment z udziałem ludzi przy obsłudze asystenta AI przypomina wcześniejszy projekt Mety sprzed dekady. Wówczas koncern (działający jeszcze pod nazwą Facebook) testował w aplikacji Messenger asystenta o nazwie „M”. Z późniejszych doniesień medialnych wynikało, że nawet 70% zadań powierzanych tamtemu botowi było w rzeczywistości wykonywanych przez żywych operatorów.

W odpowiedzi na głosy krytyczne ze strony pracowników, wiceprezes Superintelligence Labs przyznała w wewnętrznym wpisie, że uruchomienie testów z udziałem podwykonawców bez odpowiednich ujawnień i informacji było błędem. Meta zdecydowała o wycofaniu tej opcji w dotychczasowej formie. Z kolei rzecznik spółki, Daniel Roberts, w oświadczeniu przekazanym mediom zaznaczył, że ogólny odzew pracowników na testy był przeważająco pozytywny, a celem wewnętrznych badań było właśnie zebranie opinii i dopracowanie rozwiązań. Zapewnił również, że funkcja wykonywania połączeń zostanie officially udostępniona dopiero wtedy, gdy będzie w pełni gotowa i połączona z odpowiednimi komunikatami dla użytkowników.