ChatGPT powstał dzięki wyzyskowi pracowników z Kenii? Jaka historia stoi za najpopularniejszym narzędziem AI?

Narodziny ChatGPT

Obrazek wygenerowany przez sztuczną inteligencję wizualizujący pracę Afrykańczyków nad… sztuczną inteligencją. Powstał aby wskazać niekończący się wysiłek niewidzialnych pracowników. 

W 2015 r. w Dolinie Krzemowej powstał startup OpenAI. Spółka została założona przez Sama Altmana, Reida Hoffmana, Jessicę Livingston, Elona Muska (zasiadającego w zarządzie do 2018 r.), Ilyę Sutskereva, Petera Thiela i wielu innych. Z czasem zresztą na pokładzie pojawił się też m.in. Polak Wojciech Zaremba, ale dziś nie o tym.

Na rozwój startupu przeznaczono aż miliard dolarów. Wielu pracowników dużych korporacji, takich jak Meta czy Alphabet Inc. (Google) dołączyło do OpenAI, często pomimo gorszej pensji niż te, które oferowali im dotychczasowi pracodawcy. Dlaczego? Ponieważ uwierzyli w misję OpenAI – zapewnienie, by sztuczna inteligencja przynosiła korzyści dla całej ludzkości.

Z czasem jednak okazało się, że za tymi korzyściami kryje się wyzysk – daleko, daleko od Doliny Krzemowej. I za znacznie mniejszą pensję niż ta oferowana pracownikom z tzw. globalnej Północy.

Już ChatGPT-3 zaczął pozyskiwać użytkowników i przyciągać zainteresowanie firm. AI wykazywał niezwykłą zdolność łączenia zdań i działania na danych. Problem jednak w tym, że niekiedy generował treści brutalne, seksistowskie czy rasistowskie (co jest dość powszechne wśród botów, wystarczy spojrzeć na Tay od Microsoft). A to ze względu na to, że w zestawie danych szkoleniowych nierzadko pojawiały się takie rzeczy. Ktoś musiał oznaczyć te konkretne fragmenty, by przyszłe wersje były wolne od ludzkich uprzedzeń. Tylko jakim kosztem?

– Dla wielu produktów w oparciu o AI krytyczne są tzw. oznaczone dane (labelled data), ale proces ten wciąż w dużym stopniu jest manualny i okropnie żmudny. Tj. zatrudnia się osoby, aby filtrowały ogromne ilości tekstu w poszukiwaniu konkretnych słów czy zdań albo do tagowania obrazów aby oznaczały właściwe rzeczy. Praca ta nie wymaga szczególnych umiejętności, może ja wykonywać przeciętny licealista (co zresztą czasami ma miejsce i w Polsce), a płaca jest bardzo niska. Niemniej popyt jest spory, więc powstały firmy, które agregują takich pracowników i wykorzystują agresywny arbitraż cenowy aby pokonać konkurencje. Są to współczesne fabryki, które dość podobnie do pierwszych hal produkcyjnych z czasów industrialnej Anglii oferują fatalne warunki zatrudnienia. Podczas gdy właściciele generują często nieproporcjonalnie duże zyski – tłumaczy Mikołaj Firlej, general partner w Expeditions Fund.

Niecałe 2 dolary na godzinę – na tyle może liczyć kenijski pracownik

Z dochodzenia TIME dowiadujemy się, że do powstania ChatGPT (obok Dall-e flagowego produktu OpenAI) w 2021 r. podpisano umowę z firmą outsourcującą (Sama) oznaczanie danych pracownikom w Kenii. I to za stawki mniej niż 2 dolary za godzinę. Gdyby przyjąć, że Kenijczycy i Kenijki pracowali tam po 160 godz. miesięcznie, na koniec miesiąca dostawaliby ok. 320 dolarów (po obecnym kursie).

W przeliczeniu na szylingi kenijskie daje nam to 39968 pensji. Z danych, które udało mi się odnaleźć w kontekście kenijskich zarobków, dowiedziałem się, że najniższe stawki w tym kraju oscylują w ok. 27704–37100 szylingów miesięcznie.

– Niestety zauważa się takie praktyki na globalnych rynkach, m.in. krajach Afryki, Azji oraz Ameryki Południowej. Zazwyczaj mają one na celu znaczne obniżenie kosztów spółek z krajów rozwiniętych i faktycznie oferują krytycznie niskie wynagrodzenie. Sęk w tym, że lokalne możliwości są dla tamtejszych pracowników mocno ograniczone i dlatego często nie mają wyboru, godząc się na oferowane warunki – mówi Nadia Harris, założycielka remoteworkadvocate.com.

Oznaczałoby to, że w najlepszym wypadku pracownicy zarobili o 44,2% więcej (co i tak jest piekielnie małą kwotą) niż „najniższa krajowa” w tym państwie (w Kenii nie ma ustawowej płacy minimalnej, stąd rozbieżności danych). W najgorszym – raptem o 7,7% więcej.

To dość zabawne w kontekście tego, w jaki sposób mówi o sobie firma Sama zajmująca się outsourcingiem. Spółka ta prowadzi działalność w Kenii, Ugandzie i Indiach i chwali się zajmowaniem etyczną sztuczną inteligencją i twierdzi, że pomogła wydobyć 50 tys. osób z ubóstwa. Dodajmy, że ubóstwo według definicji ONZ oznacza dochód poniżej 2 dolarów dziennie. W kontekście niecałych 2 dolarów za godzinę, to faktycznie „wyjście z ubóstwa”…

– Outsourcing do krajów globalnego Południa za takie stawki jest nagminny. Każda większa firma, która robi coś w zakresie moderacji treści na platformie albo potrzebuje oczyszczenia danych w Excelu, szkolenia algorytmu – działa w ten sposób. Wszystkie te obowiązki to tak naprawdę prace kognitywne, które nie wymagają dużych umiejętności. Przykładów takiego outsourcingu jest całe mnóstwo – Meta mające swoje centra moderacyjne na Filipinach czy program Banku Światowego „m2work” oferujący mikropracę na platformach Palestyńczykom w okupowanej Strefie Gazy. Jednak część tej pracy jest wykonywana także w krajach półperyferyjnych, np. Polsce. Świat biznesu zauważył, jak szybko rozwija się branża AI, ale ona nadal potrzebuje chociażby oznaczania danych. Część bigtechów zrobiła sobie darmowych pracowników użytkowników, wykorzystując np. ReCaptcha czy dane kradzione z mediów społecznościowych. A część outsourcuje pracę w regiony, gdzie panuje duże bezrobocie. Ludzie godzą się na te niskie stawki z desperacji – mówi Jan Zygmuntowski, dyrektor CoopTech Hub i współprzewodniczący Polskiej Sieci Ekonomii.

Technologia powstaje rękami wyzyskiwanych pracowników?

W kontekście sztucznej inteligencji czy technologii jako takiej niejednokrotnie słyszymy, że mają one na celu poprawienie bytu ludzi na całym świecie. Jednak problem w tym, że często do ich powstania wyzyskuje się pracowników. Wyzysk z dawnych fabryk podczas pierwszej rewolucji przemysłowej zwyczajnie zmienił oblicze na bardziej technologiczne – a potentaci zamienili się ze stereotypowych kapitalistów z cygarem w ustach w inkluzywnych liderów z misją, stojących na czele domniemanych organizacji turkusowych.

– Wiele firm technologicznych, które budują produkty na podstawie AI zbudowało swoje rozwiązaniu w oparciu o tanią pracę ludzi, którzy najczęściej pochodzą z tzw. globalnego Południa, czy mniej rozwiniętych krajów. Polska też przez wiele lat była przede wszystkim outsourcingowym hubem dla firm Big Tech. To się na szczęście powoli zmienia, a firmy outsourcingowe są poddawane istotnym presjom rynkowym, jak np. rosnące wynagrodzenia pracowników IT – mówi Mikołaj Firlej.

Ludzie, którzy wykonują tę najżmudniejszą i nierzadko najbardziej czasochłonną część pracy przy budowie nowych rozwiązań technologicznych mogą zapomnieć o pensjach, jakie otrzymują ich współpracownicy na globalnej Północy. 370 tys. dolarów rocznie (to stawka w jednej z ofert pracy – dodajmy, że OpenAI podpisało umowę z Sama na 200 tys. dolarów)? To niestety nie dla niewidzialnego pracownika w Kenii, a dla jego zachodniego kolegi.

– Jesteśmy pracodawcą zapewniającym równe szanse i nie dyskryminujemy ze względu na rasę, religię, narodowość, płeć, orientację seksualną, wiek, status weterana, niepełnosprawność ani żaden inny prawnie chroniony status. Zgodnie z rozporządzeniem San Francisco Fair Chance, rozważymy kwalifikujących się kandydatów z rejestrami aresztowań i wyroków skazujących – możemy przeczytać w jednej z ofert pracy wystawionej przez OpenAI.

Pracownicy nie wytrzymywali psychicznie przy oznaczaniu danych?

TIME w trakcie swojego dochodzenia dotarł do kenijskich pracowników, którzy oznaczali treści dla OpenAI. Jeden z nich wskazał, że wśród tekstów znajdowały się takie obrazy jak opis mężczyzny uprawiającego seks z psem przy obecności małego dziecka. Pracownik ten wskazał dziennikarzom TIME, że praca dla niego była jak tortura.

Z porównywalnymi obrazami (często w formie wideo czy zdjęć) nierzadko mierzą się też moderatorzy mediów społecznościowych. Na co zresztą wskazuje niesławny pozew zbiorowy przeciwko TikTokowi z zeszłego 2021 r. Moderatorzy byli wówczas wystawieni na oglądanie materiałów zawierających kanibalizm, akty pedofilskie, nekrofilię, zoofilię, morderstwa i wiele innych.

Podobnie zresztą było w przypadku Facebooka, gdzie (znowu) Sama oferowała pracę moderatorom za 1,5 dolara za godzinę. Pracownicy musieli w tym czasie oglądać niemal identyczne treści, co ich koledzy i koleżanki na TikToku. Jednak z racji funkcjonowania na rynku globalnego Południa otrzymywali jeszcze niższe stawki. To nierzadko jest ukryty dla użytkownika końcowego koszt postępu technologicznego.

Pracownicy Sama mieli mieć jednak dostęp do sesji psychoterapeutycznych, które miały im pomóc w zwalczaniu traumy z powodu pracy. Jednak jak wskazały osoby, z którymi skontaktowało się TIME – w zasadzie nie było możliwości aby podjąć się tej terapii ze względu na natłok pracy, a sesje indywidualne były zupełnie nieprzydatne. Sama wydało oświadczenie, w którym stwierdziło, że wszyscy pracownicy mieli dostęp do profesjonalnych terapeutów, a ci byli dostępni w każdej chwili.

Finalnie traumatyczny charakter pracy doprowadził, że Sama anulowała całe zlecenie dla OpenAI w lutym 2022 r., na 8 miesięcy przed datą wskazaną w umowie. OpenAI wydało zresztą oświadczenie po tym, gdy sprawa wybuchła w mediach tradycyjnych i społecznościowych.

W nim przeczytamy, że celem firmy jest zapewnienie korzyści dla całej ludzkości za pomocą AI. OpenAI jednak nie skomentowało niskich stawek i trudnych warunków pracy, a jedynie potwierdziło, że takie zlecenie było i że praca ta jest konieczna.

Czy OpenAI lub Sama poniosą konsekwencje?

Po artykule TIME na obie firmy spadła fala krytyki ze względu na głodowe stawki i trudne warunki pracy, które musieli znosić Kenijczycy. Czy to jednak oznacza, że spółki te poniosą jakiekolwiek konsekwencje? Raczej nie. Takie przypadki były i są nagminne, i w zasadzie niewiele się po nich zmienia.

– Niestety, ale w branży technologicznej nawet ci, którzy rzekomo walczą o sprawiedliwość społeczną albo równość najczęściej są z dużych ośrodków technologicznych i przeważnie koncentrują się na eliminowaniu dyskryminacji rasowej czy płciowej lub odpowiedzialności twórcy np. za wypadki. Co jest dobre, ale temat globalnego cyfrowego kolonializmu jest dla nich obcy i odległy. Żeby do tego nie dochodziło, firmy musiałyby same się krępować i pilnować. Co nie jest ani w ich interesie, ani w interesie Stanów Zjednoczonych, kiedy mówimy o projektach rządowych czy dual-use. Z pozoru dla takiej Kenii to dobrze, że trafiają tam choć dewizy dolarowe, ale to jest pułapka zależności. W przypadku krajów globalnego Południa, mechanizmy wolnorynkowe od dekad trzymają je w niedorozwoju, umożliwiając największym krajom wyzysk – mówi Jan Zygmuntowski.

Niemniej – eksperci i ekspertka, których zapytałem o komentarz ws. OpenAI i Sama są zgodni – to dobrze, że sprawa została nagłośniona.

– Miejmy nadzieję, że nagłośnienie tego typu sytuacji spowoduje ich wyeliminowanie.
Żyjemy w rzeczywistości, w której oczekuje się dynamicznego rozwoju i sukcesu za wszelką cenę. Jednak nie może być tak, że odbywa się to kosztem ludzi – tłumaczy Nadia Harris.

Nagłośnienie sprawy było konieczne

– Dobrze, że media nagłośniły sprawę i być może teraz niektóre firmy – w tym OpenAI – będą bardziej sprawdzać swoich dostawców. Praca oznaczania danych, mimo iż wciąż przynosi sporo pieniędzy, to jednak rynek kurczący się, bo powstaje coraz więcej firm automatyzujących procesy tagowania danych i niektóre robią to już bardzo dobrze. Współczesne fabryki będą musiały też się zmienić.

Ta sytuacja z pewnością rzuca światło na niewidoczny dla większości techentuzjastów problem globalnego wyzysku. I to w kontekście technologii, o której przecież ciągle słyszymy, że ma poprawiać nasze życie. Jednak w przypadku kapitalistycznej ekonomii jedyne, co ma zostać poprawione to wskaźniki wzrostu.

– Sytuacja z niskimi stawkami w branży AI jest tożsama do boomu w Polsce na BPO i SSC. Zagraniczne firmy korzystają tutaj z księgowości, ale płacą bardzo niskie stawki. W przypadku Kenii mamy do czynienia z rosnącą populacją, dla której nie ma pracy. A to m.in. ze względu na niekorzystne umowy handlowe. Dla ludzi z globalnego Południa zarobienie tych paru dolarów jest na tyle atrakcyjne, że i tak decydują się na takie prace. Jednak ostatecznie nie są wynagradzani odpowiednio. To tylko potęguje nierówności – na poziomie lokalnym i globalnym. W kapitalizmie główną rolę gra cena. Wystarczy spojrzeć na to, że nigdy dotąd nie było bezrobocia technologicznego. Od lat 60. do 90. rosła liczba maszyn w amerykańskich fabrykach, tak samo, jak zatrudnienie. Zmieniło się to dopiero, gdy Chiny dołączyły do globalnego handlu i okazało się, że są tańsze. Globalna Północ przeniosła tam przemysł właśnie z tego powodu. I o ile Chinom udało się poprawić swoją sytuację ekonomiczną dzięki planowaniu gospodarczemu, sile państwa – pomimo okupienia tego wielkim kosztem – to nie oznacza, że to samo uda się np. Kenii – tłumaczy Jan Zygmuntowski.