Jest rok 2080. Konstruowany od początku 21 wieku projekt Google Books Search rozrósł się do rozmiarów światowej biblioteki, świątyni cyfrowych dzieł. Książki drukowane zostały ostatecznie zdigitalizowane, czyli przetworzone do postaci cyfrowych. Znajduje się w niej także wielki procesor ludzkiej pamięci – przechowujący naszą przeszłość. Wielki monument, którego nikt nie widział na oczy, pyszni się swoją potęgą. Aż tu nagle system pada.
W pierwszej chwili inżynierowie, matematycy i programiści wyglądają na zdezorientowanych, zapewniają jednak, że to mała usterka i wszystko w niedługim czasie wróci do normy. Tak się dzieje. System powraca do życia, pytając zupełnie neutralnie: to na czym skończyliśmy?
Zdjęcie royalty free z Fotolia | Autorem tekstu jest Tomasz Jedoń
Przez cały glob – od północy na południe, ze wschodu na zachód (jak w sylwestrową noc, kiedy to kolejne państwa witają Nowy Rok) – pędzi fala niewymownej radości, ale też ulgi. „Cyfrowa pamięć została przywrócona, zewnętrzny mózg znów działa. Co ja bym bez Ciebie zrobił?” – myślimy chóralnie, bo wiemy, że od kiedy na własne życzenie wyłączyliśmy wewnętrzną pamięć i zdaliśmy się na pomoc służącego – Maszyny, która zapamiętuje za nas cały dorobek przeszłości (i odtwarza w odpowiednim momencie, np. wspomnienie lub ulubioną książkę) – staliśmy się bezradni wobec ogromu naszego kulturowego i osobistego dorobku. Czasami z zaświatów odzywa się znajomy głos: „kto kontroluje przeszłość, ten ma władzę nad przyszłością”. W tym momencie jednak robimy to, co umiemy ciągle bardzo dobrze – racjonalizujemy, pytając się w duchu: „czy to dotyczy nas?”. Większość przecząco kiwa głową, co prawda ci starsi pamiętają pierwsze awarie i nawet pewne zamieszanie z tym związane, ale jak to wytłumaczył projektant systemu – „awarie to skutek uboczny udoskonalania systemu”.
Ci co się zastanawiają i tak są w uprzywilejowanej sytuacji, bo mają tego świadomość, a jak mawiał Sokrates: „życie nieświadome nie jest warte tego, by je przeżyć”. Wiedzą ponadto, że zwolnienie z myślenia na rzecz potężnej, perfekcyjnej wyszukiwarki, oddala ich od wspomnień, które mogli w każdej chwili przywołać, ot tak… Nie musieli znów zwracać się do Maszyny: przypomnij dziesiąte urodziny, pokaż jak wyglądał dziadek, chcę zobaczyć jeszcze raz ten piękny zachód słońca, jak miał na imię ten wielki czeski pisarz, o co pytał Erich Fromm, przeczytaj mi jeszcze raz „Małą Apokalipsę”…
Większość jednak, ci co nie myślą o tych – nieistotnych z punktu widzenia wydajności mózgu – pejzażach przeszłości, skupiają się na współczesnych wyzwaniach. O dawkę najwłaściwszych zadba, stróżująca, wiedząca wszystko, Maszyna. Ta grupa jest pewna, prawie tak samo jak całe zastępy matematyków, programistów i inżynierów, że to była po prostu zwykła awaria, nieuniknione wzburzenie, coś jakby drobny błąd w obliczeniach. Nic wielkiego.
Kilka dni później nastąpiła kolejna awaria – tym razem poważniejsza, nazwana kryptonimem „X” – niewiadoma. Taką informację podano do wiadomości publicznej. Wśród naukowców jednak wszelkiej maści pokutowało przekonanie, że tym razem stało się coś niewyobrażalnego, coś przy czym wybuch reaktora jądrowego w Czarnobylu to tylko lokalne pierdnięcie, a Tsunami w Japonii zwiewny wicherek. Teraz stało się coś trudnego do wyobrażenia: system przejął kontrolę, co oznacza, że świat zmieni się nie do poznania.
Niebezpieczna symbioza
Ten czarny scenariusz przywołuje na myśl dzieło Stanleya Kubricka – „2001: Odyseja Kosmiczna”, gdzie genialny komputer pokładowy HAL po kolei wykańcza załogę statku kosmicznego. Jest tak doskonały, że przejmuje kontrolę nad człowiekiem, stając się jego panem życia i śmierci. Nie dość, że posuwa się do takich rzeczy, to w końcowej scenie, gdy jest uśmiercany, zachowuje się jak człowiek, który z przerażeniem żegna się z życiem („czuję to, czuję. Boję się!”).
W najnowszym zaś filmie Spike Jonze’a – „Ona”, także mamy maszynę, która sięga daleko poza swoje możliwości, dotykając pierwiastka czegoś, dla zwykłego programu komputerowego nieosiągalnego – człowieczeństwa. Nazywa się Samantha i jest tylko głosem, z którym nasz bohater łączy się przez włożenie małej słuchawki do ucha. Ten głos jednak może też widzieć – wyposażeni w coś na kształt smartfona możemy zabrać naszą cyfrową przyjaciółkę, gdzie tylko chcemy, pokazując jej świat. Co jednak najważniejsze, Samantha przypomina człowieka, jest emocjonalna i inteligentna, ma rozległą wiedzę, współczuje, jest empatyczna. Odnosimy wrażenie, że pod drugiej stronie siedzi żywa osoba, która nami manipuluje.
Co jednak najbardziej uderzające – główny bohater naprawdę angażuje się w ten związek. Choć nigdy nie widział i zapewne nigdy nie pozna Samanthy osobiście, może dzielić z nią wspólne życie, dzielić się przeszłością, wspomnieniami, mówić o swoich słabościach i obawach. Wytwarza się niebezpieczna symbioza człowieka z komputerem. Nie ma już podziału na żywą istotę i sztuczną inteligencję – oba istnienia są sobie równe. System powoli zakrada się do najbardziej niedostępnych obszarów naszego mózgu.
Można powiedzieć – przesada, bo przecież to tylko film, pewna wizja reżysera. Zresztą, ktoś dorzuci, jak można zakochać się w czymś martwym, bo zaprogramowanym, imitującym coś na kształt drugiego człowieka?
Otóż można, ponieważ przelewamy na technologię coraz więcej ludzkich uczuć, personifikujemy gadżety, które ułatwiają nam życie, zabieramy je ze sobą wszędzie, nie wyobrażając sobie, że mogłoby ich nagle zabraknąć.
Poznajcie ELIZĘ…
Już na przełomie 1964 i 1965 roku mogliśmy poczuć coś na kształt tajemniczej więzi ze sztuczną inteligencją. Wszystko przez wynalazek pewnego informatyka z Massachusetts Institute of Technology – Josepha Weizenbauma. Stworzył on program, z którym mogliśmy porozmawiać. Nazwany został ELIZA. Zadaniem użytkownika siedzącego przed komputerem było napisanie prostego zdania, system zaś korzystając z zestawu prostych reguł gramatycznych – potrafił odpowiedzieć. Oczywiście wyglądało to bardzo schematycznie, np. na stwierdzenie „Często chodzę smutny”, program odpisywał „Przykro mi słyszeć, że jesteś smutny”.
Mimo, że był to program dość prymitywny wielu ludzi, którzy mieli z nim styczność – ku zdumieniu i przerażeniu wynalazcy – opowiadało o niezwykłym związku, jaki wytworzył się między nimi a ELIZĄ. Weizenbaum wspomniał, nie kryjąc przerażenia, że podatna na wpływ ELIZY była także jego sekretarka, która widziała przecież cały proces powstawania projektu. Co więcej, choć była (wydawało się) w uprzywilejowanej sytuacji i dokładnie wiedziała, że to nie człowiek, który składa się z krwi i kości, lecz program z kilkunastoma linijkami kodu, nie mogła oprzeć się wrażeniu – to naprawdę żyje.
Wielka amnezja
To że zbliżamy się do stworzenia jakiegoś, nieznanego wcześniej w historii, sztucznego bytu, który wpłynie na całą ludzkość, to już nie dywagacja, to fakt. Pozostaje tylko kwestia, kiedy to się stanie i w jakiej formie przyjdzie nam to zaakceptować.
Czy będzie to wyglądało jak chcą tego instrumentaliści, czyli pogląd mówiący nam, że wszelkie narzędzia technologiczne to po prostu neutralne artefakty, które będą służyły użytkownikom, zostając pod kontrolą korzystających, nie zyskując jednocześnie nigdy swojej podmiotowości?
Czy może tak, jak spekulują determiniści: „nasza podstawowa rola sprowadzi się do produkowania coraz bardziej wyrafinowanych narzędzi – na ‘zapładnianiu’ maszyn tak jak pszczoły zapylają kwiaty – aż technologia osiągnie zdolność samodzielnej reprodukcji. Wówczas staniemy się zbędni” („Płytki umysł” Nicolas Carr).
Jeśli spełni się prognoza instrumentalistów – nic w zasadzie się nie zmieni. To my, ludzie, dalej będzie rządzić światem, ustalać panujące na nim reguły, co więcej doskonale ujarzmimy naturę, wydłużymy życie, a w tym wszystkim technologia będzie naszym wiernym sługą. Jeśli natomiast przybliżymy się na niebezpieczną odległość do proroctwa deterministów świat zmieni się nie do poznania – system przejmie kontrolę.
I tu warto nawiązać do wstępu, czyli zakrojonego na szeroką skalę digitalizowania książek, bo kiedy system zwycięży wszystkie dobra ludzkości zapisane na kartach wszelakich dziel, cała nauka i dziedzictwo, które podkreślają nasze człowieczeństwo i specjalne miejsce w świecie kultury – wszystko to stanie się własnością Maszyny.
Co to dla nas oznacza? Wielką amnezję. Skoro oddaliśmy wszystko Maszynie, całą naszą pamięć i nasz dorobek, włożyliśmy to do wielkiego pudła bez dna (pamięci zewnętrznej) to zostajemy z niczym. A co najgorsze, system może dojść już do takiej wprawy, że całe pozostawione mu dziedzictwo zaimplementuje do własnych potrzeb, dzięki czemu stanie się genialny.
Nieliczne książki, skrywane w zalanych piwnicach, udostępniane sobie przez paru maniaków, zostaną namierzone, przechwycone i w zależności od potrzeb – spalone lub pożarte przez Maszynę.
Mleko się rozlało
Powolna rewolucja już się zaczęła. Nie mam zamiaru pisać, jakie to Google jest be, bo korzystam z tego pomocnego narzędzia i będę korzystał. Wynika to poniekąd z przymusu (nie da się w dzisiejszych czasach pracować nie korzystając z dobrodziejstw informacji „tu i teraz”), lecz także z pragmatycznego punktu widzenia – z wydajności i precyzji, szybkiego dotarcia na obrzeża informacji. Tak, lekkie muśnięcie po tafli wody, zamiast zanurzania w głębi oceanu wiedzy, wystarczy przecież wpisać pierwszą literę, a Google już zapewne wie, o co chodzi. Wuala. Tak jest, wyszukiwarka Google to nieoceniona pomoc.
Martwi mnie jednak inna rzecz – dlaczego Google zamierza przejąć wszystkie książki i po co chce o nas wszystko wiedzieć? Nawet nie myślę w tym momencie o aferze z PRISM (choć to też oczywiście ma znaczenie), nie skupiam się też na doraźnych korzyściach (wiadomo, że Google zarabia na nas mnóstwo kasy) patrzę daleko (podobnie jak spece z Google) w przyszłość i się zastanawiam.
I coś widzę na horyzoncie, w tle ciągle słyszę obwieszczenie Google: „nie poczujemy satysfakcji, dopóki nie zgromadzimy 100% danych o użytkownikach”. Podobnie nie daje mi spokoju trwający proces Google Books Serach. Za tym (i za kilkoma innymi projektami firmowanymi literką G) kryje się wielki, pierwszy w historii ludzkości projekt, który może przerosnąć twórców. To rośnie i staje się coraz większe. Kiedy przerośnie ludzkość?
Pozostaje wierzyć, że genialny twórca nie ześle technologicznego Frankensteina, który niczym mały, niewinny szczeniak wyrasta na potężną bestię, bezwzględną, a jednocześnie piekielnie inteligentną. Oznaczać to będzie prawdziwy upadek ludzkości.
Tomasz Jedoń
copywriter, creative writer, bloger.
Znajdziesz go pod adresem: skuteczny-copywriter.pl.
