„Tak właśnie działa logika imperium: jego postępy opierają się w tym samym stopniu na nagradzaniu uprzywilejowanych i obdarzonych władzą, jak na wykorzystywaniu i niszczeniu tych, którzy jej nie mają, zwłaszcza jeśli są daleko i niewidoczni”.
Książka Karen Hao to sześćset stron gęstego tekstu, pełnego nazwisk, nazw firm, personalnych i biznesowych układów i relacji, opatrzonego szczegółowymi przypisami, z którego wyłania się bardzo spójna koncepcja tego, z czym mamy na co dzień do czynienia, a co określamy skrótem AI.
Wielopoziomowy tekst Hao prowadzi nas przez wszystkie możliwe aspekty tego fenomenu, jakim jest sztuczna inteligencja, która nie tylko jest, ale która z pewnością będzie ważną dominantą przyszłej rzeczywistości. Dlatego też jej praca jest tak fascynująca, bo krok po kroku odsłania to, co nie jest niczym nowym i o czym mówili i pisali już filozofowie w XVI wieku – ale to coś, ubrane w algorytmiczny garnitur sprawia wrażenie „nowego świata” – cóż za absurd i co za niepokojąca manipulacja „wielkich pieniędzy”, by kazać nam widzieć imperialną strukturę AI w odwróceniu.
Karen Hao konstruuje i szczegółowo omawia wiele istotnych problemów i zagadnień jakie wprowadziła w naszą codzienność sztuczna inteligencja. Wystarczy przyjrzeć się niektórym tytułom rozdziałów jej książki:
- Boskie prawo
- Misja cywilizacyjna
- Marzenia o nowoczesności
- Skala ambicji
- Świt komercjalizacji
- Kapitalizm katastroficzny
- Bogowie i demony
- Splądrowana ziemia
- Sekretne knowania
- Przepis na imperium
Najważniejszą jednakowoż i najbardziej porażającą tezą książki Hao jest przekonanie o rezygnacji społeczeństwa AI z wolności, niezależności na rzecz wygody i bezmyślności. Hao odziera bowiem koncept AI z aury genialności i misji tworzenia lepszego świata, mówiąc wprost o co najmniej dyskusyjnych sposobach i metodach budowania imperium sztucznej inteligencji.
Na czy one polegają? Przede wszystkim na chwytliwym przekłamaniu, iż AI to źródło prawdziwych informacji, na których możemy polegać. Nie ma nic bardziej kłamliwego w tym stwierdzeniu z bardzo prostego powodu: wielkie modele nie są trenowane, tak jak małe dzieci, na zgodności czegoś z rzeczywistością (niebo jest niebieskie, 2+2+4 a nie 5, po nocy jest dzień), ponieważ algorytmy budowane są na zasadzie kolejnego, najczęstszego w użyciu słowa, a ono może być pochodzić skądkolwiek, co pojawia się statystycznie najczęściej. Owa frekwencyjność jest tym, co kreuje „sens” odpowiedzi wygenerowanej na zadanie pytanie. Jest to zatem sens z wielkim prawdopodobieństwem bezsensu. Nie prawda (zgodność z rzeczywistością), ale statystyczna częstotliwość występowania słowa stanowi o istocie AI.
AI jest po prostu, jak każda maszyna, obojętna na prawdę. Ona nie ma pojęcia, co jest prawdą, bo nie ma kontaktu z rzeczywistością – ma tylko kontakt z tekstem. Kiedy generuje odpowiedź, która angażuje użytkownika na 10 minut, system dostaje "plus" (nagrodę). Kiedy generuje suchy fakt, który kończy rozmowę w 10 sekund, system dostaje "minus" (karę).
Jakie to niesie konsekwencje? Kreuje krainę schorowanej wyobraźni, czyli takiej, w której przestajemy rozróżnić to, co rzeczywiste, od tego co takim nie jest. Zaczynają nakładać się światy urojone i realne, by następnie ewoluować w stronę hiperrealizmu, czyli złudzenia, które z rzeczywistością nie ma już nic wspólnego.
Żeby lepiej zobaczyć ten proces, trzeba odwołać się do niesamowitego opowiadania Jorge Luisa Borgesa zatytułowanego „O ścisłości w nauce”, a to najważniejszy fragment tego tekstu:
„W owym Cesarstwie Sztuka Kartografii osiągnęła taką doskonałość, że Mapa jednej tylko Prowincji zajmowała całe Miasto, a Mapa Cesarstwa całą prowincję. Z czasem te Niezmierne Mapy okazały się już niezadowalające i Kolegia Kartografów sporządziły Mapę Cesarstwa, która posiadała Rozmiar Cesarstwa i pokrywała się z nim w każdym Punkcie. Mniej Oddane Studiom Kartografii Następne Pokolenia doszły do wniosku, że ta obszerna Mapa jest Nieużyteczna i nie bez Bezbożności oddały ją na Pastwę Słońca i Zim. Na Pustyniach Zachodu zachowały się rozczłonkowane Ruiny Mapy” (tłum. A. Sobol-Jurczykowski)
Symulacje AI są oczywiście znacznie doskonalsze od metod kartografów owego cesarstwa, ale metafora pozostaje nośna w oby przypadkach – rzeczywistość (realność) i symulacja (symulakra) rozjeżdżają się drastycznie i to nie tylko w wersji rozszerzonej (augmentacyjnej), ale kompletnie, totalnie - w żaden sposób z realnością nie mają już owe symulakry nic wspólnego.
To prowadzi do kolejnej tezy Karen Hao, iż sztuczna inteligencja, będąc doskonałym narzędziem manipulacyjnym, będzie decydowała o tym, kogo będziemy wybierać w wyborach powszechnych czy lokalnych, kogo będziemy popierać, a kogo odrzucać operując spreparowanymi „faktami”, fake informacjami, wygenerowanymi clipami filmowymi, fałszywymi oskarżeniami i pomówieniami. Rozróżnienie bowiem tego, co faktyczne, od tego co fałszywe, będzie (jeśli już takie nie jest) bardzo trudne, albo wręcz niemożliwe. Rodzi to rzecz jasna pytanie o kondycję demokracji i demokratycznych mechanizmów w erze dominacji kultury cyfrowej, która przewraca do góry nogami proces budowania opinii wyborcy w oparciu o sprawdzone, wiarygodne źródła informacji, takie jak prestiżowe gazety, czy portale internetowe o wypracowanej przez lata reputacji.
Kategoria prawdy i fałszu, manipulacji i generowania równoległej rzeczywistości to tylko jeden z wielu istotnych nurtów książki Karen Hao. Poświęca on też wiele uwagi na wskazanie niebywałej wcześniej sytuacji, w której dosłownie parę osób i super potężnych firm kontroluje obieg informacji całego świata. Zaledwie trzy czy cztery korporacje (OpenAI, Google, Meta, Microsoft) oraz kilka miliarderów (trylionerów) będzie, a raczej już kontroluje całe spektrum ludzkiej wiedzy. To oni decydują, co modele "widzą", co cenzurują, a co promują. Hao porównuje to do sytuacji, w której jeden koncern kontrolowałby wszystkie biblioteki na świecie i decydował, które książki wolno czytać, a które są fałszywe.
Co nie nowe, ale niezwykle frustrujące, ta wielka, totalna manipulacja, o której George Orwell nie mógł nawet śnić, dzieje się za powszechnym, społecznym przyzwoleniem, zgodnie ze znaną tezą zawartą w ikonicznej książce Ericha Fromma „Ucieczka od wolności”. Autor pisze we wstępie:
„Teza tej książki głosi, że człowiek współczesny, uwolniony od więzów pre-indywidualistycznego społeczeństwa, które zapewniając mu bezpieczeństwo ograniczało go zarazem, nie zyskał wolności w sensie pozytywnego urzeczywistnienia swego indywidualnego "ja" - a więc ekspresji swych intelektualnych, uczuciowych i zmysłowych możliwości. Wolność, mimo że przyniosła mu niezależność i władzę rozumu, uczyniła go samotnym, a przez to lękliwym i bezsilnym. Owa izolacja jest nie do zniesienia i ma on do wyboru albo ucieczkę przed brzemieniem wolności ku nowym zależnościom i podporządkowaniu, albo dążenie do pełnej realizacji wolności pozytywnej, która opiera się na jedyności i niepowtarzalności człowieka”.
Nie jest żadnym szczególnym odkryciem, iż z powodu zwykłego wygodnictwa, strachu przed odpowiedzialnością i lenistwem, powszechnym doświadczeniem jest „ucieczka przed brzemieniem wolności”.
Nie ulega żadnej kwestii, że owa ucieczka w krainę schorowanej wyobraźni jest niezwykle starannie zakamuflowana. Wrażenie decyzyjności i podmiotowości, jakie serwują nam twórcy AI, jest nieustannie eksponowane w głębokim zafałszowaniu. Dając nam złudzenie stanowienia o rzeczywistości, paradoksalnie, wrzucają nas w paradygmat ubezwłasnowolnienia.
Jak pisze jeden z najważniejszych filozofów współczesności, Byung Chul Han w eseju Kryzys narracji i inne eseje:
„Mieszkańcy cyfrowego panoptikum nie są jednak więźniami. Żyją w złudzeniu wolności. Karmią cyfrowe panoptikum informacjami, wystawiając i prześwietlając się z własnej woli. Samoprześwietlenie jest bardziej wydajne niż wydanie się na lustrację z zewnątrz. Na tym polega jego analogia do samowyzysku. Otóż samowyzysk jest bardziej wydajny niż wyzysk zewnętrzny, ponieważ idzie w parze z uczuciem wolności. W przypadku samoprześwietlenia pornograficzna ekspozycja i panoptyczna kontrola stają się tym samym”.
Imperium sztucznej inteligencji – Sny i koszmary w OpenAI Sama Altmana, Karen Hao, tłum. Piotr Grzegorzewski, wyd. Szczeliny, Kraków 2026, s.634.
Zbyszek Kruczalak
www.domksiazki.com
