“Ludzie sukcesu tworzą formy. Ludzie odnoszący większe sukcesy tworzą kraje. Ludzie odnoszący największe sukcesy tworzą religie”
Imperium definiuje się przez imperatora, a imperatora definiuje imperialna religia. Czym jest imperium?
Wystarczy, że przypomnimy sobie czym było Cesarstwo Rzymskie: ogromne terytorium w wielonarodowym i wielojęzykowym składzie, imperator (cezar), symbolika i mitologia wiecznego trwania, klasy wyższe i niższe w tym niewolnicy, dominująca religia i ubóstwiony władca, zróżnicowanie terytorialne na obszary bogatsze i biedniejsze z dominującym ekonomicznie i politycznie centrum, eksploatowanie terenów peryferyjnych i biedniejszych, hierarchicznie uporządkowana struktura biurokratyczna, militarne ambicje podporządkowania sobie jeszcze większych terytoriów (nieustanna ekspansja), armia i inne służby publiczne i państwowe, korupcja i degeneracja władzy, ogromne, przytłaczające nierówności społeczne (jednocześnie skrajne bogactwo i skrajna bieda).
To tylko niektóre z kategorii określających konstrukt polityczny i społeczny, który określamy mianem imperium, a którego cechy w istocie nie zmieniają się przez wieki. Jeśli można je nałożyć na Cesarstwo Rzymskie, tak samo idealnie pasują do tego, czym było Imperium Brytyjskie, imperialna Rosja czy Japonia. Dlaczego zatem określamy fenomen sztucznej inteligencji jako „imperium”, skoro nie jest to w żaden sposób struktura państwowa, nie ma armii ani policji, nie emituje pieniędzy ani obligacji, nie ma „imperatora” ani strukturyzowanej biurokracji, która rządzi podwładnymi? Ale czy naprawdę? Czy rzeczywiście imperialny charakter AI to jedynie zgrabna i nośna znaczeniowo metafora?
Karen Hao w swej potężnej objętościowo i niezwykle detalicznej pracy przytacza przynajmniej parę argumentów za tym, by uznać AI za modelowy przykład imperialnego sposobu funkcjonowania, w którym: nieustanna ekspansja terytorialna, niewyobrażalne pieniądze, hegemoniczne, ocierające się o mesjanistyczną utopię przesłanie, wykorzystywanie peryferiów, by zbudować dominację centrum, sprawna i skuteczna narracja wizerunkowa – to tylko niektóre z kategorii, które stanowią o wartości tekstu Karen Hao; Imperium sztucznej inteligencji, Sny i koszmary w OpenAI Sama Altmana.
Karem Hao niezwykle precyzyjnie punktuje zbieżności między imperium w wersji „analogowej” i jego współczesnym, cyfrowym modelem:
- dążenie do absolutnej władzy
- totalna kontrola wszystkich i wszystkiego
- manipulacja danymi na niespotykaną dotąd skalę
- inwigilacja, o której nawet nie śniło się Orwellowi, gdy pisał 1984
- monetyzacja informacji
- bezwzględna eksploatacja krajów biednych
- budowanie potęgi centrum kosztem peryferiów
- zero tolerancji dla konkurencji
- potęgowanie różnic między bogatymi i biednymi
- bezwzględne niszczenie zasobów naturalnych i środowiska
- demontowanie mechanizmów państwa demokratycznego
- korumpowanie polityków w dążeniu do forsowania swych celów
- sterowanie (pośrednie i bezpośrednie) decyzjami rządów
To tylko niektóre z długiej listy zarzutów, jakie stawia Open AI i całemu imperium autorka w swej potężnej objętościowo i niezwykle detalicznej pracy: nieustanna ekspansja terytorialna, niewyobrażalne pieniądze, hegemoniczne, ocierające się o mesjanistyczną utopię przesłanie, wykorzystywanie peryferiów, by zbudować dominację centrum, sprawna i skuteczna narracja wizerunkowa i kompletny brak dbałości o etyczne aspekty świata AI, w którym nie istnieje podział na prawdę i fałsz. Karem Hao przytacza znakomitą metaforę określająca AI Sama Altmana:
„Świat AI trochę przypomina mi uniwersum „Diuny”. Paul Atryda od początku wie, że istnieje mit, który może wykorzystać do kontrolowania ludzi - mit mesjasza przybyłego na Arrakis. Wchodzi w tę rolę świadomie, instrumentalnie. Ale ponieważ żyje tym mitem dzień po dniu, oddycha nim, ucieleśnia go - zaczyna tracić z oczu granicę między mitem a rzeczywistością. Może jest mesjaszem? Może mit stał się prawdziwy właśnie dlatego, że w niego uwierzył? Traci racjonalny ogląd sytuacji. I myślę, że dokładnie to samo dzieje się z wieloma ludźmi w świecie AI”. (za: Czy grozi nam techno-faszyzm, w: Kultura Liberalna)
Karen Hao poświęca też wiele uwagi na wskazanie niebywałej wcześniej sytuacji, w której dosłownie parę osób i superpotężnych firm kontroluje obieg informacji całego świata. Zaledwie trzy czy cztery korporacje (OpenAI, Google, Meta, Microsoft) oraz kilka miliarderów (trylionerów) będzie, a raczej już kontroluje całe spektrum ludzkiej wiedzy. To oni decydują, co modele "widzą", co cenzurują, a co promują. Hao porównuje to do sytuacji, w której jeden koncern kontrolowałby wszystkie biblioteki na świecie i decydował, które książki wolno czytać, a które są fałszywe.
/Kiedy dziennikarka technologiczna Karen Hao przekraczała próg siedziby OpenAI w 2019 roku, była przekonana, że trafia do świata „good guys” – ludzi, którzy w imię dobra publicznego budują organizację non-profit mającą uczynić sztuczną inteligencję bezpieczniejszą dla wszystkich. Sam Altman mówił o etyce, odpowiedzialności i konieczności stawiania tamy siłom wolnego rynku. Brzmiało to jak manifest nowej epoki. Karen wierzyła w każde słowo. Jak bardzo się myliła.
Wystarczyło kilka spotkań i rozmów z pracownikami firmy, by przedstawiona przez Altmana idealna wizja zaczęła pękać. A kiedy na łamach „MIT Technology Review” ukazał się pierwszy krytyczny tekst Hao, sen o transparentnej organizacji zamienił się w koszmar: Altman osobiście zakazał jej kontaktów z kimkolwiek z OpenAI. Drzwi do rozwijającego się imperium zatrzasnęły się przed nią z hukiem. (z recenzji wydawnictwa)
Jak powiedziała w jednym z wywiadów:
„Głoszenie czegoś na kształt religii to najskuteczniejszy sposób, by skłonić ludzi do ignorowania krytyki czy skupieniu się na czymś większym od nich samych. […] Dlatego książkę zaczynam od cytatu Sama Altmana, który mówi, że „ludzie odnoszący największe sukcesy tworzą religię”. Wydaje mi się, że najłatwiejszym sposobem zbudowania religii jest dziś właśnie założenie firmy. Altman bardzo wcześnie zrozumiał, że ludzie potrzebują systemu wierzeń, potrzebują czegoś, czego mogą się chwycić, a poprzez wiarę można motywować ludzi do skrajnych poświęceń – i zatrzymać największe talenty w firmie”.
***
Imperium sztucznej inteligencji – Sny i koszmary w OpenAI Sama Altmana, Karen Hao, tłum. Piotr Grzegorzewski, wyd. Szczeliny, Kraków 2026, s.634
Zbyszek Kruczalak
www.domksiazki.com
