Ponad 850 wpływowych osób z całego świata, w tym współzałożyciel Apple Steve Wozniak, szef Virgin Group Richard Branson, a także pionierzy tej technologii, podpisało dramatyczne oświadczenie wzywające do natychmiastowego wstrzymania prac nad superinteligencją – formą sztucznej inteligencji, która przewyższałaby ludzi w zasadniczo wszystkich zadaniach poznawczych.
Apel, opublikowany w środę, to wyraz rosnącego niepokoju w obliczu wyścigu technologicznych gigantów, takich jak xAI Elona Muska czy OpenAI Sama Altmana, które konkurują o stworzenie coraz bardziej zaawansowanych modeli językowych. Meta posunęła się nawet do nazwania swojego działu zajmującego się dużymi modelami językowymi "Meta Superintelligence Labs".
Wśród sygnatariuszy znaleźli się pionierzy sztucznej inteligencji Yoshua Bengio i Geoff Hinton, powszechnie uznawani za "ojców założycieli" współczesnego AI, a także czołowi badacze jak Stuart Russell z UC Berkeley. Lista obejmuje nie tylko ekspertów od technologii, ale także szeroką koalicję naukowców, osobistości medialnych, przywódców religijnych oraz byłych amerykańskich polityków i urzędników z obu partii.
Wśród emerytowanych urzędników znaleźli się były przewodniczący Połączonych Sztabów Mike Mullen i była doradczyni ds. bezpieczeństwa narodowego Susan Rice. Na liście pojawiły się także nazwiska wpływowych sojuszników medialnych prezydenta Donalda Trumpa – Steve'a Bannona i Glenna Becka. Nie zabrakło członków brytyjskiej rodziny królewskiej – księcia Harry'ego i jego żony Meghan, księżnej Sussex, oraz byłej prezydent Irlandii Mary Robinson.
Autorzy oświadczenia ostrzegają, że perspektywa powstania superinteligencji "wywołuje obawy – od ekonomicznej marginalizacji i pozbawienia ludzi wpływu, przez utratę wolności, swobód obywatelskich, godności i kontroli, po zagrożenia dla bezpieczeństwa narodowego, a nawet potencjalne wyginięcie ludzkości".
Apel domaga się zakazu rozwoju superinteligencji do momentu, gdy pojawi się silne poparcie społeczne dla tej technologii oraz naukowy konsensus, że można ją bezpiecznie zbudować i kontrolować.
Twórcy AI sami się boją
Paradoksalnie, jak zauważa strona internetowa oświadczenia, nawet liderzy wiodących firm zajmujących się AI, tacy jak Musk i Altman, w przeszłości ostrzegali przed niebezpieczeństwami superinteligencji. Altman w 2015 roku napisał na blogu, że "rozwój nadludzkiej inteligencji maszynowej jest prawdopodobnie największym zagrożeniem dla dalszego istnienia ludzkości". Musk z kolei stwierdził w tym roku w podcaście, że istnieje "20-procentowe prawdopodobieństwo zagłady" w kontekście ryzyka związanego z zaawansowaną AI przewyższającą ludzką inteligencję.
Oświadczenie powołuje się na niedawne badanie Future of Life Institute, które wykazało, że tylko 5 procent dorosłych Amerykanów popiera "status quo szybkiego, nieregulowanego" rozwoju superinteligencji. Badanie wykazało również, że większość Amerykanów uważa, iż "nadludzka AI" nie powinna być tworzona, dopóki nie zostanie udowodnione, że jest bezpieczna lub kontrolowalna, i chce solidnej regulacji zaawansowanej AI.
Yoshua Bengio w oświadczeniu przekazał, że systemy AI mogą przewyższyć większość ludzi w większości zadań poznawczych już w ciągu kilku lat. Dodał, że choć takie postępy mogą pomóc w rozwiązaniu globalnych wyzwań, niosą ze sobą również znaczące ryzyka.
"Aby bezpiecznie zmierzać w kierunku superinteligencji, musimy naukowo określić, jak projektować systemy AI, które są fundamentalnie niezdolne do szkodzenia ludziom, czy to przez błędne dostosowanie, czy złośliwe wykorzystanie" – powiedział. "Musimy również upewnić się, że opinia publiczna ma znacznie silniejszy głos w decyzjach, które ukształtują naszą wspólną przyszłość".
Po pierwsze, nie krzywdzić człowieka
Postulat Bengio brzmi niemal jak echo słynnej pierwszej zasady robotyki sformułowanej przez Isaaca Asimova w 1942 roku: "Robot nie może skrzywdzić człowieka". Tyle że w science fiction z ubiegłego wieku to zasada wbudowana w maszyny chroniła ludzkość. Dziś naukowcy obawiają się, że może być już za późno, by wpisać ją w kod superinteligencji – zanim ona sama przepisze reguły gry.
