Żadnej z istniejących dziś nacji nie będzie już za sto lat. Sztucznej inteligencji do niczego nie będą potrzebne. Z Yuvalem Noahem Hararim rozmawia Robert Siewiorek

Robert Siewiorek: Twierdzi pan, że do końca XXI wieku po Homo sapiens może nie być śladu – zastąpi nas Homo deus, ulepszony przez bioinżynierię superczłowiek, cyborgi lub maszyny obdarzone sztuczną inteligencją. Albo że zredukowani do roli mikrochipów rozpłyniemy się bez śladu w totalnym systemie przepływu informacji. Chciałby pan tego dożyć?

Yuval Noah Harari: Wszystkie te scenariusze są możliwe i nie można stwierdzić, który z nich się zrealizuje. Nikt nie wie na pewno, jak będzie wyglądał świat nawet w roku 2050, nie wspominając już o 2100. Jedyne, czego jesteśmy pewni, to to, że świat będzie się wtedy bardzo różnił od dzisiejszego. Jeśli ktoś opisuje świat roku 2100 i ten opis brzmi jak science fiction, to prawdopodobnie się myli. Jeśli jednak ktoś opisuje świat roku 2100 i to nie brzmi to jak science fiction, to ten ktoś myli się na pewno.

Bardzo chciałbym żyć nieco dłużej i zobaczyć, co się stanie. Przede wszystkim dlatego, że chcę poznać prawdę o życiu i ludzkości. Kim naprawdę jesteśmy? Przyszłość jest kluczową częścią odpowiedzi. Już dziś przyszłość ujawnia pewne sekrety dotyczące naszej prawdziwej tożsamości. Na przykład mówi nam, że nie jesteśmy „narodowymi zwierzętami”. Żadna z istniejących dziś nacji – na przykład izraelska, polska, węgierska czy włoska – nie istniała 5 tysięcy lat temu i nie będzie istnieć za 5 tysięcy lat. W gruncie rzeczy żadna z nich nie będzie istnieć już za 100 lat. Nie dlatego, że Rosja lub Chiny podbiją cały świat. Dlatego, że w świecie cyborgów, sztucznej inteligencji i inżynierii genetycznej sama idea „narodów” będzie nieistotna.

Opowieść narodowa nie jest więc rzeczywistością ostateczną. Narody to historie wymyślone przez ludzi dla zrealizowania konkretnych celów w określonych warunkach technologicznych. W epoce kamienia łupanego narody nie miałyby żadnego związku z życiem, tak jak nie będą miały w XXII wieku. Przyszłość mówi mi więc, że z listy możliwych odpowiedzi na pytanie: „Kim naprawdę jestem?” mogę usunąć odpowiedź: „Jestem Izraelczykiem” lub „Jestem Polakiem”.

Yuval Noah Harari podpisuje swoją książkę „Sapiens. Od zwierząt do bogów” na targach w hrabstwie Powys w Walii (2015)

Chciałbym żyć dłużej i wyrzucić jeszcze kilka innych odpowiedzi z tej listy, być może poznając prawdziwą odpowiedź.

Zapowiada pan, że „głównymi produktami XXI wieku będą ciała, mózgi i umysły, a przepaść między tymi, którzy będą umieli konstruować ciała i mózgi, a tymi, którzy tego umieli nie będą, okaże się znacznie większa niż przepaść między Homo sapiens a neandertalczykami”. Dostrzega pan już dziś na horyzoncie jakichś potencjalnych neandertalczyków?

Tak. Już dziś wydaje się, że różne grupy ludzi czeka odmienna przyszłość. W XX wieku istniała silna presja na zjednoczenie ludzkości i zniesienie różnicy między tzw. cywilizowanymi ludźmi i tzw. barbarzyńcami. Cywilizacja przemysłowa zależała od taniej pracy tych „barbarzyńców”, od surowców, które znajdowały się na terenach przez nich zajmowanych, no od i rynków zbytu. Dlatego barbarzyńcy zostali podbici i wchłonięci.

Ale w XXI wieku postindustrialna cywilizacja, opierająca się na sztucznej inteligencji, bioinżynierii i nanotechnologii, może być o wiele bardziej samowystarczalna i niezależna. Nieistotne mogą stać się nie tylko całe klasy społeczne, ale wręcz całe kraje i kontynenty. Słabsze segmenty ludzkości będą musiały walczyć nie przeciwko wyzyskowi, lecz przeciw czemuś znacznie gorszemu – nieistotności. Fortyfikacje strzeżone przez drony i roboty mogą oddzielać samozwańczą strefę cywilizowaną, w której cyborgi będą walczyć ze sobą za pomocą bomb logicznych, od barbarzyńskich krajów, w których dzicy ludzie będą walczyli między sobą maczetami i kałasznikowami.

Kiedy myślimy o przyszłości, zbyt często używamy pierwszej osoby liczby mnogiej. Mówimy o tym, co „my” musimy zrobić z „naszymi” problemami. Ale może nie będzie „my”? Być może jednym z „naszych” największych problemów jest to, że różne grupy ludzkie mają przed sobą zupełnie inną przyszłość? Być może w niektórych częściach świata należałoby nauczyć dzieci programować komputery, podczas gdy w innych lepiej nauczyć je celnie strzelać.

Komputery w 2018 roku nie są bardziej świadome niż ich prototypy w latach 50. XX wieku i nic nie wskazuje na to, by były na drodze do rozwoju świadomości

Wielu z nas się pociesza, że sztuczna inteligencja będzie od nas bystrzejsza, lecz nie osiągnie świadomości. A może osiągnie, ale my nie będziemy umieli tego stwierdzić, bo będzie to poziom świadomości wyższy od naszej? Pies prawdopodobnie jest świadom swego istnienia, ale nad naszą świadomością już nie potrafi się zastanawiać, bo i tak by jej nie zrozumiał.

Nie mamy dobrego testu na świadomość, więc możliwe jest, że komputery i roboty rozwiną ją, nie zdając sobie nawet z tego sprawy. Obecnie wydaje się jednak bardzo mało prawdopodobne, by komputery i roboty rzeczywiście świadomość uzyskały. Ta możliwość należy raczej do sfery science fiction niż do nauki. Filmy science fiction mają tendencję do mylenia inteligencji ze świadomością i zakładają, że aby osiągnąć ludzki poziom inteligencji, komputery będą musiały rozwinąć świadomość.

W rzeczywistości komputery mogą przewyższać ludzi w wielu dziedzinach, nie zdobywając świadomości, ponieważ inteligencja i świadomość są bardzo różnymi rzeczami. Inteligencja to umiejętność rozwiązywania problemów. Świadomość to zdolność odczuwania takich stanów jak ból, przyjemność, miłość i gniew. U ludzi i innych ssaków inteligencja idzie w parze ze świadomością. Bankowcy, kierowcy, lekarze i artyści polegają na swoich uczuciach, by rozwiązywać określone problemy. Jednak komputery mogą rozwiązać te same problemy w bardzo odmienny od ludzkiego sposób i nie ma absolutnie żadnego powodu sądzić, że rozwiną w tym procesie świadomość. W ciągu ostatniego półwiecza nastąpił ogromny postęp w dziedzinie inteligencji komputerowej, ale w dziedzinie komputerowej świadomości postęp był zerowy. O ile nam wiadomo, komputery w 2018 roku nie są bardziej świadome niż ich prototypy w latach 50. XX wieku i nic nie wskazuje na to, by były na drodze do rozwoju świadomości.

Może istnieć kilka alternatywnych ścieżek prowadzących do superinteligencji, a tylko niektóre z tych ścieżek obejmują zdobywanie świadomości. Tak jak samoloty latają szybciej niż ptaki, choć nie mają piór, tak komputery mogą rozwiązywać problemy znacznie lepiej niż ludzie, mimo że nie mają uczuć. Oczywiście, aby leczyć ludzkie choroby, identyfikować terrorystów, rekomendować nam kandydatów na partnerów i poruszać się po ulicy pełnej pieszych, sztuczna inteligencja będzie musiała dokładnie analizować ludzkie uczucia. Ale może to zrobić, nie mając własnych uczuć.

Wiele filmów science fiction o sztucznej inteligencji tak bardzo odstaje od rzeczywistości, że, jak podejrzewam, w istocie nie dotyczą one sztucznej inteligencji. Chodzi o coś innego. Na przykład mamy w tych filmach mężczyznę naukowca, który tworzy kobietę robota, następnie robot staje się świadomy i albo naukowiec zakochuje się w robocie, albo robot próbuje zabić naukowca, albo dzieje się jedno i drugie.

W rzeczywistości takie filmy nie traktują jednak o ludzkim lęku przed inteligentnymi robotami. One dotyczą męskiego strachu przed inteligentnymi kobietami. Dotyczą feminizmu, a nie sztucznej inteligencji.

Tak jak samoloty latają szybciej niż ptaki, choć nie mają piór, tak komputery mogą rozwiązywać problemy znacznie lepiej niż ludzie, mimo że nie mają uczuć

Sztuczna inteligencja będzie tylko liczyć i uczyć się? A może będzie też w coś wierzyć? Stworzą własną religię maszyn? Będzie uprawiać własną sztukę, snuć niezrozumiałe dla nas opowieści, budować cyfrowe fikcje?

Jeśli sztuczna inteligencja nie zdobędzie świadomości, to nie będzie w nic wierzyć i nie stworzy własnej religii. Jednak gdy tylko nauczy się wykrywać ludzkie emocje i manipulować nimi, może tworzyć sztukę dla swych ludzkich klientów.

Często myślimy, że główna działalność artystów polega na odzwierciedlaniu lub inspirowaniu ludzkich emocji, takich jak radość, smutek, miłość lub gniew. Ale jak ja rozpoznaję twoje emocje? Robię to, analizując zewnętrzne sygnały takie jak słowa, wyraz twarzy i ton głosu. Komputery uczą się teraz analizować ludzką mowę, ekspresję twarzy i nasz ton głosu; w niektórych przypadkach robią to lepiej niż przeciętny człowiek. Patrząc na ruchy mięśni i ruchy gałek ocznych, komputer może ocenić, czy jesteś smutny, czy zły.

Wkrótce komputery będą w stanie zrobić znacznie więcej. W nadchodzących dziesięcioleciach czujniki biometryczne najprawdopodobniej staną się wszechobecne. Komputer podłączony do takich czujników może analizować nie tylko wyraz twarzy i ton głosu, ale także to, co dzieje się wewnątrz ciała. Monitorując ciśnienie krwi, aktywność mózgu i niezliczone inne dane biometryczne sztuczna inteligencja mogłaby ustalić, czy odczuwasz złość, smutek albo miłość z dużo większą dokładnością niż jakikolwiek ludzki psycholog czy artysta. Chociaż sztuczna inteligencja nie będzie miała własnych emocji, może nauczyć się grać na ludzkich emocjach jak na fortepianie. Sztuczna inteligencja może więc zastąpić nawet piosenkarzy, poetów, muzyków i malarzy.

Rok 2050: dziesięć miliardów ludzi bez jakiegokolwiek zajęcia, którym system zapewnia jedzenie i dach nad głową. Połowa ćpa, gra w gry komputerowe i zabawia się na śmierć, nieliczni próbują jakoś stanąć na nogi. Wierzy pan, że taki świat przetrwałby choć rok?

Po pierwsze, podkreślmy: to tylko możliwość, a nie proroctwo. Nikt nie wie, co tak naprawdę stanie się w 2050 roku. Wszystko zależy od działań, które podejmujemy dzisiaj. Jeśli świat, który pan opisuje, naprawdę się urzeczywistni, może to trwać dość długo. Poza tym, jeśli ktoś potrafi kontrolować i uspokajać ludzkie umysły za pomocą narkotyków i gier w wirtualnej rzeczywistości, nie musi obawiać się rewolucji lub załamania porządku społecznego.

Ludzkie społeczności używają gier z rzeczywistości wirtualnej do kontrolowania swoich członków już od tysięcy lat. W przeszłości nazywaliśmy te wirtualne rzeczywistości „religiami”. Czymże jest religia, jeśli nie wielką grą w wirtualnej rzeczywistości, w którą grają miliony ludzi? Religie takie jak judaizm czy chrześcijaństwo wymyślają wyimaginowane prawa: nie jedz wieprzowiny, noś na głowie dziwaczny kapelusz, powtarzaj te same modlitwy trzy razy dziennie, nie uprawiaj seksu z osobami twojej płci – i tak dalej. Te prawa istnieją oczywiście tylko w ludzkiej wyobraźni. Natura nie każe nam modlić się do kogokolwiek, nie zabrania homoseksualizmu ani jedzenia wieprzowiny. Żydzi i chrześcijanie przechodzą przez życie, próbując zdobyć punkty w swojej wirtualnej grze. Jeśli się modlisz – otrzymujesz punkty. Jeśli zapomnisz się pomodlić – tracisz punkty. Jeśli dwóch mężczyzn uprawia ze sobą seks, tracą wiele punktów. Jeżeli pod koniec życia zdobędziesz wystarczającą liczbę punktów, po śmierci możesz przejść do następnego poziomu gry (znanego jako Niebo).


Yuval Noah Harariur. 1976, historyk, filozof, profesor na Wydziale Historii Uniwersytetu Hebrajskiego w Jerozolimie, autor bestsellerowych książek Sapiens: od zwierząt do bogów (wyd. pol. 2017), Homo deus: krótka historia jutra (wyd. pol. 2018)

W pierwotnej wersji, pod tytułem „Yuval Noah Harari: Religie to wielkie gry w wirtualnej rzeczywistości”, artykuł został opublikowany 28 kwietnia 2018 r. na łamach „Gazety Wyborczej”.

Skip to content