• Trzy groźby wiszą nad przyszłością: wojna nuklearna, zapaść ekologiczna i technologiczny wstrząs
  • Czas tak przyspiesza, że wkrótce nie będziemy zdolni nadążyć ze zmienianiem samych siebie
  • Technologiczne centra bogactwa i władzy kontra kolonie danych. To nowy światowy ład?

Na tegoroczne Światowe Forum Ekonomiczne w Davos Yuval Noah Harari, jeden z najchętniej czytanych dziś myślicieli, sławny izraelski historyk i wizjoner, przyjechał, by poruszać wyobraźnię, apelować i radzić. I ostrzec, że w przededniu największej technologicznej rewolucji w dziejach ludzkości, a przy tym stojąc na krawędzi ekologicznej katastrofy, do przetrwania potrzebujemy współpracy na skalę globalną. Inaczej nie dotrwamy do końca stulecia.

Jak zaznaczył, inteligentna technologia, choć niesie ze sobą wielkie obietnice, może również zakłócać funkcjonowanie społeczeństwo i uderzać w „sens ludzkiego życia na wiele sposobów, od stworzenia globalnej bezużytecznej klasy po rozwój kolonializmu danych i dyktatur cyfrowych”. Do znanych już zagrożeń, tj. wojny nuklearnej i katastrofy ekologicznej, za sprawą sztucznej inteligencji może dołączyć nowe: podział ludzkości na bogate elity wykorzystujące dostęp do danych i zaawansowanych technologii – oraz technologiczny plebs.

W poszczególnych krajach automatyzacja wkrótce wyeliminuje bowiem z rynku miliony pracowników. I chociaż na pewno powstaną nowe miejsca pracy, nie jest jasne, czy ludzie będą w stanie wystarczająco szybko uczyć się umiejętności niezbędnych do przekwalifikowania. Największym problemem na gwałtownie zmieniającym się rynku pracy będzie dla nich napięcie i stres.

Ci, którzy walkę o bycie istotnym przegrają, staną się nową klasą ludzi bezużytecznych. Nie z punktu widzenia przyjaciół i rodziny, ale ze względu na potrzeby systemu gospodarczego i politycznego

Przekleństwo nieistotności

– Obserwujemy coś zupełnie nowego: nie mamy czasu. Czas przyspiesza. Kiedy myślimy o zmianach na rynku pracy, myślimy o umacnianiu go przez budowanie związków, lepszych regulacji, lepszego prawa. W czasach rewolucji przemysłowej sporo czasu zajęło nam zrozumienie, co tak naprawdę się dzieje, byśmy mogli zintegrować ludzi i sformułować przepisy dotyczące walki politycznej – zaznaczył prof. Harari. Porównując tamtą sytuację z realiami, w których żyjemy dziś, wyodrębnił zasadniczą różnicę: główną cechą tego, co się dzieje na rynku pracy teraz, jest radykalne przyspieszenie. W rezultacie problemem będzie nie tyle brak zajęcia dla ludzi, ile problemy z należytym przeszkoleniem siebie, odnalezieniem się w nowych realiach – tak by móc po te nowe zajęcia sięgnąć.

To problem głównie natury psychologicznej: stres związany ze zdobywaniem nowych umiejętności, uczeniem się nowej pracy. I robieniem tego ciągle i od nowa, bez przerwy na oddech, stabilizację. Przyszłość człowieka będzie inna niż to, czego doświadczał do tej pory. Rewolucja automatyzacji nie oznacza zmiany sytuacji rynku pracy, po której w ciągu 10 lat wszystko się uspokoi.

Adres filmu na Youtube: https://www.youtube.com/watch?v=JHrvlYK45mU

Panel dyskusyjny „Humans behind Machines”, w którym wziął udział Harari podczas Światowego Forum Ekonomicznego w Davos.
Źródło: Yuval Noah Harari / YouTube

– Naprawdę wielkie zmiany są wciąż przed nami – zaznaczył uczony podczas jednego z paneli dyskusyjnych. – Rynek pracy też będzie przechodził kaskadę zmian, zakłóceń, jakich do tej pory nikt nigdy nie widział, bo sztuczna inteligencja nie osiągnęła jeszcze swego pełnego potencjału. W przeszłości człowiek musiał zmagać się z wyzyskiem. W XXI wieku największa walka będzie związana z groźbą nieistotności. Bo znacznie gorzej jest być nieistotnym niż wykorzystywanym.

Ci, którzy walkę o bycie istotnym przegrają, staną się nową klasą ludzi bezużytecznych. Nie z punktu widzenia przyjaciół i rodziny, ale ze względu na potrzeby systemu gospodarczego i politycznego, którym nie będą w stanie sprostać. Od rosnącej w siłę elity będzie ich oddzielać coraz głębsza przepaść.

Dane zamiast żołnierzy

Rewolucja sztucznej inteligencji może stworzyć bezprecedensową nierówność nie tylko między klasami, ale także między krajami. Jeśli nie spróbujemy podzielić korzyści i mocy SI między wszystkich ludzi, technologia ta prawdopodobnie wytworzy ogromne bogactwo w kilku zaawansowanych technologicznie światowych centrach, a inne kraje doprowadzi do bankructwa lub sprowadzi je do roli „kolonii danych”. W przeszłości Wielka Brytania i Japonia, uprzemysławiając się, podbiły i wykorzystały większość świata. W dobie SI, jeśli nie zachowamy ostrożności, na poziomie politycznym i gospodarczym świat czeka to samo. „Wyścig zbrojeń” w dziedzinie sztucznej inteligencji między Chinami i Stanami Zjednoczonymi, które zostawiły w tyle większość krajów, przecież już trwa.

Wkrótce niektóre korporacje i rządy będą w stanie systematycznie hakować wszystkich

Nawet mało zaawansowana sztuczna inteligencja może zakłócić globalną równowagę. Co się stanie z rozwijającymi się gospodarkami, gdy produkcja tekstyliów lub samochodów w Kalifornii będzie tańsza niż w Meksyku? A co będzie za 20 lat z polityką jakiegoś przeciętnego kraju, jeśli ktoś w San Francisco lub Pekinie będzie znał całą historię medyczną i osobistą każdego polityka, każdego sędziego i każdego dziennikarza w nim – włącznie z seksualnymi ekscesami, psychicznymi słabościami i lewymi interesami tych osób? Czy kraj X nadal będzie niezależnym krajem? A może stanie się kolonią danych? – Bo przecież gdy masz wystarczającą ilość danych, nie musisz wysyłać żołnierzy, aby kontrolować kraj – stwierdził Harari.

Równanie cyfrowej dyktatury

Swoją teorię przybliżył słuchaczom za pomocą równania, które będzie definiować życie w XXI stuleciu. Można je nazwać równaniem cyfrowej dyktatury:

B x C x D = AHH

B to wiedza biologiczna (biological knowledge), którą mnożymy przez C, czyli moc obliczeniową (computing power) i dane (data). Wynik to AHH, czyli zdolność hakowania ludzi (ability to hack humans). Dysponując odpowiednią wiedzą biologiczną, należytą ilością danych oraz potrzebną mocą obliczeniową, będzie można zhakować ciało, mózg, typ osobowości, życie… Będzie można poznać słabości fizyczne i psychiczne, lęki i marzenia innych ludzi – i dzięki temu przejąć nad nimi władzę.

– W przeszłości wiele rządów i tyranów chciało to zrobić, lecz nikt nie rozumiał biologii wystarczająco dobrze. I nikt nie miał wystarczającej mocy obliczeniowej oraz danych, by zhakować miliony ludzi. Ani Gestapo, ani KGB. Ale wkrótce niektóre korporacje i rządy będą w stanie systematycznie hakować wszystkich – ostrzegł izraelski historyk.

Co więc powinniśmy zrobić? Oswoić się z myślą, że nie jesteśmy już „tajemniczymi duszami”.

– Teraz jesteśmy już tylko zwierzętami, które można hakować – podsumował Harari.

Czekając na nowego Stalina

Zdolność do hakowania ludzi może z kolei podważać znaczenie ludzkiej wolności. Ponieważ ludzie będą polegać na sztucznej inteligencji przy podejmowaniu coraz większej liczby decyzji, autorytet przejdzie z nich na algorytmy. Jeśli zaś taka władza wpadnie w ręce jakiegoś „Stalina XXI wieku”, rezultatem będzie najgorszy reżim totalitarny w historii ludzkości. Jest już wielu kandydatów do takiej funkcji.

Warto przy okazji pamiętać, że w stalinowskiej Rosji największej inwigilacji poddawano elitę partii komunistycznej. Zgodnie z tą zasadą bogaci i potężni będą mieli w przyszłości szczególne powody, by się bać. Im wyżej jesteś w hierarchii, tym uważniej będziesz obserwowany. Może się to odbywać na przykład pod przykrywką troski o społeczeństwo. Opaski biometryczne będą monitorować stan twojego zdrowia i umysłu, ale kiedy pomyślisz coś złego o władzy, szybko znajdziesz się na jej celowniku.

Adres filmu na Youtube: https://youtu.be/eOsKFOrW5h8

Wystąpienie Harariego w Davos.
Źródło: World Economic Forum / YouTube

– Dlatego w interesie wszystkich ludzi, w tym elit, leży zapobieganie powstawaniu takich cyfrowych dyktatur – argumentował Harari. – Więc dziś, jeśli otrzymasz podejrzaną wiadomość WhatsApp, nie otwieraj jej – ostrzegał historyk.

Dlaczego? Bo miliardy ludzi ufają już algorytmom Facebooka, Google’a, Netflixa czy Amazona, które mówią nam, co się dzieje, co jest prawdą, co mamy oglądać i co kupować. Harari przewiduje, że niebawem podobne algorytmy mogą nam mówić, gdzie pracować i kogo poślubić. I mogą decydować, czy zatrudnić nas do pracy, czy udzielić nam pożyczki i czy bank centralny powinien podnieść stopę procentową. Decyzję podejmie komputer, a człowiek nie będzie w stanie wyjaśnić, dlaczego była taka, a nie inna. Nawet w wolnych krajach ludzie prawdopodobnie stracą kontrolę nad własnym życiem.

Bogowie w pułapce wszechmocy

W nadchodzących dziesięcioleciach sztuczna inteligencja i biotechnologia dadzą nam boskie zdolności do przeprojektowywania życia, a nawet tworzenia zupełnie nowych jego form. Harari uważa, że wkraczamy w nową erę życia nieorganicznego kształtowanego przez inteligentny projekt. Korzystając z nowych, boskich mocy stworzenia, ludzie mogą zacząć popełniać błędy w kosmicznej skali. Tym bardziej że rządy, korporacje i armie najpewniej wykorzystają inteligentne technologie do wzmocnienia tych ludzkich umiejętności, których potrzebują – głównie inteligencji, siły i dyscypliny – przy jednoczesnym zaniedbywaniu (celowym lub nie) współczucia, wrażliwości i duchowości. Rezultatem takich działań będzie powstanie nowego człowieka.

– Oczywiście, to nie przepowiednia, to tylko możliwości – uspokajał uczony. – Technologia nigdy nie jest deterministyczna. Jeśli chcemy skutecznie przeciwstawić się takiemu światu, potrzebujemy globalnej współpracy.

Skip to content