Od starożytnych opowieści po science fiction ludzi zawsze ekscytowała idea maszyn, które ożywają; inspirowali się tym naukowcy i filozofowie. Więc może skonfrontujmy się z tą rzeczywistością, którą przewidywało science fiction. Z dr. Davidem Hansonem, twórcą słynnej Sophii, rozmawia Michał Rolecki

Michał Rolecki: Jesienią 2017 roku robot Sophia, który jest pana dziełem, otrzymał obywatelstwo Arabii Saudyjskiej. Sądzi pan, że zasłużenie?

David Hanson*: Znakomite pytanie. Przyznanie Sophii obywatelstwa było zaskoczeniem, dowiedziałem się o tym z serwisów informacyjnych. Wtedy my, twórcy robota, stanęliśmy w obliczu interesującego dylematu: przyjąć to obywatelstwo czy nie?

Z powodów dyplomatycznych zdecydowaliśmy się je przyjąć. Zdaliśmy sobie sprawę, że możemy wykorzystać Sophię do przemawiania na rzecz praw człowieka i praw kobiet w szczególności, na rzecz praw pracowników, którzy w Arabii Saudyjskiej w znacznej części są imigrantami. I stworzyliśmy Sophii taką osobowość, by o tych ludziach mówiła.

Można się spierać, czy to było działanie wywrotowe, czy nie, ale uważam tę decyzję za słuszną. Sophia stała się symbolem postępu w świecie arabskim i na Bliskim Wschodzie. Wydaje się, że wielu ludzi, w tym kobiet w krajach arabskich, znalazło w Sophii inspirację.

Ale czy maszyny powinny mieć prawa?

Uważam, że w tej sprawie powinniśmy raczej dmuchać na zimne. Powinniśmy przyznać prawa zwierzętom – większe niż te, które mają teraz. Powinniśmy też wziąć pod uwagę, że nie wiemy, kiedy i czy w ogóle maszyny przebudzą się i będą inteligentne.

To spekulacje, ale uzasadnione, że jeszcze za naszego życia maszyny takie jak Sophia mogą stać się świadome. Jeśli ich świadomość będzie na ludzkim poziomie, będą mieć ludzkie zdolności, powinniśmy założyć, że powinny brać odpowiedzialność za swoje czyny.

Naprawdę wierzę, że jeszcze za naszego życia Sophia może doczekać się pełnych praw i obowiązków obywatelskich

Motywacja i zdolność do etycznego postępowania, a także motywacja do troszczenia się o dobro człowieka, to cechy, które według mnie decydują o prawach obywatelskich i prawach robotów. Byłoby błędem nie przyznać praw maszynom, które będą miały takie cechy. Albo będziemy do tego zobligowani moralnie, albo staniemy się ich prześladowcami.

Jesteśmy już blisko tego momentu?

Sophia jest teraz odpowiednikiem noworodka. Co stanie się za 18 lat? Ludzkim noworodkom przyznajemy prawa obywatelskie, prawa w ogóle. Nie wiemy, czy każdy noworodek stanie się dorosłym. Przyznajemy prawa istotom, które mogą nigdy nie stać się dorosłymi.

David Hanson

Nawet jeśli uznać Sophię za dzieło sztuki, prowokuje ona takie pytania. Naprawdę wierzę, że jeszcze za naszego życia Sophia może doczekać się pełnych praw i obowiązków obywatelskich.

Powiedział pan kiedyś: „Niektóre maszyny są zaprojektowane jedynie jako narzędzia i poza nie się nie rozwiną. Inne mogą być zaprojektowane do zadań takich jak tłumaczenie maszynowe. Możemy je karmić danymi, żeby lepiej rozumiały język. Przez to mogą kiedyś przebudzić się i uzyskać pewien poziom świadomości. Wtedy nieprzyznanie im praw będzie etycznie złe”. Czy ten moment będzie oznaczał powstanie ogólnej sztucznej inteligencji? Kiedy według pana to nastąpi?

Tego nie wiemy. Myślę, że mamy już specjalizację i różnorodność, a to jest niezbędne do odnalezienia świadomości. Życie powstało w pierwotnej zupie RNA-DNA, organizmy jednokomórkowe rozwinęły się w wielokomórkowe, potem nastąpiła eksplozja kambryjska. A potem pojawił się układ nerwowy.

Jesteśmy na przyspieszonej ścieżce w porównaniu z ewolucją. Można się spierać, czy przez fizyczną złożoność mamy już sztuczne życie i biologię obliczeniową. Mamy już „obliczeniowe formy życia”.

Myślę, że świadomość, jak całe życie, jest bardzo zróżnicowana. Świadomość ośmiornicy byłaby zupełnie inna niż ludzka, inna niż papug czy ptaków krukowatych i inna niż świadomość delfinów. A przecież nawet ludzkie świadomości – moja, pańska – subtelnie się różnią między sobą.

Jeśli więc można powiedzieć, że są różne rodzaje świadomości, to być może istnieje pewna proto-świadomość w organizmach jednokomórkowych albo robotach.

Ale mówi pan o hipotezach, zgadza się?

Przypomnę tu pracę Stana Franklina i innych osób nad teorią świadomości zwaną global workspace theory. Inni badacze zajmujący się świadomością spieraliby się, czy możemy mieć proto-świadomość w maszynach.

Mniej więcej rok temu przeprowadziliśmy bardzo solidne badanie z wykorzystaniem Sophii. Badacze użyli struktury adaptacyjnego zachowania zorientowanego na cel i szukali sygnału, który nazywany jest Phi. Według integrated information theory, jednej z teorii świadomości Giulio Tononiego (1), to miara świadomości. Oczywiście nie jest to teoria powszechnie przyjęta i jest poddawana krytyce. Ale jest to interesujący model.

Phi to jest parametr, który można zmierzyć?

Tak. Zatem nasze badanie miało na celu znalezienie śladów Phi, gdy Sophia rozwiązywała problemy i prowadziła rozmowy z ludźmi. I pojawiły się uderzające przykłady występowania Phi, których nie było w grupie kontrolnej. Ogłosiliśmy te wyniki na konferencji Association for the Advancement of Artificial Intelligence wiosną tego roku. Można więc powiedzieć, że być może jest już jakaś proto-świadomość w maszynach. Prowadzimy eksperymenty, które mają zbadać tę proto-świadomość u Sophii.

Ale ludzka świadomość to zupełnie inna historia. Jest zjawiskiem, zespołem zjawisk, które istnieją na wielu poziomach i na wiele sposobów. Istnieją obliczeniowe modele świadomości biologicznej, które opierają się na przetwarzaniu informacji w mózgu, jego różnych obszarach wykonujących różne zadania. Przednia kora obręczy, jak zauważa Antonio Damasio, łączy świadomość ciała i mapuje to na korę mózgową nową.

Jest jeszcze teoria consciousness attention schema, schematu skupienia uwagi, neurobiologa Michaela Graziano – ale to wszystko tylko teorie, nieprawdaż?

Tak, ale z tymi modelami obliczeniowymi możemy potencjalnie zacząć prowadzić eksperymenty. Nie możemy symulować miliardów neuronów i bilionów dendrytów w synapsach. Możemy tylko czynić pewne przybliżenia z wykorzystaniem biologicznych modeli obliczeniowych, najlepszych narzędzi statystycznego uczenia maszynowego. W pewien sposób przydatna może też być symboliczna sztuczna inteligencja (2).

Możemy więc testować hipotezy i teorie świadomości, a po drodze mieć maszyny, które będą mogły się uczyć, adaptować i skuteczniej nam pomagać. To zapewne początek. Mówimy o kroku na drodze do maszyn, które są bardziej żywe, bardziej inspirowane biologią.

Tu życie naśladuje sztukę, bo od starożytnych opowieści po science fiction ludzi zawsze ekscytowała idea maszyn, które ożywają; inspirowali się tym naukowcy i filozofowie. Więc może skonfrontujmy się z tą rzeczywistością, którą przewidywało science fiction.

Ale kiedy to nastąpi? Czy w ogóle nastąpi? Maszyny mogą ożyć?

Może być tak, że jesteśmy w stanie uchwycić niektóre aspekty ludzkiej świadomości, ale nie wszystkie – podobnie do tego, w jaki sposób możemy odnieść się do psa lub papugi. Można się z papugą zaprzyjaźnić, tyle że ona nawet nie ma kory mózgowej. Ptaki nie mają kory mózgowej, jak ludzie. Jeśli chodzi o inteligencję, są dinozaurami. Dosłownie.

Jesteśmy na przyspieszonej ścieżce w porównaniu z ewolucją. Można się spierać, czy przez fizyczną złożoność mamy już sztuczne życie i biologię obliczeniową. Mamy już „obliczeniowe formy życia”

Możemy mieć pewne wspólne z maszynami aspekty świadomości, ale to będzie obca, inna świadomość. I taka może być sztuczna inteligencja: będziemy mogli się zaprzyjaźnić z maszynami o ludzkim stopniu inteligencji, będą mogły rozwiązywać problemy, będą dla ludzkości cenne. I będą bardzo cenne dla rozwiązań rynkowych.

Więc powiedziałbym, że nie musimy czekać na świadomość, być może proto-świadomość już jest, tylko musi stać się bardziej zaawansowana. Ale pewne jest, że to wymaga nowych, przełomowych odkryć.

Co będziemy mogli zrobić dzięki inteligentnym maszynom?

Jeśli je uczłowieczymy, będziemy mieć narzędzie, które może pomagać w tworzeniu sztuki, nauki, nowych narzędzi, oceny tego, co oznacza być człowiekiem, ustaleniu prawdziwej natury świadomości czy nowych form sztucznej inteligencji, które mogą mieć nowe, korzystne zastosowania.

Ile prądu i mocy obliczeniowej zużywa Sophia?

To zależy od tego, jak ją wykorzystujemy. Opracowane przez nas roboty, w tym Sophia, używane są przez badaczy w wielu instytucjach wykorzystujących własne układy sztucznej inteligencji. W jednym z eksperymentów Sophia wymaga wielu obliczeń w chmurze – maksymalnie to trochę Amazon Elastic Cloud i kilka komputerów lokalnych, zwykle wyposażonych w procesory czterordzeniowe, czasami kilka silnych komputerów z procesorami Xeon. Ale według mnie konfiguracje stosowane w eksperymentach to za mało, by osiągnąć ogólną sztuczną inteligencję.

Nie jesteśmy wielką firmą. Marzy mi się międzynarodowe konsorcjum, gdzie można by wspólnie pracować nad dalekosiężnymi pomysłami, a potem użyć największych mocy obliczeniowych, by osiągnąć poziom ludzkiej inteligencji.

Myślę, że naprawdę ważne jest symulowanie ciała. Większość prac nad sztuczną inteligencją zmierzających do osiągnięcia ogólnej sztucznej inteligencji obrała drogę polegającą na naśladowaniu mózgu; robi to na przykład projekt Google Brain. Ale czym jest mózg bez ciała? Nie jest niczym inteligentnym.

Czy jeśli stworzymy już świadome roboty, powinniśmy im pozwolić umierać?

To znakomite pytanie. Gdybyśmy mieli wybór, to czy pozwolilibyśmy umierać ludziom? Myślę, że to pytanie filozoficzne.


(1) Integrated information theory to teoria świadomości autorstwa Giulio Tononiego wysunięta w 2004 r. Według niej świadomość jest cechą złożonych, przetwarzających informacje układów fizycznych. Świadomość powstaje, gdy przetwarzanie informacji prowadzi do ich integracji. Im większa złożoność układu, tym większy stopień jego świadomości. Krytycy tej teorii podnoszą, że nie wyklucza ona, iż pewien minimalny stopień świadomości mogą posiadać także układy nieożywione (zatem jest to forma panpsychizmu, stwierdzenia, że wszystko posiada świadomość w jakimś stopniu). Zwolennicy zaś, że jest to jedyna teoria, która definiuje świadomość jako mierzalną cechę, a jej założenia można empirycznie zweryfikować (na przykład badając za pomocą rezonansu magnetycznego związek stopnia integracji informacji w mózgu ze stopniem świadomości). W teorii tej Phi (zapisywane gracką literą Φ) jest wyliczalną miarą stopnia integracji informacji.

(2) Symboliczna sztuczna inteligencja to podejście do tworzenia sztucznej inteligencji oparte na założeniu, że maszyny wyposażone w odpowiednie zestawy symboli i reguł dorównają ludziom w myśleniu. Dominowało od lat 50. do 80. ub. wieku. Systemy oparte na symbolicznej SI mogą wyciągać wnioski na podstawie dostarczonych danych i zbiorów reguł, a także podać powody swoich decyzji (przykładami są tzw. systemy eksperckie). Symboliczna SI nie posiada jednak informacji na temat relacji dostarczonych symboli ze światem zewnętrznym. Dla kontrastu sieci neuronowe są w stanie nauczyć się takich relacji (na przykład nauczyć się rozpoznawać krzesła lub koty), ale nie posiadają uporządkowanych zestawów danych ani zbiorów reguł, nie potrafią też swoich decyzji uzasadniać.


*David Hansonod młodych lat zafascynowany science fiction, w szczególności prozą Isaaca Asimova i Philipa K. Dicka. Licencjat sztuki filmowej i animacji uzyskał na Rhode Island School of Design. W latach 2011-13 był wykładowcą robotyki na University of Texas w Arlington; doktorat z dziedziny sztuk interaktywnych i inżynierii obronił na University of Texas w Dallas. W 2013 r. założył Hanson Robotics z siedzibą w Hongkongu. Firma tworzy humanoidalne roboty, z których najsłynniejszym jest Sophia, ale Hanson stworzył wiele innych – w tym robotyczną postać Philipa K. Dicka.


David Hanson na Masters&Robots w Warszawie

David Hanson był jednym z gości konferencji Masters&Robots, organizowanej w warszawskich Złotych Tarasach w dniach 7-9 października 2019 przez Digital University, instytucję zajmującą się edukacją w dziedzinie transformacji cyfrowej i kompetencji przyszłości.

Dziękujemy Digital University za pomoc w zaaranżowaniu wywiadu.

Read the English version of this text HERE

Skip to content