• Oprogramowanie firmy Amazon służące do rozpoznawania twarzy wywołuje duże opory w społeczeństwie amerykańskim
  • Oprócz ułatwiających inwigilację systemów SI wątpliwości etyczne budzi też m.in. broń w pełni autonomiczna
  • Czy ludzkość jest w stanie wyrzec się jakiejś technologii dla własnego dobra?

Zarzut: uprzedzenia pod względem płci i rasy. Podejrzany: Amazon, a ściślej jego system rozpoznawania twarzy Rekognition. To wniosek z niedawnych badań MIT Media Lab.

Firma zapewnia, że naprawiła już usterki. Jednak przeciwnicy cyfrowej inwigilacji żądają gwarancji, że Amazon nie sprzeda narzędzia instytucjom publicznym. Nie chodzi bowiem tylko o błędy w oprogramowaniu, które mogłyby negatywnie wpływać na decyzje administracji, ale o szersze skutki stosowania tego narzędzia w życiu społecznym. Niektórzy oczekują wręcz wprowadzenia całkowitego zakazu tej technologii.

Wymuszona autocenzura

Ze wspomnianych badań wynika, że Rekognition jest poważnie obciążony ryzykiem błędu. W 19 procentach przypadków system pomylił kobiety z mężczyznami, a w odniesieniu do kobiet czarnoskórych mylił się aż w 31 procentach przypadków. System wzbudzał jednak kontrowersje już wcześniej.

W maju 2018 r. American Civil Liberties Union, organizacja dbająca o ochronę praw obywatelskich, ujawniła, że Amazon sprzedawał Rekognition organom odpowiedzialnym za ochronę porządku publicznego w USA. W rezultacie do firmy Jeffa Bezosa skierowano petycję podpisaną przez ponad 150 tys. osób. Za nią poszły listy od organizacji społecznych oraz akcjonariuszy firmy, w których domagano się zaprzestania sprzedaży tej technologii instytucjom rządowym.

Czy powstrzymanie się przed rozwijaniem niebezpiecznej technologii przez grupę państw jest gwarancją, że nigdzie indziej takie prace nie będą się odbywały?

Jeszcze bardziej kategoryczne żądania wysunął w serwisie Medium Woodrow Hartzog,profesor prawa i informatyki na Northeastern University w Bostonie, który sugerował wprowadzenie całkowitego zakazu technologii rozpoznawania twarzy. Zdaniem komentatorów portalu systemy tego typu są bardzo niebezpieczne i stanowią ważny brakujący element dzisiejszej infrastruktury inwigilacji. A ta służy zarówno sektorowi prywatnemu (np. w celach marketingowych), jak i publicznemu (nasilający się nadzór nad obywatelami).

Medium przekonuje, że rozpoznawanie twarzy nie jest technologią, której użycie można skutecznie kontrolować za pomocą regulacji prawnych. Samo jej istnienie szkodzi bowiem wolnościom obywatelskim i prawom człowieka. Choćby dlatego, że eliminuje anonimowość w miejscach publicznych, a przez to ogranicza swobodę ekspresji.

Zabójcze automaty

Rozpoznawanie twarzy to niejedyna technologia SI wzbudzająca dziś kontrowersje. Innym przykładem jest broń w pełni autonomiczna, czyli podejmująca decyzję co do określonego działania (np. wystrzelenia pocisku) bez nadzoru człowieka. Ostatnio było na ten temat głośno w związku z publikacją amerykańskiego raportu Center for a New American Security dotyczącego strategii rozwoju SI w Chinach.

Wielu badaczy jest dziś przeciwnych rozwijaniu tej technologii. Chodzi nie tylko o względy etyczne i pytania o to, jak daleko możemy się posunąć na drodze do pełnej samodzielności robotów. Pada też argument, że prace nad takimi automatami są równoznaczne z początkiem nowego wyścigu zbrojeń.

Czy jednak powstrzymanie się przed rozwijaniem śmiercionośnej technologii przez grupę państw jest gwarancją, że nigdzie indziej takie prace nie będą się odbywały? Wątpliwe. Przykład? ONZ zaproponował projekt traktatu, który miał zakazać w pełni autonomicznej broni. Rozmowy zablokowały Australia, Izrael, Korea Południowa, Rosja i USA. Państwa te zadeklarowały chęć testowania tego typu broni, choć nie wykluczyły kontynuacji rozmów na temat ograniczeń na forum międzynarodowym.

Lekcja z Los Alamos

Roberta Oppenheimera, amerykańskiego fizyka, który stanął na czele Manhattan Project i był odpowiedzialny za stworzenie pierwszej w historii bomby atomowej, do końca życia prześladowało poczucie winy. Nie, nie miał wyrzutów sumienia z powodu zbombardowania Hiroszimy i Nagasaki (działania te uważał za moralnie usprawiedliwione). Nękało go raczej to, że przyczynił się do nakręcenia spirali nuklearnego wyścigu zbrojeń.

Dziś trudno jednoznacznie wskazać jedną osobę odpowiedzialną za stworzenie tego śmiercionośnego narzędzia. W końcu to Niemcy jako pierwsi rozpoczęli prace nad bronią jądrową. Od rozstrzygnięcia tej kwestii ważniejsze wydaje się jednak, jakie wnioski z lekcji Oppenheimera wyciągniemy dla siebie samych i naszych dzieci.

Skip to content