- Systemy rozpoznawania twarzy mogą zagrażać społeczeństwu
- SI uderza w tych, którzy nie mają dostępu do technologii i wiedzy
- Rozwój cyfrowych technologii przyspiesza zmiany klimatyczne
Sztuczna inteligencja wspiera złe traktowanie pracowników i dyskryminację, tymczasem firmy technologiczne chcą coraz szerszego stosowania technologii rozpoznawania twarzy. Co gorsza, ignorują przy tym problem śladu węglowego, który pozostawiają bardzo energochłonne systemy SI. To główne wnioski najnowszego raportu amerykańskiego instytutu badawczego.
AI Now Institute, działający na Uniwersytecie Nowego Jorku, jest interdyscyplinarną organizacją badawczą. Działa, by wykazać i zrozumieć społeczne implikacje stosowania technologii sztucznej inteligencji. To pierwszy uniwersytecki ośrodek badawczy koncentrujący się na SI w takim kontekście. Co ciekawe, AI Now jest też jednym z niewielu instytutów badawczych SI na świecie założonych i prowadzonych przez kobiety – jego twórczyniami i szefowymi są Kate Crawford i Meredith Whittaker.
Technologie, które niepokoją
Dziś program badań Instytutu koncentruje się na czterech głównych dziedzinach. To stronniczość i integracja społeczna, prawa oraz swobody człowieka, praca i automatyzacja, bezpieczeństwo i infrastruktura krytyczna.
Cytowany tu raport jest już czwartym dokumentem Instytutu dotyczącym społecznych skutków nowych technologii. Zawiera on nie tylko opis problemu i wnioski, ale też 12 zaleceń dla branży technologicznej i decydentów. Niektóre z nich idą bardzo daleko.
Sztuczna inteligencja pogłębia nierówności, przekazując informacje i kontrolę w ręce tych, którzy władzę już mają, a osłabiając ludzi władzy pozbawionych
AI Now Institute jest szczególnie zainteresowany konsekwencjami stosowania technologii rozpoznawania twarzy – zwłaszcza tymi, które miałyby pomóc w charakteryzowaniu osobowości ludzi lub ich stanów emocjonalnych. Chodzi o wykorzystanie ich głównie jako narzędzi do sprawdzania kandydatów do pracy, śledzenia uwagi uczniów w szkołach i gromadzenia danych o stanach emocjonalnych kupujących.
Instytut zaleca wprowadzenie ustawowego zakazu używania technologii w przypadku krytycznych decyzji związanych z dobrem człowieka, np. podczas rekrutacji czy w sądach.
SI silnych wzmacnia, słabych osłabia
Inne zalecenia wskazują na brak różnorodności w branży technologicznej. Homogeniczność przemysłu SI polega na niedostatecznym poszanowaniu praw kobiet, mniejszości etnicznych czy seksualnych, dyskryminowaniu tych ludzi przy zatrudnianiu, niższych wynagrodzeniach czy mniejszych zachętach dla nich. Problem stanowią również wykorzystywanie przez firmy automatyzacji do wyzysku pracowników oraz wrogość menedżerów wobec tych pracowników technicznych, którzy wyrażają obawy etyczne odnośnie do wpływu technologii na ludzi. „Zbyt często decyzje dotyczące wykorzystania sztucznej inteligencji są pozostawione działom handlowym i kadrze kierowniczej, ukryte za wysoce poufnymi, niedostępnymi dla pracowników i opinii publicznej umowami” – czytamy w raporcie.
Sztuczna inteligencja pogłębia nierówności, przekazując informacje i kontrolę w ręce tych, którzy władzę już mają, a osłabiając ludzi władzy pozbawionych. Zdaniem autorów raportu związki zawodowe powinny mieć wpływ na uzgadnianie standardów pracy również w tym zakresie, a pracownicy budujący systemy SI powinni wiedzieć, do czego będą one wykorzystane. I powinni mieć prawo do kwestionowania ich użycia, jeśli mogłoby być nieetyczne.
Świat chroni dane osobowe, USA nie
Cztery z zaleceń odnoszą się do stosowania sztucznej inteligencji w nadzorze. Wzywają do wprowadzenia moratorium na rozpoznawanie twarzy i rozszerzonych przepisów dotyczących gromadzenia danych biometrycznych, w tym odcisków palców i DNA. Ponad 130 krajów przyjęło już kompleksowe przepisy o ochronie danych osobowych; ostatnio zrobiły to Kenia i Brazylia. Jednak w Stanach Zjednoczonych, które wciąż są liderem SI, nadal brakuje ogólnych przepisów dotyczących ochrony danych. Mimo że kolejne stany wprowadzają zakazy stosowania technologii rozpoznawania twarzy, ustawodawstwo stanowe i federalne utknęło w tej kwestii w martwym punkcie.
Autorzy raportu nie kryją za to uznania dla senatora Berniego Sandersa, który wprowadzenie zakazu stosowania rozpoznawania twarzy przez policję uczynił częścią swej kampanii prezydenckiej.
Przemilczana prawda o „czystych technologiach”
Innym rodzącym się problemem jest wpływ programów sztucznej inteligencji na klimat. AI Now przypomina wydarzenia z września 2019, kiedy to pracownicy 12 firm technologicznych przyłączyli się do globalnego strajku klimatycznego. Podkreślając negatywny wpływ rozwoju technologii na klimat, zażądali obniżenia emisji dwutlenku węgla do zera do 2030 r. i zerwania przez firmy z sektora IT kontraktów z producentami paliw kopalnych.
To spore zaskoczenie dla opinii publicznej, ponieważ o negatywnym wpływie nowych technologii na klimat mało kto mówi. Co więcej, marketing branży IT zazwyczaj akcentuje „ekologiczność” tych technologii i zawarty w nich potencjał rozwiązywania problemów wywołanych ociepleniem klimatu. „Sektor technologiczny w znacznym stopniu przyczynia się do zmian klimatycznych i szkodzi środowisku” – podkreślają autorzy raportu.
Przemysł technologiczny coraz częściej zderza się z krytyką obrońców środowiska, ponieważ do zasilania jego infrastruktury obliczeniowej potrzeba wielkich zasobów energii, a tempo tego zapotrzebowania rośnie wykładniczo.
1 program, 300 ton CO2, 125 lotów
Szacunki pokazują, że w 2020 r. branża technologiczna będzie odpowiedzialna aż za 3,0-3,6 procent światowej emisji gazów cieplarnianych. W stosunku do 2007 r. to wzrost ponaddwukrotny.
Mniej więcej tyle gazów cieplarnianych emitują wszystkie samoloty na świecie – i więcej niż gospodarka Japonii, piątego co do wielkości emitenta zanieczyszczeń na świecie.
W 2020 r. branża technologiczna będzie odpowiedzialna aż za 3,0-3,6 procent światowej emisji gazów cieplarnianych
Ślad węglowy, za który odpowiada sztuczna inteligencja, jest coraz większy, ponieważ rozwój SI polega na wzroście liczby komputerów i ich mocy obliczeniowej. W niedawnym badaniu przeprowadzonym na Uniwersytecie Massachusetts wyliczono, że szkolenie tylko jednego modelu SI odbyło się kosztem wyemitowania do atmosfery 300 ton CO2. To mniej więcej tyle dwutlenku węgla, ile powstałoby podczas 125 lotów pasażerskich z Nowego Jorku do Pekinu – i z powrotem.
W najgorszym scenariuszu do 2040 roku udział „inteligentnego” śladu węglowego w światowej emisji CO2 może wzrosnąć do 14 procent. By tego uniknąć, główne firmy technologiczne na świecie uczyniły centra danych bardziej wydajnymi, a ich maszyny częściowo zasila energia odnawialna. Oczywiście chwalą się tym przy każdej okazji.
Większe wcale nie jest lepsze
Tyle że to nie wystarcza. Przemysł IT jest jednym ze znaczących źródeł wzrostu emisji gazów cieplarnianych. Budowa sieci 5G – która umożliwi powstanie „internetu rzeczy”, przyspieszy zbieranie danych i ruch w sieci – jest już w toku. Anteny 5G będą zużywały znacznie więcej energii niż ich poprzedniczki w sieci 4G, rozpowszechnią się też wysokoemisyjne technologie SI, w tym technologia autonomicznego prowadzenia pojazdów i telechirurgii.
Głównym czynnikiem przyczyniającym się do zwiększenia śladu węglowego w dziedzinie SI jest powszechne przekonanie, że „większe jest lepsze”. Według raportu założenie, że większe zbiory danych szkoleniowych są z natury rzeczy lepsze i dokładniejsze od mniejszych, jest błędne. Prowadzi ono bowiem do zwiększania obliczeń mających służyć rozwijaniu modeli SI w całej branży. Większe obliczenia nie zawsze są potrzebne dla rozwoju SI, ale zawsze oznaczają większy pobór energii.
Badacze z AI Now sugerują, że organy regulacyjne (władze) powinny zobowiązać firmy technologiczne do publicznego ujawnienia, jak duży ślad węglowy powstaje w rezultacie rozwijanych przez te firmy technologii.