Co robić z algorytmami, których w naszym życiu jest coraz więcej? Nowa Zelandia nie miała wątpliwości – uregulować te wykorzystywane przez instytucje publiczne
Jak twierdzą tamtejsze władze, Nowa Zelandia jest pierwszym krajem na świecie, który uregulował kwestię wykorzystywania algorytmów za pomocą międzyresortowego porozumienia. James Shaw, minister do spraw statystyki, zapewnia dziennikarzy brytyjskiego „Guardiana”, że żaden rząd nie opracował wcześniej wspólnych standardów na tak wysokim szczeblu.
„Algorithm charter for Aotearoa New Zealand” (Aotearoa, czyli „Kraj Długiej Białej Chmury”, to rdzenna nazwa Nowej Zelandii w drugim jej oficjalnym języku, maoryskim), czyli nowozelandzka karta o wykorzystywaniu algorytmów, weszła w życie 4 sierpnia. Podpisało ją dziewiętnaście resortów i instytucji.
Zobowiązały się w niej do tego, by algorytmy, które podejmują decyzje (także predykcyjne oparte o uczenie maszynowe), były przejrzyste dla obywateli. Wyjaśnienia ich działań mają być przedstawiane zrozumiałym, pozbawionym urzędniczego stylu językiem i zawierać informacje, jak przetwarzane i przechowywane są dane (o ile nie narusza to tajemnic państwowych). Rządowe instytucje mają też identyfikować przypadki stronniczości algorytmów i im zapobiegać, a algorytmy mają być stosowane tak, by nie zaszkodzić grupom szczególnie narażonym na dyskryminację. Algorytmy dotyczące danych rdzennej nowozelandzkiej ludności, Maorysów, mają być uregulowane osobnym porozumieniem ze społecznością.
Karta to bardzo istotna część budowy zaufania publicznego do instytucji rządowych
James Shaw, minister do spraw statystyki
Wśród instytucji, które podpisały zobowiązanie, jest na przykład służba więzienna, która wykorzystuje algorytmy maszynowe do określania ryzyka recydywy przez osadzonych, urząd do spaw imigracji, który profiluje wnioskodawców za pomocą algorytmów, czy rządowa instytucja wypłacająca odszkodowania za wypadki, której zautomatyzowane systemy wykrywają oszustwa.
Dokumentu nie podpisała do tej pory nowozelandzka policja, która w 2019 roku wprowadziła bez zgody komendanta głównego (ani odpowiednika tamtejszego inspektora ochrony danych osobowych) algorytmy rozpoznawania twarzy, do tego kontrowersyjnej firmy Clearview. Rzecznik ministra do spraw statystyki nie wykluczył jednak, że i ona dołączy do sygnatariuszy karty.
Karta nie przewiduje sankcji za nieprzestrzeganie jej zapisów, ale minister Shaw ma nadzieję, że w ciągu najbliższych miesięcy wszystkie instytucje, które podpisały dokument, na swoich stronach internetowych zamieszczą wyjaśnienia, jakich algorytmów używają, w jaki sposób, a nawet udostępnią kody źródłowe. Jeśli zaś tego nie zrobią, minister liczy, że będą domagać się tego obywatele, powołując się na kartę. W przypadku odmowy mogliby pozwać instytucję lub resort do sądu, bowiem karta jest obowiązującym dokumentem prawnym, a w nowozelandzkim systemie prawnym opartym o prawo stanowione wygrana w sądzie określiłaby orzecznictwo w kolejnych.
Colin Gavaghan, wykładowca prawa Uniwersytetu w Otago, w 2019 roku brał udział w audycie rozwiązań prawnych dotyczących algorytmów w tym kraju, czego owocem był niemal stustronicowy raport. Dla „Guardiana” komentuje, że karta nie jest doskonała, bowiem rząd nie powołał żadnej instytucji nadzorującej przestrzeganie jej zapisów. Pochwala za to zapis, który nakazuje rządowym instytucjom umożliwić odwołanie się od decyzji algorytmu.
Karta powołuje się na kilka innych dokumentów – w tym opracowane w tym roku zasady zaufania do sztucznej inteligencji.
„Ludzie są coraz bardziej świadomi tego, jak działa Facebook i do jakiego stopnia nasze życia są kształtowane przez wykorzystywanie i przetwarzanie danych”, komentuje minister Shaw. „Karta to bardzo istotna część budowy zaufania publicznego do instytucji rządowych” – podsumowuje.