Zakończyło się śledztwo w sprawie śmierci pieszej potrąconej w USA przez autonomiczny samochód Ubera. Przyczyną wypadku było wadliwe oprogramowanie
To jedyny wypadek spowodowany przez autonomiczny samochód, w którym zginęła osoba postronna. W marcu 2018 roku w Tempe w stanie Arizona 49-letnia Elaine Herzberg przeprowadzała po zmroku rower przez kilkupasmową jezdnię w nieoznaczonym miejscu. Zbliżające się do pasów volvo XC90 wykorzystywane do testów autonomicznej jazdy przez Ubera nie zwolniło ani nie ominęło kobiety. Potrącona zmarła, a branża autonomicznych samochodów znalazła się pod lupą amerykańskiej National Transportation Safety Board (NTSB), agencji zajmującej się nadzorem transportu drogowego.
Jak donoszą BBC i Reuters po długim śledztwie NTSB opublikowało raport, który stwierdza, że autonomiczny samochód Ubera nie rozpoznał, że „obiekt na drodze” to człowiek. Raport podnosi też szereg kwestii bezpieczeństwa autonomicznych samochodów. Wspomina, że kolizji aut Ubera w trybie jazdy autonomicznej w ciągu półtora roku poprzedzającego śmiertelny wypadek było 37.
Z raportu wynika, że systemy samochodu Ubera nie rozpoznały w porę ani roweru, ani pieszej na słabo oświetlonym przejściu przecinającym kilkupasmową drogę, choć miały na to kilka sekund. Nie rozpoznały, bo i nie mogły. „Projekt systemu [sterowania samochodu] nie uwzględniał możliwości wtargnięcia na jezdnię pieszych”, stwierdza NTSB. Z symulacji działania oprogramowania przeprowadzonych na danych zebranych z czujników samochodu wynika, że system zareagował 1,2 sekundy przed zderzeniem.
Projekt systemu sterowania samochodu Ubera nie uwzględniał możliwości wtargnięcia na jezdnię pieszych
W marcu bieżącego roku w dość zaskakującej decyzji prokuratura stwierdziła, że Uber nie ponosi odpowiedzialności karnej za śmierć Elaine Herzberg (nie wyklucza to odpowiedzialności cywilnej). Przed sądem za nieumyślne spowodowanie śmierci pieszej może natomiast stanąć „operator bezpieczeństwa” samochodu Rafaela Vasquez. Uber twierdził, że „operatorzy” zawsze zwracają uwagę na drogę i mogą przejąć kontrolę nad samochodem, gdy zajdzie potrzeba. Jednak – jak wynika z nagrań – Vasquez tuż przed wypadkiem patrzyła w swój telefon, a nie na jezdnię.
Po śmiertelnym wypadku władze Arizony cofnęły pozwolenie na testy samochodów autonomicznych na drogach stanu. Uber wznowił je później w Pensylwanii, a „operatorom bezpieczeństwa” zakazał korzystania z telefonów komórkowych. Zmienił też oprogramowanie, które teraz reaguje na przeszkody na drodze szybciej (w analogicznej sytuacji pozostawiając 4,5 sekundy na reakcję zamiast jak uprzednio nieco ponad sekundę).
NTSB nie podaje jeszcze oficjalnie przyczyny śmiertelnego wypadku, ma się to stać po kolejnym spotkaniu w przyszłym tygodniu, 19 listopada. Może przy tej okazji wprowadzić zalecenia dla całej branży lub opracować rekomendacje dla ustawodawców.
Z badań opublikowanych w „Science” już trzy lata temu wynika, że autonomiczne samochody bynajmniej nie są skazane na sukces rynkowy. Zespół pod kierunkiem Jeana-François Bonnefona z wydziału psychologii i zachowań społecznych University of California w Irvine przeprowadził wtedy serię szczegółowych ankiet.
Wynikało z nich, że badani są najbardziej skłonni zaakceptować autonomiczne samochody zaprogramowane tak, by chronić życie jak największej liczby ludzi nawet kosztem pasażera takiego auta. Jednocześnie nikt tak zaprogramowanymi autami nie chciałby jeździć – bowiem nie chciałby znaleźć się w pojeździe, który może go zabić, by ocalić większą liczbę istnień. Krótko mówiąc – nasze etyczne oczekiwania dotyczące autonomicznych samochodów są po prostu sprzeczne.
Badacze poczynili wtedy założenie, że oprogramowanie autonomicznych aut będzie publicznie znane. W redakcyjnym komentarzu Joshua Greene ripostował wtedy, że to założenie może być błędne. Producenci aut, które chronić będą życie pozostałych użytkowników drogi i narażać życie przyszłego pasażera, muszą wszakże liczyć się z tym, że aut nie sprzedadzą. Z kolei producenci aut chroniących pasażera za cenę życia innych użytkowników dróg znaleźliby się pod pręgierzem opinii publicznej. Producenci będą mieć więc bardzo niewielką motywację do ujawniania zasad etycznych ustalonych w oprogramowaniu pojazdu – sugerował Greene.
Jak widać, miał rację – o tym, że algorytm nie uwzględniał przechodzących „na dziko” pieszych, dowiadujemy się nie od Ubera, lecz po półtorarocznym śledztwie agencji rządowej.