Jeśli SI podejmie decyzję kredytową, musimy wiedzieć, dlaczego zrobiła tak, a nie inaczej. Może będziemy w stanie nauczyć ją, aby nam to wyjaśniła, ale wtedy powstaje pytanie, czy powie nam prawdę – mówi dr Wojciech Bolanowski, ekspert w branży fintech, w rozmowie z Tomaszem Jurczakiem
Tomasz Jurczak: Dlaczego pediatra onkolog zdecydował się na pracę w banku?
Wojciech Bolanowski*: Nie będę ukrywał, że przesądziły względy finansowe i duża stabilność pracy. Jednak dziś bankowość nie jest już stabilnym miejscem zatrudnienia, choć ciągle jest dobrze opłacana.
Ale bankowcy mają zostać zastąpieni przez roboty.
Jest taka presja, żeby w Polsce, ale i na całym świecie zmniejszać zatrudnienie w bankowości, a ludzi zastępować różnymi rozwiązaniami technologicznymi. Ona będzie rosła, bo to są drogie miejsca pracy. Prędzej czy później doczekamy się więc, że za obecne obowiązki ludzi będą odpowiadać mniej lub bardziej inteligentne rozwiązania.
Za analizę kredytową również?
Kredyty i pożyczki to wysokodochodowy biznes. Przez wprowadzenie do scoringu kredytowego** tańszych niż ludzie robotów zwrot z tych inwestycji jeszcze się zwiększy. Pomijając back office** i przerzucanie papierów, będzie to jedno z pierwszych, kluczowych miejsc zastosowania sztucznej inteligencji w bankowości. To nie jest styk z klientem, więc nie ma się co martwić tzw. human touch**.
Ale banki już dziś muszą informować klientów o powodach odmowy udzielenia kredytu, a nie radzą sobie z tym dobrze. Zastanawiam się, jak będą tłumaczyły się z tego, że robot tak zdecydował.
A, to jest superzagadnienie, bo gdyby się tak naprawdę zastanowić, to używamy algorytmów i programów, aby robiły szybciej to, co my możemy zrobić wolno lub niewyobrażalnie wolno, ale co jesteśmy w stanie zrobić. I my niby wiemy, co ma robić SI, ale nie wiemy de facto, jak to robi. Wiemy, jak się tego nauczyła, uczymy ją, ale nie wiemy tak naprawdę, jak działa. To poważny problem.
Jeśli SI podejmie decyzję kredytową, to my musimy wiedzieć, dlaczego zrobiła tak, a nie inaczej. Może będziemy w stanie nauczyć ją, aby nam to wyjaśniła, ale wtedy powstaje pytanie, czy powie nam prawdę. I czy będzie umiała nam wyjaśnić tę decyzję w taki sposób, abyśmy ją zrozumieli.
Poda nam dane, na podstawie których to obliczyła?
Wyjaśnienie, na podstawie jakich danych nie przyznano kredytu, wcale nie jest takie jasne i dobre, bo wyobraźmy sobie, że ta sztuczna inteligencja wskaże nam jako czynnik sprawczy decyzji na przykład wiek, przychód, gdzie mieszkasz i numer buta – i ciekawe, jak ona to wytłumaczy. A to jest jeszcze politycznie neutralne…
Mówimy czasem: taka sama praca – taka sama płaca i nie powinno być różnic pomiędzy płciami. A co się stanie, jak SI udowodni, że praca mężczyzny jest mniej ważna czy warta? I taka sztuczna inteligencja, zarządzając przedsiębiorstwem, będzie oferowała niższe płace mężczyznom. Czy my jako społeczeństwo się na to zgodzimy?
A co, jeśli SI powie, że nie dostałeś hipoteki i jedną z przyczyn jest to, że jesteś białym mężczyzną w średnim wieku. Pytanie: dlaczego?
Dlaczego?
Bo jesteś w zarządzie banku i jest presja na równouprawnienie i prawdopodobieństwo, że cię wymienią na czarną kobietę, jest duże, więc nie możemy się z tobą wiązać na dużą hipotekę.
Z jednej strony nie można odmówić klientowi usługi ze względu na rasę, kolor skóry, przekonania religijne (bo jeśli chodzi o wiek, banki akurat stosują ograniczenia). Ale SI wykaże, że jest to bardzo ważny czynnik, i co wtedy?
Ale podobnie jest z innymi zawodami. W przypadku dziennikarza też SI może uznać, że wykonując wolny zawód, można dziś zarobić 10 tysięcy złotych, a jutro tysiąc lub wcale – i nie jest to stabilne zajęcie.
Tak, ale jest to przykre wyłącznie dla dziennikarzy i społecznie jakoś akceptowalne. A jak SI uzna, że kobiety łatwiej tracą pracę i ze względu na płeć takiej pani dziennikarce odmawia się kredytu, to się pojawia problem przekraczający pewną akceptowalność.
Mówimy czasem: taka sama praca – taka sama płaca i nie powinno być różnic pomiędzy płciami. A co się stanie, jak SI udowodni, że praca mężczyzny jest mniej ważna czy warta? I taka sztuczna inteligencja, zarządzając przedsiębiorstwem, będzie oferowała niższe płace mężczyznom.
Czy my jako społeczeństwo się na to zgodzimy? Będzie wiele takich problemów, a najgorszym z nich będzie sytuacja, w której ani SI, ani my nie będziemy w stanie wyjaśnić, na jakiej podstawie takie decyzje są podejmowane.
I wtedy musielibyśmy dojść do takiej nowej formy religii, że my wierzymy, że tymi dostawami żywności, zarządzeniem inwestycjami, kierowaniem bankiem, szacowaniem ryzyka zajmuje się istota czy mechanizm, który wie więcej od nas, robi od nas wszystko lepiej.
Ale to są przecież błędy, które SI może wyszukać i naprawić…
Pamiętajmy o kryteriach oceny, co to znaczy błąd. Jeśli na przykład SI produkuje samolot i on nie leci, tylko spada, to jest to dosyć jasne. A co, jeśli SI zarządza inwestycjami? Nie wiemy, co by było, gdyby w tym samym czasie kto inny zarządzał danym portfelem inwestycyjnym. Już teraz mamy problem, który zarządzający funduszu jest lepszy. A jeśli pojawi się SI, która będzie przekraczała wyniki ludzkich zarządzających – mamy jej ufać? Nawet jeśli nie będziemy wiedzieli, jak działa i czy inna SI nie byłaby lepsza?
Zawsze pozostaje kwestia regulacji…
OK, to podam inny przykład. SI mówi: Nie dam tej firmie kredytu, bo ma za dużo kobiet w zarządzie. I co wtedy z tym zrobimy? Nawet jeśli ludzki analityk tak myśli, w co wątpię, to on nigdy nie wyartykułuje tej przyczyny. A teraz, jeśli ona jest podana czarno na białym, to co – regulator, sąd ma podważać zdanie SI i zmuszać banki do podejmowania ryzyka w imię empowermentu**? Te pytania kiedyś będziemy musieli sobie zadać.
Wszystko zależy od naszych danych…
Problem polega na czymś innym. Pytanie, czego możemy się dowiedzieć o sobie nowego, co wiedzą o nas już Facebook czy Google. Klikanie na takie czy inne strony może oznaczać, że jesteśmy depresyjni albo jesteśmy optymistami. Załóżmy, że my tego o sobie nie wiemy: jak zareagujemy na tę wiedzę, gdy ona się ujawni?
Ja na przykład myślę o sobie, że jestem bardzo oszczędny, a bank mi powie za 10 czy 20 lat, że nie, że mam zachowania wyjątkowo rozrzutnego człowieka, który nie spłaci im kredytu. Pytam: dlaczego? A SI odpowiada: „Dlatego że pan bywa tym parku w soboty albo jest na FB połączony z tym i tym kontaktem, a na Instagramie woli zdjęcia o konkretnych tonacjach, na przykład ciemnych lub zimnych”. Może to jest prawda, ale nam się to wydaje niesprawiedliwe i niezrozumiałe.
Do tego zarządzanie danymi jest maksymalnie tak dobre jak te dane. Jeżeli jest tak, że te nasze zachowania cyfrowe nie są tym wszystkim, czym jest człowiek – to mamy problem.
Problemem mogą być też nie tyle błędne dane, ile możliwość manipulowania nimi. Widzi pan takie zagrożenie?
Różnica pomiędzy zwykłym algorytmem a prawdziwą sztuczną inteligencją jest taka, że nie będziemy w stanie efektywnie tego zmanipulować. Przykładowo – zdolność kredytowa jest oceniana przez bardzo proste algorytmy. Zdarzało się w przeszłości, że klienci oszukiwali banki, przelewając pieniądze pomiędzy kontami, zwiększając tym samym swoją zdolność i wpływy na rachunek. Ale to były proste algorytmy, a nie sztuczna inteligencja. Nie mam złudzeń, że w przyszłości coś będzie zależeć od naszych działań, że będziemy mogli oszukać SI. I to będzie dowód, że będzie ona naprawdę inteligentna, a nie tylko będzie produktem, software’em.
Polskie banki uznawane są za bardzo zaawansowane technologicznie. Ale nie jesteśmy zagłębiem fintechowym.
Polska nie mogła wygrać tej bitwy wizerunkowej jako kraj bardzo rozwinięty na rynku fintechowym, bo rynek został przejęty przez fintechowe huby jak Londyn. W Polsce niemal każdy bank posiada rozwiązania, jakie w fintechach na rynku brytyjskim są uważane za szczyt innowacji.
Jak to wygląda na przykład w Azji? Czy tamtejsze firmy są równie innowacyjne jak polskie banki i firmy finansowe?
Banki na Bliskim Wschodzie historycznie są zapatrzone na świat anglosaski, więc mają wiele rozwiązań jak w Wielkiej Brytanii, na przykład w Bahrajnie jest podobna regulacja jak PSD2** i jest duża chęć, aby mieć fintechy.
A Singapur?
Singapur to inna historia, podobnie jak rynki okoliczne. W Polsce innowacyjność płatnicza dotyczy głównie kart, nie tylko plastikowych, ale stokenizowanych, mobilnych, w smartfonie, wielowalutowych itd. itd.
Jeśli dziś hasło zostanie zhakowane, to wystarczy je zmienić, a co będzie, jak zhakują dane palca czy oka? Myślę jednak, że biometria w ciągu pięciu lat stanie się dominującą metodą identyfikacji przy udzielaniu kredytu czy płatnościach
Ale w Azji w związku z tym, że niewiele osób posiadało te karty, innowacje są wyraźnie inne. Jest Alipay, QR kody, rozpoznawanie twarzy czy inne metody biometrii. Ale również tam banki są bardzo wysoko rozwinięte technologicznie i fintechy mają ten sam problem jak w Polsce. Ich rozwiązania nie są przełomowo lepsze niż w bankach.
Z kolei Wielka Brytania była rynkiem bankowym na tyle nierozwiniętym, że te propozycje fintechowe stanowiły bardzo duży skok do przodu i klienci ciekawi nowych technologii szli do fintechów. U nas te rozwiązania można znaleźć we wszystkich lub w większości banków.
A jak system bankowy zmienił się w ostatnich dziesięciu latach w Polsce?
Dużo zmieniło się w Polsce, jeśli chodzi o liderów innowacji na rynku. Spoglądam na PKO BP, gdzie pracowałem w latach 2010-15, i nadal widzę nieustający postęp. To jest lider rynkowy oczywiście, ale w pewnych elementach także technologiczny, który ustawia rynek i ma miliony klientów, którzy od razu korzystają z nowoczesnych rozwiązań. Więc fintechy mają w Polsce bardzo trudno.
A jakie innowacje będą dominowały w najbliższych latach?
Moim zdaniem potrzeba innowacji w bankowości w dłuższej perspektywie będzie malała. W krótszym terminie będzie to biometria, której ja jestem przeciwnikiem, gdyż ogranicza wolność, szczególnie jak będzie powszechnie hakowana. Jeśli dziś hasło zostanie zhakowane, to wystarczy je zmienić, a co będzie, jak zhakują dane palca czy oka? Myślę jednak, że biometria w ciągu pięciu lat stanie się dominującą metodą identyfikacji przy udzielaniu kredytu czy płatnościach.
Czy i kiedy banki, jakie dziś znamy, znikną, a zostaną wyłącznie bankowe usługi?
Trudno ocenić, jak to się rozwinie w ciągu najbliższych 20 lat. Wyobraźmy sobie, że trend świadczeń gwarantowanych przez państwo może się tak rozwinąć, że nie będziemy musieli pracować i zarabiać dużo, żeby żyć satysfakcjonująco.
Motor napędowy kapitalizmu, czyli pożyczka, będzie słabł, widzimy to już dziś. Mamy trend wynajmowania, a nie kupowania mieszkań. Wkrótce możemy wypożyczać telewizory czy sprzęt AGD, więc kredyt nie będzie miał racji bytu
Będzie rzeczywiście bezpłatna edukacja, służba zdrowia, opieka, wstępy na koncerty, darmowa kolej, autobusy, prawo do bezpłatnych wakacji. Tylko dlatego, że jesteśmy obywatelami. Wtedy nie będzie potrzeby posiadania tylu pieniędzy, ale także oszczędzania, inwestowania, pożyczek…
Wydaje mi się, że snuje pan wizję z baśni tysiąca i jednej nocy, a nie realny scenariusz.
Dlaczego pan tak sądzi? Rozwój gospodarczy i wzrost PKB generuje negatywne zmiany klimatu. Co za tym idzie, wycinka drzew czy pozyskanie kopalin i metali rzadkich staną się niemodne i będziemy to racjonalnie ograniczać.
Motor napędowy kapitalizmu, czyli pożyczka, będzie słabł, widzimy to już dziś. Mamy trend wynajmowania, a nie kupowania mieszkań, a on zagraża takim rozwiązaniom jak kredyt hipoteczny. Wkrótce możemy wypożyczać telewizory czy sprzęt AGD, więc kredyt nie będzie miał racji bytu, a tym samym zniknie. W zasadzie trudno sobie wyobrazić usługę, która będzie płatna w przyszłości.
Jeśli problem klimatyczny i brak paliw kopalnych sprawią, że nie będziemy latali samolotami, a dziecko będzie rosło w takim świecie, to Chorwację czy jakieś kraje egzotyczne będzie mogło odwiedzić w każdej chwili w pokoju wirtualnej rzeczywistości. I nie będzie odczuwało jako ograniczenia wolności przemieszczania się tego, że nie może tam polecieć samolotem. Podobnie z wolnością do zjedzenia wołowiny. Jeżeli dziś mówi się, że hodowla zwierząt na mięso pogarsza klimat, to wołowina najpierw będzie droga, limitowana, a następnie może zniknie, i nie będziemy czuli, że jest to ograniczenie.
Przy odpowiedniej zmianie ludzkiej mentalności…
Zakładam, że ten trend, że ludzie nie chcą własności dla własności, ale żeby korzystać z jakichś rzeczy, będzie utrzymany. W moim pokoleniu, które komuna odarła z posiadania, mamy fetysz własności domu, samochodu.
Ale pamiętajmy o młodych ludziach. Spójrzmy na telefon komórkowy – czemu mamy z niego korzystać za pomocą leasingu, jakim jest abonament telefoniczny, i płacić za nowego iPhone’a z kredytu, jak wystarczy, że zapłacimy za każdy dzień używania tej usługi. Wyobraźmy sobie, że państwo mówi, że każdy ma prawo korzystać ze smartfona czy z iPhone’a, i ja już nie muszę go kupować, gdyż otrzymam go w pakiecie obywatelstwa. Tylko nie wiem, kto za to wszystko zapłaci w ostatecznym rozrachunku.
A nie obawia się pan, że państwo czy jakiś big tech dzięki przekazywaniu tych dóbr dla obywateli będą o nich wiedziały już wszystko? Dziś mamy jeszcze oazy wolności, elementy płatności i naszych decyzji jeszcze nie są tak połączone.
No, jest jeszcze gotówka, która jest mało scyfryzowana, ale proszę sobie wyobrazić, że w banknotach pojawią się czujniki, na przykład RFID, które będą pokazywać przepływ tej gotówki, gdzie był dany banknot, w jakim portfelu. A dzięki systemom rozpoznawania twarzy dowiemy się, jak wygląda ta osoba, która zapłaciła danym banknotem.
Wolność nie jest wartością nadrzędną dla ludzi, można ją oddać – za wygodę i bezpieczeństwo, za pewną cenę, za rozwiązanie swoich wszystkich problemów dnia codziennego.
**Krótki słowniczek terminów, czyli o bankowości po ludzku (zanim przemówi SI)
- scoring kredytowy – metoda oceny wiarygodności podmiotów ubiegających się o kredyt bankowy
- back office – dział w firmie, zajmuje się koordynowaniem całego obiegu dokumentacji i informacji
- human touch – budowanie pozytywnych relacji z klientem na podstawie interakcji
- empowerment – proces angażowania pracowników w podejmowanie decyzji dotyczących organizacji
- fintech – przedsiębiorstwa działające w branży finansowej oraz technologicznej
- PSD2 – Payment Services Directive 2 – dyrektywna unijna regulująca rynek płatności
*Dr Wojciech Bolanowski, Senior Operating Partner w FORUM, „fabryce” start-upów z siedzibą w Singapurze, gdzie zajmuje się budowaniem cyfrowych usług finansowych dla krajów południowo-wschodniej Azji. Na stanowisku doradcy prezesa PKO BP odpowiadał za bankowość internetową i mobilną. Był jednym z twórców pierwszej generacji aplikacji mobilnej IKO. Wcześniej przez wiele lat pracował w MultiBanku oraz w mBanku, w którym pełnił różne funkcje od października 2000 r., a więc praktycznie od samego początku istnienia tej instytucji.
Wojciech Bolanowski był gościem panelu „Finanse 4.0 – usługi finansowe w erze fintechów” 27 września podczas IX edycji Europejskiego Forum Nowych Idei 2019 w Sopocie.
Portal sztucznainteligencja.org.pl był jednym z patronów medialnych tego wydarzenia.