- Celebryci, politycy prowadzący kampanie wyborcze, szpiedzy – bójcie się
- Narzędzie potrafi wykryć i cofnąć zmiany retuszowanych zdjęć, ma też wskazać fałszywki
- Projekt jest na razie w fazie zaawansowanych, obiecujących badań
Troszkę podciągniemy usta, mina będzie tajemnicza. Dodamy charyzmatycznego blasku, zlikwidujemy cienie oraz kurze łapki. Drugi podbródek? Nie ma problemu. Teraz wstawiamy w media społecznościowe. Tysiące polubień, serduszka, zachwyty. Jaka ona młoda, jaki on piękny. Celebryci. Ile w nich z oryginału? Niebawem sami sprawdzimy. Ale jest też ważniejszy aspekt nowego projektu.
Adobe i deepfakes
Pierwszą wersję programu Photoshop Adobe wydał ponad 30 lat temu. Przez ten czas nieustannie ulegał udoskonaleniom, stając się najlepszym na świecie programem graficznym do obróbki, modyfikacji i retuszu zdjęć, flagowym produktem firmy Adobe Systems.
Korzystają z niego setki tysięcy użytkowników, graficy zajmujący się wizerunkiem celebrytów, kandydatów w wyborach, bloggerów, fotografowie obrabiający zdjęcia ze ślubów i sesji, agencje reklamowe.
Ostatnio Photoshop wykorzystywany jest również na dosyć masową skalę do tworzenia fałszywych twarzy, filmów, budowania nieprawdziwych tożsamości.
Deepfakes to filmy i obrazy, które zostały cyfrowo zmanipulowane, aby pokazać ludzi mówiących i robiących rzeczy, które nigdy się nie wydarzyły. Tworzą je nie tylko sztucznie inteligentne generatywne sieci kontradyktoryjne (GAN). Są prostsze metody, wykorzystujące możliwości Photoshopa. Teraz Adobe chce umożliwić odwrócenie procesu zmian zdjęcia przy użyciu sztucznej inteligencji.
Prawie pełna dokładność
Inżynierowie Adobe Systems i naukowcy z Uniwersytetu Kalifornijskiego w Berkeley połączyli siły, aby szkolić sztuczną inteligencję do wykrywania poprawek i zmian twarzy retuszowanych za pomocą Photoshopa na zdjęciach – ma to pomóc również w walce z deepfakes. Trenują sieć neuronową do wykrywania zmodyfikowanych twarzy przy użyciu funkcji Face Away Liquify, która wspomaga zmiany rysów twarzy na zdjęciu. Podczas testów SI była w stanie wykryć zmiany w 99 proc. przypadków przeróbek (łączenia, klonowania, usuwania elementów) i fałszerstw (ludzie nie będący ekspertami tylko w 53 proc.).
Nowe narzędzie potrafi też cofnąć zmiany, aby przywrócić oryginalne zdjęcie. Dzięki uczeniu maszynowemu bazującemu na dużym zestawie edytowanych danych obrazu Adobe jest w stanie zautomatyzować ten proces i go przyspieszyć. Na razie to projekt badawczy firmy Adobe. Nie wiadomo, czy będzie to produkt komercyjny.
Celebryci to pestka
Celebrytom może być gorzko, że już wkrótce poznamy ich prawdziwe oblicza skryte pod elektronicznym „skalpelem” Photoshopa. Piękni i bystro spoglądający na nas ze zdjęć kandydaci do najwyższych funkcji w państwie zostaną ogołoceni z cech nadających im wizerunek godny zaufania wyborcy. To nic. Waszyngton przestrzega przed deepfakes jako czymś, co może zagrozić bezpieczeństwu narodowemu i wyborom w Stanach Zjednoczonych w 2020 roku. Takie podrabiane zdjęcia i filmy mają zdolność zakłócania całych kampanii. Ogromna debata przetacza się przez kraj Donalda Trumpa zwłaszcza od chwili, gdy Samsung ożywia Mona Lisę, a kilkanaście dni temu wykryto, iż fałszywe konto na portalu LinkedIn nawiązało kontakt z czołowymi amerykańskimi politykami.
Katie, której nie ma
Szpieg stworzył nieprawdziwy profil, używając zdjęcia wykreowanego przez SI. Wśród oszukanych ofiar tajemniczo uśmiechającej się „Katie Jones” o rudych włosach i zielonych oczach są na przykład asystentka senatora, asystent sekretarza stanu lub kandydat na stanowisko w Rezerwie Federalnej. Zdjęcie przedstawiono kilku ekspertom, którzy rozpoznali podróbkę. „Jestem przekonany, że to fałszywa twarz” – powiedział Mario Klingemann, niemiecki artysta o pseudonimie Quasimondo, współpracujący z Google, który od lat eksperymentuje ze sztucznie generowanymi portretami. Podmiot, gdzie Jones miała być zatrudniona zgodnie z informacjami na swoim profilu, zaprzeczył istnieniu takiej pracownicy.
Waszyngton, mamy problem
Deepfakes to coraz bardziej problematyczne zjawisko, a mówi się, że systemy do modyfikacji twarzy i manipulacji obrazami są dopiero w powijakach. W dobie sieci społecznościowych edycja obrazów może być potężną bronią dezinformacji. Fałszywe montaże rozprzestrzeniają się w sieci często w celu przekazania opinii politycznych. „Żyjemy w epoce, w której nie można już ufać uszom lub oczom – pisze Jamie Bartlett w The Guardian.
Deepfakes w kongresie
Zaniepokojona Stała Specjalna Komisja do Spraw Wywiadu Izby Reprezentantów amerykańskiego kongresu omawiała kilka tygodni temu wpływ deepfakes na bezpieczeństwo narodowe.
Jej szef Adam Schiff stwierdził: „Nie sądzę, żebyśmy byli w ogóle dobrze przygotowani. I nie sądzę, żeby opinia publiczna była świadoma tego, co nadchodzi. Zgubne nadużywanie tej technologii nie ma końca”. Zauważył, że wiele z deepfakes to już tzw. cheapfakes, czyli tanie podróbki, ręcznie zmieniane treści, zdjęcia i wideo. Eksperci twierdzą, że firmy technologiczne powinny zacząć działać, żeby zwalczać nadużycia. Adobe uważa, że powinien przyczynić się do walki z tą plagą współczesnych czasów.