• Żyjemy w epoce mediów. Rzetelne informacje mają kluczowe znaczenie
  • Facebook oraz Microsoft, MIT i siedem uniwersytetów łączą siły
  • Powstaną ogólnodostępne narzędzia do wykrywania deepfake’ów

W obliczu braku przejrzystych, międzynarodowych przepisów, które pozwalałyby na karanie autorów szkodliwych deepfake’ów, Facebook uruchamia nową inicjatywę i zamierza wydać na nią 10 milionów dolarów. Pieniądze będą wydane na stworzenie narzędzi typu open source do wykrywania fałszywek.

Deepfake’i to przerobione z pomocą sztucznej inteligencji dźwięki, filmy i zdjęcia.

Wraz z Massachusetts Institute of Technology Facebook chce walczyć z „głębokimi podróbkami”. Do inicjatywy zaprosił też naukowców reprezentujących Cornell Tech, Uniwersytet Oksfordzki, Uniwersytet California-Berkeley, Uniwersytet Maryland, College Park i Uniwersytet w Albany-SUNY. Partnerstwo DFDC (DeepFake Detection Challenge) ma pomóc zbudować technologie wykrywania fałszerstw.

Dzieje się krzywda

Techniki deepfake, które prezentują realistyczne filmy SI przedstawiające prawdziwych ludzi wykonujących i opowiadających fikcyjne rzeczy, mają znaczący wpływ na określenie legalności informacji prezentowanych online. Przerabiane są zdjęcia i wideo najważniejszych polityków, szefów największych firm czy gwiazd. Kilka dni temu podrobiony na użytek rozmowy telefonicznej głos prezesa firmy sektora energetycznego nakłonił menedżera zagranicznej filii koncernu do przelania im 243 tysięcy dolarów. Deepfake’i na dodatek mogą być przedmiotem wykorzystania seksualnego, o czym szeroko pisaliśmy TUTAJ

I choć trwają już inicjatywy stworzenia oprogramowania hamującego to zjawisko (Google proponuje aplikację do wykrywania przeróbek zdjęć w Photoshopie), to ono wciąż narasta.

„Ludzie manipulują obrazami prawie tak długo, jak długo istnieje fotografia. Ale teraz prawie każdy może tworzyć i przekazywać podróbki masowej publiczności. Celem tej konkurencji jest zbudowanie systemów SI, które będą w stanie wykryć drobne niedoskonałości obrazu i ujawnić jego oszukańcze przedstawienie rzeczywistości” – powiedział Antonio Torralba, profesor elektrotechniki i informatyki oraz dyrektor MIT Quest for Intelligence.

Stworzą deepfakes

Projekt zakłada stworzenie bazy danych – różnego rodzaju zmanipulowanych treści. Ponadto w ramach programu przyznawane będą granty i nagrody, aby zachęcić branżę do tworzenia nowych sposobów wykrywania i zapobiegania wykorzystywaniu fałszywek w mediach do wprowadzania w błąd innych.

Facebook zapewnia, że w zbiorze danych nie będzie informacji o użytkownikach platformy. Do tworzenia treningowych deepfake’ów wykorzystane będą materiały opłaconych uczestników, za ich zgodą.

W celu zapewnienia dobrej jakości zestawu danych i parametrów wyzwań zostaną one wstępnie przetestowane podczas ukierunkowanej technicznej sesji roboczej w październiku tego roku na Międzynarodowej Konferencji na temat Wizji Komputerowej (ICCV). Nowe narzędzia mają być zaprezentowane w grudniu podczas konferencji w sprawie systemów przetwarzania informacji neuronowych (NeurIPS) w Kanadzie. Na razie nie jest jasne, jak rozdzielone zostaną granty i nagrody.

„To będzie walka ogniem z ogniem” – napisał Techcrunch.

Skip to content