W erze cyfrowej troska o fałszywe wiadomości w coraz większym stopniu przykuwa uwagę organizacji publicznych, mediów i wszelkiego rodzaju osobistości. Nie bez powodu Fake News odegrały pewną rolę w ważnych procesach wyborczych, takich jak wybory prezydenckie w Stanach Zjednoczonych w 2016 roku, referendum w sprawie wyjścia Wielkiej Brytanii z Unii Europejskiej czy generałowie Brazylii, którzy dali zwycięstwo Bolsonaro.
Bez konieczności sięgania tak daleko, w naszym kraju Facebook musiał ostatnio zamknąć trzy duże skrajnie prawicowe sieci, które poprzez 30 stron, grupy i zduplikowane konta zgromadziły ponad półtora miliona obserwujących i ponad 7 milionów interakcji . Grupy te były oddane szerzeniu oszustw i fałszywych obrazów.
Ale teraz mamy do czynienia z innym rodzajem zagrożenia cyfrowego, które generuje nowe bóle głowy. Mówimy o tak zwanym Deepfake, terminie, który powstał z połączenia „Deep Learning” i „Fake”. Zasadniczo jest to forma sztucznej inteligencji, która pozwala każdemu użytkownikowi edytować fałszywe filmy i audio osób, które wydają się prawdziwe. W tym celu stosuje się antagonistyczne sieci generatywne (AGR) , rodzaj algorytmu, który może tworzyć nowe typy danych z innych zestawów, które już istnieją.
Ostatecznie „głębokie podróbki” są kolejną formą cyfrowej manipulacji i jedną z najczęściej używanych do „trollingu” w najlepszych przypadkach. Ale jak możemy je wykryć? A przede wszystkim, co robią prywatne instytucje i firmy, aby zapobiec jego katastrofalnym skutkom? W tym artykule specjalnym dokonamy przeglądu wysiłków podejmowanych w celu powstrzymania tej nowej plagi cyfrowej.
Dlaczego deepfakes są tak niebezpieczne?
Technologia „deepfake” pozwala nam łatwo zastąpić twarz jednej osoby twarzą drugiej, tak jakby była to rodzaj cyfrowej maski lub maski, abyśmy uwierzyli , że powiedział pewne rzeczy, które tak naprawdę nigdy się nie wydarzyły . Jak można się domyślić, techniki te mają szereg dość znaczących implikacji w określaniu legalności informacji krążących w Internecie.
Chociaż często są wykorzystywane do tworzenia humorystycznych filmów, prawda jest taka, że „deepfake” mają mroczny potencjał niszczenia publicznego wizerunku danej osoby lub wpływania na opinię publiczną za pomocą dezinformacji. Niestety, musimy powiedzieć, że to nadużycie jest bardziej rozpowszechnione, niż byśmy chcieli, iz ogromnym sukcesem powinniśmy dodać.
Wyraźnym przykładem jest aplikacja DeepNude, która pozwoliła na przesłanie zdjęcia osoby w ubraniu i stworzenie nowego, przedstawiającego tę samą nagą osobę . Na szczęście jest już zamknięty, ale musimy podkreślić łatwość obsługi tego typu narzędzi, do których nie jest wymagana znajomość edycji, ponieważ sam algorytm wykonuje całą pracę.
W przypadku DeepNude platforma oferowała niewiarygodnie realistyczne wyniki i była w pełni dostępna poprzez swoją stronę internetową dla systemów Windows i Linux . I zgodnie z oczekiwaniami, montaże z celebrytami, takimi jak Katy Perry czy Gal Gadot, nie zajęły dużo czasu, aby pojawić się w sieci, do tego stopnia, że presja ze strony prawników tych aktorek nie ustała, dopóki ważne strony internetowe zawierające treści dla dorosłych nie usunęły filmów .
To tylko wierzchołek góry lodowej zdolności przeładunkowej, jaką mogą mieć tego typu zastosowania. Wyobraźmy sobie teraz konsekwencje takiej kampanii skierowanej przeciwko pewnej politycznej postaci, aby zmanipulować proces wyborczy w kraju lub regionie. Zło nie zna granic.
Jak walczy się z deepfakes?
Jedną z pierwszych firm, która zabrała głos, był nikt inny jak Google, który ogłosił swoją zdecydowaną wolę walki z deepfake'ami i, jak mówią w tych przypadkach, gasi pożar. Gigant technologiczny potwierdził uruchomienie całej bazy danych zawierającej do 3000 filmów zmanipulowanych za pomocą sztucznej inteligencji (deepfakes), które zostały stworzone specjalnie w celu udoskonalenia narzędzi wykrywania naukowców.
Aby to zrobić, Google zatrudnił prawdziwych aktorów, aby nagrywali ich twarze i użyli ich jako punktu odniesienia w celu ustalenia, czy wideo zostało sztucznie zmienione. Korzystając z dostępnych dla każdego metod generowania deepfake'ów, na podstawie tych nagrań tworzone są tysiące deepfake'ów.
Powstałe w ten sposób filmy, prawdziwe i fałszywe, są przesyłane na platformę GitHub do współpracy, aby naukowcy w pełni zrozumieli, co wytwarza system. Ta baza danych, jak mówimy, jest w pełni dostępna, chociaż najpierw będą musieli wyrazić zgodę .
Ze swojej strony Facebook również planuje do końca tego roku stworzyć podobną bazę danych. Według dyrektora generalnego Marka Zuckerberga głównym problemem jest to, że branża nie ma ustandaryzowanego systemu ich wykrywania . Dlatego nawiązał współpracę ze Stowarzyszeniem AI, Microsoft i naukowcami z Cornell Tech, MIT, Oxford, UC Berkeley, University of Maryland, College Park i University of Albany-SUNY, aby zbudować Deepfake Detection Challenge. (DFDC od akronimu w języku angielskim).
Ten projekt makro będzie zawierał obszerną bazę danych i szczegółową klasyfikację , a także pomoc finansową i darowizny, aby zachęcić jak największą liczbę współpracowników. Chodzi o to, aby stworzyć rodzaj społeczności, która pomaga wykrywać i unikać zmanipulowanych filmów za pośrednictwem sztucznej inteligencji.
Nie ma wątpliwości, że rozprzestrzenianie się „deepfake'ów” stało się bardzo poważnym problemem, z poważnymi konsekwencjami, których nie można ignorować. Chociaż środki proponowane przez głównych agentów zaangażowanych w tę sprawę mogą wydawać się niepraktyczne, a nawet przynoszące skutki odwrotne do zamierzonych, na dłuższą metę mogą być jedynym sposobem wykorzenienia tego przestępstwa. Chociaż może się to wydawać sprzeczne z intuicją, zwalczanie „deepfake'ów” za pomocą większej ilości „deepfakes” pomoże narzędziom do wykrywania wchłonąć więcej danych, aby pomóc im łatwiej zlokalizować tego typu montaże .