Platforma Zuckerberga współpracowała z Uniwersytetem Michigan w celu opracowania tego systemu.
Deepfake’i coraz doskonalsze
Najnowsza generacja cyfrowo sfabrykowanych twarzy wychodzi z ukrycia i zaczyna nas atakować zewsząd. Nic dziwnego – deepfake’i dziś to już w zasadzie fotorealizm, które może znaleźć zastosowanie dosłownie wszędzie. Chociaż możliwości cyfrowej rozrywki z użyciem tej technologii są nieograniczone, fałszywe filmy mogą też poważnie zakłócić zaufanie opinii publicznej do rządu czy wybranych przez nas urzędników lub polityków — a nawet zaburzyć naszą wiarę we własne oczy. Tymczasem w środę Facebook i Uniwersytet Michigan zaprezentowały nowatorską metodę. Chodzi w niej nie tylko o wykrywanie deepfake’ów ale także odkrywanie, który model generatywny je wytworzył. A robi się to poprzez inżynierię wsteczną samego obrazu.
Poza informowaniem, czy obraz jest głęboko fałszywy, czy nie, wiele obecnych systemów wykrywania może stwierdzić, czy obraz został wygenerowany w modelu, który system widział podczas uczenia się. Jest to tzw. klasyfikacja „zbliżonego zestawu”. Problem polega na tym, że jeśli obraz został utworzony przez model generatywny, na którym system detektora nie został jeszcze wytrenowany, taki detektor nie będzie miał odpowiedniej wiedzy aby móc wykryć podróbkę.
Dlaczego metoda FB-UM jest wyjątkowa?
Technika inżynierii odwrotnej, którą chwali się Facebook i Uniwersytet Michigan, choć nie jest najnowocześniejszą technologią, opiera się na odkryciu unikalnych wzorców modelu AI używanego do generowania konkretnego, sfałszowanego obrazka – wyjaśnił zespół w poście na blogu.
Zaczynamy od atrybucji obrazu, a następnie pracujemy nad odkryciem właściwości modelu, który został użyty do wygenerowania tego obrazu. Dzięki takiemu uogólnieniu atrybucji obrazu możemy wywnioskować więcej informacji o modelu generatywnym używanym do tworzenia tego konkretnego deepfake’a – i bez znaczenia jest to, że wcześniej nie wiedzieliśmy o istnieniu takiego modelu.
Co więcej, sztuczna inteligencja może porównywać i śledzić podobieństwa całej serii deepfake’ów, umożliwiając naukowcom określenie pochodzenia całych grup sfałszowanych obrazów. To z kolei powinno pomóc moderatorom mediów społecznościowych w lepszym śledzeniu skoordynowanych kampanii dezinformacyjnych.
I to pewnie jest główna przyczyna zaangażowania Facebooka w ten projekt. Deepfake to zjawisko skrajnie niekorzystne dla Facebooka, który nieustannie walczy o utrzymanie fałszywych treści z dala od swojej głównej platformy, podobnie sprawy mają się zresztą także z Messengerem, Instagramem i WhatsApp. Firma zakazała deepfake'ów jeszcze w styczniu 2020 roku a teraz stara się znaleźć sposoby na usuwanie ich ze wszystkich swoich platform. Dziś każdy może tworzyć własne deepfake za pomocą bezpłatnych aplikacji, takich jak FakeApp lub Faceswap.
Jak to działa
Każdy model generatywny deepfake’ów ma swoje własne „dziwactwa”, pewne aberracje, które są widoczne w wyprodukowanych z ich użyciem deepfake’ach. To z kolei można wykorzystać do odkrycia tożsamości modelu na podstawie samego obrazu, który on stworzył. Ponieważ w Internecie istnieje praktycznie nieograniczona liczba modeli generatywnych, naukowcy musieli uogólnić swoje poszukiwania tych swoistych „odcisków palców”.
Ponieważ zespół FB-UM w ramach tego badania pływa po niezbadanych do tej pory wodach, nie ma żadnego konkretnego punktu odniesienia, z którym można by porównać wyniki ich prac. Zasadniczo nie mogą więc obiektywnie powiedzieć, jak dobry jest ich system, ponieważ nie ma innych badań, z którymi można by go porównać - ale twierdzą, że jest bardziej skuteczny niż ślepy traf… W każdy razie do wykrycia modelu może wystarczyć nieruchomy obraz czyli nawet pojedyncza klatka wideo.
