SI od Facebooka rozpozna deepfake i znajdzie jego źródło

SI od Facebooka rozpozna deepfake i jego źródło

Opracowana przez naukowców z Facebooka sztuczna inteligencja jest w stanie skuteczniej wykryć deepfake, ale nie tylko. Potrafi również zidentyfikować źródło jego pochodzenia.

Deepfake robi się coraz większym problemem

Deepfake to, najprościej mówiąc, spreparowane przy użyciu SI nagranie, na którym na twarz danej osoby zostaje nałożona ta należąca do kogoś innego. Dzięki temu możemy np. sprawdzić, jak inny aktor sprawdziłby się w jakiejś roli. Świetnym przykładem jest ten filmik, na którym na twarz grającego Kapitana Amerykę Chrisa Evansa nałożono Johna Krasinskiego. Łatwo byłoby w to uwierzyć, prawda?

Czytaj też: Wiadomości Google z nowościami – przypinanie wątków i nie tylko

To jednak bardzo niewinny przykład. Deepfake może być używany jako świetne narzędzie do rozpowszechniania dezinformacji, a nawet atakowania innych osób. Za pomocą tej technologii można chociażby podszywać się pod polityków czy celebrytów i mówić co tylko się chce. Przykład? Proszę bardzo – głośnie nagranie z 2019 roku, na którym widzimy prezesa Facebooka, Marka Zuckerberga. A dokładniej – osobę podszywającą się pod niego.

Sztuczna inteligencja Facebooka wykryje deepfake i wyśledzi jego twórców

Jak już o Facebooku mówimy, to właśnie jego analitycy przy współpracy z Michigan State University, opracowali technologię, która może bardzo skutecznie wykryć deepfake, ale nie tylko. Sztuczna inteligencja Facebooka jest w stanie nawet wyśledzić ich pochodzenie na podstawie znalezionych unikalnych cech.

Nasza metoda ułatwi wykrywanie i śledzenie deepfake w rzeczywistych warunkach, gdzie sam obraz deepfake jest często jedynym detektorem informacji, z którym muszą współpracować.


piszą naukowcy na swoim blogu.

Identyfikując drobne „odciski palców” (niedoskonałości pozostałych podczas procesu produkcyjnego) na obrazie, sztuczna inteligencja Facebooka jest w stanie rozpoznać szczegóły dotyczące sposobu, w jaki zaprojektowano sieć neuronową, która utworzyła obraz, na przykład wielkość modelu lub sposób jego umieszczenia.

Czytaj też: Facebook wprowadza reklamy w Instagram Reels na całym świecie

Dogłębna analiza nagrań jest w stanie pomóc znaleźć ich źródło, a co za tym idzie ukrócić rozprzestrzenianie się dezinformacji. Warto tutaj zaznaczyć, że to głównie w aplikacjach społecznościowych należących do Facebooka deepfake rozprzestrzenia się najbardziej. Pozostaje czekać na rezultaty, które potwierdzą, czy zapewnienia Facebooka są prawdziwe.