Kiedy seria upiornie przekonujących deepfakes Toma Cruise’a stał się wirusowy na TikTokniektórzy sugerowali, że był to przerażający znak nadchodzących wydarzeń – zwiastun epoki, w której sztuczna inteligencja pozwoli każdemu robić fałszywe filmy z kimkolwiek innym. Jednak twórca wideo, belgijski specjalista od efektów wizualnych Chris Ume, twierdzi, że jest to dalekie od przypadku. Mówiąc do The Verge o swoich klipach wirusowych Ume podkreśla czas i wysiłek włożony w zrobienie każdego deepfake’a, a także wagę pracy z najlepszym podrabiaczem Toma Cruise’a, Milesem Fisherem.
„Nie możesz tego zrobić, naciskając przycisk” – mówi Ume. „To ważne, to wiadomość, którą chcę przekazać ludziom”. Mówi, że każdy klip wymagał tygodni pracy przy użyciu otwartego algorytmu DeepFaceLab oraz sprawdzonych narzędzi do edycji wideo. „Łącząc tradycyjne CGI i VFX z deepfake’ami, wszystko jest lepsze. Upewniam się, że nie widać żadnych usterek ”.
Ume od lat pracuje z deepfakes, w tym tworząc efekty dla seria „Sassy Justice” zrobione przez Park Południowyjest Trey Parker i Matt Stone. Zaczął pracować nad Cruise, kiedy zobaczył wideo autorstwa Fishera zapowiadające fikcyjne kandydowanie na prezydenta przez gwiazdę Hollywood. Następnie para pracowała razem nad kontynuacja i postanowił umieścić serię „nieszkodliwych” klipów na TikTok. Ich konto @deeptomcruise szybko zebrało dziesiątki tysięcy obserwujących i polubień, zanim Ume kilka dni temu pobrała filmy.
„Spełnił swój cel”, mówi o relacji. “Dobrze się bawiliśmy. Stworzyłem świadomość. Pokazałem swoje umiejętności. Sprawiamy, że ludzie się uśmiechają. I to wszystko, projekt jest skończony ”. Rzecznik prasowy TikTok powiedział The Verge że konto było zgodne z zasadami parodii deepfake’ów, a Ume zauważa, że Cruise – the real Tom Cruise – od tego czasu założył własne oficjalne konto, być może w wyniku tego, jak jego doppelgänger AI stał się wirusowy.
Technologia Deepfake rozwija się od lat i nie ma wątpliwości, że wyniki są coraz bardziej realistyczne i łatwiejsze do wykonania. Chociaż było wiele spekulacji na temat potencjalnych szkód, jakie taka technologia mogłaby wyrządzić w polityce, do tej pory takie efekty były stosunkowo nie istnieje. Tam, gdzie technologia zdecydowanie powoduje szkody, znajduje się w tworzenie porno zemsty lub związana z przymusem pornografia kobiet. W takich przypadkach fałszywe filmy lub obrazy nie muszą być realistyczne, aby spowodować ogromne szkody. Zwykłe grożenie komuś udostępnieniem fałszywych zdjęć lub tworzenie plotek o istnieniu takich treści może wystarczyć, aby zrujnować reputację i karierę.
Jednak podróbki Toma Cruise’a pokazują znacznie korzystniejsze wykorzystanie technologii: jako kolejna część zestawu narzędzi CGI. Ume mówi, że deepfake ma wiele zastosowań, od dubbowania aktorów w filmie i telewizji, przez przywracanie starych materiałów filmowych, po animowanie postaci CGI. Podkreśla jednak niekompletność samej technologii.
Stworzenie podróbek zajęło dwa miesiące, aby wyszkolić podstawowe modele AI (przy użyciu pary kart graficznych NVIDIA RTX 8000) na nagraniu z Cruise’a i dni dalszego przetwarzania dla każdego klipu. Potem Ume musiał przeglądać każdy film, klatka po klatce, wprowadzając drobne poprawki, aby sprzedać ogólny efekt; wygładzenie linii tutaj i zatuszowanie usterki tam. „Najtrudniejszą rzeczą jest sprawienie, by wyglądał jak żywy” – mówi. „Możesz to zobaczyć w oczach, gdy nie jest w porządku”.
Ogromne uznanie należy się Fisherowi, mówi Ume, który uchwycił przesadne maniery Cruise’a, od jego maniakalnego śmiechu po intensywną prezentację. „To naprawdę utalentowany aktor” – mówi Ume. „Robię tylko wizualne rzeczy”. Nawet wtedy, jeśli przyjrzysz się uważnie, nadal możesz zobaczyć chwile, w których iluzja zawodzi, jak w klipie poniżej, w którym oczy i usta Fishera trzeszczą na sekundę, gdy zakłada okulary przeciwsłoneczne.
Chociaż celem Ume jest to, że jego deepfakes wymagają dużo pracy i profesjonalnego podszywania się, jest również jasne, że technologia będzie poprawiać się z czasem. Trudno przewidzieć, jak łatwo będzie tworzyć bezproblemowe podróbki w przyszłości, a eksperci są zajęci opracowywaniem narzędzi, które mogą automatycznie identyfikuje podróbki lub zweryfikować nieedytowany materiał filmowy.
Ume jednak mówi, że nie martwi się zbytnio o przyszłość. Opracowaliśmy już taką technologię, a społeczna koncepcja prawdy w mniejszym lub większym stopniu przetrwała. „To jak Photoshop 20 lat temu, ludzie nie wiedzieli, czym jest edycja zdjęć, a teraz wiedzą o tych podróbkach” – mówi. Ponieważ deepfake staje się coraz bardziej podstawą w telewizji i filmach, oczekiwania ludzi zmienią się, tak jak to zrobili w przypadku obrazów w erze Photoshopa. Jedno jest pewne, mówi Ume, a mianowicie, że dżina nie można włożyć z powrotem do butelki. „Deepfakes już tu zostanie” – mówi. „Wszyscy w to wierzą”.