Auf dem Videoportal TikTok tauchen seit einer Woche Videos auf, die den vermeintlichen Schauspieler Tom Cruise in unterschiedlichsten Situationen zeigen. In Wirklichkeit handelt es sich dabei aber lediglich um Deepfakes.
Der Name verrät es bereits: Hinter dem Nutzer “Deeptomcruise” steckt nicht der berühmte Schauspieler, sondern jemand, der dank eines Deepfake-Algorithmus (fast) genauso aussieht wie er. Innerhalb der vergangenen sieben Tage hat der Nutzer drei Videos auf TikTok veröffentlicht, die den vermeintlichen Schauspieler unter anderem beim Golfspielen zeigen.
Der Algorithmus arbeitet dabei so gut, dass die Videos auf dem ersten Blick durchaus echt wirken. Nur bei genauerem Hinsehen lassen sie sich als Deepfakes entlarven. Das ist beeindruckend, zeigt aber auch mögliche Gefahren dieser Technologie.
Schaut genau hin
Sind wir mal ehrlich: die Wenigsten würden bei dem folgenden Video direkt an einen Fake denken, wenn sie nichtsahnend mit ihrem Smartphone durch TikTok scrollen. Klar, Tom Cruise sieht mittlerweile ein wenig älter aus, aber offensichtliche Bildfehler sind im ersten Augenblick keine zu erkennen. Wer den Clip als Fake entlarven möchte, der muss schon etwas genauer hinschauen, das Video langsamer abspielen oder an einer passenden Stelle stoppen. Erst dann offenbaren sich eindeutige Szenen, in denen sich die Augen für einen Bruchteil unnatürlich bewegen, oder eine Körperstelle kurz mit dem Hintergrund verschmilzt.
2 years ago on stage I was asked “when will Deepfake video/audio impact trust & be believable in social engineering?” My response then was that we were 2 years away from undetectable Deepfakes. I wish my prediction then was wrong. We need synthetic media detection + labels ASAP. pic.twitter.com/yUUOTDepYY
— Rachel Tobac (@RachelTobac) February 26, 2021
Klar ist: solche Fälschungen werden immer besser. Solange man Deepfakes lediglich zur Unterhaltung einsetzt, sind diese auch ziemlich lustig. Doch bekanntlich ist es nur eine Frage der Zeit, bis neue Technologien auch für weniger harmlose Einsatzzwecke genutzt werden. Was passiert, wenn bekannten Politikern plötzlich Worte in den Mund gelegt werden, die so niemals geäußert wurden? Ziemlich sicher sind wir irgendwann an dem Punkt angelangt, an dem man solche Deepfakes nicht mehr so leicht mit dem bloßen Auge identifizieren kann.
Wir sollten schnell handeln, ehe es zu spät sei, fordert Rachel Tobac, die sich speziell auf Cyber Security spezialisiert. Zum einen sollten Deepfakes mit einer zweifelsfreien Markierung versehen werden. Zum anderen brauche man zuverlässige Software, die Deepfakes automatisch erkennen könnte. Ansonsten bergen Deepfakes, so beeindruckend sie auch sein mögen, ein riesiges Gefahrenpotenzial.
Quelle: Twitter
