Cyber-Kriminalität
Deepfake auf YouTube
Die sozialen Medien, also auch YouTube, sind ein El Dorado für Betrüger. Mit der richtigen Benutzerzahl, einem überzeugenden Scam und etwas KI lassen sich erhebliche Summen „verdienen“. Wie das geht, zeigen wir anhand des Musk-Deepfakes auf YouTube.
Save to Folio
Auf YouTube war kurz nach dem Attentat auf Donald Trump ein vermeintlicher Livestream zu sehen, in dem Tesla-Gründer Elon Musk Hintergründe zur Tat verrät – so versprach es zumindest der Titel des inzwischen gelöschten Videos. In Wahrheit handelte es sich dabei um einen eindeutigen Deepfake: Der mittels künstlicher Intelligenz veränderte Musk bewarb darin den Kauf von Kryptowährungen.
Die genannte Betrugsmasche läuft immer gleich ab: Ein Deepfake bewirbt Kryptowährungen verspricht Anlegern eine Verdoppelung ihres Investments, wenn sie innerhalb einer gewissen Frist auf bestimmten Websites Geld einzahlen. Auch 2024 fallen noch Menschen auf diese Masche herein. Doch darum, wie dieser Betrug funktioniert, soll es gar nicht gehen, sondern vielmehr darum, warum diese Betrugsmasche auch Alltagsrelevanz hat.
Gefälschter YouTube-Kanal
Das eigentlich Interessante an der Sache ist, dass hier ein YouTube-Kanal mit angeblich vier Millionen Followern unter dem Namen „Tesla“ geführt wurde, Häkchen zur Verifizierung inklusive. Natürlich wurden das gefälschte Logo und der Name jedoch kurzfristig ausgetauscht. Auch wies der Kanal einige Ähnlichkeiten zum Original aus. Ein unbedarfter Nutzer, dem dies als Link empfohlen wird, kann also durchaus den Eindruck erhalten, tatsächlich auf dem echten Kanal von Tesla zu sein.
Der im Bild markierte Kanalname ist eines der wenigen Merkmale, woran man tatsächlich erkennen könnte, dass dem nicht so ist. Aber selbst dazu muss man sich mit den Gepflogenheiten von YouTube ein wenig auskennen.
Natürlich ist die Seite gefälscht und nicht einmal besonders gut. So wurde nur die Übersichtsseite kopiert – es musste wahrscheinlich schnell gehen. Die Fälschung wurde von YouTube innerhalb weniger Stunden identifiziert und auch geblockt. Es war nicht das erste Mal und wird nicht das letzte Mal sein. Ähnliche Fälle gab es viele in den letzten Monaten und Elon Musk ist ein besonders beliebtes Sujet für Deepfakes.
4 Millionen Abonnenten und 20.000 Likes
Betrachtet man den Screenshot des Videos in Bild 1 so fallen die Kennzahlen auf: Der Kanal hat mit vier Millionen deutlich mehr Abonnenten als das Original mit 2,66 Millionen. Auch simulieren fast 20.000 „Likes“ Interesse und Echtheit.
Live-Kommentare (Bild 3) versprechen Geld, wenn man „schnell“ ist. Von den angeblich 45 Millionen, die es dem Deepfake Musk „wert“ ist, seien schon 40 vergeben, man müsse sich also beeilen. Der eingeblendete QR-Code führt zum versprochenen Glück. Für potenzielle Opfer ist die Täuschung perfekt.
Aber wie kann es sein, dass ein Kanal mit vier Millionen Abonnenten plötzlich einen Krypto-Scam sendet? Dazu gibt es zwei Wege: Der erste ist die Übernahme existierender Accounts. Dem Besitzer werden die Zugangsdaten mittels Phishings entwendet. Das Umbauen des Accounts erfolgt dann mit vorgefertigten Bauteilen und ist relativ schnell geschehen. Die eigenen Videos, mit denen ursprünglich die Abonnenten angesprochen wurden, werden entfernt. Löscht YouTube den Account aufgrund des Scams, steht der ursprüngliche Besitzer dann vor einem Scherbenhaufen.
Ein Account mit vier Millionen Abonnenten gehört dabei definitiv zu den Großen der Branche. Um es in Relation zu setzen: Der offizielle Kanal des FC Bayern München hat mit 4,3 Millionen Abonnenten nur unwesentlich mehr. Ein solcher Account-Diebstahl müsste also bekannt werden. Bislang hat sich dazu aber niemand geäußert.
Gefälschte Abonnenten
Die zweite Möglichkeit ist es, den Account zu erstellen und über einige Zeit mit gekauften Abonnenten anzureichern, um Glaubwürdigkeit und Reichweite zu erhalten. Diese Methode ist gar nicht so ungewöhnlich wie man glauben möchte. Sie wird auch von einigen legalen Akteuren verwendet. Der Hintergrund ist, dass Zuseher einen Kanal mit großen Mitgliedszahlen eher beachten als einen „Starter“ mit ein paar Dutzend. Bis der eigene Kanal groß genug ist, helfen die gekauften Subscriber dabei, Reichweite zu erhalten.
YouTube ist sich des Problems bewusst und sanktioniert solches Verhalten – zumindest, wenn so genannte Bots verwendet werden. Bei Bots handelt es sich um automatisch kreierte User Accounts, die zu Tausenden dazu verwendet werden, die Abonnentenzahl künstlich hochzuschrauben. Stellt die Plattform ein solches Verhalten fest, dann werden die Bots entfernt. Der Account bleibt dennoch intakt.
Schwieriger wird es allerdings, wenn es sich bei den Abonnenten um echte Menschen handelt, die auch in Interaktion mit dem „Creator“ gehen, indem sie seine Videos ansehen, „liken“ und auch gelegentlich Kommentare hinterlassen.
Solche Services lassen sich frei zugänglich im Internet finden. 1000 angeblich echte Menschen folgen einem Kanal für 120 US-Dollar (Bild 4). Für einen Bruchteil dieses Preises kriegt man Bots.
Liken als Business
Ein Geschäft aus dem Liken und Interagieren zu machen, liegt nahe. Dass YouTube in seinen Richtlinien zur Inhaltserstellung ausdrücklich darauf hinweist, solche Praktiken nicht zu bewerben, dürfte deutlich machen, dass dies keineswegs unbekannt ist. In sozialen Medien werden immer wieder Accounts neu erstellt. Sie müssen in Interaktion gehen, um nicht als Bot identifiziert zu werden. Dabei spielt es keine Rolle, in welcher Sprache sie das tun oder zu welchen Inhalten. Die Frage ist, wieviel man zahlen müsste, damit ein Mensch dies als „Arbeit“ tut. Also beispielsweise eine beliebige Anzahl an Geräten bedient, um Videos abzuspielen und anschließend zu liken und/oder zu kommentieren. Dazu wie hoch die Kosten tatsächlich sind, gibt es keine genauen Zahlen. Wir wissen lediglich, dass Menschen tatsächlich dafür rekrutiert werden.
Eine der angebotenen Möglichkeiten ist „Sub4Sub“: „Folgst Du mir, folg ich Dir“. Für das Ansehen und Interagieren erhält man im Gegenzug ebenfalls Interaktion auf dem eigenen Kanal. Alternativ gibt es Geld. Das ist aus mitteleuropäischer Sicht nicht viel. Jede „angesehene“ Minute, jedes Like, jeder Kommentar bringt nur Cents. Dafür kann man die „Arbeit“ bequem nebenbei machen. Für den Zahlenden – den Besitzer des Kanals – kann sich das lohnen. Ein schnelles Wachstum ist so garantiert. Auch hier ein Vergleich: Der gefälschte Tesla-Account schaffte seine vier Millionen Abonnenten in etwa vier Jahren seit Mai 2020, der bereits genannte FC Bayern München brauchte für seine 4,3 Mio. mehr als viermal so lange. Die Bayern sind schon seit März 2006 auf YouTube aktiv. Außerdem bezahlt YouTube für häufig gesehene Videos und neue Abonnenten Prämien an die Creator aus. Diese bieten mindestens eine Teilfinanzierung.
„Payday“ Kryptoscam
Die Möglichkeiten, an Millionen Abonnenten und 20.000 Likes zu kommen, sind also vielfältig. Die wahrscheinlichste Methode ist, dass schon vor langer Zeit registrierte Accounts kurzfristig mit Bots aufgemotzt werden, um Glaubwürdigkeit zu signalisieren.
Doch egal wie man an einen Account mit vier Millionen Abonnenten kommt, das Zeitfenster, um darauf einen Kryptoscam laufen zu lassen, schließt sich sehr schnell. Bei Betrug kennt YouTube keine Gnade. Erfährt die Plattform davon, wird die Seite dauerhaft dicht gemacht. Das kann jederzeit geschehen. Im Falle des gestohlenen Kanals eines echten YouTubers kann dieser auf den Diebstahl und die Übernahme seiner Inhalte aufmerksam werden und spätestens beim Versuch der Änderungen einschreiten. Ein Vier-Millionen-Account ist ein Full-Time-Job, wenn man seine Abonnenten ehrlich bedient. Das Risiko aufzufliegen ist für die Täter deshalb hoch. Aber auch beim „künstlich gedopten“ Kanal kann die Sperrung innerhalb kürzester Zeit erfolgen, wenn YouTubes Algorithmen zuschlagen. Die Frage ist deshalb, ob sich der ganze Aufwand überhaupt lohnt.
Die kurze Antwort lautet: „Ja“. Mit dem Scam werden Millionen gemacht. Genug, um den Ausfall einiger Seiten zu verschmerzen. Dazu wird das Video auf anderen sozialen Medien beworben und Opfer mit Links auf die Videoplattform geführt. Die Glaubwürdigkeit des Kanals und seine Reichweite tun ihr übriges, um zu überzeugen. Um Gewinn zu machen, reichen einige wenige Zahlungswillige. Aktuell ist es der berüchtigte Musk-Kryptoscam, mit denen der Schnitt gemacht wird. Aber natürlich kann die Methode für alle Arten von Inhalten verwendet werden.
Deshalb auch unsere Empfehlung:
- Inhalte in sozialen Medien sollten Sie grundsätzlich hinterfragen und Autor sowie Quellen genauestens prüfen. Namen, Logos und Verifizierungen können gefälscht sein, Follower und Interaktionen lassen sich einfach kaufen. Seien Sie stets skeptisch!
- Des Weiteren gilt auch im Internet-Zeitalter – wie schon in der Antike – der auf den römischen Dichter Vergil zurückzuführende Spruch: „Hüte Dich vor Griechen mit Geschenken!“ Niemand hat Geld zu verschenken und wenn etwas zu gut scheint, um wahr zu sein, ist es in der Regel auch nicht wahr. Denken Sie daran, wenn Ihnen demnächst wieder ein „nigerianischer Prinz“ glaubhaft versichern möchte, sein Millionenerbe mit Ihnen zu teilen – oder ein amerikanischer Milliardär Ihnen Kryptowährungen andrehen will!