Guides
Deepfakes und synthetische Identitätstäuschung: Wie Marken- und Rechtsteams sie erkennen, dokumentieren und entfernen
Deepfakes und synthetische Identitätstäuschung erfordern eine besondere Vorgehensweise, weil die Inhalte nicht einfach kopiert, sondern künstlich erzeugt sind. Teams sollten das manipulierte Medium, den Betrugs- oder Zahlungsablauf und den Plattformkontext sichern und den Fall dann unter der passenden Richtlinie für synthetische oder manipulierte Medien melden. Bei laufendem Betrug oder Sicherheitsrisiken für Führungskräfte kann zusätzlich die Einbindung von Rechtsberatung oder Strafverfolgungsbehörden nötig sein.

12 Min. Lesezeit

Deepfakes und synthetische Identitätstäuschung, also gefälschte Videos von Führungskräften in betrügerischen Anzeigen, geklonte Stimmen in Phishing-Anrufen oder KI-generierte falsche Produktempfehlungen, verlangen eine andere Reaktion als die übliche Markenimitation. Weil das Medium künstlich erzeugt und nicht gestohlen ist, müssen Teams die manipulierte Datei, den verknüpften Betrugs- oder Zahlungsablauf und den Plattformkontext sichern, bevor sie irgendetwas einreichen. Anschließend gehört die Meldung unter die Richtlinie der Plattform für synthetische oder manipulierte Medien und nicht in ein allgemeines Formular für Identitätstäuschung oder Urheberrecht. Liegt ein laufender Betrug oder ein Sicherheitsrisiko für eine Führungskraft vor, müssen Rechtsberatung und in manchen Fällen auch die Strafverfolgungsbehörden parallel zur Plattformmeldung eingebunden werden, nicht erst danach.
Warum synthetische Identitätstäuschung ein anderes Problem ist als die klassische
Hinter einem Fake-Konto, das ein gestohlenes Logo oder kopierte Produktfotos verwendet, steht ein echtes Original. Deshalb gibt es meist eine eindeutige Übereinstimmung im Urheber- oder Markenrecht, und die vorhandenen Takedown-Werkzeuge kommen damit gut zurecht.
Synthetische Identitätstäuschung funktioniert anders. Das Video, die Tonaufnahme oder das Bild wurde erzeugt oder manipuliert. Es gibt also keine Originaldatei, mit der sich ein Fingerabdruck abgleichen ließe, und das wirkt sich in dreierlei Hinsicht aus.
Die Erkennung ist schwieriger. Es gibt nichts, das sich Pixel für Pixel abgleichen ließe. Ein Team muss sich den Inhalt ansehen oder anhören und die Unstimmigkeiten bemerken (unnatürliches Blinzeln, nicht passende Lippenbewegungen, eine Stimme, die fast stimmt, aber etwas flach klingt). Zudem verschiebt sich die Qualität der Erkennung auf beiden Seiten ständig: Was vor sechs Monaten eine Fälschung entlarvt hat, erkennt die nächste womöglich nicht mehr.
Sie verbreitet sich schneller. Eine betrügerische Anzeige mit einer per Deepfake gefälschten Führungskraft kann stundenlang laufen, bevor sie jemand meldet. Durch die bezahlte Verbreitung erreicht sie während der gesamten Zeit, in der eine Meldung in der Warteschlange liegt, laufend neue Menschen. Ein langsam wachsendes Fake-Konto lässt einer Marke mehr Vorlauf, um rechtzeitig zu reagieren.
Die Folgeschäden sind gravierender. Ein Fake-Konto, das ein Logo kopiert, ist peinlich. Ein Deepfake-Video eines CEO, der eine Krypto-Investition empfiehlt, oder eine geklonte Stimme, die jemanden aus der Finanzabteilung zu einer Überweisung anweist, ist dagegen oft die erste Stufe eines laufenden Betrugsversuchs. Der Reputationsschaden und der finanzielle Schaden für die Getäuschten treten also gleichzeitig ein und nicht nacheinander.
Drei Muster synthetischer Identitätstäuschung, auf die Sie achten sollten
Deepfake-Video oder -Audio in betrügerischen Anzeigen und gefälschten Empfehlungen
Täter nehmen echtes Bildmaterial einer Führungskraft oder eines Markenbotschafters, manchmal nur wenige Sekunden, und lassen die Person mit KI-Werkzeugen etwas sagen oder tun, das nie stattgefunden hat. Die häufigste Variante ist eine bezahlte Anzeige: ein gefälschter Clip, in dem ein Gründer oder CEO eine Investmentplattform, ein Nahrungsergänzungsmittel oder ein Krypto-Produkt „empfiehlt“ und der als zielgerichtete Anzeige auf einer Social-Media-Plattform läuft. Weil es sich um eine bezahlte Platzierung handelt, erreicht sie schnell ein klar umrissenes Publikum und lässt sich über weitere Konten vervielfältigen, sobald eine Version entfernt wurde.
Synthetische Stimmklone in Phishing und Social Engineering
Diese Variante ist meist gar kein öffentlicher Inhalt. Eine kurze öffentliche Stimmprobe einer Führungskraft (eine Telefonkonferenz zu den Quartalszahlen, ein Podcast-Auftritt) wird geklont und in einem Anruf oder einer Sprachnachricht an Beschäftigte aus Finanzabteilung, Personalwesen oder IT eingesetzt, um eine Überweisung, das Zurücksetzen von Zugangsdaten oder vertrauliche Daten zu verlangen. Das ist eher ein Sicherheitsvorfall als ein Problem der Inhaltsmoderation. Die gleiche Sorgfalt bei der Dokumentation braucht es trotzdem, denn der Fall kann in einer Betrugsermittlung oder einem Versicherungsfall landen.
KI-generierte falsche Produktempfehlungen und Bewertungen
Gefälschte Testimonial-Videos angeblicher „Kunden“ und KI-generierte Bewertungsvideos bewerben immer häufiger Fälschungen oder nicht autorisierte Produkte, oder sie erwecken den Eindruck, ein völlig anderes Betrugsprodukt habe echte Kundschaft. Sie tauchen oft auf denselben Marktplätzen und Social-Media-Plattformen auf, die eine Marke ohnehin auf gefälschte Listings überwacht. Sie brauchen aber eine andere Meldekategorie, weil der Schaden in der falschen Empfehlung liegt und nicht in einer klassischen Verletzung geistigen Eigentums.
Was Sie dokumentieren sollten, bevor Sie eine Meldung einreichen
Die Qualität der Beweise entscheidet darüber, wie schnell eine Plattform handelt und ob Rechtsabteilung oder Strafverfolgung den Fall später verwenden können. Sammeln Sie, bevor Sie etwas einreichen:
- Plattform, genaue URL, Beitrags-ID und Anzeigen-ID (dazu den Eintrag in der Werbebibliothek, wenn es sich um eine bezahlte Platzierung handelt)
- Zeitpunkt der ersten Beobachtung sowie das Startdatum des ursprünglichen Beitrags oder der Anzeige, sofern sichtbar
- Eine gespeicherte, abspielbare Kopie des manipulierten Videos oder der Tonaufnahme selbst, nicht nur einen Screenshot. Zeichnen Sie den Bildschirm auf, wenn kein Download möglich ist, denn die Datei kann verschwinden, bevor eine Meldung bearbeitet ist
- Screenshots der gesamten Seite mit Kontoname, Handle, Followerzahl und einem etwaigen Anzeigenhinweis
- Jede verlinkte Landingpage mit URL und Screenshots, einschließlich jeder Aufforderung zu einer Zahlung oder zur Angabe persönlicher Daten
- Details zum Zahlungsablauf, falls vorhanden: Wallet-Adresse, Zahlungsdienstleister, Telefonnummer oder Formularfelder, die Finanzdaten abfragen
- Angaben zum veröffentlichenden Konto: Erstellungsdatum, sofern sichtbar, weitere Inhalte des Kontos und ob es zu einem andernorts beobachteten Muster passt
- Signale zur Reichweite (Aufrufe, geteilte Beiträge, Kommentare), sofern sichtbar, da sie in die Priorisierung einfließen
- Die konkrete Plattformrichtlinie, auf die Sie sich berufen (synthetische Medien, manipulierte Medien, Betrug oder Identitätstäuschung, je nachdem, was zutrifft)
Behandeln Sie das wie eine Vorfallsakte, nicht wie einen einzelnen Screenshot. Rechtsabteilung, Trust-and-Safety-Team und Kommunikation brauchen alle dieselbe Dokumentation, falls der Fall eskaliert.
Wie sich die Durchsetzung von klassischen Takedowns unterscheidet
Die meisten großen Plattformen haben in den vergangenen Jahren irgendeine Richtlinie zu synthetischen oder manipulierten Medien eingeführt. Abdeckung und Einheitlichkeit unterscheiden sich jedoch stark, und nichts davon ist so ausgereift wie die Durchsetzung von Urheber- oder Markenrechten. Die Richtlinien ändern sich schnell. Prüfen Sie die Einzelheiten deshalb vor dem Einreichen auf der aktuellen Richtlinienseite der jeweiligen Plattform.
Meta (Facebook und Instagram) deckt das Thema über Richtlinien zu manipulierten Medien sowie zu Betrug und betrügerischer Werbung ab. Bezahlte Anzeigen werden über die Werbebibliothek gemeldet, organische Inhalte über die übliche Meldefunktion in der App. Wer sowohl die Betrugs- als auch die Richtlinie zur Identitätstäuschung anführt, kann eine Meldung beschleunigen. YouTube und Google regeln die Kennzeichnung synthetischer Inhalte neben Richtlinien zu Betrug und Identitätstäuschung. Bezahlte Platzierungen werden über Google Ads gemeldet, organische Videos über die übliche Meldefunktion. Deepfake-Fälle landen dabei unter Umständen in allgemeineren Warteschlangen für Betrug oder Identitätstäuschung. TikTok verlangt Kennzeichnungen für synthetische Medien. Meldungen laufen über die Meldefunktion in der App, bezahlte Platzierungen bearbeitet ein eigenes Team für Werberichtlinien. Wer die Richtlinie von TikTok zu synthetischen Medien ausdrücklich nennt, kann eine Meldung genauer zuordnen lassen, als wenn der Inhalt nur als „fake“ beschrieben wird. X erfasst synthetische und manipulierte Medien über den üblichen Meldeweg, einschließlich einer Kategorie für manipulierte Medien. Eine zusätzliche Betrugsmeldung kann sinnvoll sein, wenn eine Zahlungsaufforderung im Spiel ist. LinkedIn stützt sich vor allem auf Richtlinien zu Fake-Konten und Identitätstäuschung, Meldungen laufen über das übliche Verfahren für Profile oder Beiträge. Deepfakes von Führungskräften werden in der Regel nach den allgemeineren Regeln zur Identitätstäuschung behandelt.
Einen universellen „Deepfake-Knopf“ gibt es nicht. Eine Meldung wirkt am besten, wenn sie die konkret verletzte Richtlinie benennt und, wo es passt, mit einem Betrugsvorwurf verbunden wird, statt sich allein auf Identitätstäuschung zu stützen.
Eine KI-gestützte Markenschutz-Plattform hilft an dieser Stelle, weil kontinuierliches, automatisiertes Scannen neue Fälle schneller findet als manuelle Überwachung. Die menschliche Prüfung vor dem Einreichen sorgt dafür, dass die Meldung gleich beim ersten Mal die richtige Richtlinie mit den richtigen Beweisen anführt und nicht wegen fehlender Details zurückkommt.
Wenn der Fall über eine normale Plattformmeldung hinausgeht
Vier Situationen sollten eine Eskalation auslösen:
Laufender oder versuchter Finanzbetrug. Ist ein Deepfake oder ein Stimmklon mit einer echten Zahlungsaufforderung verbunden (einer Überweisung, einer Krypto-Einzahlung, einer gefälschten Rechnung), müssen Rechtsabteilung und häufig auch Strafverfolgungsbehörden sofort eingebunden werden, parallel zur Plattformmeldung und nicht an ihrer Stelle. In den USA bedeutet das in der Regel, Rechtsberatung hinzuzuziehen und eine Meldung beim Internet Crime Complaint Center (IC3) des FBI zu erwägen. Betroffene Beschäftigte oder Kunden sollten über die Kanäle der Vorfallsreaktion informiert werden.
Sicherheitsrisiko für Führungskräfte oder Personen des öffentlichen Lebens. Deepfakes, bei denen es um Belästigung, Drohungen oder nicht einvernehmliche sexuelle Inhalte geht, brauchen einen anderen Reaktionsweg, der dem Personenschutz näher ist als der Durchsetzung von Markenrechten. Hier greift die Deepfake-Entfernung für Führungskräfte und Personen des öffentlichen Lebens, die auf den Schutz eines Menschen und nicht eines Markenwerts ausgerichtet ist.
Tragfähige Ansprüche wegen falscher Empfehlung oder aus dem Recht am eigenen Bild. Eine erfundene Empfehlung unterstellt eine Verbindung, die es nie gab. Die Rechtsabteilung kann Abmahnungen nicht nur an die Plattform schicken, sondern auch an den Werbetreibenden oder das Affiliate-Netzwerk, das an der Anzeige verdient. Das geht oft schneller als eine Plattformmeldung allein.
Wiederauftauchen nach der Entfernung. Erscheint dasselbe Skript oder dasselbe Werbemittel nach einem Takedown unter neuen Konten erneut, ist das das Signal, von der Meldung im Einzelfall zur kontinuierlichen Überwachung zu wechseln. Manuelles Melden hält mit einem Muster, das auf Wiederkehr angelegt ist, nicht Schritt.
Ein Reaktionsrahmen in fünf Schritten
- Einordnen. Klären Sie, ob der Inhalt tatsächlich synthetisch ist oder ob echtes Material unbefugt verwendet wird. Von dieser Unterscheidung hängt ab, welche Richtlinie gilt.
- Dokumentieren. Sichern Sie die oben beschriebenen Beweise vollständig, bevor etwas entfernt oder bearbeitet wird.
- Melden. Reichen Sie die Meldung über die Richtlinie der Plattform zu synthetischen bzw. manipulierten Medien oder zu Betrug ein und zitieren Sie den konkreten Wortlaut der Richtlinie, statt ein allgemeines Formular für Identitätstäuschung zu nutzen.
- Intern eskalieren. Binden Sie Rechtsabteilung und Sicherheit sofort ein, wenn Betrug, Zahlungen oder Sicherheitsfragen eine Rolle spielen, statt auf den Ausgang der Plattformmeldung zu warten.
- Überwachen und bündeln. Achten Sie darauf, ob derselbe Inhalt unter neuen Konten wieder auftaucht, und führen Sie eine gemeinsame Dokumentation darüber, was gefunden, gemeldet und entfernt wurde, damit Rechtsabteilung und Kommunikation mit denselben Fakten arbeiten.
Häufige Irrtümer
„Unser bestehender Urheberrechtsprozess deckt das ab.“ Oft nicht. Synthetische Inhalte sind erzeugt, nicht kopiert, ein Urheberrechtsanspruch greift daher möglicherweise nicht. Der richtige Weg führt meist über Richtlinien zu Betrug, Identitätstäuschung oder synthetischen Medien.
„Wenn es offensichtlich gefälscht ist, wird es schnell entfernt.“ Darauf ist kein Verlass. Die Durchsetzung bei synthetischen Medien ist jünger und weniger einheitlich als im Urheberrecht, und viele Plattformen leiten solche Meldungen noch immer durch allgemeine Warteschlangen.
„Das ist ein Kommunikationsproblem, kein Sicherheitsproblem.“ Hinter betrügerischen Anzeigen und Stimmklonen läuft oft parallel ein aktiver Betrug. Wer den Fall als reine Reputationsfrage behandelt, verzögert die Reaktion, die er womöglich braucht.
„Ein Takedown löst das Problem.“ Betrügerische Netzwerke verwenden dasselbe Skript meist über neue Konten hinweg wieder. Eine einzelne Entfernung ohne laufende Überwachung verzögert also nur das nächste Auftauchen.
Das Wichtigste in Kürze
- Synthetische Identitätstäuschung (Deepfake-Video und -Audio, Stimmklone, KI-generierte Empfehlungen) ist eine eigene Risikokategorie neben der klassischen Identitätstäuschung: schwerer zu erkennen, schneller in der Verbreitung und mit höherem Betrugsrisiko.
- Dokumentieren Sie die manipulierte Mediendatei selbst und nicht nur einen Screenshot, dazu Plattform, Zeitpunkt und jeden verknüpften Zahlungs- oder Betrugsablauf, bevor Sie eine Meldung einreichen.
- Die meisten großen Plattformen haben inzwischen irgendeine Richtlinie zu synthetischen oder manipulierten Medien. Die Durchsetzung ist jedoch uneinheitlich, und einen plattformübergreifend standardisierten Meldeweg gibt es nicht.
- Eskalieren Sie an die Rechtsabteilung und, wenn Betrug oder die persönliche Sicherheit betroffen sind, an die Strafverfolgung, statt sich allein auf eine Plattformmeldung zu verlassen.
- Taucht derselbe Inhalt nach der Entfernung wieder auf, ist das das Signal, vom manuellen Melden zur kontinuierlichen Überwachung zu wechseln.
FAQ
Was gilt im Markenschutz als Deepfake?
Ein Deepfake ist jedes KI-generierte oder mit KI manipulierte Video, Audio oder Bild, das eine reale Person, meist eine Führungskraft oder einen Markenbotschafter, etwas sagen oder tun lässt, das sie nie gesagt oder getan hat. Dazu zählen vollständig synthetische Videos, Stimmklone in Anrufen oder Sprachnachrichten und manipuliertes Material, das die Bedeutung echter Inhalte verändert. Davon zu unterscheiden ist ein Fake-Konto mit echten, unveränderten Fotos. Das ist eine Frage des Urheberrechts oder der Identitätstäuschung und keine der synthetischen Medien, und von dieser Unterscheidung hängt ab, welche Plattformrichtlinie gilt.
Welche Beweise sollten Rechtsteams sammeln, bevor sie einen Deepfake melden?
Mindestens: die Plattform und die genaue URL oder Anzeigen-ID, den Zeitpunkt der ersten Beobachtung, eine gespeicherte und abspielbare Kopie des manipulierten Videos oder der Tonaufnahme (nicht nur einen Screenshot), die Angaben zum veröffentlichenden Konto, jede verlinkte Landingpage oder jeden Zahlungsablauf und die konkrete Plattformrichtlinie, auf die Sie sich berufen. Das zahlt sich doppelt aus: zuerst, damit die Plattform handelt, und noch einmal, wenn der Fall in ein rechtliches Verfahren oder an die Strafverfolgung geht.
Haben Plattformen eigene Richtlinien zu Deepfakes oder synthetischen Medien?
Die meisten großen Plattformen, darunter Meta, YouTube und TikTok, haben irgendeine Richtlinie zu synthetischen oder manipulierten Medien eingeführt, und auch X hat eine Kategorie für manipulierte Medien. Abdeckung und Einheitlichkeit der Durchsetzung unterscheiden sich zwischen den Plattformen erheblich und ändern sich recht häufig. Prüfen Sie deshalb den aktuellen Wortlaut der jeweiligen Richtlinie, statt davon auszugehen, dass noch gilt, was vor einem Jahr galt.
Wann sollten wir die Strafverfolgung einschalten, statt nur bei der Plattform zu melden?
Sobald es eine laufende oder versuchte finanzielle Komponente gibt, etwa eine gefälschte Überweisungsanforderung, eine betrügerische Krypto-Anzeige oder einen Phishing-Anruf mit geklonter Stimme, sollte die Strafverfolgung (in den USA häufig über das Internet Crime Complaint Center des FBI) parallel zur Plattformmeldung eingebunden werden, nicht an ihrer Stelle. Die Plattformmeldung richtet sich gegen den Inhalt, die Strafverfolgung gegen den Betrug selbst, und meist braucht es beides.
Lässt sich Phishing mit Stimmklonen genauso behandeln wie ein Video-Deepfake?
Die Sorgfalt bei der Dokumentation ist dieselbe (die Tonaufnahme nach Möglichkeit sichern, den Zeitpunkt notieren, festhalten, was von wem verlangt wurde), der Reaktionsweg ist aber ein anderer. Phishing mit Stimmklonen ist in erster Linie ein Sicherheitsvorfall, weil es sich direkt gegen Beschäftigte richtet. Es läuft daher üblicherweise über die Vorfallsreaktion und, wenn es einen Betrugsversuch gab, über Rechtsabteilung und Strafverfolgung und nicht über eine Inhaltsmeldung bei der Plattform.
Wie hilft kontinuierliche Überwachung gegen wiederkehrende Deepfake-Inhalte?
Synthetische Identitätstäuschung taucht meist unter neuen Konten wieder auf, sobald das Original entfernt ist, oft mit demselben Skript oder Werbemittel. Manuelles, einmaliges Melden bemerkt dieses Wiederauftauchen erst, wenn es jemandem erneut auffällt. Kontinuierliche, automatisierte Überwachung meldet neue Fälle, sobald sie erscheinen. Das ist der Unterschied zwischen dem Hinterherlaufen hinter jedem einzelnen neuen Upload und dem tatsächlichen Stilllegen des Musters.
Synthetische Identitätstäuschung ist kein Zukunftsrisiko, für das man irgendwann einmal planen kann. Sie zeigt sich schon heute in betrügerischen Anzeigen, Phishing-Anrufen und gefälschten Empfehlungen, sie verbreitet sich schneller und bringt ein unmittelbareres Betrugsrisiko mit sich als die Formen der Identitätstäuschung, für die die meisten Teams bereits einen Prozess haben. Was funktioniert, ist dieselbe Disziplin wie bei jedem Fall von Markenmissbrauch, also früh erkennen, genau dokumentieren und angemessen eskalieren, angepasst an ein künstlich erzeugtes Medium und an eine Durchsetzungspraxis, die noch aufholt.
Remove.tech verbindet kontinuierliche KI-gestützte Erkennung mit menschlicher Prüfung, bevor etwas gemeldet wird, und mit automatisiertem Einreichen, sobald ein Fall bestätigt ist. Es ist derselbe Ablauf aus Erkennung, Entfernung und Dokumentation, der im Markenschutz insgesamt gilt. Für Teams, die Anbieter bei Erkennung und Entfernung in großem Umfang vergleichen, behandelt diese Übersicht zu Markenschutz-Software die Kriterien, die es abzuwägen gilt.
Wenn Ihr Team Deepfake-Videos, Phishing mit geklonter Stimme oder KI-generierte falsche Empfehlungen beobachtet, die auf Ihre Marke oder Ihre Führungskräfte zielen, warten Sie mit dem Aufbau eines Prozesses nicht auf den nächsten Fall. Richten Sie jetzt eine kontinuierliche Überwachung und einen dokumentierten Eskalationsweg ein, damit das Team in dem Moment, in dem ein Fall auftaucht, genau weiß, was zu sichern ist, wo gemeldet wird und wann die Rechtsabteilung dazukommt.




