Fake oder real? Wie kann ich mich gegen Deepfakes schützen?

Deepfakes sind illegal, wenn sie ohne Zustimmung private oder sogar intime Inhalte verbreiten und für andere Zwecke wie Betrug missbrauchen. Erfahren Sie, wie Sie sich und andere schützen können und an wen Sie sich als Betroffener neben der Polizei wenden können.

Was sind Deepfakes?

Deepfakes sind mithilfe von Künstlicher Intelligenz manipulierte Video-, Bilder- oder Audio-Dateien. Dabei werden Originalfotos aus privatem Besitz, von frei zugänglichen Internetseiten oder Social-Media-Accounts verwendet.

Gezielt schädliche Deepfakes stellen dabei eine Form von digitaler Gewalt dar. Sind die Inhalte sexualisiert, so spricht man von »sexualisierenden Deepfakes« oder »Deep nudes«.

Wer kann von Deepfakes betroffen sein?

Grundsätzlich kann jeder betroffen sein, von dem digitale Bilder, Videos oder Audioaufnahmen im Internet existieren. KI-generierte Fälschungen werden auf verschiedene Weise missbraucht:

• Betrug durch gefälschte Anrufe: Mit KI-generierten Stimmen werden Telefonate vorgetäuscht, um z. B. Geld zu erschleichen.
• Verbreitung von Falschmeldungen: Politikerinnen und Politiker oder Prominente werden mit gefälschten Aussagen in Videos dargestellt, was zu Rufschädigung, Shitstorms und Verunsicherung über die Glaubwürdigkeit von Nachrichten führen kann.
• Finanzieller Missbrauch: Täter nutzen Deepfakes, um sich Zugang zu Konten oder Finanzplattformen zu verschaffen oder in Online-Shops unter falscher Identität Waren zu bestellen.
• Sexualisierte Gewalt: Besonders Frauen sind von Deepfakes betroffen, die auf Pornoplattformen hochgeladen werden – oft verbunden mit herabwürdigenden Kommentaren und persönlichen Daten. Dies kann zu Erpressung und Rufschädigung führen. Auch Kinder sind betroffen, wobei das Ausmaß oft im Verborgenen bleibt. Dies zeigt die besondere Schutzbedürftigkeit von Frauen und Kindern in diesem Kontext.
• Digitale Belästigung und Mobbing: Deepfakes werden genutzt, um Personen zu demütigen, diffamieren oder aus dem öffentlichen Diskurs zu drängen.

Welche Auswirkungen haben Deepfakes auf Betroffene?

• Eingriff in die Privatsphäre
• Psychische Belastung (z. B. Stress, Angstzustände, Suizidgedanken)
• Gesundheitliche Folgen
• Bedrohung der persönlichen Integrität
• Verwirrung, Zweifel, Scham- und Schuldgefühle
• Angst vor sozialer Ausgrenzung
• Gefühl von Machtlosigkeit
• Victim Blaming (Täter-Opfer-Umkehr)
• Rückzug von Online- und Offline-Kontakten
• Angst vor Konsequenzen im sozialen, professionellen und finanziellen Kontext
• Erleben der bildbasierten sexualisierten Gewalt als körperlichen sexuellen Übergriff

Was können Sie tun, wenn Sie betroffen sind?

• Zuerst sollten Beweise gesammelt werden. Solange es sich nicht um Nacktbilder Minderjähriger handelt, kann ein rechtssicherer Screenshot angefertigt werden.
• Erst danach sollten Sie den Beitrag bei der jeweiligen Plattform oder dem Betreiber melden. Außerdem gibt es die Möglichkeit, die Inhalte bei einer Internetbeschwerdestelle zu melden. Bitte beachten Sie, dass nach einer Meldung eventuell nicht mehr auf den gemeldeten Beitrag zugegriffen werden kann.
• Wenn Sie beispielweise Opfer eines Telefon- oder Finanzbetrugs geworden sind, sollten Sie im nächsten Schritt eine Anzeige bei der Polizei erstatten, z. B. über die Online-Wache.
• Vorfälle wie die Erstellung und Verbreitung von Deepfakes sind für Betroffene extrem belastend. Es gibt viele Hilfsangebote, die sich speziell dem Thema digitaler Gewalt angenommen haben. Dort finden Sie Unterstützung und können sich beraten lassen. Auch Personen, die Betroffenen/Dritten helfen wollen, finden dort Beratung. 

Was können Eltern oder Bezugspersonen von Kindern und Jugendlichen tun?

• Schützen Sie die Privatsphäre Ihrer Kinder, z. B. durch private Accounts
• Informieren und sensibilisieren Sie Kinder und Jugendliche über Risiken.
• Thematisieren Sie die Bedeutung von Einwilligung versus Grenzüberschreitung altersgerecht.
• Ermöglich Sie eine offene Gesprächskultur, in dem Sie Mut machen, Vorfälle anzusprechen und ggf. anzuzeigen
• Nutzen Sie auf den Plattformen die Funktion Inhalte zu melden, um eine weitere Verbreitung zu vermeiden.

An wen können sich Betroffene wenden?

• Wenn Sie eine Anzeige erstatten wollen, können Sie dies hier über die Online-Wache der Polizei Sachsen tun
• Inhalte können Sie bei der Internet-Beschwerdestelle melden

Wenn Sie von sexualisierten Deepfakes betroffen sind, empfehlen wir die Unterstützung von spezialisierten Fachkräften. Zum Beispiel:

• Weißer Ring: Vermittelt Opfer- und Krisenhilfe, sowie rechtliche Beratung. Kostenfreie anonyme Hilfe per Telefon: 116 006 / Online-Beratung
• Hateaid: Spezialisierte Anlaufstelle für digitale Gewalt. +49 (0)30 25208838 / beratung@hateaid.org / Betroffenen-Beratung
• Kinder oder Jugendliche können sich beispielsweise an JUUUPORT wenden. Dies ist eine bundesweite Online-Beratungsplattform für junge Menschen, die Probleme im Netz haben.

Weiterführende Informationen:

So fertigen Sie rechtssichere Screenshots an
Sollte es sich um intime Bildinhalte  von Kindern oder Jugendlichen handeln, ist damit gesondert umzugehen