Manipulation von Inhalten Deepfakes: Mehrheit rechnet mit Täuschung durch KI-Manipulationen

Anbieter zum Thema

eco - Verband der Internetwirtschaft e. V.

Arvato Systems GmbH

Packsize

Descartes Systems (Germany) GmbH

Laut einer Umfrage von YouGov hält jeder zweite Deutsche eine Täuschung durch Deepfakes oder andere KI-Manipulationen in den nächsten fünf Jahren für wahrscheinlich. 28 Prozent rechnen mit schädigenden oder missbräuchlichen KI-Inhalten über die eigene Person. eco fordert jetzt eine bessere Aufklärung.

55 Prozent der befragten Erwachsenen in Deutschland halten es für sehr oder eher wahrscheinlich, in den kommenden fünf Jahren durch KI-generierte Deepfakes oder ähnliche KI-Manipulationen getäuscht zu werden, etwa im Zusammenhang mit Betrug oder Informationsdiebstahl. Dagegen halten es nur 28 Prozent für wahrscheinlich, dass schädigende oder missbräuchliche KI-Inhalte über ihre eigene Person erstellt werden. Das zeigt eine bevölkerungsrepräsentative Umfrage von YouGov im Auftrag von eco – Verband der Internetwirtschaft e. V.

Benutzung von Deepfakes für Identitätsmissbrauch und Betrugsversuche

Die Befragten schätzen die Wahrscheinlichkeit, selbst durch manipulierte Inhalte getäuscht zu werden, damit fast doppelt so hoch ein wie die Wahrscheinlichkeit, selbst Gegenstand einer solchen Manipulation zu werden. Deepfakes sind mithilfe künstlicher Intelligenz erzeugte oder veränderte Bild-, Audio- und Videoinhalte, die authentisch wirken können. Sie können unter anderem für Identitätsmissbrauch, Betrugsversuche, Rufschädigung, sexualisierte digitale Gewalt, wie im Fall Collin Fernandes, oder Desinformation eingesetzt werden.

Alexandra Koch-Skiba, Leiterin der Beschwerdestelle des eco – Verband der Internetwirtschaft e. V., kommentiert die Ergebnisse: „Deepfakes wirken in zwei Richtungen: Menschen können durch manipulierte Inhalte über ihre Person geschädigt werden. Sie können aber auch zum Opfer werden, weil sie eine Fälschung für echt halten und auf dieser Grundlage handeln. Dass 55 Prozent eine solche Täuschung für wahrscheinlich halten, zeigt, wie stark das Vertrauen in digitale Inhalte unter Druck steht. Diese Zahlen sind ein gesellschaftliches Warnsignal.“

Kennzeichnung allein schützt nicht vor Täuschung

Seit dem 2. August 2026 gelten die Transparenzpflichten aus Artikel 50 des europäischen AI-Acts. Anbieter müssen bestimmte KI-generierte oder manipulierte Inhalte maschinenlesbar kennzeichnen. Bei Deepfakes muss zudem offengelegt werden, dass sie künstlich erzeugt oder verändert wurden. „Kennzeichnungen sind ein wichtiger Baustein, aber kein Schutzschild gegen Betrug, Identitätsmissbrauch oder digitale Gewalt“, betont Alexandra Koch-Skiba. „Wir brauchen neben verlässlichen technischen Standards und verständlichen Hinweisen mehr Medienkompetenz und eine gute Beschwerde-Infrastruktur. Menschen müssen Manipulationsversuche erkennen und verdächtige Inhalte über einen zweiten Kommunikationsweg überprüfen können.“

Wir brauchen neben verlässlichen technischen Standards und verständlichen Hinweisen mehr Medienkompetenz und eine gute Beschwerde-Infrastruktur.

Alexandra Koch-Skiba, eco e.V.

Kampf gegen schädigende Deepfakes erfordert mehrere Bausteine

eco begrüßt das Ziel des geplanten Gesetzes zur Stärkung des zivilrechtlichen und strafrechtlichen Schutzes vor digitaler Gewalt (GgdG). Betroffene müssen rechtswidrige Deepfakes schnell melden, Beweise sichern und Ansprüche auf Auskunft und Löschung durchsetzen können. Zugleich fordert der Verband klare Rechtsbegriffe, richterliche Kontrolle und eine enge Abstimmung mit dem europäischen Digital Services Act. Unklare Haftungsregeln dürften nicht dazu führen, dass Plattformen vorsorglich auch rechtmäßige Inhalte aus Kunst, Satire oder journalistischer Berichterstattung löschen.

Neben einer konsequenten Rechtsdurchsetzung seien Investitionen in Prävention und digitale Bildung erforderlich. Strafrechtliche Maßnahmen griffen in der Regel erst, wenn eine Schädigung bereits eingetreten sei. „Der Schutz vor Deepfakes entscheidet sich nicht nur vor Gericht. Er beginnt bei Aufklärung, digitaler Bildung und einem verantwortungsvollen Umgang mit KI-generierten Inhalten“, betont Koch-Skiba. Diese Position entspricht der eco-Stellungnahme zum Referentenentwurf.

Zur Methodik der Umfrage: Die Daten dieser Befragung basieren auf Online-Interviews mit Mitgliedern des YouGov-Panels, die der Teilnahme vorab zugestimmt haben. Hierfür wurden im Zeitraum vom 31. Juli bis 2. August 2026 insgesamt 2.012 Personen befragt. Die Erhebung wurde nach Alter, Geschlecht und Region quotiert und die Ergebnisse anschließend entsprechend gewichtet. Die Ergebnisse sind repräsentativ für die Wohnbevölkerung in Deutschland ab 18 Jahren.

Die Beschwerdestelle des eco – Verband der Internetwirtschaft e. V. ist seit 1996 aktiv und integraler Bestandteil des Systems der regulierten Selbstregulierung in Deutschland. Sie ermöglicht Internetnutzerinnen und Internetnutzern die kostenlose und auf Wunsch anonyme Meldung jugendgefährdender und strafbarer Inhalte und arbeitet eng mit Diensteanbietern, Behörden und internationalen Partnerorganisationen zusammen. Hierbei wird die schnelle Löschung rechtswidriger Inhalte angestrebt und strafbare Inhalte werden grundsätzlich zur Anzeige gebracht.