Deepfake

Der Begriff Deepfake setzt sich aus „Deep Learning" und „Fake" zusammen. Die EU-KI-Verordnung hat ihn rechtlich gefasst: Als Deepfakes gelten KI-generierte oder manipulierte Bild-, Audio- oder Videoinhalte, die realen Personen, Orten oder Ereignissen ähneln und fälschlicherweise als echt wahrgenommen werden könnten.

Praktisch reicht das vom harmlosen Marketing-Avatar bis zur Betrugsmasche: Eine geklonte Stimme am Telefon, die angeblich die Geschäftsführung ist und eine Überweisung anweist, ist technisch ebenfalls ein Deepfake. Für Betriebe ist das relevant, weil beide Fälle – legitime Werbung und kriminelle Täuschung – rechtlich und organisatorisch unterschiedlich behandelt werden müssen.

Die EU-KI-Verordnung regelt in Artikel 50 Transparenzpflichten für Anbieter und Betreiber bestimmter KI-Systeme, darunter die Kennzeichnung von Deepfakes und von KI-Texten zu Themen öffentlichen Interesses. Wer als Betreiber ein KI-System einsetzt, um einen Deepfake zu erzeugen oder zu bearbeiten, muss offenlegen, dass der Inhalt künstlich erzeugt oder manipuliert wurde.

Für offensichtlich künstlerische, kreative, satirische oder fiktionale Werke gilt eine abgeschwächte Pflicht: Die Offenlegung darf so erfolgen, dass sie die Darstellung oder den Genuss des Werks nicht unangemessen beeinträchtigt – ein vollständiger Verzicht auf jede Kennzeichnung ist aber nicht vorgesehen.

Für kleinere und mittlere Unternehmen ist das Deepfake-Thema in erster Linie ein Risikothema, nicht primär eine Chance: Geklonte Stimmen oder Videos können für CEO-Fraud, gefälschte Lieferanten-Anrufe oder manipulierte Angebote missbraucht werden. Ein klarer interner Prozess – etwa Rückruf bei ungewöhnlichen Zahlungsanweisungen – senkt dieses Risiko unabhängig von der Technik.

Wer selbst KI-generierte Bilder, Stimmen oder Videos in Marketing oder Kundenkommunikation einsetzt, muss seit dem 2. August 2026 die Kennzeichnungspflicht aus Artikel 50 Absatz 4 der EU-KI-Verordnung im Blick behalten. Eine schriftliche KI-Richtlinie, die festlegt, wer welche Inhalte wie kennzeichnet, schafft hier Rechtssicherheit und vermeidet Nacharbeit bei Kampagnen.

Belastbare Marktpreise für „Deepfake-Schutz" gibt es nicht pauschal, da die Maßnahmen stark variieren: von einer einstündigen Awareness-Schulung für das Finanzteam bis zu technischer Erkennungssoftware für Marketingabteilungen mit hohem Bildoutput. Als Faustregel gilt: Prozess- und Schulungsmaßnahmen sind meist günstiger und wirksamer als reine Erkennungstools.

Kostentreiber sind vor allem die Zahl der betroffenen Kommunikationskanäle (Telefon, Video, Social Media), die Frage, ob eigene KI-Inhalte produziert werden und gekennzeichnet werden müssen, sowie der Schulungsbedarf im Team. Ein kurzer Workshop zur Sensibilisierung und zur Einführung eines Kennzeichnungs-Prozesses ist für die meisten Mittelständler der naheliegende erste Schritt.

Ein Maschinenbauunternehmen mit 60 Mitarbeitenden nutzt KI-generierte Avatare für Schulungsvideos in mehreren Sprachen – praktisch, aber laut EU-KI-Verordnung kennzeichnungspflichtig. Gleichzeitig erhält die Buchhaltung einen Anruf mit der vermeintlichen Stimme der Geschäftsführung, der eine eilige Auslandsüberweisung fordert. Weil ein Rückruf-Prozess für ungewöhnliche Zahlungen eingeführt wurde, fliegt der Betrugsversuch auf, bevor Geld fließt.