Deepfake-Erstellung und der EU AI Act
Wir bieten ein Tool, das Gesichter/Stimmen realer Personen synthetisiert
Wir bieten ein Tool, das Gesichter/Stimmen realer Personen synthetisiert: Diese Anwendung fällt voraussichtlich unter die Kategorie mit begrenztem Risiko. Im Vordergrund stehen Transparenzpflichten nach Art. 50 EU AI Act. Betroffen sind insbesondere die breite Öffentlichkeit.
Zuletzt geprüft: 5. Juni 2026 · 3 Min. Lesezeit · Herausgeber: Innopulse Consulting GmbH, Zug
Warum diese Einstufung?
- ▸Es können besonders schutzbedürftige Gruppen betroffen sein — ein erschwerender Faktor.
- ▸Es werden biometrische Daten verarbeitet (Annex III Nr. 1 bzw. Art. 5 relevant).
- ▸Das System baut auf einem GPAI-Modell auf; Kapitel-V-Pflichten der Modell-Anbieter wirken mittelbar.
- ▸Es werden synthetische Inhalte erzeugt — Kennzeichnungspflicht nach Art. 50(2).
Rechtliche Grundlage
Artikel
Erwägungsgründe
Welche Pflichten gelten?
- Transparenzhinweis, dass Nutzer mit einem KI-System interagieren (Art. 50(1))
- Kennzeichnung synthetischer Inhalte, sofern erzeugt (Art. 50(2))
- KI-Kompetenz der mit dem System befassten Personen (Art. 4)
Zusätzliche Rechtsrahmen in der DACH-Region
Der EU AI Act steht nicht allein. Je nach Einsatz greifen in der Schweiz, Deutschland und Österreich weitere Vorgaben — hier die für diesen Fall relevanten:
Bei automatisierten Entscheidungen über natürliche Personen greift insbesondere Art. 22 DSGVO (Recht auf menschliches Eingreifen).
Bei Plattform-Kontext können Digital Services Act und Digital Markets Act zusätzlich greifen.
Praxis-Beispiele
Verboten
Intime Deepfakes ohne Einwilligung → Art. 5(1)(i) verboten (Digital Omnibus).
Grenzfall
Satire-Deepfake einer öffentlichen Person mit klarer Kennzeichnung — limited, aber Persönlichkeitsrechte prüfen.
Unkritisch
Deepfake-Tool erzeugt rein interne Entwürfe, die vor Nutzung geprüft werden — minimal.
Pflicht-Trigger für diesen Fall
- Wirkt direkt auf natürliche Personen
- Verarbeitet biometrische Daten
- Nutzt General-Purpose AI (GPAI)
- Generiert synthetische Inhalte
- Verletzliche Gruppen betroffen möglich
Zusätzliche regulatorische Overlays
Neben dem AI Act greifen für diesen Fall sektorale Vorschriften, die zusätzliche Pflichten auslösen können.
Was muss konkret geklärt werden?
Ob Dein konkreter Use-Case unter Begrenztes Risiko fällt, hängt von folgenden Detailfragen ab:
- Deepfakes müssen nach Art. 50(4) offengelegt werden. Ohne Einwilligung erzeugte intime Inhalte → Art. 5(1)(i)-Verbot (ab 2.12.2026); CSAM → Art. 5(1)(j).
- Sieht der Endnutzer den KI-Output direkt?
Häufige Fragen
Ist „Deepfake-Tool" ein Hochrisiko-KI-System nach dem EU AI Act?
Voraussichtlich nein. Die Anwendung ist als begrenztes Risiko einzustufen. Es können jedoch Transparenz- und KI-Kompetenz-Pflichten gelten.
Deepfakes müssen nach Art. 50(4) offengelegt werden. Ohne Einwilligung erzeugte intime Inhalte → Art. 5(1)(i)-Verbot (ab 2.12.2026); CSAM → Art. 5(1)(j).
Diese Abgrenzung entscheidet häufig über die Risikoklasse. Die genaue Ausgestaltung im Einzelfall ist entscheidend; ein Assessment ordnet die Faktoren strukturiert ein.
Was sind die nächsten konkreten Schritte?
Transparenz- und KI-Kompetenz-Pflichten umsetzen und die Einstufung dokumentieren, damit sie bei Audits oder Änderungen belastbar ist.
Verwandte Anwendungsfälle
Klassifiziere Deinen konkreten Fall
Der Sector-First Wizard nimmt diesen Use-Case als Vorlage und stellt nur die wirklich relevanten Rückfragen — Du bekommst Risikoklasse, Pflichten-Liste und Audit-Package in unter 5 Minuten.
Assessment starten