Synthetische Inhalte und der EU AI Act
Wir erstellen und veröffentlichen KI-generierte Inhalte
Wir erstellen und veröffentlichen KI-generierte Inhalte: Diese Anwendung fällt voraussichtlich unter die Kategorie mit begrenztem Risiko. Im Vordergrund stehen Transparenzpflichten nach Art. 50 EU AI Act. Betroffen sind insbesondere die breite Öffentlichkeit.
Zuletzt geprüft: 5. Juni 2026 · 3 Min. Lesezeit · Herausgeber: Innopulse Consulting GmbH, Zug
Warum diese Einstufung?
- ▸Das System baut auf einem GPAI-Modell auf; Kapitel-V-Pflichten der Modell-Anbieter wirken mittelbar.
- ▸Es werden synthetische Inhalte erzeugt — Kennzeichnungspflicht nach Art. 50(2).
Rechtliche Grundlage
Artikel
Erwägungsgründe
Welche Pflichten gelten?
- Transparenzhinweis, dass Nutzer mit einem KI-System interagieren (Art. 50(1))
- Kennzeichnung synthetischer Inhalte, sofern erzeugt (Art. 50(2))
- KI-Kompetenz der mit dem System befassten Personen (Art. 4)
Zusätzliche Rechtsrahmen in der DACH-Region
Der EU AI Act steht nicht allein. Je nach Einsatz greifen in der Schweiz, Deutschland und Österreich weitere Vorgaben — hier die für diesen Fall relevanten:
Bei Plattform-Kontext können Digital Services Act und Digital Markets Act zusätzlich greifen.
Praxis-Beispiele
Verboten
Nicht-einvernehmliche intime Deepfakes einer realen Person → Art. 5(1)(i) (ab 2.12.2026).
Grenzfall
Synthetische Inhalte veröffentlicht KI-generierte Inhalte — Kennzeichnungspflicht nach Art. 50(2).
Unkritisch
KI-generierte Blogbilder mit Wasserzeichen und "KI-generiert"-Hinweis.
Pflicht-Trigger für diesen Fall
- Wirkt direkt auf natürliche Personen
- Nutzt General-Purpose AI (GPAI)
- Generiert synthetische Inhalte
Zusätzliche regulatorische Overlays
Neben dem AI Act greifen für diesen Fall sektorale Vorschriften, die zusätzliche Pflichten auslösen können.
Was muss konkret geklärt werden?
Ob Dein konkreter Use-Case unter Begrenztes Risiko fällt, hängt von folgenden Detailfragen ab:
- Markierungspflicht nach Art. 50(2). Deepfakes realer Personen → Art. 50(4); ohne Einwilligung intime Inhalte → neues Art. 5(1)(i)-Verbot (Digital Omnibus, ab 2.12.2026).
- Sieht der Endnutzer den KI-Output direkt?
Häufige Fragen
Ist „Synthetische Inhalte" ein Hochrisiko-KI-System nach dem EU AI Act?
Voraussichtlich nein. Die Anwendung ist als begrenztes Risiko einzustufen. Es können jedoch Transparenz- und KI-Kompetenz-Pflichten gelten.
Markierungspflicht nach Art. 50(2). Deepfakes realer Personen → Art. 50(4); ohne Einwilligung intime Inhalte → neues Art. 5(1)(i)-Verbot (Digital Omnibus, ab 2.12.2026).
Diese Abgrenzung entscheidet häufig über die Risikoklasse. Die genaue Ausgestaltung im Einzelfall ist entscheidend; ein Assessment ordnet die Faktoren strukturiert ein.
Was sind die nächsten konkreten Schritte?
Transparenz- und KI-Kompetenz-Pflichten umsetzen und die Einstufung dokumentieren, damit sie bei Audits oder Änderungen belastbar ist.
Verwandte Anwendungsfälle
Klassifiziere Deinen konkreten Fall
Der Sector-First Wizard nimmt diesen Use-Case als Vorlage und stellt nur die wirklich relevanten Rückfragen — Du bekommst Risikoklasse, Pflichten-Liste und Audit-Package in unter 5 Minuten.
Assessment starten