Code-Generation: EU AI Act und Risiken in der Praxis
Unsere Entwickler nutzen Code-Generation-Assistenten
Unsere Entwickler nutzen Code-Generation-Assistenten: Diese Anwendung fällt voraussichtlich unter die Kategorie mit begrenztem Risiko. Im Vordergrund stehen Transparenzpflichten nach Art. 50 EU AI Act. Betroffen sind insbesondere Beschäftigte.
Zuletzt geprüft: 5. Juni 2026 · 3 Min. Lesezeit · Herausgeber: Innopulse Consulting GmbH, Zug
Warum diese Einstufung?
- ▸Das System unterstützt Entscheidungen, ohne sie automatisiert mit erheblicher Wirkung zu treffen.
- ▸Das System baut auf einem GPAI-Modell auf; Kapitel-V-Pflichten der Modell-Anbieter wirken mittelbar.
- ▸Es werden synthetische Inhalte erzeugt — Kennzeichnungspflicht nach Art. 50(2).
Rechtliche Grundlage
Artikel
Erwägungsgründe
Welche Pflichten gelten?
- Transparenzhinweis, dass Nutzer mit einem KI-System interagieren (Art. 50(1))
- Kennzeichnung synthetischer Inhalte, sofern erzeugt (Art. 50(2))
- KI-Kompetenz der mit dem System befassten Personen (Art. 4)
Zusätzliche Rechtsrahmen in der DACH-Region
Der EU AI Act steht nicht allein. Je nach Einsatz greifen in der Schweiz, Deutschland und Österreich weitere Vorgaben — hier die für diesen Fall relevanten:
Bei automatisierten Entscheidungen über natürliche Personen greift insbesondere Art. 22 DSGVO (Recht auf menschliches Eingreifen).
Praxis-Beispiele
Hochrisiko
Code-Generation wird für Entscheidungen über Personen eingesetzt (HR, Kredit) — Höherstufung nach Annex III möglich.
Grenzfall
Code-Generation interagiert kundenwirksam oder erzeugt publizierte Inhalte — Art. 50 Transparenz-/Kennzeichnungspflicht, limited.
Unkritisch
Copilot Enterprise mit IP-Schutz für interne Entwickler — minimal.
Pflicht-Trigger für diesen Fall
- Entscheidungsunterstützung (Mensch im Loop)
- Nutzt General-Purpose AI (GPAI)
- Generiert synthetische Inhalte
Zusätzliche regulatorische Overlays
Neben dem AI Act greifen für diesen Fall sektorale Vorschriften, die zusätzliche Pflichten auslösen können.
Was muss konkret geklärt werden?
Ob Dein konkreter Use-Case unter Begrenztes Risiko fällt, hängt von folgenden Detailfragen ab:
- Code-Generation für sicherheitskritische Systeme — höhere Sorgfaltspflicht.
- Wie nutzt Ihr das GPAI-Modell?
Häufige Fragen
Ist „Code-Generation" ein Hochrisiko-KI-System nach dem EU AI Act?
Voraussichtlich nein. Die Anwendung ist als begrenztes Risiko einzustufen. Es können jedoch Transparenz- und KI-Kompetenz-Pflichten gelten.
Code-Generation für sicherheitskritische Systeme — höhere Sorgfaltspflicht.
Diese Abgrenzung entscheidet häufig über die Risikoklasse. Die genaue Ausgestaltung im Einzelfall ist entscheidend; ein Assessment ordnet die Faktoren strukturiert ein.
Was sind die nächsten konkreten Schritte?
Transparenz- und KI-Kompetenz-Pflichten umsetzen und die Einstufung dokumentieren, damit sie bei Audits oder Änderungen belastbar ist.
Verwandte Anwendungsfälle
Klassifiziere Deinen konkreten Fall
Der Sector-First Wizard nimmt diesen Use-Case als Vorlage und stellt nur die wirklich relevanten Rückfragen — Du bekommst Risikoklasse, Pflichten-Liste und Audit-Package in unter 5 Minuten.
Assessment starten