KI in funktionaler Maschinensicherheit
Unsere KI übernimmt eine funktionale Sicherheitsfunktion an einer Maschine
Unsere KI übernimmt eine funktionale Sicherheitsfunktion an einer Maschine: Diese Anwendung ist nach derzeitiger Einschätzung ein Hochrisiko-KI-System. Damit gelten die umfangreichsten Pflichten des EU AI Act — von Risikomanagement über technische Dokumentation bis zur menschlichen Aufsicht. Betroffen sind insbesondere Beschäftigte. Der einschlägige Regulierungspfad ist Annex I (annex i).
Zuletzt geprüft: 5. Juni 2026 · 3 Min. Lesezeit · Herausgeber: Innopulse Consulting GmbH, Zug
Warum diese Einstufung?
- ▸Das System trifft oder stützt automatisierte Entscheidungen mit Rechts- oder ähnlich erheblicher Wirkung.
- ▸Das System kann Sicherheitskomponente eines regulierten Produkts sein (Annex-I-Pfad, Art. 6(1)).
Rechtliche Grundlage
Artikel
Erwägungsgründe
Annex-Pfad
Annex IWelche Pflichten gelten?
- Risikomanagementsystem über den gesamten Lebenszyklus (Art. 9)
- Daten-Governance und Qualitätskriterien für Trainings-, Validierungs- und Testdaten (Art. 10)
- Technische Dokumentation nach Annex IV (Art. 11)
- Automatische Protokollierung von Ereignissen (Art. 12)
- Transparenz und Bereitstellung von Informationen für Betreiber (Art. 13)
- Menschliche Aufsicht (Art. 14)
- Genauigkeit, Robustheit und Cybersicherheit (Art. 15)
Zusätzliche Rechtsrahmen in der DACH-Region
Der EU AI Act steht nicht allein. Je nach Einsatz greifen in der Schweiz, Deutschland und Österreich weitere Vorgaben — hier die für diesen Fall relevanten:
Als Sicherheitskomponente einer Maschine greift die EU-Maschinenverordnung — Annex-I-Pfad nach Art. 6(1).
Die neue Produkthaftungsrichtlinie erfasst Software und KI ausdrücklich — fehlerhafte KI-Outputs können Haftung auslösen.
Praxis-Beispiele
Hochrisiko
KI-gestützte Kollisionsvermeidung/Not-Halt einer Maschine — Annex I Hochrisiko (Maschinenverordnung).
Unkritisch
KI optimiert nur Durchsatz/Energie ohne Schutzfunktion — kein Annex-I-Sicherheitsbauteil.
Pflicht-Trigger für diesen Fall
- Wirkt direkt auf natürliche Personen
- Automatisierte Entscheidungen
- Sicherheits-Komponente (Annex I) möglich
Zusätzliche regulatorische Overlays
Neben dem AI Act greifen für diesen Fall sektorale Vorschriften, die zusätzliche Pflichten auslösen können.
Was muss konkret geklärt werden?
Ob Dein konkreter Use-Case unter Hochrisiko fällt, hängt von folgenden Detailfragen ab:
- Ist die KI eine Sicherheitskomponente im Sinne der Maschinenverordnung (Annex I)?
- Übernimmt sie eine Schutzfunktion (Not-Halt, Kollisionsvermeidung) oder reine Prozessoptimierung?
Häufige Fragen
Ist „Funktionale Sicherheit (KI)" ein Hochrisiko-KI-System nach dem EU AI Act?
Nach derzeitiger Einschätzung ja. Der Fall fällt unter Annex I. Massgeblich sind Annex I EU AI Act und Art. 6(1) EU AI Act. Die endgültige Einstufung hängt vom konkreten Einsatz ab — ein strukturiertes Assessment klärt das verbindlich.
Ist die KI eine Sicherheitskomponente im Sinne der Maschinenverordnung (Annex I)?
Diese Abgrenzung entscheidet häufig über die Risikoklasse. Die genaue Ausgestaltung im Einzelfall ist entscheidend; ein Assessment ordnet die Faktoren strukturiert ein.
Übernimmt sie eine Schutzfunktion (Not-Halt, Kollisionsvermeidung) oder reine Prozessoptimierung?
Diese Abgrenzung entscheidet häufig über die Risikoklasse. Die genaue Ausgestaltung im Einzelfall ist entscheidend; ein Assessment ordnet die Faktoren strukturiert ein.
Was sind die nächsten konkreten Schritte?
Zuerst die Einstufung verbindlich klären, dann den Pflichtenkatalog (Art. 9–15) als Projektplan aufsetzen und die Rollenfrage Anbieter/Betreiber (Art. 25) klären. Das Assessment liefert dazu einen dokumentierten Audit-Trail.
Verwandte Anwendungsfälle
Klassifiziere Deinen konkreten Fall
Der Sector-First Wizard nimmt diesen Use-Case als Vorlage und stellt nur die wirklich relevanten Rückfragen — Du bekommst Risikoklasse, Pflichten-Liste und Audit-Package in unter 5 Minuten.
Assessment starten