Proctoring-KI: III.3(d) und Art. 5(1)(f)
Wir nutzen KI zur Überwachung von Online-Prüfungen (Proctoring)
Wir nutzen KI zur Überwachung von Online-Prüfungen (Proctoring): Diese Anwendung ist nach derzeitiger Einschätzung ein Hochrisiko-KI-System. Damit gelten die umfangreichsten Pflichten des EU AI Act — von Risikomanagement über technische Dokumentation bis zur menschlichen Aufsicht. Betroffen sind insbesondere Lernende und Studierende und Kinder und Minderjährige. Der einschlägige Regulierungspfad ist III.3(d) (annex iii 3 education).
Zuletzt geprüft: 5. Juni 2026 · 3 Min. Lesezeit · Herausgeber: Innopulse Consulting GmbH, Zug
Warum diese Einstufung?
- ▸Das System unterstützt Entscheidungen über Personen — auch beratende Systeme können in den Hochrisiko-Bereich fallen.
- ▸Es findet Profiling im Sinne der DSGVO statt.
- ▸Es können besonders schutzbedürftige Gruppen betroffen sein — ein erschwerender Faktor.
- ▸Es werden biometrische Daten verarbeitet (Annex III Nr. 1 bzw. Art. 5 relevant).
- ▸Es kommt Emotionserkennung zum Einsatz — am Arbeitsplatz und in Bildungseinrichtungen nach Art. 5(1)(f) grundsätzlich verboten, mit eng auszulegender Ausnahme für medizinische oder Sicherheitszwecke.
- ▸Beim Einsatz als Hochrisiko-System durch eine öffentliche Stelle kommt eine FRIA-Pflicht nach Art. 27 hinzu.
Rechtliche Grundlage
Artikel
Erwägungsgründe
Annex-Pfad
III.3(d)Welche Pflichten gelten?
- Risikomanagementsystem über den gesamten Lebenszyklus (Art. 9)
- Daten-Governance und Qualitätskriterien für Trainings-, Validierungs- und Testdaten (Art. 10)
- Technische Dokumentation nach Annex IV (Art. 11)
- Automatische Protokollierung von Ereignissen (Art. 12)
- Transparenz und Bereitstellung von Informationen für Betreiber (Art. 13)
- Menschliche Aufsicht (Art. 14)
- Genauigkeit, Robustheit und Cybersicherheit (Art. 15)
- Grundrechte-Folgenabschätzung (FRIA) nach Art. 27 — bei öffentlichen Stellen sowie Banken, Versicherern und Anbietern essenzieller Dienste
Zusätzliche Rechtsrahmen in der DACH-Region
Der EU AI Act steht nicht allein. Je nach Einsatz greifen in der Schweiz, Deutschland und Österreich weitere Vorgaben — hier die für diesen Fall relevanten:
Bei automatisierten Entscheidungen über natürliche Personen greift insbesondere Art. 22 DSGVO (Recht auf menschliches Eingreifen).
Das revidierte Schweizer Datenschutzgesetz verlangt bei automatisierten Einzelentscheidungen Information und die Möglichkeit, den eigenen Standpunkt darzulegen (Art. 21 revDSG).
Im Bildungsbereich greifen zusätzlich kantonale bzw. nationale bildungsrechtliche Vorgaben.
Praxis-Beispiele
Verboten
Proctoring-Anbieter erkennt "verdächtiges Stress-Verhalten" via Emotion-AI — Art. 5(1)(f) VERBOTEN.
Hochrisiko
Hochschule deployt Webcam-Proctoring mit Tab-Switch-Detection — III.3(d) + FRIA.
Grenzfall
Exam-Proctoring-KI stellt unbenotete Übungstests ohne Einfluss auf Zugang/Bewertung bereit — typischerweise limited.
Unkritisch
Reine Lern-Hilfe ohne Benotung oder Zugangswirkung (z.B. Übungsfeedback) — fällt nicht unter Annex III.3.
Pflicht-Trigger für diesen Fall
- Wirkt direkt auf natürliche Personen
- Profiling natürlicher Personen
- Entscheidungsunterstützung (Mensch im Loop)
- Verarbeitet biometrische Daten
- Erkennt Emotionen
- Öffentlicher Sektor / Verwaltung
- Verletzliche Gruppen betroffen möglich
Zusätzliche regulatorische Overlays
Neben dem AI Act greifen für diesen Fall sektorale Vorschriften, die zusätzliche Pflichten auslösen können.
Was muss konkret geklärt werden?
Ob Dein konkreter Use-Case unter Hochrisiko fällt, hängt von folgenden Detailfragen ab:
- KRITISCH: Erkennt das System Emotionen (Stress, Angst, Konzentration)? → Art. 5(1)(f) ABSOLUTES VERBOT in Bildungs-Kontext.
- Reines Behavior-Tracking ohne Emotion-Inference → III.3(d) Hochrisiko (nicht prohibited).
- Anbieter behaupten oft "kein Emotion-Tracking" — kritisch prüfen, was das Modell tatsächlich extrahiert.
- In welchem Kontext erfolgt die Emotionserkennung?
- Schliesst die biometrische Kategorisierung auf sensible Attribute (Rasse, ethnische Herkunft, politische Meinung, Religion, Sexualleben, Gewerkschaft)?
Häufige Fragen
Ist „Exam-Proctoring-KI" ein Hochrisiko-KI-System nach dem EU AI Act?
Nach derzeitiger Einschätzung ja. Der Fall fällt unter III.3(d). Massgeblich sind Annex III.3(d) EU AI Act, Art. 5(1)(f) EU AI Act, Art. 27(1)(b) EU AI Act und DSGVO Art. 9. Die endgültige Einstufung hängt vom konkreten Einsatz ab — ein strukturiertes Assessment klärt das verbindlich.
KRITISCH: Erkennt das System Emotionen (Stress, Angst, Konzentration)? → Art. 5(1)(f) ABSOLUTES VERBOT in Bildungs-Kontext.
Diese Abgrenzung entscheidet häufig über die Risikoklasse. Die genaue Ausgestaltung im Einzelfall ist entscheidend; ein Assessment ordnet die Faktoren strukturiert ein.
Reines Behavior-Tracking ohne Emotion-Inference → III.3(d) Hochrisiko (nicht prohibited).
Diese Abgrenzung entscheidet häufig über die Risikoklasse. Die genaue Ausgestaltung im Einzelfall ist entscheidend; ein Assessment ordnet die Faktoren strukturiert ein.
Anbieter behaupten oft "kein Emotion-Tracking" — kritisch prüfen, was das Modell tatsächlich extrahiert.
Diese Abgrenzung entscheidet häufig über die Risikoklasse. Die genaue Ausgestaltung im Einzelfall ist entscheidend; ein Assessment ordnet die Faktoren strukturiert ein.
Gilt das auch für Unternehmen in der Schweiz?
Der EU AI Act wirkt extraterritorial (Art. 2): Erreichen die KI-Outputs Personen in der EU, gilt er auch für Schweizer Anbieter und Betreiber. Zusätzlich greifen in der Schweiz das revDSG und — im Finanzbereich — die Erwartungen der FINMA. Genau diese DACH-Doppelperspektive prüfen wir mit.
Was sind die nächsten konkreten Schritte?
Zuerst die Einstufung verbindlich klären, dann den Pflichtenkatalog (Art. 9–15) als Projektplan aufsetzen und die Rollenfrage Anbieter/Betreiber (Art. 25) klären. Das Assessment liefert dazu einen dokumentierten Audit-Trail.
Verwandte Anwendungsfälle
Klassifiziere Deinen konkreten Fall
Der Sector-First Wizard nimmt diesen Use-Case als Vorlage und stellt nur die wirklich relevanten Rückfragen — Du bekommst Risikoklasse, Pflichten-Liste und Audit-Package in unter 5 Minuten.
Assessment starten