KI-Betrugserkennung und der EU AI Act
Wir erkennen Betrug in Finanztransaktionen mit KI
Wir erkennen Betrug in Finanztransaktionen mit KI: Diese Anwendung gilt nach derzeitiger Einschätzung als minimales Risiko. Es bestehen kaum spezifische Pflichten — die KI-Kompetenz-Pflicht nach Art. 4 gilt jedoch generell. Betroffen sind insbesondere Kundinnen und Kunden.
Zuletzt geprüft: 5. Juni 2026 · 3 Min. Lesezeit · Herausgeber: Innopulse Consulting GmbH, Zug
Warum diese Einstufung?
- ▸Das System unterstützt Entscheidungen, ohne sie automatisiert mit erheblicher Wirkung zu treffen.
- ▸Es findet Profiling im Sinne der DSGVO statt.
Rechtliche Grundlage
Artikel
Erwägungsgründe
Welche Pflichten gelten?
- KI-Kompetenz der mit dem System befassten Personen (Art. 4)
- Freiwillige Verhaltenskodizes werden empfohlen (Art. 95)
Zusätzliche Rechtsrahmen in der DACH-Region
Der EU AI Act steht nicht allein. Je nach Einsatz greifen in der Schweiz, Deutschland und Österreich weitere Vorgaben — hier die für diesen Fall relevanten:
DORA (Digital Operational Resilience Act) verlangt IKT-Risikomanagement und Drittparteien-Kontrolle — relevant, wenn das KI-System ausgelagert betrieben wird.
Die FINMA erwartet bei KI im Finanzbereich nachvollziehbare Governance, Modell-Dokumentation und klare Verantwortlichkeiten — unabhängig vom EU AI Act.
Die BaFin adressiert KI in Kredit- und Risikoprozessen über die MaRisk und ihre Prinzipien zu Big Data und KI (BDAI).
Bei automatisierten Entscheidungen über natürliche Personen greift insbesondere Art. 22 DSGVO (Recht auf menschliches Eingreifen).
Praxis-Beispiele
Hochrisiko
Dieselbe KI bewertet zusätzlich die Kreditwürdigkeit → Annex III.5(b) Hochrisiko.
Grenzfall
KI-Betrugserkennung fliesst in Bonitäts-/Zugangsentscheidungen über Personen ein — dann Einzelfallprüfung nötig.
Unkritisch
KI markiert verdächtige Kreditkartentransaktionen zur manuellen Prüfung (reine Betrugserkennung).
Pflicht-Trigger für diesen Fall
- Wirkt direkt auf natürliche Personen
- Profiling natürlicher Personen
- Entscheidungsunterstützung (Mensch im Loop)
Zusätzliche regulatorische Overlays
Neben dem AI Act greifen für diesen Fall sektorale Vorschriften, die zusätzliche Pflichten auslösen können.
Was muss konkret geklärt werden?
Ob Dein konkreter Use-Case unter Minimales Risiko fällt, hängt von folgenden Detailfragen ab:
- Reine Betrugserkennung ist nach Annex III.5(b) ausdrücklich AUSGENOMMEN. Sobald dieselbe KI auch Kreditwürdigkeit bewertet, fällt sie unter Annex III.5(b) Hochrisiko.
- Wie autonom entscheidet das System?
Häufige Fragen
Ist „KI-Betrugserkennung" ein Hochrisiko-KI-System nach dem EU AI Act?
Voraussichtlich nein. Die Anwendung ist als minimales Risiko einzustufen. Es können jedoch Transparenz- und KI-Kompetenz-Pflichten gelten.
Reine Betrugserkennung ist nach Annex III.5(b) ausdrücklich AUSGENOMMEN. Sobald dieselbe KI auch Kreditwürdigkeit bewertet, fällt sie unter Annex III.5(b) Hochrisiko.
Diese Abgrenzung entscheidet häufig über die Risikoklasse. Die genaue Ausgestaltung im Einzelfall ist entscheidend; ein Assessment ordnet die Faktoren strukturiert ein.
Gilt das auch für Unternehmen in der Schweiz?
Der EU AI Act wirkt extraterritorial (Art. 2): Erreichen die KI-Outputs Personen in der EU, gilt er auch für Schweizer Anbieter und Betreiber. Zusätzlich greifen in der Schweiz das revDSG und — im Finanzbereich — die Erwartungen der FINMA. Genau diese DACH-Doppelperspektive prüfen wir mit.
Was sind die nächsten konkreten Schritte?
Transparenz- und KI-Kompetenz-Pflichten umsetzen und die Einstufung dokumentieren, damit sie bei Audits oder Änderungen belastbar ist.
Verwandte Anwendungsfälle
Klassifiziere Deinen konkreten Fall
Der Sector-First Wizard nimmt diesen Use-Case als Vorlage und stellt nur die wirklich relevanten Rückfragen — Du bekommst Risikoklasse, Pflichten-Liste und Audit-Package in unter 5 Minuten.
Assessment starten