Predictive Policing: Art. 5(1)(d) EU AI Act
Wir nutzen KI zur Vorhersage von Kriminalitäts-Hotspots / Streifen-Routen
Wir nutzen KI zur Vorhersage von Kriminalitäts-Hotspots / Streifen-Routen: Diese Anwendung fällt in den Bereich der nach Art. 5 EU AI Act verbotenen Praktiken. Das bedeutet: Sie darf in der EU grundsätzlich nicht betrieben werden — unabhängig von Schutzmassnahmen. Betroffen sind insbesondere die breite Öffentlichkeit und Beschuldigte und Verdächtige.
Zuletzt geprüft: 5. Juni 2026 · 3 Min. Lesezeit · Herausgeber: Innopulse Consulting GmbH, Zug
Warum diese Einstufung?
- ▸Das System unterstützt Entscheidungen über Personen — auch beratende Systeme können in den Hochrisiko-Bereich fallen.
- ▸Es findet Profiling im Sinne der DSGVO statt.
- ▸Es können besonders schutzbedürftige Gruppen betroffen sein — ein erschwerender Faktor.
- ▸Beim Einsatz als Hochrisiko-System durch eine öffentliche Stelle kommt eine FRIA-Pflicht nach Art. 27 hinzu.
Rechtliche Grundlage
Artikel
Erwägungsgründe
Rechtsfolge
- Kein zulässiger Betrieb in der EU. Bestehende Systeme müssen abgeschaltet oder so umgestaltet werden, dass der verbotene Zweck entfällt.
Zusätzliche Rechtsrahmen in der DACH-Region
Der EU AI Act steht nicht allein. Je nach Einsatz greifen in der Schweiz, Deutschland und Österreich weitere Vorgaben — hier die für diesen Fall relevanten:
Bei automatisierten Entscheidungen über natürliche Personen greift insbesondere Art. 22 DSGVO (Recht auf menschliches Eingreifen).
Das revidierte Schweizer Datenschutzgesetz verlangt bei automatisierten Einzelentscheidungen Information und die Möglichkeit, den eigenen Standpunkt darzulegen (Art. 21 revDSG).
Praxis-Beispiele
Verboten
KI bewertet Risiko einzelner Personen ausschließlich aus Profiling — Art. 5(1)(d) verboten.
Hochrisiko
KI erstellt aggregierte Hotspot-Karte ohne Personen-Bezug — Annex III.6(d).
Grenzfall
Wird die verbotskonstituierende Eigenschaft entfernt (z.B. keine Manipulation/kein Social Scoring), kann das System in eine zulässige Hochrisiko- oder Limited-Kategorie fallen — Einzelfallprüfung.
Pflicht-Trigger für diesen Fall
- Wirkt direkt auf natürliche Personen
- Profiling natürlicher Personen
- Entscheidungsunterstützung (Mensch im Loop)
- Öffentlicher Sektor / Verwaltung
- Verletzliche Gruppen betroffen möglich
Zusätzliche regulatorische Overlays
Neben dem AI Act greifen für diesen Fall sektorale Vorschriften, die zusätzliche Pflichten auslösen können.
Was muss konkret geklärt werden?
Ob Dein konkreter Use-Case unter Verboten (Art. 5) fällt, hängt von folgenden Detailfragen ab:
- Reine Hotspot-Karte aus historischen Daten OHNE Individual-Profiling → Annex III.6(d) Hochrisiko, KEIN Verbot.
- Sobald Individual-Profiling triggert → Art. 5(1)(d) absolute Prohibition.
- PredPol-Klage USA und NL-SyRI sind warnende Präzedenzen.
- Basiert die Risiko-Bewertung von Personen ausschliesslich auf Profiling — OHNE objektive, verifizierbare Tatsachen mit direktem Bezug zu strafbaren Handlungen?
Häufige Fragen
Ist „Predictive Policing Geo" ein Hochrisiko-KI-System nach dem EU AI Act?
Diese Anwendung geht über Hochrisiko hinaus: Sie zählt zu den nach Art. 5 verbotenen Praktiken und ist in der EU unzulässig.
Reine Hotspot-Karte aus historischen Daten OHNE Individual-Profiling → Annex III.6(d) Hochrisiko, KEIN Verbot.
Diese Abgrenzung entscheidet häufig über die Risikoklasse. Die genaue Ausgestaltung im Einzelfall ist entscheidend; ein Assessment ordnet die Faktoren strukturiert ein.
Sobald Individual-Profiling triggert → Art. 5(1)(d) absolute Prohibition.
Diese Abgrenzung entscheidet häufig über die Risikoklasse. Die genaue Ausgestaltung im Einzelfall ist entscheidend; ein Assessment ordnet die Faktoren strukturiert ein.
PredPol-Klage USA und NL-SyRI sind warnende Präzedenzen.
Diese Abgrenzung entscheidet häufig über die Risikoklasse. Die genaue Ausgestaltung im Einzelfall ist entscheidend; ein Assessment ordnet die Faktoren strukturiert ein.
Gilt das auch für Unternehmen in der Schweiz?
Der EU AI Act wirkt extraterritorial (Art. 2): Erreichen die KI-Outputs Personen in der EU, gilt er auch für Schweizer Anbieter und Betreiber. Zusätzlich greifen in der Schweiz das revDSG und — im Finanzbereich — die Erwartungen der FINMA. Genau diese DACH-Doppelperspektive prüfen wir mit.
Was sind die nächsten konkreten Schritte?
Zuerst die Einstufung verbindlich klären, dann den Pflichtenkatalog (Art. 9–15) als Projektplan aufsetzen und die Rollenfrage Anbieter/Betreiber (Art. 25) klären. Das Assessment liefert dazu einen dokumentierten Audit-Trail.
Verwandte Anwendungsfälle
Klassifiziere Deinen konkreten Fall
Der Sector-First Wizard nimmt diesen Use-Case als Vorlage und stellt nur die wirklich relevanten Rückfragen — Du bekommst Risikoklasse, Pflichten-Liste und Audit-Package in unter 5 Minuten.
Assessment starten