EU AI Act · Art. 14
AIACT-014-OVERSIGHT
Technische Human-Oversight-Mechanismen für Hochrisiko-KI implementieren
Anforderung
Hochrisiko-KI-Systeme müssen mit wirksamen Human-Oversight-Mechanismen ausgestattet sein – technisch und organisatorisch verankert, nicht nur als Policy-Aussage.
Fundstelle
EU AI Act Art. 14
Gap-Check
Sind für alle Hochrisiko-KI-Systeme technische Mechanismen zur menschlichen Aufsicht implementiert – mit der Möglichkeit, das System jederzeit zu stoppen oder zu übersteuern?
Wenn ja
Oversight-Mechanismus in Betriebsdokumentation und Schulungen verankern.
Teilweise
Organisatorisch geregelt, aber nicht technisch implementiert. Nachrüsten.
Wenn nein
Human Oversight fehlt – für Hochrisiko-KI direkte Art. 14-Pflichtverletzung.
Maßnahme
- Kill-Switch und manuelle Übersteuerungsmöglichkeit je Hochrisiko-System implementieren
- Verantwortliche Personen für menschliche Aufsicht je System benennen
- Schulung der Oversight-Verantwortlichen zu Funktionsweise und Grenzen des KI-Systems
- Oversight-Protokoll für alle relevanten KI-Entscheidungen einführen
Aufwand
mittel
Schätzung
4 bis 8 Personentage (Kill-Switch + Oversight-Verantwortliche benennen)
Zeithorizont
mittelfristig
Hilfsmittel
Kill-Switch-Implementierung, Oversight-Protokoll, Schulungsunterlagen
Vertiefung
EU AI Act in der Praxis, Kap. 4.5 – Human Oversight als Systemdesign
Risiko
Fehlende menschliche Kontrolle bei Hochrisiko-KI kann zu unkontrollierbaren Fehlentscheidungen führen.
Eintritt
3 von 5
Auswirkung
5 von 5
Bußgeldrahmen
35.000.000 EUR oder 7% Jahresumsatz
EU AI Act Art. 99 – für verbotene Systeme; 15 Mio./3% für Hochrisiko
Control und Nachweis
Control
Technischer Kill-Switch + benannte Oversight-Verantwortliche + Protokollierungspflicht
Art
technisch
Dringlichkeit
hoch
Nachweis
Oversight-Dokumentation + Benennungsnachweis + Testprotokoll
Vorlage
EU AI Act Human-Oversight-Konzept
Verknüpfungen
Querverweise
NIS-2 Art. 21 §2i, DORA Art. 9, ISO 27001 A.9.4.1
ISO 27001:2022
A.9.4.1, A.6.1.1, A.14.2.1 (teilweise)
Diesen Bezeichner zitieren
Stabilitätszusage
BAM-IDs sind stabil und werden nicht wiederverwendet. Regulierungskürzel, Nummer und Slug sind Lesehilfen, keine Aussage über den aktuellen Inhalt. Die vollständigen Zusagen stehen in docs/IDENTIFIERS.md.
Maschinenlesbar: index.json