Richtlinie Einsatz Künstlicher Intelligenz (Hochrisiko)

1. Klassifizierung

Diese Richtlinie ergänzt die Minimales-Risiko-Richtlinie und gilt für KI-Systeme der Hochrisikoklasse gemäß EU AI Act, etwa Kreditscoring oder Bewerber-Tools.

2. Pflichten vor Inbetriebnahme

1. Risikomanagementsystem für die KI
2. Datenqualitäts- und Repräsentativitätsanalysen
3. Technische Dokumentation
4. Konformitätsbewertung

3. Erklärbarkeit

Hochrisiko-KI muss erklärbar sein. Eingesetzt werden Verfahren wie SHAP, LIME oder Counterfactual Explanations. Kunden haben Anspruch auf nachvollziehbare Begründungen.

4. Menschliche Aufsicht

Entscheidungen mit erheblichen Auswirkungen werden durch Menschen kontrolliert (Human-in-the-Loop). Voll-automatisierte Ablehnungen sind ausgeschlossen.

5. Monitoring

Modelle werden auf Drift, Bias und Performance überwacht. Auffälligkeiten führen zur Modell-Revision.