KI & ML · 15. Juni
Air Canadas Chatbot verlor vor Gericht. Das Modell war in Ordnung. Die Governance nicht.
Fünf reale KI-Fehlschläge zeigen, dass wenn Einsätze schiefgehen, der Schuldige fast nie das Modell selbst ist.
- KI-Produktionsfehler sind fast immer Governance-Fehler: Fehlende Überprüfungsebenen, unklare Zuständigkeiten und keine menschliche Aufsicht im Prozess lassen normale Modellfehler zu rechtlichen und finanziellen Schäden eskalieren.
- Bevor eine kundenseitige KI eingesetzt wird, sollte explizit definiert werden, wozu das System Zusagen machen darf, wer hochriskante Ausgaben prüft und was passiert, wenn das Modell falsch liegt.
- Die KI-Forschung von Unternehmen konzentriert sich zunehmend auf die Arbeit vor der Bereitstellung, während Risiken in der Bereitstellungsphase wie Halluzinationen und Voreingenommenheit kaum untersucht werden – Praktiker können daher nicht darauf warten, dass die Wissenschaft dieses Problem für sie löst.