KI-Risiko
Möglicher Schaden durch KI-Einsatz – für Daten, Personen, Rechtslage oder den Ruf der Organisation.
Einfach erklärt
Welche Schäden könnte der geplante KI-Einsatz verursachen? Bei einem Kundenchatbot wäre das etwa eine falsche Preisauskunft, bei einer Dokumentensuche die Weitergabe vertraulicher Unterlagen.
Notiere für jede Aufgabe mögliche Fehler, ihre Folgen und die vorgesehenen Gegenmaßnahmen. Prüfe vor der Freigabe, wer eingreift, wenn eine dieser Situationen eintritt.
Beispiel aus dem Alltag
Vor dem Start eines Kundenchatbots schreibt ein Team auf, was im schlimmsten Fall passieren kann – etwa eine falsche Preisauskunft – und wie es vorbeugt.
Häufige Fragen
Wie ordnen prominente Fachleute die großen Risiken ein?
2023 unterzeichneten führende KI-Forscher und Unternehmenschefs eine gemeinsame Erklärung des Center for AI Safety: „Das Risiko einer Auslöschung durch KI zu mindern, sollte neben anderen Risiken von gesellschaftlichem Ausmaß wie Pandemien und Atomkrieg eine globale Priorität sein." Wie groß dieses Risiko ist, bleibt umstritten.