KI-Risiko
Möglicher Schaden durch KI-Einsatz – für Daten, Personen, Rechtslage oder den Ruf der Organisation.
Einfach erklärt
Ein KI-Risiko ist die Möglichkeit, dass der Einsatz eines KI-Systems Schaden verursacht. Welche Risiken relevant sind, hängt von Aufgabe, Daten, beteiligten Menschen und möglichen Folgen eines Fehlers ab. Eine falsche Formulierung in einem privaten Entwurf hat andere Folgen als eine falsche Information in einer verbindlichen Kundenberatung.
Prüfe deshalb konkrete Situationen: Könnte eine Antwort falsch sein, vertrauliche Daten offenlegen oder jemanden benachteiligen? Wer bemerkt den Fehler, und kann er rechtzeitig korrigiert werden? Auch ein seltenes Problem kann wichtig sein, wenn sein möglicher Schaden groß ist.
Lege vor dem Einsatz Grenzen, Prüfungen und eine zuständige Person fest. Eine menschliche Freigabe hilft nur, wenn die Person genug Zeit, Wissen und Zugriff auf die Originalinformationen hat. Überprüfe die Schutzmaßnahmen im Betrieb erneut, besonders nach Änderungen an Modell, Daten oder Aufgabe.
Beispiel aus dem Alltag
Gedachtes Beispiel: Ein Verein lässt eine Veranstaltungsankündigung entwerfen. Eine Person prüft Termin, Ort und Preis anhand der Planung, bevor der Text veröffentlicht wird.
Häufige Fragen
Reicht der Hinweis, KI könne Fehler machen?
Nein. Für die konkrete Aufgabe braucht es passende Prüfungen und eine klare Verantwortung.
Ist dasselbe Modell überall gleich riskant?
Nein. Datenzugriffe, Einsatzzweck und Folgen der Ausgabe verändern das Risiko erheblich.