Data Exfiltration
Daten gelangen ohne Erlaubnis aus einem System an einen fremden Empfänger.
Einfach erklärt
Datenabfluss meint, dass Informationen ein System verlassen, ohne dass es jemand erlaubt hat. Bei KI-Anwendungen entsteht die Gefahr aus einer Kombination: Die KI darf viel lesen und kann gleichzeitig etwas nach außen geben – eine Mail senden, eine Datei hochladen, eine Webadresse aufrufen. Zusammen ergibt das einen Kanal nach draußen.
Die Gegenmaßnahme ist, diese beiden Fähigkeiten zu trennen. Ein System, das interne Dokumente lesen soll, braucht keine Erlaubnis, an beliebige externe Adressen zu senden. Dazu kommen eine kurze Liste erlaubter Ziele und ein klarer Meldeweg für den Verdachtsfall.
Beispiel aus dem Alltag
Ein über manipulierte Inhalte gesteuerter Assistent hängt den Inhalt einer internen Datei an eine Anfrage an einen fremden Server.
Häufige Fragen
Worin unterscheidet sich das von einem klassischen Hack?
Oft gibt es keinen Einbruch. Die Wege sind erlaubt, nur zu weit gefasst. Eine manipulierte Anweisung nutzt vorhandene Rechte, statt eine Lücke auszunutzen.