AI Agent
Ein KI-System, das Arbeitsschritte plant und mit Werkzeugen ausführt.
Einfach erklärt
Ein KI-Agent kann mit freigegebenen Werkzeugen Handlungen ausführen: Er zerlegt einen Auftrag in Schritte, durchsucht Quellen, ruft Programme auf, schreibt in Dateien oder verschickt Nachrichten. „Bereite die Rechnungen für diesen Monat vor" kann so eine ganze Kette von Aktionen auslösen.
Nutzen und Risiko wachsen mit den Rechten, die der Agent hat. Auch reiner Lesezugriff kann vertrauliche Informationen zugänglich machen. Einer, der eigenständig E-Mails senden oder Bestellungen auslösen darf, braucht enge Aufgaben, ein Kostenlimit und eine menschliche Freigabe vor folgenreichen Schritten.
Beispiel aus dem Alltag
Ein Agent sammelt Produktdaten aus freigegebenen Quellen und legt einen fertigen Entwurf ab. Abgeschickt wird er erst, nachdem ein Mensch ihn geprüft hat.
Häufige Fragen
Wo liegt das größte Risiko bei Agenten?
Mit Datenzugriff und erlaubten Aktionen können die Folgen eines Fehlers zunehmen. Auch Lesen kann vertrauliche Informationen offenlegen. Begrenze deshalb beides und prüfe folgenreiche Aktionen vor ihrer Ausführung.
Kann ein Agent von außen manipuliert werden?
Ja. Über Inhalte, die er verarbeitet, kann eine versteckte Anweisung eingeschleust werden. Bei Werkzeugzugriff wird daraus schnell eine echte Aktion. Das nennt man Prompt Injection.