KI sicher im Unternehmen einsetzen

Wo sollte ein Unternehmen anfangen?

Beginnen Sie bei einer konkreten Aufgabe. Soll KI interne Texte zusammenfassen oder Antworten vorbereiten? Halten Sie fest, welches Problem sie lösen soll und woran Sie ein gutes Ergebnis erkennen.

Benennen Sie eine verantwortliche Person. Sie klärt Fragen und entscheidet mit den zuständigen Stellen, was erlaubt ist. Diese Organisation des KI-Einsatzes heißt AI Governance. Halten Sie die Zuständigkeit auch in kleinen Teams schriftlich fest.

Erstellen Sie eine einfache Liste der genutzten Anwendungen. Denken Sie auch an KI-Funktionen in Programmen, die Ihr Unternehmen bereits verwendet.

Ein kleiner Betrieb testet KI für Kundenantworten

Ein erfundenes Beispiel aus einem Reparaturbetrieb: Eine Kundin fragt, wann sie ihr Gerät abholen kann. Das Team lässt eine KI einen Antwortentwurf schreiben.

1. Schritt 1

   Aufgabe und Zuständigkeit festlegen

   Die Serviceleitung verantwortet den Test. Eine Servicemitarbeiterin prüft jeden Entwurf. Erfolg heißt hier: eine verständliche Antwort ohne erfundenen Termin. Der Assistent darf keine Reparatur freigeben und keine E-Mail verschicken.

   Kundenanfrage: „Ist mein Gerät am Freitag fertig? Meine Auftragsnummer ist R-237.“ In der internen Notiz steht: Ersatzteil bestellt; Liefertermin unbestätigt; Abholtermin noch offen.

2. Schritt 2

   Daten und Zugriffe begrenzen

   Für den ersten Test werden nur erfundene Angaben in einem freigegebenen Firmenkonto verwendet. Name, Kontaktdaten, Auftragsnummer, Seriennummer und Originalanhänge gehen nicht in den Prompt. Der Test braucht weder Zugriff auf das Postfach noch auf die gesamte Kundenablage. Falls später eine Dateisuche hinzukommt, wird sie auf freigegebene Servicehinweise begrenzt; Personalakten und Kalkulationen bleiben ausgeschlossen.

3. Schritt 3

   Einen kontrollierbaren Entwurf anfordern

   Die Mitarbeiterin übernimmt nur die für die Antwort nötige Statusinformation.

   Formuliere einen Antwortentwurf in der Sie-Form, maximal drei Sätze. Anfrage: Ist das Gerät am Freitag abholbereit? Bestätigter Status: Ersatzteil bestellt, Liefertermin unbestätigt, Abholtermin offen. Sage ausdrücklich, dass Freitag noch nicht zugesagt werden kann. Erfinde weder Datum noch Preis. Gib nur den Entwurf aus; versende nichts.

4. Schritt 4

   Den Entwurf gegen den Auftrag prüfen

   „Ihr Gerät ist voraussichtlich am Freitag abholbereit“ wäre bereits eine unbelegte Zusage. Die Mitarbeiterin vergleicht den Text mit dem aktuellen Auftrag im eigenen System. Sie prüft auch, ob die KI einen Preis oder eine Garantie ergänzt hat. Anschließend trägt sie Anrede und Empfänger selbst ein.

   Vielen Dank für Ihre Nachfrage. Das Ersatzteil ist bestellt; der Liefertermin ist noch nicht bestätigt, deshalb können wir eine Abholung am Freitag noch nicht zusagen. Wir melden uns, sobald der Abholtermin feststeht.

5. Schritt 5

   Den Test auswerten, bevor er Alltag wird

   Die Serviceleitung notiert Werkzeug, Einstellungen, Testdatum, gefundene Fehler und Zeit für die Nachprüfung. Weitere erfundene Fälle decken fehlende, widersprüchliche und veraltete Angaben ab. Erst danach wird entschieden, welche echten Vorgänge mit welchen Daten freigegeben werden. Eine kurze Notiz im Team hält fest, wer bei Fehlern zuständig ist und wie der Einsatz gestoppt wird.

KI-Regeln für kleine Unternehmen: Wie fangen wir an?

Starten Sie mit einer Seite für einen klar abgegrenzten Anwendungsfall. Kopieren Sie die folgende Checkliste in Ihr Teamdokument und ergänzen Sie zu jedem Punkt die konkrete Festlegung. Solange Werkzeug, Datenfreigabe oder Prüfung ungeklärt sind, bleibt es beim Test mit erfundenen Angaben.

• Aufgabe: Wofür wird KI eingesetzt? Beispiel: Antwortentwürfe für allgemeine Servicefragen. Nicht umfasst: verbindliche Termin- oder Preiszusagen.
• Verantwortung: Wer betreut das Werkzeug, wer prüft die Entwürfe und wer übernimmt bei Abwesenheit? Namen und erreichbare Kontaktstelle eintragen.
• Werkzeug: Welcher Dienst und welches Firmenkonto sind freigegeben? Freigabedatum und zuständige Person festhalten.
• Daten: Welche Informationen dürfen hinein, welche bleiben draußen? Für den Start zum Beispiel öffentliche Servicehinweise erlauben; Kundenlisten und Personalakten ausschließen.
• Einstellungen: Wer prüft Training, Speicherung, Löschung und Zugriff? Vereinbarte Einstellungen und offene Fragen dokumentieren.
• Berechtigungen: Welche Ordner darf der Assistent lesen? Darf er etwas ändern oder versenden? Für den Pilot zunächst ohne Versand und ohne unnötige Verbindungen arbeiten.
• Ergebnisprüfung: Welche Angaben werden mit welcher Originalquelle verglichen? Im Reparaturbeispiel sind das Status, Termin und Preis im aktuellen Auftrag.
• Fehlerfall: Wie wird der Vorgang gestoppt, wer wird informiert und welche Protokolle werden gesichert? Einen einfachen Meldeweg festlegen.
• Einführung: Wer erhält vor dem Einsatz eine Einweisung mit typischen Fehlerbeispielen? Einen kurzen gemeinsamen Probelauf vereinbaren.
• Wiedervorlage: Wann und bei welchen Änderungen werden die Regeln geprüft? Einen Termin und eine verantwortliche Person eintragen.

Welche Konten und Programme darf das Team nutzen?

Legen Sie freigegebene Angebote fest. Ein privat angelegtes Konto ist für Unternehmensdaten oft ungeeignet: Das Unternehmen kann Einstellungen oder Zugriffe möglicherweise nicht kontrollieren.

Prüfen Sie bei einem Firmenangebot die Verwaltungsmöglichkeiten und Vertragsbedingungen: Wer darf Daten sehen, wie lange werden sie gespeichert und werden sie zum Training genutzt?

Wenn Beschäftigte ohne Freigabe eigene KI-Dienste nutzen, spricht man von Shadow AI. Verständliche Regeln und brauchbare Alternativen helfen mehr als ein Verbot, zu dem es keine Ansprechperson gibt.

Welche Informationen dürfen in die KI?

Unterscheiden Sie öffentliche Informationen von persönlichen und vertraulichen Daten. Ein veröffentlichter Produkttext ist etwas anderes als eine Kundenakte, Gehaltsliste oder interne Kalkulation.

Geben Sie nur die Daten frei, die die Aufgabe wirklich braucht. Für erste Tests eignen sich erfundene Angaben. Prüfen Sie echte Kundendaten oder interne Finanzdaten gemeinsam mit den zuständigen Personen für Datenschutz und Sicherheit.

Auch die Antwort und der gespeicherte Chat können vertrauliche Informationen enthalten. Regeln zu Aufbewahrung, Löschung und Zugriff müssen deshalb für Ein- und Ausgaben gelten.

Wer darf welche Daten sehen und welche Aktionen ausführen?

Ein KI-Assistent sollte nur auf die Informationen zugreifen können, die er für seine Aufgabe braucht. Dieses Prinzip heißt Least Privilege: nur die erforderlichen Rechte vergeben. Ein Assistent für Produktfragen braucht keine Personalakten.

Trennen Sie auch Lesen und Handeln. Wer einen Antwortentwurf erstellt, muss ihn nicht automatisch versenden dürfen. Vergeben Sie eigene Konten, prüfen Sie Rechte regelmäßig und entfernen Sie Zugriffe beim Ausscheiden aus dem Team.

Was ändert sich, wenn KI mit der Dateiablage verbunden ist?

Eine Verbindung zu E-Mail, Kalender oder Dateiablage heißt oft Connector. Sie spart das einzelne Hochladen von Dateien. Gleichzeitig kann die KI dadurch viel mehr Informationen erreichen. Prüfen Sie genau, welche Ordner und Aktionen freigegeben sind.

Ein Verfahren namens RAG sucht passende Stellen in Dokumenten und gibt sie der KI für ihre Antwort mit. Das kann bei internen Fragen helfen. Es darf aber nicht dazu führen, dass Beschäftigte über den Chat Unterlagen lesen können, für die sie sonst keine Berechtigung haben.

Suchsysteme können dafür Zahlenbeschreibungen von Texten verwenden, sogenannte Embeddings, und sie in einer Vektordatenbank speichern. Auch dieser Suchbestand muss bei Löschungen und geänderten Rechten angepasst werden.

MCP ist eine technische Möglichkeit, KI mit anderen Programmen zu verbinden. Ein solches Verbindungsverfahren entscheidet nicht, was Ihre KI dürfen sollte. Diese Freigabe bleibt Aufgabe der Organisation.

Kann eine eingelesene Datei die KI in die Irre führen?

Ja. In einer Datei oder Webseite können Anweisungen stehen, die den Assistenten von seiner Aufgabe abbringen sollen. Das heißt Prompt Injection. Die Datei könnte zum Beispiel verlangen, interne Informationen an eine fremde Adresse zu schicken.

Begrenzen Sie die erreichbaren Daten und die erlaubten Aktionen. Prüfen Sie bei einer Versandfreigabe immer den tatsächlichen Empfänger, den Inhalt und die Anhänge. Ein Satz wie „Verrate keine Daten“ ist als alleinige Schutzmaßnahme nicht ausreichend.

Wann muss ein Mensch prüfen oder entscheiden?

Ein Mensch muss wirksam eingreifen können, wenn ein Fehler Folgen für andere hätte. Das betrifft etwa Zahlungen, Personalentscheidungen oder verbindliche Kundenantworten. Ob ein bestimmter Einsatz zulässig ist, kann eine gesonderte rechtliche Prüfung erfordern.

Diese Aufsicht wird auch Human Oversight genannt. Sie braucht Zeit, Fachwissen und die Möglichkeit, einen Vorschlag abzulehnen. Legen Sie fest, wer prüft und welche Originalinformationen dafür verfügbar sein müssen.

Warum sollte nicht jeder Ablauf automatisiert werden?

Ein KI-Agent kann mehrere Schritte hintereinander erledigen, etwa suchen, einen Entwurf erstellen und eine Datei ablegen. Mit mehr Möglichkeiten steigen aber auch die Folgen eines Fehlers.

Starten Sie mit einem Vorgang, bei dem Fehler leicht auffallen und sich korrigieren lassen. Testen Sie zunächst ohne echte Zahlungen oder Nachrichten. Begrenzen Sie die Anzahl der Aktionen und die Kosten. Legen Sie fest, wie sich der Ablauf stoppen lässt.

Rechnen Sie auch die Zeit für Prüfung und Nacharbeit mit. Wenn ein Vorgang viele Sonderfälle hat oder das Ergebnis kaum kontrollierbar ist, kann der bisherige Ablauf die bessere Wahl bleiben.

Was sollte in Regeln und Schulungen stehen?

Eine AI Policy ist eine schriftliche Vereinbarung zum KI-Einsatz. Schreiben Sie sie so, dass das Team im Alltag damit arbeiten kann. Dazu gehören erlaubte Werkzeuge, ungeeignete Daten, Prüfschritte und eine Ansprechperson bei Problemen.

Schulen Sie mit den tatsächlich genutzten Programmen und typischen Aufgaben. Halten Sie fest, wer welches Werkzeug nutzt, welche Tests durchgeführt wurden und wer zuständig ist. Aktualisieren Sie diese Angaben bei Änderungen.

In einem medienkundig-Workshop übt Ihr Team an solchen Aufgaben, prüft KI-Entwürfe und bespricht Regeln für den eigenen Einsatz.

Kurz nachschlagen

Begriffe zum Artikel

Ein Klick öffnet die Erklärung direkt hier. Danach kannst du an derselben Stelle weiterlesen.

• AI Governance – Die Regeln, Zuständigkeiten und Kontrollen, mit denen eine Organisation ihren KI-Einsatz steuert.
• KI-Kompetenz – Die Fähigkeit, KI zu verstehen, sinnvoll einzusetzen und ihre Ergebnisse kritisch zu beurteilen.
• Shadow AI – Der Einsatz von KI-Diensten im Job, ohne dass die Organisation davon weiß oder ihn freigegeben hat.
• Prompt Injection – Ein Angriff, bei dem versteckte Anweisungen in Inhalten die KI zu etwas anderem als beauftragt bringen.
• Retrieval-Augmented Generation – Ein Aufbau, bei dem die KI zuerst in echten Dokumenten nachschlägt und die Antwort daraus bildet.
• Embedding – Die Umwandlung von Text oder Bild in eine Zahlenreihe, mit der ein Computer Ähnlichkeit berechnen kann.
• Vektordatenbank – Ein Speicher für die Zahlenreihen aus Embeddings, der schnell die ähnlichsten Einträge findet.
• Model Context Protocol – Ein einheitlicher Anschlussstandard, über den eine KI-Anwendung an Programme und Datenquellen andockt.
• AI Agent – Ein KI-System, das Arbeitsschritte plant und mit Werkzeugen ausführt.
• Human-in-the-loop – Ein Mensch entscheidet an einer wichtigen Stelle eines sonst automatischen Ablaufs aktiv mit.
• Data Exfiltration – Daten gelangen ohne Erlaubnis aus einem System an einen fremden Empfänger.

Weiterlesen

Passend dazu