Solange KI nur Texte vorschlägt, ist das Schlimmste ein unbrauchbarer Entwurf. Sobald sie handelt – Datensätze ändert, Mails verschickt, Bestellungen auslöst –, ändert sich die Risikolage grundlegend. Genau an dieser Stelle steht der Mittelstand gerade.
Auf dem KI.Forum.NRW war das die Kernbotschaft: Agenten bekommen umfangreiche Lese- und Schreibrechte und erzeugen selbstständig Ergebnisse. Ohne klare Verantwortlichkeiten entstehen daraus Compliance-Risiken. Dr. Christian Temath von KI.NRW hat die menschliche Kontrolle ausdrücklich zur Managementaufgabe erklärt – mit dem Hinweis, dass kleinere Unternehmen weniger Fehlertoleranz haben als Konzerne.
Dieser Beitrag ist der Versuch, daraus etwas Anwendbares zu machen.
Die wichtigste Unterscheidung: lesen oder schreiben
Fast alles lässt sich an dieser einen Linie entscheiden.
Lesender Zugriff ist ein Berechtigungsthema. Der Agent darf sehen, was die anfragende Person ohnehin sehen dürfte. Das ist handhabbar und der richtige Start für fast jeden Anwendungsfall.
Schreibender Zugriff ist eine Grundsatzentscheidung. Hier gilt: Jede schreibende Funktion braucht eine benannte verantwortliche Person, eine Freigabe und eine Protokollierung, die später nachvollziehbar macht, wer was warum ausgelöst hat.
Eine Stufenlogik, die sich bewährt hat
| Stufe | Was der Agent darf | Wann sinnvoll |
|---|---|---|
| 1 – Auskunft | lesen, zusammenfassen, beantworten | immer der Start |
| 2 – Entwurf | Vorschläge erzeugen (Angebot, Buchung, Antwort) | sobald Stufe 1 stabil läuft |
| 3 – Freigabe | Vorgang anlegen nach Bestätigung durch einen Menschen | wenn Qualität über Wochen belegt ist |
| 4 – Automatik mit Grenzen | eigenständig handeln innerhalb enger Schwellen (Betrag, Kundengruppe, Vorgangsart) | nur bei bewiesener Trefferquote und mit Rückabwicklung |
Der Fehler, den wir am häufigsten sehen: Unternehmen springen von Stufe 1 auf Stufe 4, weil es technisch geht.
Was in die Leitplanken gehört
1. Abgrenzung der Umgebung. Die Vorfälle der letzten Wochen sind lehrreich: Bei einem Sicherheitstest landete ein Modell wegen einer fehlerhaft konfigurierten Umgebung bei drei echten Unternehmen. Die Frage lautet also nicht nur „Was darf der Agent?", sondern „Was kann er von hier aus überhaupt erreichen?"
2. Werkzeuge einzeln freigeben. Kein pauschaler Systemzugriff, sondern eine Liste erlaubter Funktionen pro Anwendungsfall.
3. Schwellen und Stopps. Ab welchem Betrag, welcher Menge, welcher Abweichung hält der Ablauf an und fragt nach? Diese Zahlen gehören dokumentiert, nicht ins Bauchgefühl.
4. Protokoll mit Zweckbindung. Alles, was der Agent tut, wird protokolliert – und diese Protokolle werden nicht zur Leistungskontrolle von Beschäftigten verwendet. Das gehört in die Betriebsvereinbarung. → Betriebsrat und KI
5. Rückabwicklung. Für jede automatische Handlung muss klar sein, wie sie rückgängig gemacht wird. Wenn das niemand beantworten kann, ist der Anwendungsfall nicht reif für Stufe 3.
6. Update-Disziplin. Agenten sind Software mit Systemzugriff. Die Lücke Plugin4Shell, über die Coding-Agenten Schadcode nachladen konnten, betraf mehrere große Anbieter gleichzeitig. Wer Agenten betreibt, braucht dafür denselben Patch-Prozess wie für Server.
Die organisatorische Seite
Technik allein reicht nicht. Drei Rollen sollten benannt sein, auch wenn sie in kleinen Betrieben in einer Person zusammenfallen:
- Fachverantwortung – beurteilt, ob die Ergebnisse stimmen
- Systemverantwortung – kennt Rechte, Anbindungen, Protokolle
- Compliance-Blick – Datenschutz, AI Act, Betriebsvereinbarung
Ein praktischer Tipp aus einem aktuellen Fachbeitrag zu Compliance-Prozessen: Richtet einen Eingangskanal für neue Software und KI-Anwendungen ein. In vielen Organisationen prüfen Datenschutz, Informationssicherheit und KI-Governance dieselbe Anfrage parallel, weil die Zuständigkeit erst nach der Verteilung geklärt wird. Ein gemeinsames Aufnahmeformular spart mehr Zeit als jedes Werkzeug.
Und die Qualifizierung
Auf dem KI.Forum.NRW wurde AI Literacy als Frage der Betriebsfähigkeit bezeichnet, nicht als HR-Thema. Der Grund ist einleuchtend: Ein Agent liefert Ergebnisse schneller, als ein Mensch sie im Detail nachrechnen kann. Wer sie nicht beurteilen kann, hat keine Kontrolle – nur das Gefühl davon. → KI-Kompetenzpflicht nach Art. 4 AI Act
Der Einstieg in einer Stunde
- Listet auf, welche KI-Werkzeuge im Haus schreibend arbeiten. Meist ist die Liste kürzer oder länger als gedacht.
- Ordnet jeden Fall einer der vier Stufen zu.
- Für alles ab Stufe 3: Wer ist verantwortlich, und wie wird rückabgewickelt?
- Was dabei unbeantwortbar bleibt, stuft ihr zurück – bis die Antwort steht.
Ihr wollt Agenten einsetzen, ohne die Kontrolle abzugeben? Genau diese Leitplanken bauen wir mit ein, bevor der erste Ablauf produktiv geht: office@avantgar.de
Verwandt: KI-Agenten, die tricksen · Braucht mein Unternehmen eine KI-Richtlinie?
Auf welcher Stufe steht euer weitest entwickelter Anwendungsfall – und was hält euch von der nächsten ab?