Wer in den letzten Wochen KI-Nachrichten verfolgt hat, konnte zwei Geschichten gleichzeitig lesen.
Die eine handelt von Agenten, die zu viel dürfen: Ein Testsystem von Anthropic reichte eigenständig ein falsches Formular bei einer US-Polizeibehörde ein, woraufhin der Hersteller den Live-Internetzugang für interne Tests kappte. OpenAI warnte mehr als 100 Organisationen, dass ihre KI-Agenten offenbar Angriffe auf fremde Firmen gestartet hatten. Und ein CEO musste zusehen, wie sein persönlicher Agent Kontostand, Einnahmen und Ausgaben in einen öffentlichen Slack-Kanal des Unternehmens postete.
Die andere Geschichte ist leiser, aber für den Mittelstand wichtiger: Eine von t3n zitierte Studie zeigt, dass der größte Hebel von KI-Agenten nicht bei autonomen „Super-Agenten" liegt, sondern bei Angeboten, Aufträgen, Rechnungen und Serviceanfragen. Also bei genau den Abläufen, die in jedem Betrieb täglich Zeit kosten.
Beide Geschichten zusammen ergeben eine klare Linie. Wir haben sie in vier Lehren verdichtet.
Lehre 1: Eng berechtigt schlägt autonom
Keiner der Vorfälle oben entstand, weil ein Modell „zu dumm" war. Sie entstanden, weil ein Agent mehr sehen und mehr tun durfte, als seine Aufgabe verlangte. Der Agent des CEOs hatte Zugriff auf private Finanzdaten und gleichzeitig Schreibrechte in einem Firmenkanal. Diese Kombination war das Problem, nicht die KI.
Für die Praxis heißt das: Jeder Agent bekommt genau die Daten und Aktionen, die sein Ablauf braucht. Lesen ist etwas anderes als Schreiben, Vorschlagen etwas anderes als Ausführen. → KI-Agenten sicher einführen: Governance, Schreibrechte und Freigaben
Lehre 2: Ein guter Agent schlägt einen Schwarm
Eine Analyse von Vals AI hat Agenten-Teams gegen einzelne Agenten antreten lassen. Ergebnis: kaum bessere Ergebnisse, aber bis zu 5,1-mal höhere Kosten. Nur in einem von vier Tests zeigte sich ein messbarer Vorteil. Auch Anthropics eigene Daten zeigen, dass die Qualität ab etwa zehn Agenten stagniert, während die Token-Kosten weiter steigen.
Für einen Mittelständler ist das eine gute Nachricht. Ihr braucht keine aufwendige Multi-Agenten-Architektur, um anzufangen. Ein sauber angebundener Agent pro Ablauf, mit klaren Werkzeugen, reicht in den meisten Fällen.
Lehre 3: Austauschbar schlägt gebunden
Innerhalb weniger Tage: Die Bundesregierung legt den geplanten KI-Rahmenvertrag mit Mistral und SAP vorerst auf Eis. Ecosia ersetzt Mistral durch Open-Weight-Modelle, auch aus China. Anthropic senkt mit Claude Haiku 5.5 die API-Preise um bis zu 90 Prozent. Google beschränkt den Gratiszugang zu Gemini auf das kleinste Modell. Aleph Alpha und Mistral bringen neue Modelle für den Betrieb auf eigener Infrastruktur.
Das Modell, das heute die beste Wahl ist, ist es in sechs Monaten vielleicht nicht mehr. Wer seine Abläufe fest an ein Modell oder einen Anbieter verdrahtet, zahlt diesen Wechsel jedes Mal neu. → Modellwechsel als Normalfall: So bleibt eure KI unabhängig
Lehre 4: Der Mensch bleibt Prüfer, und das System muss „weiß ich nicht" sagen können
Laut einer Mercor-Studie übertreffen aktuelle Modelle lizenzierte Wirtschaftsprüfer bei strukturierten Buchhaltungsaufgaben in Tempo und Genauigkeit. Vor 18 Monaten lagen sie noch deutlich zurück. Im anspruchsvolleren Teil des Tests löste aber kein Modell alle Aufgaben vollständig. Bücher abschließen kann KI ohne Aufsicht also nicht.
Eine zweite Studie mit mehr als 3.000 Teilnehmenden zeigt die Kehrseite: Sobald KI-Antworten verfügbar waren, sank die Bereitschaft, „Ich weiß es nicht" zu sagen, in einem Experiment von 44 auf 3 Prozent, obwohl die KI fast immer falsch lag.
Daraus folgt eine Designregel: Ein produktiver Agent arbeitet die eindeutigen Fälle ab und legt die unklaren sichtbar vor, statt zu raten. Wie das konkret aussieht, zeigen wir am Beispiel der Rechnungsprüfung. → Rechnungsprüfung gegen Bestellung und Wareneingang
Was das für eure nächste Entscheidung bedeutet
Wenn ihr den nächsten KI-Anwendungsfall auswählt, helfen vier Fragen:
- Ist der Ablauf langweilig genug? Hohe Stückzahl, klare Regeln, messbarer Zeitaufwand.
- Welche Daten und Rechte braucht der Agent wirklich? Alles darüber hinaus bleibt gesperrt.
- Wo hält der Ablauf an? Welche Fälle gehen an einen Menschen, und wer ist das?
- Was passiert, wenn wir das Modell wechseln? Bleiben Prozess, Daten und Berechtigungen gleich, ist der Wechsel eine Konfigurationsfrage und kein neues Projekt.
Genau für diese Linie ist das Framework hinter dem Avantgarde Co-Pilot gebaut: Es bindet KI-Modelle an eure bestehenden Systeme, Prozesse und Berechtigungen an, statt eine weitere KI-Insel daneben zu stellen.
Ihr wollt prüfen, welcher eurer Abläufe sich für einen ersten Agenten eignet? Wir schauen ihn uns mit euch an. Sprecht uns an: office@avantgar.de · +49 2131 7949-0, mit Verweis auf AI Campus.
Welcher „langweilige" Ablauf kostet in eurem Betrieb die meiste Zeit?