Vor einem Jahr lautete die Frage im Mittelstand: „Welches KI-Modell nehmen wir?" Die Nachrichten der letzten Wochen legen eine andere Frage nahe: „Was passiert, wenn wir es wechseln müssen?"
Was in wenigen Tagen passiert ist
- Politik: Der geplante KI-Rahmenvertrag zwischen Bundesregierung, Mistral und SAP ist vorerst vom Tisch (Golem, 11.10.).
- Anbieterwechsel: Die Suchmaschine Ecosia trennt sich von Mistral AI und setzt künftig verstärkt auf Open-Weight-Modelle, auch aus China (iX, 08.10.).
- Preise: Anthropic senkt mit Claude Haiku 5.5 die API-Preise um bis zu 90 Prozent (iX, 08.10.). Google beschränkt den Gratiszugang zu Gemini auf das kleinste Modell, Flash und Pro gibt es nur noch für zahlende Kunden (The Decoder, 04.10.).
- Neue Optionen für eigene Infrastruktur: Aleph Alpha stellt mit Kolibri ein Open-Weight-Modell für Unternehmen und Behörden vor, die KI selbst betreiben wollen (heise, 06.10.). Mistral bringt Large 4 (heise, 06.10.). Die Open-Source-Suite openDesk erhält agentische KI und einen Offline-Modus (heise, 10.10.).
- Abrechnung: Ein Start-up nutzte Claude über Azure-Guthaben aus einem Förderprogramm und stand am Ende mit einer unbezahlten Rechnung zwischen zwei Supportabteilungen (Golem, 09.10.).
- Datenschutz: Eine Studie zeigt, dass große Chat-Anbieter Nutzerdaten an Dritte weitergeben, teils bis hin zu Chatverläufen (heise, 06.10.).
Keine dieser Meldungen ist für sich ein Grund zur Sorge. Zusammen zeigen sie: Modelle, Preise und Bedingungen ändern sich im Monatstakt.
Das eigentliche Risiko ist nicht das Modell, sondern die Verdrahtung
Wenn Prompts, Datenanbindung, Berechtigungen und Geschäftslogik direkt in die Schnittstelle eines Anbieters gebaut sind, wird jeder Wechsel zum Projekt. Dann bleibt man beim teuren Modell, obwohl ein günstigeres reichen würde, oder beim US-Anbieter, obwohl der Kunde einen Betrieb in Europa verlangt.
Unabhängig bleibt ihr mit einer klaren Trennung in drei Schichten:
- Prozess und Daten: Welcher Ablauf, welche Systeme, welche Berechtigungen. Das ist euer Kapital und bleibt stabil.
- Werkzeuge: Die Anbindungen an ERP, CRM, Dokumentenablage und externe Dienste, zum Beispiel über MCP. → MCP und A2A erklärt
- Modell: austauschbar, je Aufgabe wählbar.
Fünf Maßnahmen für die Praxis
1. Eigene Testfälle sammeln. 30 bis 50 echte Vorgänge aus eurem Betrieb mit dem richtigen Ergebnis. Damit prüft ihr jedes neue Modell in einer Stunde statt nach Gefühl.
2. Kosten pro Vorgang messen, nicht pro Token. Ein günstiges Modell, das doppelt so viele Schritte braucht, ist nicht günstig. Laut a16z-Daten fallen die Token-Preise stetig, während die Nachfrage schneller wächst. Für euch zählt, was eine geprüfte Rechnung oder eine beantwortete Anfrage kostet.
3. Das Modell je Aufgabe wählen. Für Klassifizieren und Extrahieren reicht oft ein kleines, günstiges Modell. Das große Modell bleibt für die schwierigen Fälle.
4. Vertrags- und Abrechnungsweg klären. Über welchen Vertrag läuft das Modell, wer ist Ansprechpartner bei Problemen, wo werden Daten verarbeitet, wird mit euren Daten trainiert? Die Antworten gehören in die Dokumentation, bevor der erste produktive Vorgang läuft.
5. Eine Ausweichoption bereithalten. Für sensible Abläufe sollte es einen zweiten Weg geben, etwa ein Modell in einem europäischen Rechenzentrum oder auf eigener Infrastruktur.
Für wen sich eigene Infrastruktur lohnt
Open-Weight-Modelle wie Kolibri oder die Mistral-Familie machen den Betrieb im eigenen Rechenzentrum realistischer. Sinnvoll ist das vor allem bei streng vertraulichen Daten, bei Kundenvorgaben zur Datenhaltung oder bei sehr hohem, gleichmäßigem Volumen. Für die meisten Mittelständler ist ein europäischer Cloud-Betrieb mit klarer Auftragsverarbeitung der pragmatischere Start. Entscheidend ist, dass der spätere Umzug möglich bleibt.
Den ausführlichen Vergleich der Wege findet ihr hier: Microsoft Copilot, Claude oder eigenes KI-Framework?
Diese Trennung ist der Kern unseres Ansatzes. Das Framework hinter dem Avantgarde Co-Pilot schließt KI-Modelle an eure Prozesse, Daten und Berechtigungen an. Prozesse und Anbindungen bleiben, das Modell lässt sich tauschen. Sprecht uns an: office@avantgar.de · +49 2131 7949-0, mit Verweis auf AI Campus.
Habt ihr schon einmal ein KI-Modell gewechselt, und was war dabei der größte Aufwand?