Eine Woche, in der die KI-Branche vor allem über sich selbst gesprochen hat – über Pausen, Börsengänge und Risiken. Für den Mittelstand stecken die wichtigeren Nachrichten eine Ebene tiefer: in einer Studie, einem Datenschutz-Leak und einer Architekturentscheidung zweier Konzerne. Hier die Woche, verdichtet und eingeordnet.
1. Bitkom: 57 % nutzen KI – aber 59 % schöpfen das Potenzial nicht aus
Die neue Bitkom-Erhebung unter 603 Unternehmen ab 20 Beschäftigten zeigt einen Sprung: 57 % setzen KI ein (Vorjahr 36 %). Gleichzeitig sagen 59 % der Anwender, dass sie das Potenzial überhaupt nicht ausschöpfen. Größte Hürden: fehlendes Know-how (85 % der Nicht-Anwender), bei Anwendern vor allem Datenschutz (66 %) und rechtliche Unsicherheit (56 %).
Einordnung: Die Nutzung konzentriert sich auf Kundenkontakt und Marketing, also auf Texte. In Controlling, Produktion und Verwaltung, wo KI mit den eigenen Systemen arbeiten müsste, bleibt sie Ausnahme. Das ist kein Technikproblem, sondern eines der Architektur und des Datenschutzes. → Ausführlich: Warum das Potenzial ungenutzt bleibt
2. OpenAI lässt Chatverläufe von Vertragsarbeitern lesen
Nach Recherchen von 404 Media, über die Golem und The Decoder berichten, lesen und bewerten Hunderte externe Vertragsarbeiter echte ChatGPT-Gespräche, um Modelle zu verbessern. Betroffen sind Chats, bei denen die standardmäßig aktivierte Einstellung zur Modellverbesserung eingeschaltet ist. Ein Filter soll persönliche Angaben entfernen – laut OpenAI selbst aber nicht fehlerfrei. Unter den geprüften Gesprächen waren auch solche, in denen Nutzer ausdrücklich um Vertraulichkeit baten.
Einordnung: Für Unternehmen ist das die konkreteste Begründung dieses Jahres, warum Mitarbeitende keine Firmendaten in private KI-Konten eingeben sollten. Der Unterschied zwischen Consumer-Zugang und geschäftlich vertraglich geregelter KI-Nutzung ist nicht Formsache. → Schatten-KI: Wenn Mitarbeitende KI nutzen, von der niemand weiß · KI datenschutzkonform einsetzen
3. KI-Pause: Anbieter fordern Bremse, Märkte reagieren nervös
Anthropic-Chef Dario Amodei hat eine koordinierte Pause bei der Entwicklung der leistungsfähigsten Modelle gefordert, um der Branche ein bis zwei Jahre Zeit für Sicherheitsfragen zu geben. Sam Altman und Elon Musk unterstützen den Vorstoß. Asiatische Börsen reagierten mit deutlichen Verlusten (SoftBank über 13 % im Minus), US-Präsident Trump lehnt ab. netzpolitik.org kommentiert kritisch, KI werde dabei wie ein Naturereignis dargestellt, statt als politisch gestaltbar.
Einordnung: Auf die Werkzeuge, die heute im Betrieb laufen, hat das keine direkte Auswirkung. Aber die Woche zeigt, wie stark die KI-Welt von wenigen Anbietern und ihren Strategiewechseln abhängt. Wer eine Lösung baut, sollte das Modell austauschbar halten.
4. US-Unternehmen geben erstmals weniger für KI aus
Laut Finanzdienstleister Ramp sanken die KI-Ausgaben pro Mitarbeiter in US-Unternehmen von rund 7.976 Dollar (Juli) auf 7.205 Dollar (September), ein Rückgang von knapp 10 %. Gründe: Urlaubszeit, deutlich gesunkene Token-Preise – und ein Wechsel von teuren Spitzenmodellen zu günstigeren Standardmodellen (Anteil Frontier-Modelle von 53 % auf 45 %).
Einordnung: Kein Rückzug, sondern Normalisierung. Unternehmen lernen, dass nicht jede Aufgabe das teuerste Modell braucht. Genau deshalb ist freie Modellwahl pro Anwendungsfall ein echter Kostenhebel.
5. Salesforce und Microsoft: das Ende der KI-Inseln
Salesforce stellt den „Trusted Enterprise AI Harness" vor: eine Grundlage, die KI mit Daten, Regeln und Abläufen verbindet, ausdrücklich statt isolierter KI-Features. Microsoft kündigt Dynamics 365 Activate an, ein KI-Werkzeug, das den Wechsel von Salesforce zu Dynamics automatisieren soll.
Einordnung: Beide Konzerne lösen das Inselproblem – innerhalb des eigenen Ökosystems. Für gewachsene mittelständische Landschaften aus ERP, HR-System, DMS und Microsoft 365 braucht es denselben Gedanken, aber produktunabhängig. → Plattform statt Insel: warum jetzt alle KI-Schichten bauen
6. Datenschutz in der Praxis: Schwimmbad-KI gestoppt, Smart Glasses riskant
In Bremen wurde eine KI-Kameraüberwachung zur Erkennung von Ertrinkungsfällen wieder abgeschaltet – wegen fehlender Datenschutz-Folgenabschätzung. Parallel warnen Datenschutzbehörden, dass Träger von KI-Brillen wie Ray-Ban Meta selbst haftbar werden können, wenn sie Dritte filmen.
Einordnung: Beide Fälle haben dieselbe Lehre: Auch ein sinnvoller Zweck ersetzt nicht die Vorarbeit. Wer KI mit Personenbezug einsetzt, braucht die Folgenabschätzung vor dem Start, nicht nach der Beschwerde.
7. Recht: Wann ist „ein Mensch entscheidet" genug?
Dr. Datenschutz hat das Zusammenspiel von Art. 22 DSGVO und dem AI Act bei automatisierten Entscheidungen aufbereitet. Kernpunkt: Seit dem SCHUFA-Urteil zählt die tatsächliche Steuerungswirkung eines KI-Ergebnisses, und routinemäßiges Durchwinken gilt nicht als menschliche Aufsicht. Besonders relevant für Bewerberauswahl.
Einordnung: Passend zur Zukunft Personal diese Woche haben wir das für HR konkret aufgeschrieben. → Menschliche Aufsicht, die den Namen verdient
8. Studie: KI-Verbot schadet mehr als es nützt
Ein zweijähriger Versuch an der Vrije Universiteit Amsterdam verglich Studierende mit KI-Verbot, mit unbegleiteter KI-Nutzung und mit strukturiertem KI-Training. Die Gruppe ohne KI schnitt durchgehend am schlechtesten ab. Der verantwortliche Forscher hatte das Gegenteil erwartet.
Einordnung: Übertragbar auf Unternehmen. Verbote erzeugen keine Kompetenz, sondern Schatten-KI. → KI-Kompetenzpflicht als HR-Aufgabe
Diese Woche
Die Zukunft Personal Europe läuft vom 15. bis 17.09. in Köln unter dem Motto „Team Human x AI". Unsere Einordnung: Was der Mittelstand mitnehmen sollte. Alle weiteren Termine im Veranstaltungskalender.
Welche dieser Meldungen hat für euren Betrieb die größte Bedeutung?