Wenn es um KI mit eigenem Firmenwissen geht, führt kein Weg an dem Kürzel RAG vorbei – Retrieval-Augmented Generation. Es ist die Grundlage für fast jeden sinnvollen Firmen-Assistenten.
Das Problem
Sprachmodelle wie ChatGPT oder Claude kennen euer Unternehmen nicht. Sie wissen nichts über eure Handbücher, Prozesse, Angebote oder Richtlinien. Fragt man sie trotzdem, „erfinden" sie im Zweifel plausibel klingende Antworten (Halluzination) – im Geschäftsalltag ein Risiko.
Die Idee hinter RAG
Statt das Modell alles „auswendig" wissen zu lassen, bekommt es im Moment der Frage die passenden Ausschnitte aus euren eigenen Dokumenten mitgeliefert. Der Ablauf:
- Aufbereiten: Eure Dokumente werden durchsuchbar gemacht.
- Retrieval: Zu einer Frage werden die relevantesten Stellen herausgesucht.
- Generation: Das Modell formuliert die Antwort auf Basis dieser Quellen – idealerweise mit Quellenangabe.
Warum das für Unternehmen zentral ist
- Antworten basieren auf eurem Wissen, nicht auf Internet-Halbwissen.
- Quellen werden nachvollziehbar – wichtig für Vertrauen und Prüfbarkeit.
- Ihr müsst kein eigenes Modell trainieren; das Wissen bleibt in eurer Kontrolle.
Worauf es in der Praxis ankommt
- Datenqualität: Müll rein, Müll raus. Veraltete Dokumente führen zu veralteten Antworten.
- Zugriffsrechte: Wer darf welche Dokumente „sehen"? Der Assistent muss Rechte respektieren.
- Datenschutz: Wo werden die Daten verarbeitet? DSGVO-konform (lokal oder geeignete Cloud mit Auftragsverarbeitung).
Typische erste Anwendungsfälle
Interner Wissens-Assistent (Prozesse, Freigaben, Preislisten), Support-Assistent auf eurer FAQ, oder ein Assistent für technische Dokumentation.
Ihr wollt einen Wissens-Assistenten auf euren Dokumenten aufsetzen? Wir unterstützen von der Datenbasis bis zum Rechte-Konzept – Verweis auf AI Campus Europe genügt: office@avantgar.de.
Habt ihr schon einen Wissens-Assistenten im Einsatz oder geplant? Woran hakt es – Datenqualität, Rechte oder die Auswahl der Technik?