LLMs & KI-Agenten · RAG
Retrieval Augmented Generation (RAG): 5 Anwendungsfälle für Unternehmen
Ein Sprachmodell kennt Ihre Produkte, Richtlinien und Verträge nicht. Retrieval Augmented Generation verbindet es mit Ihren eigenen Dokumenten, sodass Antworten auf Ihrem Wissen beruhen und die Quelle nennen. Diese fünf Anwendungsfälle zeigen, wo sich das für Unternehmen lohnt.
Julia Rose
Das Wichtigste in Kürze
- RAG sucht zu einer Frage die passenden Stellen in Ihren Dokumenten und lässt ein Sprachmodell daraus eine Antwort mit Quellenangabe formulieren.
- Typische Einsatzfelder sind Kunden- und Bürgeranfragen, interne Wissenssuche, Fragebögen, Einarbeitung und digitale Assistenten.
- Bei apoQlar sank die Bearbeitungszeit für Sicherheitsfragebögen mit RAG um 75 %.
- Wie gut ein RAG-System antwortet, hängt vor allem an Qualität, Aktualität und Zugriffsrechten der Daten.
Was Retrieval Augmented Generation ist
Große Sprachmodelle formulieren flüssig, kennen aber nur ihr Trainingswissen. Interne Dokumente, aktuelle Preise oder die neueste Produktversion gehören nicht dazu. Fragt man sie trotzdem, erfinden sie im schlechtesten Fall eine plausible Antwort.
Retrieval Augmented Generation (RAG) löst das in zwei Schritten:
- Retrieval: Zu einer Frage sucht das System die relevanten Abschnitte in Ihren Dokumenten, meist über eine Vektordatenbank, die nach Bedeutung sucht.
- Generation: Das Sprachmodell erhält diese Abschnitte als Kontext und formuliert daraus die Antwort, mit Verweis auf die Quelle.
So bleibt das Wissen in Ihren Dokumenten, und eine Änderung dort wirkt sofort auf die Antworten, ohne dass ein Modell neu trainiert werden muss.
5 Anwendungsfälle für RAG im Unternehmen
1. Kunden- und Bürgeranfragen beantworten
Menschen fragen in ihren eigenen Worten, die Antworten stehen in Fachdokumentation, Handbüchern oder Vorschriften. Ein Assistent mit RAG übersetzt zwischen beidem, rund um die Uhr, und nennt die Stelle, aus der die Antwort stammt.
Aus der Praxis: technische Prüfbehörde
Eine polnische Behörde für technische Sicherheit erhält Tausende Anfragen zu Genehmigungen, Anlagensicherheit und Zertifizierung. Der alte Chatbot verlangte, zuerst eine Kategorie zu wählen. Wir haben eine Multi-Agenten-Architektur mit RAG entworfen, die jede Frage automatisch an 11 spezialisierte Wissensbereiche weiterleitet und Alltagssprache mit der technischen Dokumentation verbindet.
2. Internes Wissen schnell finden
Produktwissen, Prozessbeschreibungen und Referenzmaterial liegen oft in Hunderten Dokumenten. Wer eine Frage beantworten muss, sucht von Hand, und die Qualität der Antwort hängt davon ab, wie viel Zeit gerade ist.
Aus der Praxis: apoQlar
Die Support- und Operations-Teams des MedTech-Unternehmens durchsuchten Hunderte Produktdokumente von Hand. Ein Assistent mit RAG und Vektordatenbank beantwortet Fragen heute in Sekunden und nennt zu jeder Antwort das Dokument, aus dem sie stammt. Das Team prüft, statt zu suchen, und kann die Antwort direkt an Kunden weitergeben.
3. Fragebögen und Ausschreibungen ausfüllen
Sicherheits- und Compliance-Fragebögen, Lieferantenaudits oder Ausschreibungen stellen oft dieselben Fragen in neuer Formulierung. RAG entwirft die Antworten aus Richtlinien und technischer Dokumentation, Fachleute prüfen und geben frei.
Aus der Praxis: apoQlar
Vor jeder Einführung in einem Krankenhaus musste apoQlar umfangreiche Sicherheitsfragebögen beantworten, jeder dauerte rund einen Monat. Mit einem RAG-Assistenten sank die Bearbeitungszeit um 75 %, und die Einführung bei neuen Kunden verkürzte sich von sechs auf zwei Wochen.
4. Neue Mitarbeitende einarbeiten
In den ersten Wochen haben neue Kolleginnen und Kollegen viele Fragen: zu Richtlinien, Abläufen, Werkzeugen und Zuständigkeiten. Ein Assistent mit RAG beantwortet sie aus Handbüchern, Schulungsunterlagen und dem Intranet, zu jeder Uhrzeit und mit Link auf das Originaldokument. Erfahrene Mitarbeitende werden seltener unterbrochen, und die Antworten sind einheitlich.
5. Digitale Assistenten und KI-Avatare
Auf Messen, im Empfang oder auf der Website sprechen KI-Avatare mit Besucherinnen und Besuchern. Über RAG antworten sie aus Ihren Dokumenten oder der Veranstaltungsdatenbank, per Sprache und in mehreren Sprachen.
Aus der Praxis: XPOMET Medicinale
Auf der XPOMET Medicinale 2024 in Leipzig beantwortete der KI-Avatar Paula, gemeinsam mit der Johannesstift Diakonie umgesetzt, Fragen zu Orientierung und Ausstellern in Echtzeit, auf Deutsch und Englisch und in einer lauten Messehalle.
Worauf es bei RAG ankommt
Ein RAG-System ist so gut wie die Daten, aus denen es antwortet. Veraltete oder widersprüchliche Dokumente führen zu falschen Antworten, gerade in Bereichen wie Medizin oder Recht. Vier Punkte entscheiden über die Qualität:
- Datenqualität: aktuelle, geprüfte Dokumente und eine klare Regel, welche Version gilt.
- Aufbereitung: Dokumente werden sinnvoll in Abschnitte zerlegt, Tabellen und Scans lesbar gemacht.
- Zugriffsrechte: Das System zeigt jeder Person nur, was sie auch im Original sehen darf.
- Prüfung im Betrieb: Antworten werden laufend an echten Fragen gemessen, damit Fehler früh auffallen.
Wie Unternehmen das umsetzen, beschreibt unser Beitrag Wie Unternehmen zuverlässige RAG-Systeme aufbauen. Einen Überblick über unsere Leistungen finden Sie unter RAG-System-Entwicklung.
Wissen aus Ihren Dokumenten nutzbar machen?
Wir prüfen mit Ihnen, welche Dokumente und Fragen sich für RAG eignen und wie ein erster Assistent in Ihre Systeme passt.
Prozessanalyse anfragenHäufige Fragen
Ein Verfahren, bei dem ein System zu einer Frage die passenden Stellen in eigenen Dokumenten sucht und ein Sprachmodell daraus eine Antwort mit Quellenangabe formuliert.
Zum Beispiel für Kunden- und Bürgeranfragen, interne Wissenssuche, Sicherheitsfragebögen und Ausschreibungen, die Einarbeitung neuer Mitarbeitender und digitale Assistenten oder KI-Avatare.
Nein. Das Wissen bleibt in den Dokumenten. Werden sie aktualisiert, wirken die Änderungen sofort auf die Antworten.
Vor allem von aktuellen und geprüften Daten, einer guten Aufbereitung der Dokumente, sauberen Zugriffsrechten und der laufenden Prüfung der Antworten im Betrieb.
Julia ist seit 2019 Teil von theBlue.ai und begleitet die Entwicklung von KI-Anwendungen im Unternehmensumfeld seit den frühen Tagen des Unternehmens. In ihrer Rolle als Marketing Lead arbeitet sie eng mit den Engineering- und Consulting-Teams zusammen und macht komplexe technische Themen für Entscheider verständlich und zugänglich.
In ihren Artikeln schreibt sie über praktische Erfahrungen aus Enterprise-KI-Projekten sowie über die Herausforderungen und Chancen beim Einsatz von KI in Unternehmen.