LLMs & KI-Agenten · Branchen
Anwendungen von LLM-Agenten in verschiedenen Branchen
Ein LLM-Agent plant Arbeitsschritte, ruft Daten aus Ihren Systemen ab und erledigt eine Aufgabe bis zum Ergebnis. Wie das aufgebaut ist und welche Aufgaben Agenten heute in Automotive, Fertigung, Gesundheitswesen, Public Affairs und Verwaltung übernehmen, zeigen unsere Projekte.
Aleksandra Osztynowicz
Das Wichtigste in Kürze
- Ein LLM-Agent nutzt ein großes Sprachmodell als Kern und ergänzt es um Werkzeuge, Gedächtnis, Planung und Regeln.
- Für Unternehmen wird kein eigenes Sprachmodell trainiert. Der Aufwand liegt in Werkzeugen, Daten, Integration und Prüfung.
- Beispiele aus unseren Projekten: Planungsdaten aus SAP BW in Sekunden, 90 % weniger manuelle Eingriffe bei der Auftragserfassung, 70 % weniger Routinearbeit im Public-Affairs-Team.
- Nicht jeder Prozess braucht einen Agenten. Manchmal reichen Regeln oder ein einzelner Modellschritt.
Was ein LLM-Agent ist
Ein LLM-Agent nutzt ein großes Sprachmodell (Large Language Model) als zentrale Steuerung. Das Modell versteht die Anfrage, zerlegt sie in Schritte, entscheidet, welche Werkzeuge es dafür braucht, und prüft das Ergebnis. Der Unterschied zu einem Chatbot liegt im Handeln: Ein Agent liest aus Systemen, schreibt Entwürfe, legt Tickets an oder stößt den nächsten Prozessschritt an.
Wie ein LLM-Agent aufgebaut ist
| Baustein | Aufgabe |
|---|---|
| Kern | Das Sprachmodell versteht die Anfrage, zieht Schlüsse und wählt den nächsten Schritt. |
| Planung | Große Aufgaben werden in kleinere Schritte zerlegt und der Plan bei Bedarf angepasst. |
| Werkzeuge | Definierte Zugriffe auf Systeme, etwa ERP lesen, Datenbank abfragen, E-Mail entwerfen. |
| Gedächtnis | Verlauf, Kontext und frühere Ergebnisse bleiben über mehrere Schritte erhalten. |
| Wissen | Antworten aus eigenen Dokumenten, meist über RAG angebunden. |
| Regeln und Prompts | Legen Rolle, Ziel und Grenzen fest, zum Beispiel welche Aktionen eine Freigabe brauchen. |
Im Betrieb kommen Protokollierung und Übergabe an Menschen dazu: Was der Agent nicht sicher lösen kann, landet bei einer zuständigen Person.
Anwendungen nach Branche
Automotive: Antworten aus mehreren Systemen
Aus der Praxis: Premium-Automobilhersteller (unter NDA)
Produktplaner brauchten Stunden, um Daten aus SAP BW und mehreren Data Warehouses abzufragen. Ein Assistent nimmt die Frage heute auf Deutsch oder Englisch entgegen, schriftlich oder per Sprache, entscheidet selbst, welche Systeme er abfragt, und führt die Ergebnisse zusammen. Aus Stunden werden Sekunden, und die Daten bleiben in der eigenen Infrastruktur.
Fertigung: Aufträge aus E-Mails
Aus der Praxis: Radaway
Jede eingehende E-Mail wird klassifiziert, Aufträge werden samt Anhängen gelesen, Produkte mit der Datenbank abgeglichen und das Ergebnis geprüft, bevor es in der Auftragserfassung landet. Ergebnis: 90 % weniger manuelle Eingriffe und über 95 % Genauigkeit bei der Produktzuordnung.
Gesundheitswesen und Veranstaltungen: Fragen live beantworten
Aus der Praxis: Deutscher Chirurgenkongress
Auf dem 141. Kongress der Deutschen Gesellschaft für Chirurgie übernahm ein Sprachassistent vier Tage lang die Fragen zu Wegen und Programm. Die Programmdaten zu Hunderten parallelen Sessions rief er beim Antworten per Function Calling ab, am Bildschirm-Kiosk und in VR.
Public Affairs und Beratung: Dokumente analysieren
Aus der Praxis: RPP Group
Für das Public-Affairs-Team sichten fünf spezialisierte Agenten neue Policy-Dokumente, fassen Kernpunkte zusammen, ordnen Positionen und bereiten Inhalte nach internen Standards auf. Die Routinearbeit sank um 70 %, das letzte Wort haben die Fachleute.
Öffentliche Verwaltung: Anfragen richtig zuordnen
Aus der Praxis: technische Prüfbehörde
Bürgerinnen und Bürger fragen in Alltagssprache, die Antworten stehen in technischer Dokumentation. Ein Hauptagent liest die Frage und verteilt sie auf 11 spezialisierte Wissensbereiche, ohne dass jemand vorher eine Kategorie wählen muss.
Beispiel: ein Agent im Kundenservice
Wie ein Agent mit Systemen zusammenarbeitet, zeigt ein vereinfachtes Beispiel aus dem Onlinehandel. Das Szenario ist erfunden und dient nur der Erklärung.
- Anfrage: Eine Kundin fragt im Chat, wo ihre Bestellung bleibt.
- Plan: Der Agent erkennt, dass er Bestellnummer, Bestellstatus und Sendungsverfolgung braucht.
- Werkzeuge: Über eine Schnittstelle fragt er das Auftragssystem ab, lesend und nur für diese Kundin.
- Antwort: Er nennt den Status und den Link zur Sendungsverfolgung.
- Übergabe: Ist die Sendung beschädigt oder verloren, legt er ein Ticket an und übergibt an das Serviceteam.
Technisch laufen die Zugriffe über definierte Schnittstellen, etwa ein API-Gateway vor Auftragssystem und Datenbank. So bleibt klar, was der Agent darf und was nicht.
Wie Unternehmen LLM-Agenten einführen
- Aufgabe festlegen: ein klar umrissener Ablauf mit messbarem Ergebnis, etwa Auftragseingang oder Planungsabfragen.
- Werkzeuge und Rechte definieren: welche Systeme der Agent lesen oder schreiben darf und welche Aktionen eine Freigabe brauchen.
- Wissen anbinden: Dokumente und Daten aufbereiten, damit der Agent aus aktuellen Quellen arbeitet.
- Prototyp mit echten Fällen: an realen Anfragen testen, einschließlich Ausnahmen und fehlender Angaben.
- Bewerten: Genauigkeit, Übergabequote und Laufzeit messen, bevor der Agent in Betrieb geht.
- Betrieb überwachen: Protokolle auswerten, Fehler analysieren und den Agenten laufend verbessern.
Ein eigenes Sprachmodell wird dafür nicht trainiert. Warum der Schritt vom Pilot in den Betrieb oft scheitert, beschreibt unser Beitrag Der Pilot lief, die Produktion nicht.
Wann ein Agent passt
Nicht jeder Prozess braucht einen Agenten. Feste Abläufe mit klaren Regeln laufen oft besser mit Regeln und Skripten. Viele Aufgaben brauchen nur einen einzelnen Modellschritt, etwa eine Zusammenfassung. Ein Agent lohnt sich, wenn eine Aufgabe mehrere Schritte und Systeme verbindet und je nach Fall anders verläuft. Wird es noch umfangreicher, arbeiten mehrere Agenten zusammen, wie in unserem Beitrag zu Multi-Agent-Systemen beschrieben.
Welche Aufgabe soll ein Agent übernehmen?
Wir prüfen mit Ihnen, ob Regeln, ein Modellschritt oder ein Agent zu Ihrem Prozess passt, und wie er an Ihre Systeme angebunden wird.
Prozessanalyse anfragenHäufige Fragen
Ein KI-System, das ein großes Sprachmodell als Kern nutzt und es um Planung, Werkzeuge, Gedächtnis und Regeln ergänzt. So kann es Aufgaben in mehreren Schritten bearbeiten und in bestehenden Systemen handeln.
Ein Chatbot beantwortet Fragen. Ein Agent plant zusätzlich Arbeitsschritte, ruft über definierte Werkzeuge Daten ab oder löst Aktionen aus und übergibt an Menschen, was er nicht sicher lösen kann.
Zum Beispiel in Automotive für Planungsabfragen, in der Fertigung für die Auftragserfassung, im Gesundheitswesen und auf Kongressen für Besucherfragen, im Public-Affairs-Bereich für Dokumentenanalyse und in der Verwaltung für Bürgeranfragen.
In der Regel nicht. Agenten bauen auf vorhandenen Sprachmodellen auf. Der Aufwand liegt in Werkzeugen, Datenanbindung, Integration, Tests und Betrieb.
Aleksandra entwickelt seit 2021 bei theBlue.ai maßgeschneiderte KI-Lösungen mit Schwerpunkt auf agentischen Implementierungen und lokalen LLM-Deployments, die passgenau auf Unternehmensanforderungen zugeschnitten sind. Als AI Engineer hilft sie Organisationen dabei, ihre Prozesse mit produktionsreifen Systemen zu automatisieren, von On-Premise-Open-Source-Modellen bis hin zu RAG-basierten internen Wissensdatenbanken für regulierte Branchen, und erweitert ihr Wissen kontinuierlich in der sich rasant wandelnden Welt der Künstlichen Intelligenz.
In ihren Artikeln teilt sie praktische Erfahrungen aus realen Enterprise-KI-Projekten und zeigt: KI im Unternehmen einzuführen muss nicht kompliziert sein.