LLMs & KI-Agenten · Zusammenfassung
Generative KI für Zusammenfassungen: Dokumente schneller erfassen
Berichte, Politikdokumente, Verträge, Gesprächsprotokolle: Viele Teams verbringen einen großen Teil ihres Tages mit Lesen und Zusammenfassen. Generative KI übernimmt diesen Schritt, sobald ein Dokument eintrifft. Worauf es dabei ankommt, zeigen zwei Projekte aus Politik-Monitoring und Kundenservice.
Julia Rose
Das Wichtigste in Kürze
- Sprachmodelle fassen lange Dokumente in Sekunden zusammen, in mehreren Sprachen und im gewünschten Format.
- Gute Zusammenfassungen entstehen durch Kontext: Dokumenttyp, Absender, Thema und die Frage, die der Leser hat.
- Bei Policy-Insider.AI werden Politikdokumente zusammengefasst, sobald sie erscheinen, und gezielt per E-Mail verschickt.
- Bei arvato zeigt ein MVP, dass ein System die Gesprächsnotiz nach jedem Anruf schreiben kann.
Wo automatische Zusammenfassungen sich lohnen
Überall dort, wo Menschen viel lesen müssen, um wenig Wesentliches zu finden, kostet das Zusammenfassen Zeit und bindet Fachleute. Typische Beispiele:
- Politik- und Marktbeobachtung: neue Gesetzentwürfe, Stellungnahmen, Studien und Branchenmeldungen.
- Kundenservice: Notizen nach Anrufen, Chats oder E-Mail-Verläufen.
- Recht und Einkauf: Kernpunkte aus Verträgen, Ausschreibungen und Lieferantenunterlagen.
- Management und Projekte: Berichte, Protokolle und lange Mail-Threads auf einen Blick.
- Wissensmanagement: Kurzfassungen für Dokumentenablagen, damit Inhalte leichter gefunden werden.
Was eine gute Zusammenfassung ausmacht
Ein Sprachmodell kann jeden Text kürzen. Nützlich wird die Zusammenfassung erst, wenn sie die Fragen des Lesers beantwortet. Dafür braucht das System Kontext:
| Stellschraube | Wirkung |
|---|---|
| Dokumenttyp und Herkunft | Ein Gesetzentwurf wird anders zusammengefasst als eine Pressemitteilung. |
| Interessen des Lesers | Die Zusammenfassung konzentriert sich auf die Themen, die für diese Person zählen. |
| Festes Format | Einheitliche Felder wie Anliegen, Ergebnis und nächste Schritte machen Zusammenfassungen vergleichbar. |
| Lange Dokumente | Relevante Abschnitte werden zuerst ausgewählt, damit nichts Wichtiges untergeht. |
| Sprache | Dokumente in einer Sprache, Zusammenfassung in der Sprache des Lesers. |
Zwei Projekte aus der Praxis
Aus der Praxis: Policy-Insider.AI
Public-Affairs-Teams verfolgen täglich Hunderte Politikdokumente aus EU-Institutionen, oft in verschiedenen Sprachen. Für die Plattform Policy-Insider.AI haben wir eine KI-Schicht gebaut, die jedes Dokument zusammenfasst, sobald es erscheint. Die Prompts enthalten Dokumenttyp, Institution und Politikfeld als Kontext. Nutzer legen ein Interessenprofil an und erhalten per E-Mail nur die Zusammenfassungen zu ihren Themen. Die Analysten lesen weniger und interpretieren mehr.
Aus der Praxis: arvato
Im Callcenter von arvato schrieben Agenten nach jedem Kundengespräch eine Notiz von Hand, in wechselnder Qualität. In einem MVP erzeugt eine Pipeline aus Spracherkennung und Zusammenfassung für jedes Gespräch eine Notiz im festen Format: Anliegen, Kategorie, getroffene Maßnahmen, nächste Schritte. Dafür wurden eigene Modelle für Polnisch trainiert.
Wie die Qualität im Betrieb gesichert wird
Die Qualität generierter Texte lässt sich schwer in großer Menge prüfen. Drei Risiken stehen im Vordergrund: uneinheitliche Ergebnisse, erfundene Aussagen und Zusammenfassungen, die das Entscheidende auslassen. Bewährt hat sich:
- Testsatz mit echten Dokumenten: Fachleute legen fest, was eine gute Zusammenfassung enthalten muss.
- Automatische Bewertung: jede Änderung an Prompt oder Modell wird gegen diesen Testsatz geprüft.
- Quellenbezug: Aussagen lassen sich bis zur Stelle im Originaldokument zurückverfolgen.
- Feedback im Betrieb: Nutzer markieren schwache Zusammenfassungen, und die Hinweise fließen in die Verbesserung.
Für Policy-Insider.AI haben wir dafür eine iterative Evaluationspipeline aufgebaut. Mehr dazu im Beitrag Observability und Monitoring von LLMs.
So starten Sie
- Dokumentart wählen: eine Sorte Dokument oder Gespräch, die heute viel Lesezeit kostet.
- Format festlegen: Was soll in jeder Zusammenfassung stehen, und für wen?
- Mit echten Beispielen testen: Fachleute vergleichen die Ergebnisse mit eigenen Zusammenfassungen.
- In den Ablauf einbinden: die Zusammenfassung erscheint dort, wo gearbeitet wird, etwa im CRM, in der Dokumentenansicht oder als E-Mail.
Weniger lesen, schneller entscheiden?
Wir prüfen mit Ihnen, welche Dokumente oder Gespräche sich für automatische Zusammenfassungen eignen und wie sie in Ihre Systeme kommen.
Prozessanalyse anfragenHäufige Fragen
Ein Sprachmodell erhält das Dokument oder die relevanten Abschnitte zusammen mit Kontext wie Dokumenttyp, Thema und gewünschtem Format und formuliert daraus eine Zusammenfassung.
Das hängt von Kontext, Prompt und laufender Prüfung ab. Mit Testsätzen, automatischer Bewertung, Quellenbezug und Nutzerfeedback bleibt die Qualität im Betrieb stabil.
Ja. Gespräche werden zuerst per Spracherkennung in Text umgewandelt und dann zusammengefasst, zum Beispiel als Notiz im CRM nach einem Kundenanruf.
Ja. Die Zusammenfassung kann in der Sprache des Lesers erstellt werden, auch wenn das Dokument in einer anderen Sprache vorliegt.
Julia ist seit 2019 Teil von theBlue.ai und begleitet die Entwicklung von KI-Anwendungen im Unternehmensumfeld seit den frühen Tagen des Unternehmens. In ihrer Rolle als Marketing Lead arbeitet sie eng mit den Engineering- und Consulting-Teams zusammen und macht komplexe technische Themen für Entscheider verständlich und zugänglich.
In ihren Artikeln schreibt sie über praktische Erfahrungen aus Enterprise-KI-Projekten sowie über die Herausforderungen und Chancen beim Einsatz von KI in Unternehmen.