LLMs & KI-Agenten · Produktionsreife
Der Pilot lief, die Produktion nicht: warum KI-Agenten selten in Betrieb gehen
Der Pilot hat überzeugt, die Ergebnisse waren vielversprechend, das Budget wurde freigegeben. Monate später gibt es noch immer keinen produktiven Betrieb. Die Lücke zwischen KI-Demo und Unternehmenssystem ist größer als erwartet, und sie hat erstaunlich wenig mit dem Modell zu tun.
Julia Rose
Das Wichtigste in Kürze
- Laut IDC erreichen 88 % der KI-Proof-of-Concepts nie die breite Produktion, von 33 Piloten gehen nur vier in Betrieb.
- Deloitte zufolge nutzen nur 11 % der Organisationen Agentic AI produktiv, Gartner erwartet, dass über 40 % der Projekte bis Ende 2027 eingestellt werden.
- Vier Ursachen trennen Demo und Betrieb: Datenreife, Integration, Governance und operative Verantwortung.
- Ein nicht produktionsreifes System muss selten neu gebaut werden: Bei Radaway dauerte der Weg zur Produktionsreife drei Wochen.
Die Zahlen, die beschäftigen
Die meistzitierte Statistik in den Enterprise-KI-Diskussionen stammt von IDC: 88 % der untersuchten Proof-of-Concepts schaffen es nicht in die breite Produktion. Von 33 gestarteten Piloten gehen nur vier in den produktiven Betrieb.
Deloitte bestätigt das Bild von der anderen Seite: Nur 14 % der Organisationen haben einsatzbereite Agentic-AI-Lösungen, und lediglich 11 % nutzen sie tatsächlich in der Produktion. Gartner prognostiziert zudem, dass über 40 % der Agentic-AI-Projekte bis Ende 2027 eingestellt werden, wegen steigender Kosten, unklarem Geschäftswert oder unzureichender Risikokontrollen.
Quellen: CIO.com zur IDC-Studie mit Lenovo; Deloitte, Tech Trends 2026; Gartner, Pressemitteilung vom 25. Juni 2025
Die Modelle funktionieren, die Demos waren echt. IDC führt die niedrige Produktionsquote ausdrücklich auf geringe organisatorische Reife bei Daten, Prozessen und IT-Infrastruktur zurück. Die entscheidende Frage ist deshalb, warum der Übergang in den Betrieb so häufig scheitert.
Warum ein erfolgreicher Pilot noch kein produktionsreifes System ist
Ein Pilot beantwortet, ob ein Anwendungsfall technisch lösbar ist. Die Produktion beantwortet eine andere Frage: Lässt sich die Lösung unter realen Bedingungen zuverlässig, sicher und wirtschaftlich betreiben?
Ein Pilot ist dafür gebaut zu funktionieren: kuratierte Testdaten, kontrollierte Datenqualität, ein einzelner Ablauf mit klaren Regeln. Die Produktion bringt eingescannte Dokumente in schlechter Qualität, uneinheitliche Formate und fünfzig sich überlappende Regelfälle statt einem. Gartner weist außerdem darauf hin, dass die Einbindung von Agenten in bestehende Systeme technisch komplex ist, Arbeitsabläufe stört und kostspielige Anpassungen erfordert. Der Agent muss andocken: an die Tools, in denen Ihre Arbeit stattfindet, an Ihre Berechtigungslogik, Ihre Daten und Ihre Sicherheitsanforderungen.
Die Gründe, warum Piloten nicht in den Betrieb gehen, sind erstaunlich konsistent. Sie lassen sich auf vier wiederkehrende Ursachen zurückführen, und keine davon liegt im Modell.
Die vier Ursachen der Lücke zwischen Pilot und Produktion
| Ursache | Was in der Produktion fehlt |
|---|---|
| Datenreife | Strukturierte Ausgabeformate, Validierungslogik und bewusste Behandlung von Sonderfällen für unstrukturierte, fehlerhafte und unvollständige Eingaben |
| Integration | Die Schicht, die den Agenten mit echten Tools, Datenquellen und Berechtigungen verbindet und in der Demo unsichtbar bleibt |
| Governance | Klare Haftung für autonome Entscheidungen, Nachvollziehbarkeit und ein System, das die Security-Prüfung besteht |
| Operative Verantwortung | Eine Person oder ein Team, die das System nach dem Go-live dauerhaft überwachen, warten und verbessern |
Datenreife
Der Pilot lief auf sauberen Beispieldaten, die Realität liefert unstrukturierte, fehlerhafte und unvollständige Eingaben. Was im Test wie ein Randfall aussah, ist in der Produktion der Normalfall. Ohne strukturierte Ausgaben, Validierung und Sonderfallbehandlung entstehen Ergebnisse, die niemand verlässlich weiterverarbeiten kann.
Integration
Ein Agent, der nicht in die Systemlandschaft eingebettet ist, bleibt eine Insellösung. Die eigentliche Ingenieursarbeit liegt in der Schicht, die ihn mit Tools, Datenquellen und Berechtigungen verbindet. Weil sie in der Demo nicht sichtbar ist, wird sie in Piloten regelmäßig übersprungen.
Governance
Viele Piloten entstehen im Innovationslabor, mit hoher Risikotoleranz und wenig Aufsicht. In der Produktion gelten andere Maßstäbe: Wer haftet für eine autonome Entscheidung, wie wird sie nachvollziehbar, wie besteht das System die Security-Prüfung?
Operative Verantwortung
Ein Pilot hat ein Team, das ihn liebt. Ein produktives System braucht jemanden, der dauerhaft für Überwachung, Wartung und Verbesserung zuständig ist. Fehlt diese Zuständigkeit, versandet auch das beste System nach dem Go-live.
Was der Übergang in die Produktion konkret bedeutet
Beim internationalen Sanitärhersteller Radaway sollten Kundenbestellungen aus unstrukturierten E-Mails mit möglichst wenig manuellem Aufwand verarbeitet werden. Die bestehende LLM-Lösung zeigte Potenzial, war aber nicht zuverlässig genug: Bestelldetails wurden gelegentlich falsch gedeutet, Produktreferenzen passten nicht immer zur Datenbank, und E-Mail-Anhänge, über die ein großer Teil der Bestellungen kam, waren gar nicht Teil des Prozesses.
Wir haben das bestehende System weiterentwickelt und genau die Komponenten überarbeitet, die in der Produktion Fehler verursachten: neu gestaltete Prompts mit strukturierten Ausgabeschemata, ein Transformer-basiertes semantisches Produktmatching mit abschließender Validierung, die Erweiterung auf Anhänge und eine vorgeschaltete Klassifizierung des Anliegens.
Ergebnis bei Radaway
90 % weniger manuelle Eingriffe
, über 95 % Genauigkeit bei der Produktzuordnung, vollständige Abdeckung der Anhänge und drei Wochen vom technischen Review zum produktionsreifen System.
Die Lücke zwischen Pilot und Produktion ist also eine Frage von Ausgabestruktur, Validierung, Integration und Sonderfallbehandlung. Das sind lösbare Ingenieursaufgaben, wenn man sie als solche ernst nimmt.
Wenn die Realität schwieriger ist als jede Demo
Manchmal ist die Umgebung selbst der Gegner. Ein Aufzughersteller wollte von festen Wartungsintervallen zu Predictive Maintenance wechseln. Die Bedingungen waren das Gegenteil eines Laborversuchs: Aufzugsschächte wirken wie ein Faraday-Käfig und stören die Funkverbindung, Cloud-Verbindungen brechen unvorhersehbar ab, und es gab keine beschrifteten Trainingsdaten.
Eine Demo auf sauberen, stabil übertragenen Sensordaten wäre leicht gewesen. Produktiv tragfähig wurde die Lösung durch eine offline-fähige Architektur, die Daten lokal verarbeitet und bei wiederhergestellter Verbindung synchronisiert, und durch einen bewusst minimalen Sensorsatz, der die Ausstattung der ganzen Flotte wirtschaftlich macht. Den Unterschied zwischen „funktioniert im Test“ und „funktioniert im Betrieb“ machte hier die Architektur.
Governance als Voraussetzung
Mit dem breiteren Einsatz von Agentic AI verschiebt sich die Diskussion von der Machbarkeit zur Verantwortbarkeit. Unternehmen müssen nachvollziehen können, warum ein Agent eine Entscheidung getroffen hat, welche Daten er genutzt hat und welche Kontrollen greifen. Ohne diese Transparenz ist eine Skalierung in regulierten Umgebungen schwierig.
Aus der Praxis: RPP Group
Für die Public-Affairs-Beratung RPP Group haben wir gemeinsam mit Policy-Insider.AI ChatRPP entwickelt, ein System aus fünf koordiniert arbeitenden Agenten. Gefragt war ein System, das den Fachbereich versteht, den professionellen Tonfall trifft, die Compliance-Anforderungen einhält und sich in die Arbeitsweise des Teams einfügt. Ergebnis: 70 % weniger Zeit für manuelle Routinearbeit bei DSGVO-konformer Verarbeitung vertraulicher Daten.
Die eigentliche Arbeit beginnt nach dem Pilot
Die meisten Unternehmen haben heute weder ein Ideen- noch ein Technologieproblem. Die Aufgabe ist, aus einem funktionierenden Prototyp ein System zu machen, das dauerhaft Wert schafft. Unternehmen, denen das gelingt, gehen erkennbar anders vor:
- Sie legen Erfolgskriterien fest, bevor sie bauen.
- Sie planen die Integration in bestehende Systeme von Anfang an ein.
- Sie denken Governance und Sicherheit schon im Pilot mit.
- Sie klären, wer das System nach dem Go-live dauerhaft verantwortet.
Sie beginnen also beim Prozess. Hier entscheidet sich, ob KI ein Innovationsprojekt bleibt oder zum produktiven Teil der Wertschöpfung wird. Genau auf diese Phase, von Integration über Governance bis zum Betrieb, konzentrieren wir uns bei theBlue.ai. Mehr dazu auf unserer Seite zur KI-Agenten-Entwicklung.
Ihr Pilot überzeugt, aber stockt im Betrieb?
Beschreiben Sie uns Ihr System. Wir prüfen Datenreife, Integration, Governance und Betrieb und zeigen, welche gezielten Eingriffe es produktionsreif machen.
Prozessanalyse anfragenHäufige Fragen
Laut IDC erreichen 88 % der KI-Proof-of-Concepts nie die breite Produktion, von 33 Piloten gehen nur vier in Betrieb. Deloitte zufolge nutzen nur 11 % der Organisationen Agentic AI produktiv.
Meist an vier Ursachen: fehlende Datenreife für reale Eingaben, fehlende Integration in bestehende Systeme, ungeklärte Governance und keine dauerhafte operative Verantwortung. Die Modellqualität ist selten der Grund.
Selten. Oft reichen gezielte Eingriffe an Ausgabestruktur, Validierung, Integration und Sonderfallbehandlung. Bei Radaway dauerte der Weg vom technischen Review zum produktionsreifen System drei Wochen.
Erfolgskriterien, die Integration in bestehende Systeme, Anforderungen an Governance und Sicherheit sowie die Frage, wer das System nach dem Go-live dauerhaft verantwortet.
Julia ist seit 2019 Teil von theBlue.ai und begleitet die Entwicklung von KI-Anwendungen im Unternehmensumfeld seit den frühen Tagen des Unternehmens. In ihrer Rolle als Marketing Lead arbeitet sie eng mit den Engineering- und Consulting-Teams zusammen und macht komplexe technische Themen für Entscheider verständlich und zugänglich.
In ihren Artikeln schreibt sie über praktische Erfahrungen aus Enterprise-KI-Projekten sowie über die Herausforderungen und Chancen beim Einsatz von KI in Unternehmen.