Prozessautomatisierung · Decision Models
Decision Models: schnelle, günstige KI für alltägliche Entscheidungen
In Unternehmen fallen am Tag Tausende kleiner Entscheidungen: Welches Team bekommt ein Ticket, ist diese E-Mail eine Beschwerde oder eine Bestellung, ist diese Nachricht dringend. Seit September 2026 gibt es eine KI-Klasse, die genau dafür gebaut ist. Sie antwortet in deutlich unter einer Sekunde für den Bruchteil eines Cents, und sie ist heute schon einsatzreif.
Das Wichtigste in Kürze
- Ein Decision Model wählt eine Antwort aus einer festen Liste und gibt eine Wahrscheinlichkeit dazu. Es schreibt keinen Text, deshalb ist es schnell.
- Bei den Anbietern, die wir getestet haben, wird nur der Eingabetext berechnet. Dieselbe Aufgabe kostet 10- bis 100-mal weniger als mit einem LLM.
- Die Konfidenz sortiert gut, beweist aber nichts im Einzelfall. Die Schwelle für automatische Entscheidungen gehört auf die eigenen Daten, je Sprache getrennt.
- Eine Prüfung über 51 Sprachen fand: Eine auf Englisch kalibrierte Schwelle hielt in 8 davon (Brom, 2026).
- In den meisten Prozessen arbeiten beide zusammen. Das Decision Model entscheidet die klaren Fälle, der Rest geht an ein LLM.
Was kleine Entscheidungen kosten
Eingehende Arbeit zu verteilen frisst in vielen Teams einen großen Teil des Tages. Ein Service Desk legt Tickets in Warteschlangen. Ein Logistikteam liest Versand-E-Mails und entscheidet, wer sie bearbeitet. Ein Backoffice sortiert Dokumente nach Art, bevor sie jemand anfasst. Keiner dieser Schritte verlangt einen Gedanken. Jeder verlangt, dass jemand liest.
Bisher haben Unternehmen das auf zwei Arten automatisiert, und keine passt richtig. Feste Regeln brechen, sobald Menschen anders formulieren. Große Sprachmodelle kommen mit jeder Formulierung zurecht, aber jeder Aufruf dauert Sekunden und kostet mehr, als die Entscheidung wert ist, wenn er 50.000-mal im Monat läuft.
Decision Models sind für diese Lücke gebaut. Das Modell bekommt den Text, manche Modelle auch Bilder, dazu eine feste Liste möglicher Antworten. Es gibt eine davon zurück, mit einer Wahrscheinlichkeit, in einem Durchlauf, ohne etwas zu schreiben.
Die meisten Decision Models gehen von derselben Art Sprachmodell aus wie ChatGPT oder Copilot und sind darauf nachtrainiert, Optionen zu bewerten statt Text zu schreiben. Der Unterschied liegt darin, wie die Antwort entsteht. Ein LLM schreibt seine Antwort Wort für Wort, deshalb kommt selbst ein einzelnes Etikett als Text an, den das empfangende System erst lesen und prüfen muss, und jedes Wort kostet Zeit und Geld. Ein Decision Model schreibt nichts. Es liest die Eingabe einmal und bewertet jede der vorgegebenen Optionen, die Antwort ist also immer eine davon. Bei den Anbietern, die wir getestet haben, wird nur der Eingabetext berechnet. Deshalb kostet dieselbe Aufgabe üblicherweise 10- bis 100-mal weniger als mit einem LLM, je nachdem, welche Modelle man vergleicht.
Der Preis für dieses Tempo ist ein engerer Auftrag. Ein Decision Model erklärt nichts, fasst nichts zusammen, rechnet nicht und antwortet nie außerhalb der vorgegebenen Optionen. Für einen Schritt, der nur die richtige Warteschlange, das richtige Etikett oder die nächste Aktion treffen muss, ist genau das verlangt, zu Kosten, die niedrig genug sind, um auf jedem Ticket, jeder E-Mail und jedem Dokument im Prozess zu laufen.
Ein Markt, der in sechs Wochen entstanden ist
TypeSafe hat im September 2026 mit Jev eines der ersten Decision Models veröffentlicht. Innerhalb von Wochen hatten OpenAI, Microsoft, AWS und Cloudflare eigene nachgelegt, teils als gehostete Dienste, teils als offene Modelle, die auf den eigenen Servern laufen.
Experimente sind das nicht mehr. Unternehmen setzen sie bereits produktiv ein, und manche ersetzen damit die Modelle, die sie vorher genutzt haben, überall dort, wo eine Auswahl aus einer geschlossenen Liste reicht.
Alle paar Tage kommen neue dazu, und sie unterscheiden sich zunehmend nach Zweck. Manche sind auf Sicherheitsprüfungen getrimmt, manche klein genug für einen einzelnen Firmenserver, manche decken viele Sprachen ab, manche lesen neben Text auch Bilder. Damit lässt sich ein Modell für das konkrete Problem wählen statt ein Modell für alles.
Wo sie an Grenzen stoßen
Die Messwerte der Anbieter zeigen Decision Models von ihrer besten Seite. In unseren eigenen Projekten sehen wir drei Grenzen, die zählen, sobald ein Modell in einem echten Prozess läuft. Die unabhängige Forschung weist in dieselbe Richtung.
Sprache
Die meisten Decision Models sind überwiegend auf Englisch trainiert und kalibriert. Nach unserer Erfahrung ist dasselbe Modell bei derselben Aufgabe auf Polnisch etwas ungenauer als auf Englisch, und seine Konfidenzwerte werden unzuverlässiger. Eine Prüfung über 51 Sprachen kam zum selben Ergebnis: Eine auf Englisch kalibrierte Konfidenzschwelle hielt ihr Versprechen nur noch in 8 von ihnen (Brom, 2026).
Für ein Unternehmen, das auf Deutsch oder Polnisch arbeitet, ist die Sprache deshalb das Erste, was man testet. Und zwar beides: die Sprache des Eingabetextes und die Beschreibungen der Optionen, aus denen das Modell wählt, denn jede von beiden kann das Ergebnis verschieben (Galtea, 2026).
Konfidenz
Zu jeder Antwort gehört eine Wahrscheinlichkeit, die zeigt, wie sicher das Modell ist. Gibt es 0,9 für „Beschwerde“, sollten etwa neun von zehn solchen Antworten richtig sein. Das macht die Zahl gut zum Sortieren: Je höher sie ist, desto wahrscheinlicher stimmt die Antwort.
Was die Zahl nicht kann, ist versprechen, dass eine bestimmte Antwort richtig ist. Die Werte ordnen Fälle gut, bestätigen aber keinen einzelnen, deshalb kommen manche falschen Antworten weiterhin mit hoher Konfidenz an (Xiong et al.). Wir haben das in eigenen Tests gesehen. Außerdem sind die Werte nur so verlässlich wie die Aufgabe, auf der sie geprüft wurden. Bei Kategorien, die es nur in einem einzigen Unternehmen gibt, kann 0,9 bedeuten, dass das Modell weit seltener als neunmal von zehn richtigliegt.
Deshalb wird das Modell zuerst auf den echten Daten des Unternehmens getestet, und die Schwelle, ab der Entscheidungen automatisch laufen, wird aus diesen Ergebnissen gesetzt, für jede Sprache getrennt.
Fachwissen und Rechnen
Bei klar umrissenen, allgemeinen Fragen halten Decision Models mit LLMs mit. Ihr Vorteil sind Kosten und Tempo, nicht Genauigkeit, und bei mehrschrittiger Mathematik fallen sie ab: Auf MathQA lag eines von ihnen 17,7 Punkte unter dem Median der Frontier-Modelle und unter allen 19 LLMs, mit denen es verglichen wurde (Li et al., 2026).
Nach unserer Erfahrung zeigt sich die Lücke überall dort, wo die richtige Antwort an Fachwissen hängt, etwa daran zu wissen, welches Team ein Problem besitzt, wenn das davon abhängt, wie ein bestimmtes Fachsystem aufgebaut ist.
Decision Models rechnen auch nicht. Den Betrag auf einer Rechnung mit der Bestellung zu vergleichen oder zu prüfen, ob eine Zahlungsfrist abgelaufen ist, erledigt eine Regel oder etwas Code besser. Das Decision Model übernimmt den Teil, der Textverständnis braucht, etwa zu erkennen, ob ein Dokument eine Rechnung oder eine Gutschrift ist.
Decision Models und übliche LLMs
Beide können Arbeit im selben Prozess automatisieren, aber sie arbeiten verschieden, und jedes ist das richtige Werkzeug für eine andere Art von Aufgabe.
| Decision Model | LLM | |
|---|---|---|
| Was zurückkommt | Eine Antwort aus geschlossener Liste, mit Wahrscheinlichkeit | Offener Text: Antworten, Erklärungen, Zusammenfassungen, Entwürfe |
| Passt zu | Hohem Volumen, klaren Optionen, Englisch oder einer getesteten Sprache | Entscheidungen, die Fachwissen oder Schlussfolgern brauchen, bei mittlerem Volumen |
| Laufende Kosten | Bruchteile eines Cents je Entscheidung | Üblicherweise 10- bis 100-mal mehr |
| Worauf zu achten ist | Sprache, selbstsicher falsche Antworten | Kosten bei Menge, selbst gemeldete Sicherheit ist unzuverlässig |
In den meisten Prozessen, die wir sehen, ist die Kombination aus beiden der beste Aufbau, aus zwei getrennten Gründen. Erstens kann ein Decision Model nicht, was ein LLM kann. Es wählt nur aus einer festen Liste, also bleibt jeder Schritt, der Text schreiben muss, beim LLM: eine Antwort, eine Zusammenfassung, herausgezogene Angaben. Zweitens entscheidet das Decision Model selbst dort, wo eine Auswahl aus einer Liste reicht, nur die Fälle, bei denen es sicher ist, und reicht den Rest weiter.
Nehmen wir ein Postfach im Kundenservice. Ein Decision Model liest jede eingehende E-Mail und entscheidet binnen einer Sekunde, ob sie eine Bestellung, eine Beschwerde oder eine Frage ist und wie dringend. Bestellungen und Routinefragen gehen direkt in die richtige Warteschlange. Nur Beschwerden und die E-Mails, bei denen das Decision Model unsicher ist, gehen an ein LLM, das eine Antwort entwirft oder die Angaben herauszieht, die der nächste Schritt braucht. Das Postfach ist fast sofort sortiert, und das langsamere, teurere Modell läuft auf einem Bruchteil der E-Mails statt auf allen. Die Prozessseite davon haben wir in Posteingang automatisieren beschrieben.
Wie wir einen Aufbau für den Betrieb bauen
Das Modell zu wählen ist der erste Schritt und der kleinste. Sicher im laufenden Prozess wird ein Decision Model durch den Aufbau drumherum. Die Punkte unten decken sich mit dem, was die ersten unabhängigen Prüflisten für diese Modellklasse verlangen (Tang und Zheng, 2026).
- Das Modell ist nie fest verdrahtet. Es sitzt hinter einer eigenen Schnittstelle des Unternehmens, deshalb ist der Wechsel auf ein besseres oder günstigeres Modell eine Einstellung und kein Umbau. Jede Änderung wird getestet, bevor sie live geht, auch das Update eines Anbieters.
- Jede Entscheidung wird protokolliert, samt Modellversion. Das trägt Prüfungen und die Aufzeichnungspflichten, die der EU AI Act für Hochrisiko-Anwendungen vorsieht.
- Die Optionsbeschreibungen werden getestet wie Code. Sie tragen die Geschäftsregeln des Unternehmens.
- Daten bleiben, wo sie bleiben müssen, in einer EU-Region oder auf den eigenen Servern.
- Eingangstext wird mit Vorsicht behandelt. Ein paar natürlich klingende Sätze in einer E-Mail können reichen, um ein Modell zur falschen Antwort zu schieben, deshalb wird das vor dem Start geprüft (Xu et al., 2026).
- Unsichere Fälle gehen weiter an ein LLM oder eine Rückfallregel, statt automatisch entschieden zu werden.
Für jede Entscheidung das richtige Modell
Decision Models machen es bezahlbar, die kleinen, immer gleichen Entscheidungen zu automatisieren, für die ein LLM zu langsam und zu teuer ist. Sie wählen immer aus einer geschlossenen Liste, und ihre besten Ergebnisse liefern sie in einer getesteten Sprache, mit einer Schwelle, die auf den eigenen Daten gesetzt wurde. Wo ein Schritt Text schreiben oder Fachwissen braucht, bleibt das LLM im Prozess, und meistens arbeiten beide zusammen.
Bei theBlue.ai testen wir Decision Models und LLMs nebeneinander und bauen beide in Geschäftsprozesse ein, für Kunden und im eigenen Haus. Aus dieser Arbeit wissen wir, wo sich welches rechnet und wo nicht. Wie wir Vorhaben zuschneiden, steht auf der Seite So arbeiten wir.
theBlue.ai ist ein Enterprise-KI-Unternehmen mit Standorten in Hamburg und Poznań. Das Team arbeitet seit 2016 an KI-Projekten und gehört zur Apollogic-Gruppe mit über 120 Entwicklern. Mehr über uns lesen Sie auf der Seite Über uns.
Quellen: Brom (2026), „Confidence Is Not a Promise: A Reference Audit of Typed Decision Models“ für die Konfidenzschwelle über 51 Sprachen. Li et al. (2026), „Specialized Decision Models vs. General-Purpose LLMs“ für den Abstand bei mehrschrittiger Mathematik. Tang und Zheng (2026), „Typed Decision Models: An Early Evidence Audit and Evaluation Checklist“ für die Prüfliste. Xu et al. (2026), „JevOut: Natural Context Can Flip Decision Models“ für manipulierte Eingaben. Xiong et al., „Can LLMs Express Their Uncertainty?“ für selbst gemeldete Sicherheit. Galtea (2026) für den Einfluss der Sprache. OpenAI, Decisions für den Aufbau der Schnittstelle.
Sie planen ein KI-Projekt?
In der Prozessanalyse nehmen wir Ihre Abläufe auf, sortieren die möglichen Anwendungsfälle nach Nutzen und schlagen eine Architektur vor.
Prozessanalyse anfragenHäufige Fragen
Ein KI-Modell, das aus einer festen Liste möglicher Antworten genau eine auswählt und eine Wahrscheinlichkeit dazu angibt. Es schreibt keinen Text und antwortet nie außerhalb der Liste. Gedacht ist es für Schritte wie: Welches Team bekommt dieses Ticket, ist diese E-Mail eine Beschwerde, welcher Dokumententyp liegt hier vor.
Bei denselben Aufgaben üblicherweise 10- bis 100-mal, je nachdem, welche Modelle man vergleicht. Der Grund ist, dass bei den Anbietern, die wir getestet haben, nur der Eingabetext berechnet wird. Eine einzelne Entscheidung kostet damit Bruchteile eines Cents, was sie auch bei 50.000 Vorgängen im Monat tragbar macht.
Zum Sortieren ja, als Beweis nein. Ein hoher Wert bedeutet, dass die Antwort wahrscheinlicher richtig ist, er bestätigt aber keinen Einzelfall, und einzelne falsche Antworten kommen mit hoher Konfidenz an. Die Schwelle, ab der automatisch entschieden wird, gehört deshalb auf die eigenen Daten gesetzt, für jede Sprache getrennt.
Sie funktionieren, aber nicht ungeprüft. Die Modelle sind überwiegend auf Englisch kalibriert. Eine Prüfung über 51 Sprachen fand, dass eine auf Englisch gesetzte Konfidenzschwelle nur in 8 davon hielt (Brom, 2026). Zu testen sind beide Seiten: die Sprache der eingehenden Texte und die Sprache der Optionsbeschreibungen.
Immer dann, wenn der Schritt Text erzeugen muss, etwa eine Antwort, eine Zusammenfassung oder herausgezogene Angaben, wenn die richtige Antwort an Fachwissen über ein bestimmtes System hängt oder wenn gerechnet werden muss. In den meisten Prozessen laufen beide nebeneinander: Das Decision Model entscheidet die klaren Fälle, das LLM bekommt den Rest.
Aleksandra Osztynowicz