Entscheidungsmodelle (1): für eine Entscheidung braucht es keine tausend Worte

Seit drei Jahren haben wir uns angewöhnt, künstliche Intelligenz mit Textgenerierung gleichzusetzen. Man stellt einem Modell eine Frage, es überlegt, es erzeugt einige Dutzend oder einige Hundert Wörter. Ein Mensch liest die Antwort, oder ein Programm nimmt das Ergebnis entgegen und versucht, etwas damit anzufangen.

Diese Arbeitsweise ist völlig logisch, wenn man einen Brief verfassen, eine Konsultation zusammenfassen oder Code schreiben will. Sie ist es viel weniger, wenn man nur eine Entscheidung treffen möchte. Und ein guter Teil dessen, was wir für unsere Kunden automatisieren, läuft auf eine Entscheidung hinaus: Geht diese E-Mail an das Sekretariat oder an die Buchhaltung, ist dieser Vorgang vollständig, ist diese Patientennachricht dringend.

Am 15. September 2026 stellte ein Unternehmen aus San Francisco, TypeSafe AI, ein Modell vor, das genau das tut. Es heißt Jev, und es kann keinen Satz schreiben. Dieser erste Teil erklärt, was dieses Modell im Vergleich zu einem generativen Modell verändert, was bereits belegt ist und was nicht, und warum dieselbe Fähigkeit teilweise schon in den offenen Modellen steckte, die jeder bei sich selbst betreiben kann. Der zweite Teil betrachtet, was aus der Automatisierung wird, wenn eine Entscheidung hundert Millisekunden statt zehn Sekunden kostet.

Was ein generatives Modell wirklich tut, wenn man ihm eine Entscheidung abverlangt

Nehmen wir ein einfaches Beispiel. Ein Kunde schreibt: „Ich habe meine Bestellung erhalten, aber das Produkt ist kaputt." Wir wollen wissen, an welche Abteilung die Nachricht weitergeleitet werden soll, mit welcher Priorität, und ob eine Rückerstattung infrage kommt.

Die gängige Praxis besteht darin, ein großes Sprachmodell zu bitten, in einem strukturierten Format zu antworten, das das Programm lesen kann. Das Modell schreibt dann, in Textform, das Gegenstück zu dieser kleinen Tabelle:

Man muss sich ansehen, wie dieses Ergebnis entsteht. Ein Sprachmodell schreibt in kleinen Textstücken, die man Token nennt: ein Wort, ein Wortteil, eine geschweifte Klammer, ein Anführungszeichen. Jedes Token wird abhängig von allen vorangegangenen ausgewählt, eines nach dem anderen. Die obige Antwort umfasst etwa dreißig Token, also dreißig aufeinanderfolgende Durchläufe durch das Modell. Der von den Anbietern angebotene Modus „strukturierte Ausgabe" ändert an diesem Mechanismus nichts: Er verbietet bei jedem Schritt die Token, die das Format zerstören würden, aber die Antwort wird weiterhin Token für Token geschrieben.

Unser Programm wartet anschließend, bis der Text fertig ist, prüft, ob er korrekt aufgebaut ist, extrahiert die Felder und wendet dann seine eigene Regel an. Der vollständige Weg sieht so aus:

Dieser Umweg kostet Zeit, einige Sekunden pro Aufruf, und öffnet die Tür für Formatfehler, die das Programm anschließend auffangen muss.

Ein Modell, das nicht schreiben kann

Jev schafft diesen Umweg ab. Das Programm sendet ihm einen Zustand, also eine Beschreibung der Situation in freiem Text oder als Daten, sowie eine oder mehrere Fragen, deren mögliche Antworten im Voraus feststehen. TypeSafe bietet drei Fragetypen an: eine Wahl zwischen benannten Optionen, eine Bewertung auf einer durch Stufen beschriebenen Skala, und eine Ja-oder-Nein-Antwort. Das Modell liefert für jede Frage einen typisierten Wert und eine Wahrscheinlichkeit pro Option zurück. Hier, vereinfacht, die Art von Antwort, die TypeSafe dokumentiert:

Es gibt keinen Text mehr zu interpretieren. Die möglichen Ausgaben waren vor dem Aufruf definiert, und das Programm erhält Zahlen, die es mit einem Schwellenwert vergleichen kann. Alle Fragen, die zu ein und demselben Zustand gestellt werden, werden gemeinsam ausgewertet, in einem einzigen Durchlauf, und nicht nacheinander.

Nebeneinandergestellt lassen sich die beiden Wege so zusammenfassen:

Das ist der Punkt, der hervorgehoben werden sollte, weil sich der Rest daraus ergibt. Bisher war die Entscheidung ein Nebenprodukt der Generierung: Man ließ das Modell schreiben und las dann aus seinem Text heraus, was es entschieden hatte. Jev kehrt dieses Verhältnis um.

TypeSafe nennt Jev ein „System One Model". Der Ausdruck bezieht sich auf die beiden vom Psychologen Daniel Kahneman beschriebenen Denksysteme: System 1, schnell und intuitiv, das ein Gesicht erkennt oder spürt, dass eine Nachricht aggressiv ist, ohne darüber nachzudenken, und System 2, langsam und überlegt, das eine Multiplikation löst oder ein Argument abwägt. Die 2024 und 2025 aufgekommenen Reasoning-Modelle, jene, die „nachdenken", bevor sie antworten, wurden als künstliche System-2-Modelle präsentiert. TypeSafe geht den umgekehrten Weg und beansprucht ein System 1: ein unmittelbares Urteil, ohne schriftliche Begründung, als eigenständiges Produkt verkauft.

TypeSafe zieht daraus eine starke Behauptung, die in der Ankündigung so lautet.

Man sagt von einem Sprachmodell, dass es halluziniert, wenn es mit Überzeugung etwas Falsches oder Erfundenes schreibt. Im engeren Sinn trifft die Behauptung zu: Ein Modell, das nichts schreibt, kann weder eine Option noch ein Feld noch eine Tatsache erfinden, und seine Antwort ist immer eine der Optionen, die man ihm vorgegeben hat. Sie besagt aber nicht, dass die Wahl richtig ist. Jev kann trotzdem die falsche Option mit hoher Konfidenz wählen, und deshalb kommt es so sehr auf die Qualität der zurückgegebenen Wahrscheinlichkeiten an.

Das Unternehmen beschreibt eine Trainingsmethode, die es Reinforcement Learning for Calibrated Decisions nennt. Das erklärte Ziel ist nicht, dass die Antwort einem menschlichen Prüfer gefällt, wie beim Training von Konversationsassistenten, sondern dass die zurückgegebene Wahrscheinlichkeit der tatsächlichen Häufigkeit richtiger Antworten entspricht: Wenn das Modell 0,8 sagt, sollte es acht von zehn Mal richtig liegen. TypeSafe nennt Antwortzeiten zwischen 70 und 500 Millisekunden je nach Last, ein Beispiel eines Arbeitsablaufs, der in 114 Millisekunden ausgeführt wurde gegenüber 8,6 Sekunden für dieselbe Kette mit einem großen Sprachmodell, sowie einen Preis von 0,042 Dollar pro Million Eingabe-Token.

Diese Zahlen erfordern drei Vorbehalte, die wir aus den ersten Analysen übernehmen, die in der Woche der Vorstellung veröffentlicht wurden. Erstens stammen sie von TypeSafe selbst: Die Geschwindigkeits- und Kostenvergleiche nehmen Modelle als Referenz, die eine vollständige Begründung ausformulieren, und der Abstand verringert sich deutlich gegenüber dem in der Genauigkeit nächstliegenden Modell. Zweitens wird der interne Testdatensatz von anderen Sprachmodellen bewertet, nicht von menschlichen Prüfern, und bislang wurde keine Kalibrierungskurve veröffentlicht: Die Dokumentation verweist den Nutzer auf seine eigenen Messungen. Drittens ist Jev ein geschlossener Dienst, dessen Architektur und Größe unbekannt sind. Ein Teil der Kommentatoren sieht darin eher einen sorgfältig trainierten Klassifikator als einen Bruch. Diese Debatte schmälert nicht, worum es hier eigentlich geht, nämlich den Wechsel der Schnittstelle, und sie rechtfertigt einen Blick darauf, was offene Modelle bereits ermöglichen.

SemIf: dieselbe Fähigkeit, aus einem offenen Modell ausgelesen

Schon am Tag nach der Ankündigung, am 16. September, veröffentlichte ein unabhängiger Entwickler, Theodore Lee, ein Projekt, das zunächst OpenJev hieß und dann in SemIf umbenannt wurde, ohne Verbindung zu TypeSafe. Das Projekt versucht nicht, das Modell nachzubilden, über das nichts öffentlich bekannt ist, sondern die Schnittstelle: eine Situation, Optionen, Wahrscheinlichkeiten.

SemIf setzt auf Qwen3.5-4B, ein offenes Modell mit vier Milliarden Parametern, das auf einer haushaltsüblichen Grafikkarte läuft. Es bittet das Modell nicht zu schreiben. Es legt ihm die Situation, die Frage und die mit A, B, C beschrifteten Optionen vor und liest direkt die Werte aus, die das Modell jedem dieser Buchstaben für das nächste Token zuweist. Diese internen Werte, die man Logits nennt, existieren bei jedem Schritt in jedem Sprachmodell: Es sind die Zahlen, aus denen normalerweise das nächste Token gezogen wird. SemIf wandelt sie in Wahrscheinlichkeiten um und hört dort auf. Es wird kein einziges Token erzeugt.

Der Autor nennt das ein semantic if: eine Softwarebedingung, deren Regel nicht im Code steht, sondern von einem Modell verstanden wird. Das Modell bringt sein Wissen über Sprache und Welt mit. Es weiß, dass ein Patient, der zwei Tage nach einer Operation starke Schmerzen beschreibt, etwas anderes erzählt als ein Patient, der eine Rechnung reklamiert. Man verlangt von ihm nur nicht mehr, es auszusprechen.

Die veröffentlichte Messung ist eindeutig. Auf einer RTX 3090, mit genau demselben Qwen3.5-4B, derselben Situation und denselben 21 binären Fragen, lieferte das direkte Auslesen der Werte die 21 Wahrscheinlichkeitspaare in 1,023 Sekunden, ohne ein einziges Token zu erzeugen. Dasselbe Modell eine kompakte Tabelle mit 21 Werten schreiben zu lassen, dauerte 5,332 Sekunden, also fünfmal so lange. Die beiden Auslesungen stimmten bei 18 der 21 Fragen überein, was der Autor ehrlich als Geschwindigkeitsvergleich darstellt und nicht als Beweis, dass beide Methoden dieselbe Entscheidung treffen.

Er ist ebenso ehrlich darüber, was fehlt. Die Reihenfolge der Optionen umzukehren, führte in seinem Testdatensatz bei 10 von 144 Antworten zu einem Wechsel. Und er schreibt, dass die erhaltene Wahrscheinlichkeit ein von den angebotenen Optionen abhängiger Wert ist, „keine kalibrierte operative Konfidenz". Diese beiden Schwächen sind nicht neu: Die Forschung hat bereits 2021 beschrieben, dass Sprachmodelle bestimmte Antworten je nach ihrer Position oder Häufigkeit in den Trainingstexten bevorzugen, und Korrekturen vorgeschlagen. Andere offene Projekte, die in derselben Woche erschienen, gehen das an, indem sie ein kleines Modell gezielt für diesen Ausgabemodus feinabstimmen.

Was SemIf zeigt, ist also begrenzt, aber konzeptionell wichtig.

Warum nicht klassisches Machine Learning verwenden?

Auf den ersten Blick ähnelt das alles stark dem, was man seit zwanzig Jahren mit logistischer Regression, Random Forest oder XGBoost kann, Methoden, die aus beschrifteten Beispielen lernen zu klassifizieren. Und bei einer bestimmten Klasse von Problemen bleiben diese Methoden überlegen.

Nehmen wir an, man möchte das Risiko einer Komplikation nach einer Augenoperation anhand perfekt strukturierter Variablen schätzen: Alter, Augeninnendruck, Hornhautdicke, Art des Eingriffs, Vorgeschichte. Verfügt man über mehrere zehntausend korrekt erfasste Fälle, wäre der Rückgriff auf ein Modell mit vier Milliarden Parametern eine schlechte Ausgangshypothese. Ein baumbasiertes Modell ist winzig, läuft auf einem gewöhnlichen Prozessor in einem Bruchteil einer Millisekunde und lernt genau die statistische Beziehung, die uns interessiert. Eine Referenzstudie aus dem Jahr 2022 bestätigt dies anhand von 45 tabellarischen Datensätzen: Bäume bleiben bei mittelgroßen Datenmengen vor neuronalen Netzen, selbst ohne ihren Geschwindigkeitsvorteil mitzurechnen.

Nehmen wir eine Nachricht, die im Sekretariat einer Praxis eingeht: „Ich wurde vorgestern operiert, und seit heute Morgen sehe ich deutlich schlechter. Mein Auge tut sehr weh." Wir möchten zwischen vier möglichen Folgen wählen: eine administrative Antwort, eine normale Konsultation, eine schnelle ärztliche Einschätzung, ein Notfall. Um einen klassischen Klassifikator zu bauen, muss man genug Nachrichten sammeln, die Kategorien festlegen, jedes Beispiel von jemandem annotieren lassen, der eine Patientennachricht lesen kann, bereinigen, trainieren, und dann von vorn beginnen, sobald die Praxis ihre Kategorien ändert. Studien, die die beiden Ansätze vergleichen, verorten den Wendepunkt niedrig, bei etwa einigen Hundert annotierten Beispielen: darüber hinaus schlägt ein kleines feinabgestimmtes Modell das große Modell ohne Beispiele. Darunter aber, und vor allem am ersten Tag, ist das große Modell das einzige, das antwortet.

Ein Universalmodell verfügt bereits über eine Repräsentation von Konzepten wie kürzliche Operation, Schmerz, Sehverschlechterung oder Notfall. SemIf oder Jev nutzen das sofort, ohne lokalen Datensatz. Klassisches Machine Learning lernt Ihr besonderes Problem. Das Universalmodell hat bereits ein annäherndes Modell der Welt gelernt, und Sie geben ihm in der Anfrage das besondere Problem an, das Sie lösen wollen.

Die Kategorien verlassen das Modell und wandern ins Programm

Diese Eigenschaft wird bei der Automatisierung wertvoll, weil Organisationen ihre Meinung ändern. Ein Klassifikator, der darauf trainiert wurde, zwischen „Spam", „normal" und „dringend" zu sortieren, hat diese drei Klassen gelernt. Entscheidet die Organisation sechs Monate später, zwischen Sekretariat, Buchhaltung, technischem Support, Geschäftsleitung und Notfall zu unterscheiden, hat sich das Problem geändert, und man muss neu annotieren und neu trainieren. Eine Studie von 2026 zur Absichtserkennung misst das unumwunden: Ein festgelegter Klassifikator erreicht bei einem neuen Kategorienschema null, während ein Universalmodell weiter antwortet.

Der Entwickler behält die Struktur des Problems unter Kontrolle, in Code, den er lesen, testen und ändern kann, und das Modell liefert nur den Teil, der schwer zu schreiben ist: zu verstehen, was die beobachtete Situation bedeutet. Das bringt die künstliche Intelligenz näher an gewöhnliche Software heran, und genau diesen Platz geben wir ihr in unserer Automatisierungsmethode: Mikroprozesse, deren jeder Schritt lesbar ist, mit dem Modell dort, wo eine geschriebene Regel nicht ausreicht.

Was der zweite Teil untersucht

Fassen wir zusammen. Ein generatives Modell schreibt einen Text, den das Programm anschließend erneut lesen muss, um darin eine Entscheidung zu finden. Ein Entscheidungsmodell erhält die Situation und die Optionen und liefert eine Wahrscheinlichkeit pro Option, in einem einzigen Durchlauf. Die Kategorien sind nicht mehr im Modell festgelegt; sie stehen im Programm, wo man sie lesen und ändern kann. Und diese Fähigkeit ist keinem geschlossenen Dienst vorbehalten: SemIf zeigt, dass ein Teil davon bereits in einem offenen Modell mit vier Milliarden Parametern existiert, um den Preis von Grenzen, die sein Autor selbst dokumentiert.

All das würde aus Jev oder SemIf flexiblere Klassifikatoren machen, und das wäre bereits nützlich.

Bei dieser Geschwindigkeit tritt das Modell in Schleifen ein, in denen man beobachtet, mehrere Aktionen vergleicht, bevor man handelt, und in denen ein kleines spezialisiertes Modell schließlich die häufigen Fälle übernimmt. Das ist der Gegenstand des zweiten Teils dieses Artikels.

Wenn Sie einen Prozess haben, bei dem eine Entscheidung dutzende Male am Tag anfällt und heute auf dem Lesen durch eine Person beruht, genügt in der Regel ein Gespräch von dreißig Minuten, um herauszufinden, ob ein Modell dieser Art dazu passt. Schreiben Sie uns unten auf der Seite, oder buchen Sie direkt einen Termin in unserem Kalender.

Quellen

• TypeSafe AI, Introducing System One Models & Jev (15. September 2026)
  Offizielle Ankündigung: die drei Fragetypen, die parallele Auswertung, die Trainingsmethode, die Latenzen von 70 bis 500 ms, das Beispiel mit 114 ms und der Preis.

• TypeSafe AI, Dokumentation: confidence
  Seite, die den Konfidenzwert beschreibt und den Nutzer für die Kalibrierung auf seine eigenen Messungen verweist.

• Business Wire, TypeSafe AI Emerges From Stealth With $40M in Funding (15. September 2026)
  Startmitteilung: Finanzierung, Gründer und Positionierung.

• Pear Pages, Jev, sorted: what TypeSafe’s System One model actually is, and what is still just a claim (16. September 2026)
  Kritische Analyse der von TypeSafe veröffentlichten Vergleiche und des Fehlens von Kalibrierungskurven.

• Hacker News, Diskussion zum Start von TypeSafe AI
  Aufnahme durch die Entwickler, darunter der Einwand „das ist nur ein Klassifikator".

• Theodore Lee, SemIf (früher OpenJev), GitHub-Repository
  Methode des direkten Auslesens der Werte, Messung 1,023 s gegenüber 5,332 s auf RTX 3090, Störungstests und vom Autor genannte Grenzen.

• Zhao et al., Calibrate Before Use: Improving Few-Shot Performance of Language Models (ICML 2021)
  Positions- und Häufigkeitsverzerrung in den Antworten von Sprachmodellen, und vorgeschlagene Korrektur.

• Zheng et al., Large Language Models Are Not Robust Multiple Choice Selectors (ICLR 2024)
  Empfindlichkeit der Modelle gegenüber der Reihenfolge und der Beschriftung der Optionen.

• Grinsztajn, Oyallon, Varoquaux, Why do tree-based models still outperform deep learning on tabular data? (NeurIPS 2022)
  Referenz für die Überlegenheit von Bäumen bei tabellarischen Daten mittlerer Größe.

• Bucher und Martini, Fine-Tuned ‘Small’ LLMs (Still) Significantly Outperform Zero-Shot Generative AI Models in Text Classification (2024)
  Wendepunkt bei etwa einigen Hundert annotierten Beispielen.

• When Do LLMs Replace Fine-Tuned NLU? A Decision Framework for Intent Detection in Production Conversational Systems (2026)
  Vergleich bei einem sich ändernden Kategorienschema: der festgelegte Klassifikator antwortet nicht mehr.