Otsustusmudelid (1): otsustamiseks pole vaja tuhandet sõna

Kolm aastat oleme harjunud seostama tehisintellekti teksti loomisega. Mudelile esitatakse küsimus, ta mõtleb ja loob mõnikümmend või mõnisada sõna. Inimene loeb vastuse või programm võtab tulemuse ja proovib sellega midagi teha.

See töötamisviis on täiesti loogiline kirja koostamisel, konsultatsiooni kokkuvõtte tegemisel või koodi kirjutamisel. Palju vähem loogiline on see, kui soovitakse ainult otsust teha. Ja suur osa sellest, mida me oma klientide jaoks automatiseerime, taandub ühele otsusele: kas see kiri läheb sekretariaati või raamatupidamisse, kas see toimik on täielik, kas see patsiendi sõnum on kiireloomuline.

15. septembril 2026 esitles San Franciscos asuv ettevõte TypeSafe AI mudelit, mis teeb ainult seda. Selle nimi on Jev ja ta ei oska kirjutada lauset. See esimene osa selgitab, mida see mudel generatiivse mudeliga võrreldes muudab, mis on kontrollitud ja mis mitte veel, ning miks sama võime oli osaliselt juba olemas avatud mudelites, mida igaüks saab enda juures käitada. Teine osa vaatab, mis saab automatiseerimisest, kui otsus maksab sada millisekundit kümne sekundi asemel.

Mida generatiivne mudel tegelikult teeb, kui temalt otsust küsitakse

Võtame lihtsa näite. Klient kirjutab: „Sain oma tellimuse kätte, aga toode on katki." Me tahame teada, millisele osakonnale sõnum edastada, millise prioriteediga, ja kas tagasimakse on võimalik.

Tavapärane praktika on paluda suurel keelemudelil vastata struktureeritud vormingus, mida programm oskab lugeda. Mudel kirjutab siis tekstina selle väikese tabeli vaste:

Tuleb vaadata, kuidas see tulemus tekib. Keelemudel kirjutab väikeste tekstitükkidena, mida nimetatakse märkideks (ingliskeelne tokens): sõna, sõnaosa, looksulg, jutumärk. Iga märk valitakse kõigi eelnevate põhjal, üksteise järel. Ülaltoodud vastus koosneb umbes kolmekümnest märgist, seega kolmekümnest järjestikusest läbimisest mudelis. Pakkujate pakutav „struktureeritud väljundi" režiim ei muuda seda mehhanismi: see keelab igal sammul märgid, mis rikuksid vormingut, kuid vastus jääb ikkagi kirjutatuks märk-märgi haaval.

Meie programm ootab seejärel, kuni tekst on valmis, kontrollib, kas see on õigesti vormistatud, eraldab väljad ja rakendab siis oma reeglit. Kogu tee näeb välja selline:

See ümbertee võtab aega, mõni sekund päringu kohta, ja avab ukse vormingu vigadele, mida programm peab hiljem parandama.

Mudel, kes ei oska kirjutada

Jev kõrvaldab selle ümbertee. Programm saadab talle oleku, see tähendab olukorra kirjelduse vabas tekstis või andmetena, ning ühe või mitu küsimust, mille võimalikud vastused on ette fikseeritud. TypeSafe pakub kolme tüüpi küsimusi: valik nimetatud valikute vahel, hinnang tasemetega kirjeldatud skaalal ning jah-ei vastus. Mudel tagastab iga küsimuse kohta tüübistatud väärtuse ja tõenäosuse iga valiku kohta. Siin on lihtsustatult seda tüüpi vastus, mida TypeSafe dokumenteerib:

Enam ei ole teksti, mida tõlgendada. Võimalikud väljundid olid määratletud juba enne päringut ja programm saab numbrid, mida ta oskab lävendiga võrrelda. Kõik samale olekule esitatud küsimused hinnatakse koos, ühe läbimisega, mitte üksteise järel.

Kõrvuti pannuna võtavad kaks teekonda kokku nii:

See on punkt, mida tasub rõhutada, sest ülejäänu tuleneb sellest. Siiani oli otsus generatsiooni kõrvalsaadus: mudelil lasti kirjutada ja siis loeti tema tekstist, mida ta oli otsustanud. Jev pöörab selle suhte ümber.

TypeSafe nimetab Jevi „System One mudeliks". Väljend viitab kahele mõtlemissüsteemile, mida kirjeldas psühholoog Daniel Kahneman: süsteem 1, kiire ja intuitiivne, mis tunneb ära näo või tajub, et sõnum on agressiivne, ilma selle üle järele mõtlemata, ja süsteem 2, aeglane ja kaalutlev, mis teeb korrutustehte või kaalub argumenti. 2024. ja 2025. aastal ilmunud arutlusmudelid, need, mis „mõtlevad" enne vastamist, esitleti kui tehislikke süsteem 2 mudeleid. TypeSafe teeb vastupidise liigutuse ja kuulutab end süsteem 1-ks: vahetu hinnang, ilma kirjutatud arutluseta, müüdud iseseisva tootena.

TypeSafe teeb sellest tugeva väite, mis on tema teadaandes sõnastatud nii.

Keelemudeli kohta öeldakse, et ta hallutsineerib, kui ta kirjutab enesekindlalt midagi valet või välja mõeldud. Kitsamas mõttes väide peab paika: mudel, mis midagi ei kirjuta, ei saa leiutada valikut, välja ega fakti, ja tema vastus jääb alati nende valikute hulka, mis talle anti. See ei tähenda siiski, et valik on õige. Jev võib ikka valida vale valiku suure usaldustasemega, ja just seepärast on tema tagastatavate tõenäosuste kvaliteet niivõrd oluline.

Ettevõte kirjeldab treeningmeetodit, mida ta nimetab Reinforcement Learning for Calibrated Decisions. Teatatud eesmärk ei ole see, et vastus meeldiks inimlikule ülevaatajale, nagu vestlusassistentide treenimisel, vaid et tagastatud tõenäosus vastaks õigete vastuste tegelikule sagedusele: kui mudel ütleb 0,8, peaks tal olema õigus kaheksal juhul kümnest. TypeSafe teatab vastamisaegadest 70 kuni 500 millisekundit sõltuvalt koormusest, ühe töövoo näite, mis täideti 114 millisekundiga võrreldes 8,6 sekundiga sama ahela puhul, mis usaldati suurele keelemudelile, ning hinnaks 0,042 dollarit miljoni sisendmärgi kohta.

Need arvud vajavad kolme reservatsiooni, mille võtame üle käivitusnädalal avaldatud esimestest analüüsidest. Esiteks pärinevad need TypeSafelt: kiiruse ja hinna võrdlused võtavad võrdlusaluseks mudelid, mis kirjutavad täieliku arutluse, ja vahe kitseneb selgelt täpsuselt lähima mudeli puhul. Teiseks hindavad sisemist testikomplekti teised keelemudelid, mitte inimlikud ülevaatajad, ning ühtegi kalibreerimiskõverat ei ole tänaseks avaldatud: dokumentatsioon suunab kasutaja tegema oma mõõtmisi. Lõpuks on Jev suletud teenus, mille arhitektuur ega suurus ei ole teada. Osa kommenteerijaid näeb selles pigem hoolikalt treenitud klassifitseerijat kui murrangut. See vaidlus ei muuda midagi selles, mis meid siin huvitab, nimelt liidese muutuses, ja see õigustab vaatamist, mida avatud mudelid juba praegu võimaldavad.

SemIf: sama võime, loetud avatud mudelist

Juba päev pärast teadaannet, 16. septembril, avaldas sõltumatu arendaja Theodore Lee projekti, mida nimetati esmalt OpenJev’iks, seejärel SemIf’iks, ilma igasuguse seoseta TypeSafega. Projekt ei püüa taasluua mudelit, millest midagi pole avalik, vaid liidest: olukord, valikud, tõenäosused.

SemIf tugineb Qwen3.5-4B-le, avatud neljamiljardilise parameetriga mudelile, mis mahub tavakasutaja graafikakaardile. Ta ei palu mudelil kirjutada. Ta esitab talle olukorra, küsimuse ja valikud, mis on märgistatud A, B, C, ning loeb otse skoorid, mille mudel omistab igale neist tähtedest järgmise märgi jaoks. Need sisemised skoorid, mida nimetatakse logititeks, on olemas igal sammul igas keelemudelis: need on numbrid, mille põhjal järgmine märk tavaliselt valitakse. SemIf teisendab need tõenäosusteks ja jääb sinnamaani. Ühtegi märki ei genereerita.

Autor nimetab seda semantic if‘iks: tarkvaralist tingimust, mille reegel ei ole kirjutatud koodi, vaid mille mudel mõistab. Mudel toob kaasa oma teadmised keelest ja maailmast. Ta teab, et patsient, kes kirjeldab tugevat valu kaks päeva pärast operatsiooni, ei räägi sama asja mis patsient, kes nõuab arvet. Talt lihtsalt ei paluta seda enam öelda.

Avaldatud mõõtmine on selge. RTX 3090 kaardil, täpselt sama Qwen3.5-4B mudeliga, sama olukorra ja samade 21 binaarse küsimusega, andis skooride otsene lugemine 21 tõenäosuspaari 1,023 sekundiga, ilma ühtegi märki genereerimata. Sama mudelil 21 väärtusega kompaktse tabeli kirjutamine võttis 5,332 sekundit, ehk viis korda rohkem. Kaks lugemisviisi olid ühel meelel 18 küsimuse puhul 21-st, mida autor esitab ausalt kiiruse võrdlusena, mitte tõestusena, et mõlemad meetodid otsustavad sama asja.

Ta on sama aus selle kohta, mis puudu on. Valikute järjekorra vahetamine muutis tema testikomplektis 10 vastust 144-st. Ja ta kirjutab, et saadud tõenäosus on antud valikutest sõltuv skoor, „mitte kalibreeritud operatiivne usaldusväärsus". Need kaks nõrkust ei ole uued: teadus kirjeldas juba 2021. aastal, et keelemudelid eelistavad teatud vastuseid nende asukoha või sageduse põhjal treeningtekstides, ja pakuti välja parandusi. Teised samal nädalal ilmunud avatud projektid tegelevad sellega, peenhäälestades väikest mudelit spetsiaalselt selle väljundviisi jaoks.

See, mida SemIf näitab, on seega piiratud, kuid kontseptuaalselt oluline.

Miks mitte kasutada klassikalist masinõpet?

Esmapilgul sarnaneb see kõik suuresti sellega, mida on juba kakskümmend aastat osatud teha logistilise regressiooni, juhusliku metsa või XGBoostiga, meetoditega, mis õpivad klassifitseerima märgistatud näidete põhjal. Ja teatud probleemiperekonna puhul jäävad need meetodid üle.

Oletame, et soovime hinnata tüsistuse riski pärast silmakirurgiat täiesti struktureeritud muutujate põhjal: vanus, silmasisene rõhk, sarvkesta paksus, operatsiooni tüüp, eelnev haiguslugu. Kui käes on mitukümmend tuhat korrektselt täidetud toimikut, oleks neljamiljardilise parameetriga mudeli kasutamine halb lähtehüpotees. Puudel põhinev mudel on tilluke, töötab tavalisel protsessoril millisekundi murdosaga ja õpib täpselt selle statistilise seose, mis meid huvitab. Üks 2022. aasta võrdlusuuring kinnitab seda 45 tabelandmestiku peal: puud jäävad keskmise suurusega andmete puhul närvivõrkudest paremaks, isegi kui nende kiiruseeliseid mitte arvestada.

Võtame sõnumi, mille sai kliiniku sekretariaat: „Mind opereeriti üleeile ja alates täna hommikust näen ma palju halvemini. Silm valutab väga." Me tahame valida nelja järgnevuse vahel: haldusvastus, tavaline konsultatsioon, kiire arstlik hinnang, hädaolukord. Klassikalise klassifitseerija ehitamiseks tuleb koguda piisavalt sõnumeid, kindlaks määrata kategooriad, lasta igal näitel märgendada kellelgi, kes oskab patsiendi sõnumit lugeda, need puhastada, treenida ja siis alustada uuesti päeval, mil kliinik oma kategooriaid muudab. Uuringud, mis võrdlevad kahte lähenemist, paigutavad pöördepunkti madalale, mõnesaja märgendatud näite juurde: sellest üle lööb väike peenhäälestatud mudel suurt mudelit, mida kasutatakse ilma näideteta. Aga allpool seda, ja eriti esimesel päeval, on suur mudel ainus, kes suudab vastata.

Üldotstarbelisel mudelil on juba selline mõistete esitus nagu hiljutine operatsioon, valu, nägemise halvenemine või hädaolukord. SemIf või Jev kasutavad seda kohe, ilma kohaliku andmestikuta. Traditsiooniline masinõpe õpib teie konkreetset probleemi. Üldotstarbeline mudel on juba õppinud ligikaudse mudeli maailmast ja teie näitate talle päringus konkreetse probleemi, mida soovite lahendada.

Kategooriad lahkuvad mudelist ja sisenevad programmi

See omadus muutub automatiseerimises väärtuslikuks, sest organisatsioonid muudavad meelt. Klassifitseerija, mis on treenitud sortima „rämpsposti", „tavalise" ja „kiireloomulise" vahel, on õppinud neid kolme klassi. Kui organisatsioon otsustab kuus kuud hiljem eristada sekretariaati, raamatupidamist, tehnilist tuge, juhtkonda ja hädaolukorda, on probleem muutunud ning tuleb uuesti märgendada ja uuesti treenida. 2026. aasta uuring kavatsuse tuvastamise kohta mõõdab seda otsesõnu: kinnistunud klassifitseerija saab uue kategooriaskeemi puhul nulli, samas kui üldotstarbeline mudel jätkab vastamist.

Arendaja hoiab probleemi struktuuri enda kontrolli all, koodis, mida ta saab lugeda, testida ja muuta, ning mudel pakub ainult seda osa, mida on raske kirjutada: mõista, mida vaadeldud olukord tähendab. See toob tehisintellekti lähemale tavalisele tarkvarale, ja see on täpselt see koht, mille me talle anname meie automatiseerimismeetodis: mikroprotsessid, mille iga samm on loetav, mudel seal, kus kirjutatud reeglist ei piisa.

Mida järgmine osa uurib

Võtame kokku. Generatiivne mudel kirjutab teksti, mida programm peab hiljem uuesti läbi lugema, et sealt otsus leida. Otsustusmudel saab olukorra ja valikud ning tagastab tõenäosuse iga valiku kohta, ühe ainsa läbimisega. Kategooriad ei ole enam mudelisse kinnistatud; need on kirjutatud programmi, kus neid saab lugeda ja muuta. Ja see võime ei ole reserveeritud suletud teenusele: SemIf näitab, et osa sellest on juba olemas neljamiljardilise parameetriga avatud mudelis, hinnaks piirangud, mida selle autor ise dokumenteerib.

Kõik see teeks Jevist ja SemIf’ist paindlikumad klassifitseerijad, ja see oleks juba kasulik.

Selle kiirusega siseneb mudel tsüklitesse, kus vaadeldakse, kus võrreldakse mitut tegevust enne tegutsemist, ja kus väike spetsialiseeritud mudel võtab lõpuks sagedaste juhtumite üle. See on selle artikli teise osa teema.

Kui teil on protsess, kus otsus kordub mitukümmend korda päevas ja tugineb praegu inimese lugemisele, piisab tavaliselt kolmekümneminutilisest vestlusest, et teada saada, kas selline mudel talle sobib. Kirjutage meile lehe allosas või broneerige otse aeg meie kalendrist.

Allikad

• TypeSafe AI, Introducing System One Models & Jev (15. september 2026)
  Ametlik teadaanne: kolm küsimuse tüüpi, paralleelne hindamine, treeningmeetod, 70–500 ms latentsused, 114 ms näide ja hind.

• TypeSafe AI, dokumentatsioon: confidence
  Lehekülg, mis kirjeldab usaldusskoori ja suunab kasutaja kalibreerimiseks oma mõõtmiste juurde.

• Business Wire, TypeSafe AI Emerges From Stealth With $40M in Funding (15. september 2026)
  Käivitusteade: rahastus, asutajad ja positsioneerimine.

• Pear Pages, Jev, sorted: what TypeSafe’s System One model actually is, and what is still just a claim (16. september 2026)
  Kriitiline analüüs TypeSafe avaldatud võrdlustest ja kalibreerimiskõverate puudumisest.

• Hacker News, arutelu TypeSafe AI turuletuleku üle
  Arendajate vastukaja, sealhulgas vastuväide „see on lihtsalt klassifitseerija".

• Theodore Lee, SemIf (varem OpenJev), GitHubi hoidla
  Skooride otselugemise meetod, mõõtmine 1,023 s vs 5,332 s RTX 3090 kaardil, häiringutestid ja autori enda nimetatud piirangud.

• Zhao et al., Calibrate Before Use: Improving Few-Shot Performance of Language Models (ICML 2021)
  Keelemudelite vastuste asukoha- ja sageduspõhine kallutatus ning pakutud parandus.

• Zheng et al., Large Language Models Are Not Robust Multiple Choice Selectors (ICLR 2024)
  Mudelite tundlikkus valikute järjekorra ja märgistuse suhtes.

• Grinsztajn, Oyallon, Varoquaux, Why do tree-based models still outperform deep learning on tabular data? (NeurIPS 2022)
  Viide puude paremusele keskmise suurusega tabelandmete puhul.

• Bucher ja Martini, Fine-Tuned ‘Small’ LLMs (Still) Significantly Outperform Zero-Shot Generative AI Models in Text Classification (2024)
  Pöördepunkt mõnesaja märgendatud näite juures.

• When Do LLMs Replace Fine-Tuned NLU? A Decision Framework for Intent Detection in Production Conversational Systems (2026)
  Võrdlus muutuva kategooriaskeemi puhul: kinnistunud klassifitseerija enam ei vasta.