Jev és a gyors gondolkodás

Jev és nyílt testvérei laya és kev szintén szeretik magukat az emberi gondolkodáshoz hasonlítani. Most Kahneman Gyors és lassú gondolkodás című könyvével közismertté vált 1-es rendszer és 2-es rendszer összevetése lett előkapva. Szerintem nem annyira áll az analógia. Illetve ha áll, akkor ezek a rendszerek nem annyira forradalmiak.

De mik ezek a gondolkodási alrendszerek? Az 1-es gyors, erőfeszítésmentes, szinte sosem kapcsol ki és mindenütt mintákat keres. Ilyen pl. amikor felismerjük egy barátunk arcát a tömegben, vagy amikor rutinból vezetünk az autópályán, vagy amikor hirtelen ellenszenvet érzünk valaki iránt. A 2-es rendszer a lassú, megfontolt érvelésen alapuló gondolkodás. A gyors gondolkodásra szükségünk van, hiszen nem állhatunk le hosszasan mélázni azon, hogy akkor az iskola felé most is jobbra kell kanyarodni, hiszen eddig is mindig jobbra kanyarodtam és az előző 400 alkalomból mind a 400 esetben ott volt az iskola. Egyszerűen kanyarodunk megszokásból. Ennek azonban ára van, egy halom szisztematikus torzítás (magyarosan bias) származik ebből. A 2-es rendszer se tökéletes, erősen függ a kontextustól hogy mennyire tudjuk használni a modus ponenst, vagy a modus tollenst és ez igaz azokra is akik sokat tanultak logikát. De hogy jön mindez Jev-hez?

Jev és laya is nagyon szereti hangsúlyozni, hogy 1-es rendszerű döntéshozók. És ezzel pont az LLM-ek egyik sokat szidott tulajdonságát küszöbölik ki, a hallucinációkat. De hogyan? Az RLCD (reinforcement learning for calibrated decision - megerősítéses tanulás kalibrált döntésekhez) módszerrel továbbtanított modell. A tanítás során kérdéstípusokat (sima bináris kérdés, többszörös válaszlehetőség, stb) mutatunk a lehetséges válaszokkal és ezekhez tartozó valószínűségekkel. A modell válasza mindig a lehetséges válaszokhoz tartozó valószínűségek. Így pl. ha azt kérdezzük, hogy egy email automatikusan kihez továbbítsunk 1) jogi osztály 2) pénzügy 3) IT 4) ügyfélszolgálat sosem fogja azt válaszolni hogy 99%-ban biztos abban hogy a HR-nek kell továbbítani azt. Az OpenRouter Auto Routere már most is egy gyors, könnyű osztályozóval választ modellt — pontosan az a feladat, amire a Jev-félék valók. Az evals és guardrails területén is mindenki ráharapott. És természetesen nem csak muslica konnektommal lehet Doomot vagy Mariót játszani, erre Jev is képes. És miért fontos ez? Mert baromi gyorsan tud válaszolni és egyben olcsóbb is mint a hagyományos LLM-ek.

Abban viszont látok veszélyt, ha az 1-es rendszert kritikátlanul szabadjára engedjük. Ide tartoznak ugyanis az előítéleteink, a szisztematikus torzításaink, stb. Szeretném leszögezni, hogy önmagában az RLCD szerintem jó dolog. Ami nem annyira jó, az a párhuzam az emberi gondolkodással, ui. nem állja meg a helyét teljesen.

Jev William Stanley Jevons után kapta a nevét. A készítők arra számítanak, hogy a gépi intelligenciára is áll a Jevons-paradoxon, és sokan fogják használni az eszközüket. A paradoxon szerint, ha egy technológiai újítás megnöveli valaminek a hatékonyságát, akkor abból még többet fognak használni. Jevons eredeti példája a szén volt, de mostanában az LLM-ek kapcsán is sokat emlegetik ezt a jelenséget.