Determinisztikus döntés: ugyanaz az állapot, ugyanaz a döntés
A determinizmus nem unalmas
Egy hagyományos LLM-nél a kérdésre adott válasz minden alkalommal változhat. A hőmérséklet, a sampling, a token-szintű bizonytalanság mind hozzáadnak egy réteg véletlenszerűséget. Ez beszélgetésben természetes, de rendszerben veszélyes.
A döntés és a válasz két külön dolog
A SoulCore különválasztja a döntést a kommunikációtól:
runtime_state + esemény -> döntés (determinisztikus) döntés + nyelvi felület -> válasz (variábilis)
Az azonos runtime állapotból azonos döntés születik. Nem hasonló, nem valószínű – azonos. A nyelvi válasz természetesen változhat, mert a felület szabadon fogalmazhat, de a lényegi döntés reprodukálható.
Mit ad ez a rendszernek?
Nyomon követhetőséget és ellenőrizhetőséget. Ha egy esemény után a rendszer rosszul dönt, a hibát vissza lehet görgetni az állapot-átmenetek mentén, és pontosan meghatározni, hogy a döntési réteg hol tért el. Nincs bizonytalanság abban, hogy a rendszer miért cselekedett úgy, ahogy.
Ugyanaz a runtime állapot. Ugyanaz a döntés. A kommunikáció változhat, a döntés nem.
Hogyan illeszkedik a rollbackhez?
A determinisztikus döntési réteg teszi lehetővé az állapot-visszaállítást is. Egy snapshot minden részlete reprodukálható, ezért a rendszer képes arról a pontról folytatni, ahol abbahagyta – a következmények nélkül.