Blog
Dev log #1 — A V4 ΔState architektúra rögzítése
A mai LLM-ek a válaszon gondolkodnak, nem a problémán. Ez volt az a felismerés, ami a V4 ΔState architektúra felé terelte a projektet.
A V4 ΔState modell lényege: a nyelv és az állapot közötti művelet nem egy fix vektor, hanem állapotváltozás. A rendszer a jelenlegi állapotból és a bemenetből ΔState-et számít, és azon keresztül lép át az új állapotba.
A teljes csővezeték
Felhasználó → Language Runtime Encoder (300M) → 768 dimenziós állapot → Hybrid Core V8 (200–300M) → ΔState → Language Runtime Decoder (300M) → Szöveg → Válasz
Mit jelent ez a gyakorlatban?
- Az encoder a nyelvet 768 dimenziós reprezentációvá alakítja — nem gondolkodik, csak fordít.
- A Hybrid Core ezen a reprezentáción dolgozik — ez az agy, ami állapotokban gondolkodik.
- A decoder a kiválasztott állapotot alakítja vissza szöveggé.
Az architektúra a konzultációkon véglegesítődött, az implementációs specifikáció készen áll.