Amikor az AI elfelejti, hol tartottál: Context vs. Continuity

Ismered ezt a pillanatot?

Megnyitod a projektet másnap reggel. Beírod a chatbe, hogy "Folytasd, ahol abbahagytuk." És kezdődik a körhintázás: próbálja visszaemlékezni, mi volt a baja, mi működött, mi nem, és mi az, amit csak gondoltál, hogy megoldottál.

A probléma nem az, hogy kevés a memóriája. A probléma az, hogy rossz fajta memóriája van.

Két teljesen más dolog

A context (környezet) az, amit az agent pillanatnyilag lát: fájlok, chat előzmények, dokumentáció, visszakeresett jegyzetek. Hasznos.

A continuity (folytonosság) az, ami lehetővé teszi, hogy holnap ugyanúgy folytasd, ahol ma abbahagytad.

Hangzanak hasonlóan? Egyáltalán nem ugyanaz.

Egy nagyobb context window csak több szöveget jelent, amin keresztül turkálhatsz. De a lényeg ugyanaz marad: mit is csináltál valójában?

A limlomfiók problémája

Az első ösztönös megoldás: építs nagyobb tárolót. Több chat előzmény, nagyobb vector database, mindent archiválj.

Látom, ahogy csapatok ezt implementálják. Erősnek érződik. Mintha haladnál előre.

Aztán jön a valóság: a rendszer egy nagyon drága limlomfiókká válik. Az összefoglalók elavulnak. A sikertelen megközelítések ugyanúgy néznek ki, mint a működő dolgok. Az agent visszakeres valamit, ami relevánsnak tűnik – de nem tudod, aktuális-e, hasznos-e, vagy csak egy hallución alapuló találgatás a múlt heti sessionből.

Amikor működésileg megbízható információra lenne szükség – lefutott-e ez a parancs? melyik fájlt szerkesztetted? –, akkor csak szemantikailag hasonló zajt kapsz.

Ez rosszabb, mintha egyáltalán nem lenne memóriája.

Mit néz ki a valódi folytonosság?

Íme a különbség:

Egy memory item azt mondja: "Javítottunk a parseren."

Egy continuity record azt mondja: "Parser task szüneteltetve. tokenizer.py szerkesztve. pytest tests/test_parser.py sikerült. Teljes test suite még nem futott. Következő lépés: futtasd le a teljes parser tesztcsoportot, mielőtt bővíted a scope-ot."

A különbség akkora, mint egy kolléga között, aki homályosan emlékszik egy beszélgetésre, és egy között, aki részletes jegyzeteket ad át, világos teendőkkel.

Mit jelent ez a gyakorlatban?

Ha AI-asszisztált fejlesztési munkafolyamatokat építesz – és ha idáig eljutottál, valószínűleg építed –, akkor ezt az architektúrát az első naptól kezdve gondolnod kell.

A statikus utasítások a repositoryról értékesek. Megmutatják az agentnek, hogyan futtasson teszteket, hol vannak a modulok, milyen konvenciókat kövessen. De statikusak. Nem tudják, hogy egy feladat megszakadt, hogy a validáció megbukott, vagy hogy szűkítetted a scope-ot a session közben.

Mindkettőre szükséged van: stabil instrukciókra ÉS változó munkaállapotra.

A "nagyobb memória" megközelítés azért bukik újra meg újra, mert rossz problémát próbál megoldani rossz eszközzel. A vector database-ök jók szematikai visszakeresésben – kapcsolódó dokumentáció, hasonló korábbi jegyzetek, illeszkedő tudásbázis darabok megtalálásában. De a legfontosabb folytatási tények kicsik, unalmasak és operatív jellegűek: melyik parancs bukott meg, melyik fájlt szerkesztetted, melyik teszt futott le, mi maradt megoldatlanul.

A valódi lehetőség

A következő frontier az AI-asszisztált fejlesztésben nem a nagyobb modellek és nem a hosszabb context-ek. A jobb átadási rendszerek.

Olyan világ felé haladunk, ahol a coding agent-ek valóban folytatni tudják, ahol abbahagyták – nem azért, mert több információjuk van, hanem azért, mert a megfelelő információ van megfelelően strukturálva, olyan formában, ami túlél egy-egy sessiont.

Ez azt jelenti, hogy át kell gondolnod, milyen állapotot őrizz meg, hogyan strukturáld, és hogyan tedd operatíve megbízhatóvá – nem csak szematikusan plauzibilissá.

Összefoglalás

Legközelebb, amikor azon kapod magad, hogy újra és újra elmagyarázod a projektedet egy AI agentnek, ne egy nagyobb context window-ért nyúlj. Inkább kérdezd meg magadtól: context-et adok neki, vagy continuity-t?

A context könnyű. A continuity az, ami tényleg számít.