Da li svakog dana koristiš Claude Code?
Ne? Ne, moraš.
A da li znaš kako je implementirana njegova kratkoročna memorija?
Proveo sam tri dana, prelistao source code i zvaničnu dokumentaciju Claude Code-a, i još od nule, u Pythonu, implementirao jedan Claude Code pod imenom PaiCLI, koji je već open-source na GitHub-u, tako da sam siguran u sebe da ti objasnim ova tri sloja:
- Šta je suština kratkoročne memorije?
- Context window je ograničen, šta kad se potroši?
- Šta ako automatska kompresija izgubi ključne informacije?
Danas za 3 minuta da ti jasno objasnim kako je implementirana kratkoročna memorija Claude Code-a.
Veži pojas, polazimo!
Prvo, prvi sloj — šta je zapravo kratkoročna memorija.
Mnogi misle da veliki modeli pamte.
Zapravo, ne pamte.
Kratkoročna memorija Claude Code-a je u suštini jedan niz. Ti, odnosno korisnik, pošalješ jedan prompt; Claude Code, odnosno taj terminal Agent koji trenutno koristiš, doda u taj niz jednu user poruku;
Agent pozove veliki model, na primer Fable 5 ili DeepSeek V4, dobije odgovor, pa u niz doda jednu assistant poruku;
Agent pozove alat, pa u niz doda jednu tool poruku.
Ono što zovemo memorijom je zapravo samo to što Claude Code pri svakom pozivu velikog modela ponovo pošalje čitav taj Messages niz, prepun informacija iz konteksta.
A onda ti, pametni, sigurno pomisliš. Niz stalno raste, raste, raste, ali context window ima gornju granicu — na primer, context window DeepSeek V4 iznosi 1 milion token-a. Šta kad se napuni do vrha?
Automatskom kompresijom.
Claude Code ima autoCompact, koji u realnom vremenu procenjuje ukupnu količinu token-a u trenutnim porukama. Čim se približi gornjoj granici context window-a, automatski okine kompresiju.
A onda ti, pametni, sigurno opet pitaš: kako je kompresija implementirana?
Claude Code podigne jedan sub-Agent, pošalje istorijske poruke velikom modelu i traži od njega da generiše jednu strukturiranu sumarnu belešku po 9 dimenzija.
Ta sumarna beleška obuhvata: jezgro korisnikovog zahteva, ključne tehničke koncepte, pročitane fajlove i kod, greške na koje je naišao i kako ih je popravio, tok razmišljanja pri rešavanju problema, ključne tačke iz korisnikovih poruka, zadatke na čekanju, trenutni napredak, plan za sledeći korak i tako dalje.
To je kao da je sastavio jednu „belešku".
A onda ti, pametni, sigurno opet pomisliš: zamisli da si ranije zamolio Claude Code da pročita jedan članak od deset hiljada znakova, a posle kompresije u sumarnoj belešci ostane samo jedna rečenica „krmača će se popeti na drvo", a konkretan sadržaj nestane. U sledećem krugu razgovora modelu opet zatreba taj sadržaj — zar da ga čita ponovo?
Ne, Claude Code nije toliko glup.
On će ponovo ubaciti u kontekst poslednjih 5 pročitanih fajlova, definiciju trenutno učitanog skill-a i schema svih alata — te ključne informacije ne nestaju.
Kompresija samo odbacuje stare, nepotrebne, redundatne informacije.
Posle toga, Claude Code još ubaci u niz poruka jedan granični marker koji se zove Boundary Marker.
Od tog trenutka, pri svakom pozivu modela šalju se samo poruke posle graničnog markera. Sve pre markera se odbacuje, da se oslobodi context window.
„Memorija" postaje: jedna sumarna beleška, plus neophodni fajlovi, plus sirovi razgovor iz poslednjih nekoliko krugova.
Naravno, posle kompresije Claude Code može da zaboravi neki detalj — to nije bug, nego neminovnost. Razlog je jednostavan: taj detalj je pao u kompresiji.
Kao kad na kišu otvoriš kišobran, a na tebe opet padne koji kap, ali ne smeta, ne kvari ni tvoj šarm ni lepotu.
Na kraju, da rezimiram.
Kratkoročna memorija je zapravo jedan Message niz, a kad se aktivira gornja granica context window-a, Claude Code za tebe odradi jednu sumarnu kompresiju. Naravno, kompresija odbacuje sitnice, zato se potrud se da jednu stvar završiš unutar jednog context window-a. A ako zaista ne stigneš, možeš ručno da pokreneš kompresiju kako bi model zapamtio jezgro tvog zahteva.
Da li si savladao ovu temu? Za još hardcore AI znanja, lajkuj i prati