Intervjuer te pita: „Šta je Agent? Koja je suštinska razlika u odnosu na direktno pozivanje API-ja velikog modela?" Ako odgovoriš „Agent je samo poziv velikog modela kome je dodat system prompt", ovu laku poenu propuštaš.

Zašto?

Zato što samo dodavanje system prompt-a još uvek ne znači Agent. To je samo još jedan sloj ponašanja modelu. Pravi Agent zahteva tool call, ReAct odlučivanje i Harness okruženje.

Danas za tri minuta prolazimo kroz suštinsku razliku između Agent-a i poziva LLM API-ja.

Kada dobiješ ovo pitanje, prvo razmisli šta intervjuer zapravo proverava.

Pita „šta je Agent" — na površini pita za pojam, a u stvari proverava tri stvari:

Prvo, da li Agent razumeš na nivou arhitekture; drugo, da li možeš jasno da kažeš suštinsku razliku u odnosu na direktan API poziv; treće, da li si ikada zaista napravio Agent-a.

Dobro, evo odgovora za maksimalan broj poena — naučiš ga napamet i gotovo. Tri suštinske razlike.

Prva, pitanje-odgovor naspram petlje odlučivanja.

Šta znači direktno pozvati API? Pošalješ jedan prompt, dobiješ jedan completion, kraj. Šta dalje, odlučuje tvoj kod — tok je zakucan u poslovnoj logici.

Agent je drugačiji. Srž je ReAct petlja — LLM sam odlučuje šta dalje, poziva alat da izvrši akciju, dobija povratnu informaciju, pa ponovo razmišlja i radi, dokle god zadatak ne bude gotov.

Tačnije, odluku „šta dalje" donosi LLM, dok „da li se može, kako se izvršava, kako se radi sa greškama i kad se staje" kontroliše Agent Harness.

Druga, samo priča naspram delovanja.

Pri direktnom API pozivu, kad korisnik pita „kakvo je vreme u Pekingu", model može samo da smisli odgovor iz trening podataka — možda prošlogodišnji, možda izmišljen.

A Agent? LLM proceni „trebaju mi živi podaci", kroz Function Calling vrati tool_calls u kojem navodi poziv query-weather sa parametrom city jednakim Beijing. Agent izvrši poziv, dobije stvaran rezultat — sunčano, 32 stepena — pa na osnovu stvarnih podataka generiše odgovor.

Drugačije rečeno, direktan API poziv ne ide sam da proveri žive podatke; razlika Agent-a je u tome što LLM može da proceni da mu trebaju živi podaci, generiše tool_calls, Harness izvrši alat, a rezultat se vrati modelu da nastavi sa rezonovanjem.

Treća, gubitak pamćenja naspram stanja.

Direktan API poziv je bez stanja — svaki poziv je nezavisan, model ne zna šta se reklo prethodni put, osim ako ručno ne ubaciš istoriju razgovora u prompt.

Agent-a obično održava Harness: trenutni zadatak, istorija poruka, rezultati poziva alata, razlozi neuspeha, preostali koraci. LLM na osnovu tog stanja nastavlja odlučivanje, pa Agent „ima pamćenje".

Ako intervjuer doda: „Da li RAG računa kao Agent?"

Ne računa. RAG je fiksni obrazac: pretraži dokumente, ubaci ih u prompt, generiši odgovor — svaki korak je zakucan kodom.

Kad tek postaje Agent? Tek kada LLM sam odlučuje da li da pretražuje, kojim query-jem, da li je rezultat dovoljan, da li da promeni ključnu reč i pretraži još jednom — tek sa tom petljom odlučivanja to je Agent.

Drugim rečima, Agent nije „veliki model sa dodatim system prompt-om", već Model + Harness. Model razume cilj, planira sledeći korak i bira alat; Harness obezbeđuje alate, održava stanje, izvršava pozive, kontroliše dozvole i rukuje greškama i završetkom petlje.

Dakle, suštinska razlika između Agent-a i direktnog API poziva nije u tome da li postoji prompt, već da li postoji ReAct. Model na osnovu trenutnog stanja odlučuje sledeći korak, Agent izvršava akciju, a rezultat ponovo ide modelu, dokle god zadatak ne bude završen.

Jesi li savladao ovo pitanje? Za još izvornih razlaganja Agent pitanja za intervju, lajkuj i prati