content

01, Function Calling princip je šta

Stari Wang vrata otvorio:"Mnogi ljudi misle da veliki model može 'pozvati alat' je vrlo čudan, kaži mi Function Calling šta se dešava."

Function Calling je jedna protokol dogovor.

Klijent u zahtevu deklariše koje alate može koristiti, uključuju ime alata, funkcioni opis, parametar JSON Schema. LLM prilikom generisanja odgovora, ako prosudi da tekući zadatak treba alat pomoć, u odgovoru će izbaciti jedan JSON, reći klijentu "hoću da pozovem ovaj alat, parametri su ovi". Onda klijent dobija ovaj JSON, sam ide izvršiti odgovarajuću logiku, rezultat izvršenja upakuje u tool message vrati u razgovornu istoriju, još jednom pozovi LLM, LLM vidi rezultat nastavlja razmišljati.