Biztonságos, AI-ágens munkakörnyezet
erősen szabályozott nagyvállalatok számára
Hogyan dolgozik – és hogyan emlékszik – egy AI-ágens
Két hívás között semmi nem marad meg benne.
Minden körben a teljes eddigi történet újra bemegy.
Avagy az LLM magával beszélget és eszközöket használ
* MIT Project NANDA
The GenAI Divide:
State of AI in Business 2025
(2025)
Az ágens csak ott dolgozik, ahol megengedjük.
A modell saját szerveren futhat, a jelszavak, kulcsok titkosítva.
Készíts kérlek egy csinos bemutatót, néhány statikus ábrából, amit majd prezentáción lehet vetíteni, html-ben a sandbox repoba az ágens életciklus általános bemutatására.
Olyan célközönségnek, akik annyit értenek, hogy ”az LLM az agy, az ágens a kéz”, de érdekli őket az AI, középvezetők bankszektorban.
Valószínűleg nem tudják, hogy az LLM egy függvény (abban az értelemben, hogy inputból outputot készít, állapotmentes).
A context window-ról már hallottak, talán értik, hogy oda gyűlik a beszélgetés története, de hogy az ágens is oda gyűjti a saját maga által összeszedett információt, azt nem tudják.
Azt sem mindegyikük tudja, hogy több LLM hívás történik az ágens munkája során.
A cache-ről hallottak, de alig van fogalmuk arról, mi az igazából - ez túl is mutat a lehetőségeinken, ne említsük.
Viszont okos emberek, akiknek már felkeltettem a figyelmét, mire ide érünk, tehát nem kell szájbarágni.
Az egészet el kell tudjam mondani legfeljebb öt percben.
A diasor Codumentorral készült
Codumentor