- Tehisintellekti rakmed pakuvad olulist infrastruktuuri – sealhulgas liivakaste ja vastupidavat olekut –, mis muudab toored õigusteaduse magistriõppe (LLM) funktsionaalseteks agentideks.
- Jev tutvustab System One otsustusmudelit, mis pakub struktureeritud klassifitseerimiseks kiiret ja odavat alternatiivi traditsioonilistele õigusteaduse õpetlastele.
- Jevi integreerimine LangChaini ja LangGraphiga võimaldab arendajatel luua „tootmis-, mitte jumalapõhiseid” süsteeme, eraldades arutluskäigu otsuste tegemisest.
Kui me räägime tehisintellekti agentidest, keskendub enamik inimesi ajule – suurele keelemudelile. Aga asi on selles: mudel iseenesest on lihtsalt uhke tekstiennustaja. Selleks, et asju pärismaailmas teha, vajate nn rakmeid . Mõelge rakmetest kui kehast ja tööriistadest, mis võimaldavad ajul maailmaga suhelda, hallates kõike alates mälust kuni koodi tegeliku täitmiseni.
Hiljuti on mäng muutunud tänu TypeSafe AI-st pärit Jevi saabumisele . Selle asemel, et kohelda iga pisikest otsust filosoofilise debattina, mis nõuab ulatuslikku õigusteaduse kraadi, tegeleb Jev struktureeritud ja kiire tempoga valikutega. Kombineerides selle LangChaini ja LangGraphiga , saavad arendajad lõpuks loobuda kallistest ja aeglastest arhitektuuridest millegi lihtsa, praktilise ja tootmisvalmis poole.
Agenti rakmete arhitektuuri mõistmine
Kui sa ei ole see, kes mudelit treenib, oled sa sisuliselt harnessinsener. Harness on kogu koodi, konfiguratsiooni ja loogika kogum , mis mudeli ümber mähib. See muudab toore LLM-i töömootoriks, pakkudes olekut, tööriistadele juurdepääsu ja rangeid piiranguid. Ilma selle kihita ei mäleta mudel, mida ta kaks minutit tagasi tegi, ega klõpsa veebisaidil nuppu.
Üks olulisemaid raamistiku osi on failisüsteem . Andes agendile tööruumi, saab see maha laadida andmeid, mis kontekstiaknasse ei mahu , ja säilitada püsiva oleku eri seansside vahel. See hoiab ära levinud „konteksti mädanemise“ probleemi, kus agent kaotab vestluse liiga pikaks venides süžee. Täiustatud raamistikud kasutavad tihendamist ja tööriistakõnede kaudu koormuse mahalaadimist, et hoida kõige olulisem teave esiplaanil ja kesksel kohal, salvestades ülejäänu kettale.
Agentide tõeliselt autonoomseks muutmiseks sisaldavad rakendussüsteemid sageli bash-tööriista ja turvalisi liivakaste . Kõikide võimalike tööriistade kõvakodeerimise asemel antakse agendile terminal. See võimaldab tal kirjutada oma skripte probleemide lahendamiseks lennult. Agendi loodud koodi käitamine on aga riskantne, mistõttu on isoleeritud täitmiskeskkonnad igas tootmisklassi süsteemis vältimatud.
Jev: Süsteemi Ühe Otsustusmudel
Enamik arendajaid on kasutanud piirialaseid õigusteaduse meetodeid kõige jaoks, mis on nagu superautoga kümne jala kaugusele postkasti sõitmine. See on liialdus. Jev muudab seda, tegutsedes System One'i mudelina . See ei genereeri teksti, vaid teeb trükitud otsuseid . Olgu tegemist jah/ei (Noul), valikuga nimekirjast või numbrilise hindega, Jev annab vastused koos vastavate tõenäosustega.
Jõudluse hüpe on ausalt öeldes pöörane. Jutt käib kuni 200 korda kiiremast järelduskiirusest ja 400 korda madalamatest klassifitseerimise kuludest kui traditsioonilistel õigusteaduse magistriõppe professoritel. Kuna Jev saab sama osariigi kohta paralleelselt hinnata mitut küsimust , sobib see ideaalselt triaažiülesannete jaoks, näiteks klienditoe pileti kiireloomulisuse otsustamiseks või isikuandmete tuvastamiseks juriidilises dokumendis.
Jevi rakendamine LangChaini ökosüsteemis
Jevi integreerimine LangChaini on TypeSafeClassifieri abil lihtne . Vestlusvastuse asemel saate struktureeritud klassifikatsiooni. See võimaldab teil luua otsustuskihi , mis asub teie peamise agendi ees. Näiteks saate rakendada päringuruuterit , mis analüüsib päringut ja saadab lihtsad ülesanded odavale mudelile nagu GPT-4o-mini ning keeruka arhitektuuriga ülesanded võimsale mudelile nagu GPT-4o.
Teine ülioluline kasutusjuhtum on Tool Gate . Enne kui agent käivitab potentsiaalselt ohtliku käsu – näiteks andmebaasi kustutamise –, saab rakmed Jevi abil hinnata riskitaset . Kui risk on liiga kõrge, saab rakmed kõne blokeerida või käivitada inimkontaktiga eskalatsiooni. See loob turvavõrgu, mis on palju usaldusväärsem kui lihtsalt LLM-i palumine süsteemiviibas „ole ettevaatlik“.
Orkestreerimine LangGraphiga ja intelligentsuse eraldamine
Samal ajal kui Jev teeb otsuseid, tagab LangGraph orkestreerimise . See võimaldab teil defineerida agendi voo sõlmede ja servade graafina. See tähendab, et hinnang pärineb mudelist, kuid voog jääb koodi , muutes süsteemi jälgitavaks ja testitavaks. Kontrollpunktide abil saate tagada, et protsessi ebaõnnestumise korral saab see jätkata täpselt sealt, kus pooleli jäi, ilma tokeneid raiskamata.
Seda nihet nimetavad eksperdid intelligentsuse suureks lahtiharutamiseks . Selle asemel, et üks hiiglaslik mudel teeks kõike, liigume edasi „vaikimisi odava, erandite korral piiripealse” mudeli poole. Brauseri automatiseerimise stsenaariumis saab Jev kiiresti valida, millisel elemendil klõpsata; kui usaldusnivoo langeb alla teatud läve (nt 0.7), eskaleerib süsteem ülesande automaatselt võimekamale õigusteaduse assistendile (LLM), mis võimaldab sügavamat arutlust.
Tugeva rakmete süsteemi, kiire otsustusmudeli (nt Jev) ja struktureeritud käituskeskkonna (nt LangGraph) sünergia võimaldab pikaajalist autonoomiat . Kasutades mustreid nagu Ralph Loop – mis sisestab algsed käsurea käsud uuesti selgetesse kontekstiakendesse – saavad agendid keerukaid ja mitmeastmelisi projekte läbi töötada ilma sidusust kaotamata. Lõppeesmärk on süsteem, kus mudel pakub intelligentsust ja rakmete süsteem muudab selle intelligentsuse reaalses maailmas juurutamiseks kasulikuks ja ohutuks.
