- C# tehisintellekti agendid ühendavad eesmärkide saavutamiseks õigusteaduse magistriõppe arutluskäigu tööriistade, konteksti ja mäluga, selle asemel et lihtsalt küsimustele vastata.
- OpenAI ja Azure OpenAI abiliste API-d pakuvad .NET-agentidele põhiprimitiividena assistente, lõime, käivitusi, tööriistu ja failiotsingut.
- Ettevõtte jaoks valmis agendid vajavad tugevat olekuhaldust, C# funktsioonide tööriistu, jälgitavust, turvakontrolle ja kuluteadlikku disaini.
- Microsoft.Extensions.AI, VectorData, Azure AI Foundry ja VS Code tööriistad lihtsustavad C# tehisintellekti agentide arendamist, juurutamist ja skaleerimist.
C# tööriistadega tehisintellekti agentide loomine pole enam futuristlik unistus; see on väga praktiline viis töövoogude automatiseerimiseks, andmete analüüsimiseks ja .NET-rakenduste ühendamiseks suurte keelemudelitega (LLM) . Õige arhitektuuri abil saate liikuda lihtsast vestluskliendist tootmistaseme agentide juurde, mis arutlevad, kutsuvad API-sid, juhivad töövooge ja austavad ettevõtte piiranguid, nagu turvalisus, jälgitavus ja kulude kontroll.
See juhend tutvustab teile, kuidas tänapäevased tehisintellekti agendi kontseptsioonid seostuvad C#-virnaga, kuidas Azure OpenAI ja OpenAI Assistantsi API sinna sobivad ning kuidas kõike integreerida robustsete .NET-i tarkvaratehnika praktikatega . Samuti ühendame need ideed Microsofti tekkivate agentide raamistike ja tehisintellekti tööriistadega Visual Studio Code'is, et saaksite täieliku ülevaate kohalikust prototüübist kuni skaleeritava pilvejuurutuseni.
Vestlusrobotitest täielikult tehisintellektiga agentideni C#-s
Kõrgemal tasemel on tehisintellekti agent süsteem, mis taotleb eesmärke, mitte ainult ei vasta üksikutele küsimustele . See tähendab, et agent vajab teatud kombinatsiooni arutluskäigust, tööriistadest, kontekstiteadlikkusest ja mälust, et ta saaks otsustada, mida edasi teha, mitte ainult seda, mida praeguses järjekorras vastata.
Praktilises C# mõttes võib agenti mõelda kui koordinatsioonikihti LLM-kliendi peal, millele lisandub tööriistade komplekt, mis on avalikustatud .NET-meetodite, API-de või väliste teenustena . Mudel aitab kaasa arutluskäigule ja keele mõistmisele, samas kui teie C#-kood toetab äriloogikat, andmetele juurdepääsu, turvalisust ja integratsiooni teie olemasolevate süsteemidega.
Kaasaegsed agendid toetuvad otsuste tegemisel, otsingualgoritmidel või planeerimisloogikal sageli suurtele keelemudelitele, kuid need muutuvad tõeliselt kasulikuks alles siis, kui need on ühendatud tööriistadega . Tööriistade hulka võivad kuuluda andmebaasipäringud, HTTP API-d, sisemised mikroteenused, failiotsing või liivakastipõhine koodiinterpretaator, kus agent saab andmeanalüüsi koodi turvaliselt käivitada.
Kontekstiteadlikkus on viimane kriitiline element, mis võimaldab agendil oma arutluskäigu osana kasutada vestluste ajalugu, vektorsalvestusi, ettevõtte andmeid või teadmiste graafe . See kontekst võib olla nii lihtne kui lühike mälus hoitav vestluslogi või nii keeruline kui hajutatud töövoo olek, mis hõlmab mitut agenti ja andmesalvestust.
Tehisintellekti assistentide ja agentide põhielemendid
OpenAI ja Azure OpenAI Assistantsi API-d pakuvad teile väga konkreetse primitiivide komplekti agentide loomiseks C#-s . Käsitsi olekumasinate loomise asemel töötate täpselt määratletud üksustega, mis vastavad LLM-põhiste agentide mõtlemisele ja toimimisele.
Assistent esindab konfigureeritud tehisintellekti persooni: millist mudelit ta kasutab, milliseid juhiseid ta järgib ja milliseid tööriistu tal on lubatud kutsuda . C#-s seob see teie loodud objektiga, millel on sellised valikud nagu nimi, süsteemijuhised ja tööriistadefinitsioonide loend, mis kirjeldavad, mida mudel saab kutsuda.
Lõim on vestlusseanss, mis seob kasutaja aja jooksul assistendiga . Lõim salvestab järjestatud sõnumite loendi, kärbib automaatselt konteksti, et jääda tokeni piirangute piiresse, ja toimib agendi mälu selgroona selle interaktsiooni jaoks.
Sõnumid on konkreetsed sisutükid, mis liiguvad kasutaja ja assistendi vahel . Assistantsi API-s võib sõnum sisaldada lihtteksti, pilte või muid faile. C#-s tarbitakse neid objektidena kogumis, kontrollides teksti, märkusi või seotud faili ID-sid olenevalt sisust.
Käivitus on toiming, mis käivitab assistendi arutluskäigu lõime sisu üle . Kui käivitate käivitamise, rakendab assistent oma konfiguratsiooni, loeb sõnumeid, kutsub vajadusel tööriistu ja seejärel lisab uued sõnumid koos tulemustega samale lõimele.
Käivitusetapid jäädvustavad assistendi poolt käivitamise ajal sooritatud toimingute üksikasjaliku jada . Neid uurides näete, milliseid tööriistu kutsuti, milliseid argumente edastati, milliseid sõnumeid genereeriti ja kuidas agent lõppvastuseni jõudis. See on äärmiselt väärtuslik ettevõttekeskkondades silumiseks, jälgitavuseks ja auditeerimiseks.
Lisaks neile primitiividele saavad assistendid ülesannete täitmiseks kasutada paralleelselt mitut tööriista . Tüüpiliste sisseehitatud tööriistade hulka kuuluvad koodiinterpretaator, mis suudab käivitada koodijuppe liivakastikeskkonnas, kohandatud funktsioonide kutsumine (oma .NET-funktsioonid, mis on tööriistadena nähtavad) ja failiotsingu võimalused, mis laiendavad mudelit väliste teadmistega.
Tööriistade kasutamine: koodi käivitamine, funktsioonikõned ja failiotsing
Tööriistad on see, mis muudab passiivse keelemudeli võimekaks agendiks, mis suudab teie .NET-rakenduses asju ajada . Ainult teksti tagastamise asemel saab mudel otsustada kutsuda funktsiooni, käivitada koodi või otsida failihoidlast, kui see on parim viis kasutaja päringule vastamiseks.
Kooditõlgendaja tööriist võimaldab agendil kirjutada ja käivitada koodi isoleeritud keskkonnas selliste ülesannete jaoks nagu andmeanalüüs, visualiseerimine või lihtsad simulatsioonid . C#-st ei käivitata seda koodi otse; konfigureerite assistendi kooditõlgendaja võimalusega ja seejärel loete tagasi selle toodetud väljundid, näiteks genereeritud pildid või struktureeritud tulemused.
Funktsioonide kutsumine paljastab teie enda domeeniloogika tööriistadena, mida mudel saab valida ja käivitada . Te kirjeldate iga funktsiooni metaandmetega: nimi, eesmärk ja parameetriskeem. Seejärel valib assistent kasutaja sisendi ja vahepealse arutluskäigu põhjal, millal neid funktsioone käivitada, samal ajal kui teie C# implementatsioon tegeleb valideerimise, vigade ja ajalõpudega.
Failiotsingu tööriistad võimaldavad agendil oma vastused rajada välistele andmetele, näiteks dokumentatsioonile, aruannetele või teadmusbaasidele . Laadite üles faile, loote vektorsalvestusi või indekseid ja annate assistendile juurdepääsu neile. Sealt edasi saab mudel hankida asjakohaseid sisutükke ja lisada need oma vastustesse, parandades faktilist täpsust ja jälgitavust.
Peamine disainipõhimõte on, et tööriistad peavad olema ohutud ja vastupidavad, tugeva sisendi valideerimise, veakäsitluse ja selgete ressursipiirangutega . Isegi kui õigusteaduse assistent (LLM) otsustab, millal neid kutsuda, jääb teie C#-kood täielikult vastutavaks ärireeglite, kiirusepiirangute ja andmetele juurdepääsu poliitikate jõustamise eest.
Minimaalse .NET konsooli rakenduseagendi loomine Azure OpenAI abil
Selle kõige konkreetsemaks muutmiseks võite alustada lihtsa .NET-konsoolirakendusega, mis suhtleb OpenAI või Azure OpenAI Assistants API-ga . Selline minimaalne projekt sobib ideaalselt kontseptsioonitõestuse agentidele, kes elavad täielikult koodis, kuid juba kasutavad tööriistu, faile ja vestluslõimesid.
Esimene samm on .NET konsooliprojekti loomine ja vajalike SDK-pakettide lisamine, mis annavad teile juurdepääsu OpenAI ja Azure OpenAI klientidele . Kui need on paigas, saate luua üldise OpenAI kliendi, kasutades oma API-võtit või Azure'i-spetsiifilist klienti, mis osutab teie Azure OpenAI lõpp-punktile ja kasutab mandaati, näiteks DefaultAzureCredential.
Üldkliendist tuletatakse spetsiaalsed kliendid: abiklient abiliste, lõimede ja käituste haldamiseks ning failiklient failide üles- ja allalaadimiseks . See eraldamine teeb selgeks, millised toimingud on seotud konfigureerimise ja orkestreerimisega ning millised toorfailide käsitlemisega.
Seejärel saate otse oma C#-koodi sees luua mälus oleva dokumendivoo, et simuleerida reaalseid äriandmeid . Näiteks võite määratleda väikese JSON-dokumendi, mis sisaldab erinevate toote ID-de igakuiseid müügimõõdikuid, ja teisendada selle vooguks, mille failiklient saab üles laadida.
Kui fail on assistendi jaoks üles laaditud, tagastab platvorm failiidentifikaatori, mille saate linkida uue vektorisalvestusega ja assistendile failiotsingu ressursina lisada . Samas assistendi konfiguratsioonis lubate ka koodiinterpretaatori, et agent saaks lisaks väärtuste otsimisele genereerida ka graafikuid või täpsemaid analüüse.
Pärast abilise valikute ettevalmistamist nime, juhiste ja tööriistadefinitsioonidega loote abilise, mille aluseks on mudel nagu gpt-4o . Samuti konfigureerite lõime esialgse kasutajasõnumiga, näiteks küsides konkreetse toote toimivuse kohta aja jooksul ja taotledes visualiseeringut.
Abiklient võimaldab teil luua lõime ja kohe ühe kõnega käivitada, seejärel küsitleda käivitusolekut, kuni see jõuab lõppolekusse . See küsitlustsükkel on lihtne, kuid tõhus käsurea tööriistade jaoks; veebi- või taustateenuse keskkonnas võite selle asemel lülituda sündmuspõhistele või asünkroonsetele mustritele.
Kui käivitamine on lõppenud, voogedastate lõimest sõnumid kasvavas järjekorras ja prindite abilise vastused konsooli . Iga sisuüksuse puhul saate kontrollida teksti, sisend- või väljundfailidele viitavaid märkusi ja kõiki koodiinterpretaatori loodud pilte, mille seejärel salvestate kettale ja logite konsooli väljundis lihtsa kohatäitemärgendiga.
Riigihaldus, mälu ja vestluste disain
Niipea kui liigute mängunäidetest kaugemale, saavad olekust ja mälust teie C# agendi disaini kesksed probleemid . Väljakutse seisneb selles, et vestlusajalugu kasvab piiramatult, samal ajal kui mudelitel on ranged märgipiirangud ja teil on vaja ka andmeid säilitada vastavuse, analüüsi või silumise jaoks.
Üks levinud strateegia on hoida iga kasutaja või kasutusjuhtumi kohta eraldi lõime või seansse ning teha vestlusest perioodiliselt kokkuvõtteid, et säilitada ainult kõige olulisem kontekst . Kokkuvõtteid saab genereerida mudel ise ja seejärel salvestada need koos struktureeritud metaandmetega andmebaasi või vektorsalvestusse.
Täiustatud lähenemisviis kasutab semantilist tähtsust otsustamisel, mida alles hoida, tihendada või ära visata . Vanimate sõnumite lihtsalt kärpimise asemel sildistate või indekseerite sisu teemade, üksuste või äriprotsesside järgi ning käivitate sihitud päringuid, et rekonstrueerida just uue päringu jaoks vajalik kontekst.
C#-s rakendatakse mälu tavaliselt kiire juurdepääsu tagamiseks protsessisiseste vahemälude ja vastupidavuse ning auditeeritavuse tagamiseks püsivate salvestuste kombinatsioonina . See võib tähendada struktureeritud metaandmete jaoks relatsioonandmebaasi sidumist struktureerimata sisu semantilise otsingu vektorandmebaasi abil, mis kõik on peidetud hoidla liideste taha, mida teie agendid saavad kasutada, hoolimata aluseks olevast tehnoloogiast.
Samuti on oluline läbimõeldud vestluse ülesehitus: peaksite koostama süsteemijuhised, tööriistade kirjeldused ja kasutajaküsimused nii, et õigusteaduse assistent saaks teie valdkonna piirides tõhusalt arutleda . See hõlmab selgitamist, millal peaks agent esitama selgitavaid küsimusi, millal tööriista kutsuda ja millal keelduda taotlusest, mis jääb selle lubatud ulatusest välja.
Tööriistad C# funktsioonide, API-de ja väliste teenustena
Reaalsetes rakendustes on kõige võimsamad tööriistad teie enda domeenifunktsioonid, mis on avalikustatud, et agent saaks teie sisemiste süsteemide tööd orkestreerida . Nende hulka võivad kuuluda sellised toimingud nagu piletite loomine, kliendiandmete päringute tegemine, finantsarvutuste tegemine või töövoogude käivitamine teie olemasolevates mikroteenustes.
Iga tööriista jaoks on soovitatav esitada rikkalikud metaandmed, mis kirjeldavad selle tegevust, oodatavaid sisendeid ja tagastatud tulemusi, ideaaljuhul masinloetavas skeemis . See aitab õigusteaduse assistendil valida õige tööriista, luua kehtivaid argumente ja tulemusi õigesti tõlgendada, vähendades hallutsinatsioone ja eksimusi.
Rakenduse poolelt vajab iga C# tööriistakäitleja kaitsvat programmeerimist: ranget sisendi valideerimist, töökindlat erandite käsitlemist ja mõistlikke ajalõpusid . Agent võib proovida asju, mis pole äriliselt mõttekad; teie kood peab jõustama reegleid, selle asemel et eeldada, et mudel käitub alati etteaimatavalt.
Samuti on tark logida iga tööriista kutsumine koos kutsuva kasutaja, käivitava käsurea segmendi ja tulemusega . See annab selge auditeerimisjälje, toetab turvaülevaateid ja võimaldab teil valida, millised tööriistad on kõige tõhusamad või vajavad täiendavaid kaitsepiirdeid.
Mitme agendi orkestreerimine ja töövood .NET-is
Stsenaariumide keerukamaks muutudes võite avastada, et ühest agendist ei piisa ja vajate mitme spetsialiseerunud agenti koostööd . Näiteks võib üks agent keskenduda uuringutele ja andmete kogumisele, teine analüüsile ja kolmas kasutajasõbralike väljundite koostamisele.
Kontseptuaalselt sobib see hästi kokku töövoo mustritega, mida .NET-i arendajad juba teavad: järjestikused sammud, paralleelsed harud, üleandmised ja juhendaja rollid . Kõvakoodiga loogika asemel koordineerivad agendid struktureeritud sõnumite ja jagatud tööruumi kaudu, kuid orkestreerimismustrid tunduvad tuttavad.
Järjestikused töövood edastavad ühe agendi väljundi otse järgmisele, mis sobib ideaalselt lineaarsete ülesannete jaoks, nagu nõuete kogumine, kujundamine, rakendamine ja läbivaatamine . Paralleelsed töövood võimaldavad mitmel agendil töödelda probleemi erinevaid aspekte korraga ja seejärel liita tulemused hilisemas etapis.
Üleandmismustrid võimaldavad vastutuse ülekandmist agendilt agendile tingimuste, näiteks usalduslävede, sisukategooriate või kasutaja toimingute põhjal . Grupivestluse stiilis seadistused panevad mitu agenti ühisesse vestlusse, kus nad saavad reaalajas arutada võimalusi, vahetada teadmisi ja leida lahenduse.
Järelevalve all olevad või hierarhilised seadistused hõlmavad halduragenti, kes vaatab üle vahetulemused, määrab ülesandeid ja lahendab konflikte . .NET-is saab seda orkestreerimist esitada taustatöötajate, sõnumijärjekordade või töövoo mootorite abil, samal ajal kui agendid ise suhtlevad Assistants API või seotud abstraktsioonide kaudu.
Microsoft.Extensions.AI, VectorData ja agendi raamistik
Agentide loomise lihtsustamiseks .NET-arendajatele tutvustab Microsoft selliseid põhiteeke nagu Microsoft.Extensions.AI ja Microsoft.Extensions.VectorData . Need teegid on loodud sarnaselt teiste Microsoft.Extensions pakettidega, mida te juba logimiseks, konfigureerimiseks ja sõltuvuste süstimiseks kasutate.
Tehisintellekti laiendused pakuvad modulaarseid komponente mudelite, tööriistade ja viipadega töötamiseks lisandmoodulitega ühendataval viisil . Konkreetse õigusteaduse müüja kõvakodeerimise asemel saate registreerida mudelipakkujaid ja neid konfiguratsiooni kaudu vahetada, mis on äärmiselt kasulik, kui peate tasakaalustama kulusid, latentsust ja võimalusi keskkondade vahel.
Vektorandmete laiendused keskenduvad semantilise otsingu ja otsinguga laiendatud genereerimise integreerimisele teie rakendustesse . Need eemaldavad spetsiifilised vektorandmebaaside implementatsioonid ja pakuvad teile ühiseid liideseid manustuste salvestamiseks, otsimiseks ja haldamiseks, mis toidavad teie agendi pikaajalist mälu.
Lisaks neile ehitusplokkidele on Microsoft Agent Frameworki eesmärk pakkuda kõrgema taseme abstraktsiooni, mis on spetsiaalselt kohandatud agentide ja töövoogude stsenaariumidele . Kuigi üksikasjad arenevad pidevalt, on eesmärk pakkuda järjepidevat viisi agentide, tööriistade, töövoogude ja konteksti määratlemiseks, integreerides selle tugevalt laiemasse .NET ja Azure'i ökosüsteemi.
AI tööriistakomplekt, Azure AI Foundry ja Visual Studio Code'i agendid
Paljud arendajad eelistavad agente otse redaktorist uurida ja prototüüpe luua ning just siin tulevadki mängu Visual Studio Code'i laiendused AI Toolkit ja Azure AI Foundry . Koos võimaldavad need teil mudeleid sirvida, neid juurutada, kvaliteeti hinnata ja agentidesse ühendada ilma kodeerimiskeskkonnast lahkumata.
AI Toolkiti laiendus avab mudelikataloogi, kus saate uurida pilves hostitud ja kohalikke mudeleid, sealhulgas neid, mida pakutakse selliste tööriistade nagu Ollama kaudu . Saate käivitada GitHubis hostitud mudeleid, võrrelda erinevate mudelite väljundeid kõrvuti ja kiiresti näha, milline neist sobib teie kasutusjuhtumiga.
Azure AI Foundry integratsioon lisab veel ühe kihi: saate mudeleid otse Azure'is juurutada, genereerida nende kutsumiseks C# kliendi näidiskoodi ning kohandada konfiguratsiooni ja metaandmeid VS Code'is . See lihtsustab teed eksperimendist tootmiseni, eriti kui teie meeskond juba asub Azure'i ökosüsteemis.
Need laiendused aitavad ka hindamisel, võimaldades teil seadistada testiandmestikke, käivitada hindamisi ja kontrollida tulemusi sellistes tööriistades nagu Data Wrangler . Saate määratleda oma valdkonnale kohandatud hindajaid, käivitada neid mudeli väljundite partiide lõikes ja visualiseerida, kus teie agendid hästi ja kus raskustega toimivad.
Agentide loomiseks toetab tööriist süsteemiviipadega agentide loomist, süsteemisõnumite automaatset genereerimist ja ühenduse loomist Model Context Protocol (MCP) serveritega, mis pakuvad väliseid tööriistu . Saate isegi luua põgenemistoa stiilis või domeenispetsiifilisi agente, mis kutsuvad esile teie enda teenuseid esindavaid kohandatud MCP servereid.
Azure AI Foundry sees on teil olemas visuaalne agentide kujundaja ja YAML-i sünkroniseerimine . See tähendab, et saate konfigureerida agente, ühendada tööriistu nagu Bingi otsing või koodiinterpretaator, testida interaktsioone mänguväljakul ja seejärel eksportida või sünkroonida konfiguratsiooni versioonikontrolli, hoides oma C#-koodi ja agentide definitsioonid kooskõlas.
C# tehisintellekti agentide testimine, jälgitavus ja kulude kontroll
Tootmisvalmis agendid nõuavad sama rangust nagu iga teine missioonikriitiline teenus: põhjalik testimine, hea telemeetria ja pidev kulude haldamine . Erinevus seisneb selles, et LLM-id toovad kaasa uusi muutujaid, nagu stohhastilised väljundid ja tokenite kasutamine, mida peate samuti silmas pidama.
Testimise poolelt on vaja nii klassikalisi ühikteste oma tööriistadele kui ka integratsioonistiilis vestlusi, mis simuleerivad realistlikke kasutajavooge . Ühiktestid kontrollivad, kas iga tööriist käitub teatud sisendite korral õigesti, samas kui vestlustestid kontrollivad, kas agent valib mõistlikud tööriistad, esitab kehtivaid argumente ja jääb poliitika piiridesse.
Jälgitavus peaks jäädvustama enamat kui ainult edu või ebaedu; vaja on latentsusjaotusi, märgi tarbimist, käivitussammude jälgi ja tööriistakõnede statistikat . Need mõõdikud hõlbustavad regressioonide märkamist mudelite, viipade või tööriistade implementatsioonide muutmisel ning aitavad teil süsteemi jõudluse ja kulude osas häälestada.
Kulude kontroll on tihedalt seotud sellega, kuidas hallata vestluste pikkust ja tööriistakõnede sagedust . Pikad ja piiramatud vestlused võivad plahvatuslikult suurendada tokeni kasutamist ja aeglustada vastuseid, seega on sellised strateegiad nagu kokkuvõtete tegemine, kontekstiaknad ja intelligentne kärpimine iga tõsise C# juurutuse puhul olulised.
Samuti on hea mõte jälgida edumäärasid konkreetsete teostusteede või töövoogude tasandil, mitte ainult agendi üldisel tasandil . Nii näete, millised marsruudid teie mitme agendi süsteemis on usaldusväärsed ja millised vajavad paremaid juhiseid, uusi tööriistu või täiendavaid kaitsepiirdeid.
Turvalisus, vastavus ja ettevõtte integratsioon
Kui teie agendid hakkavad tundlikke andmeid puudutama või ärikriitilisi toiminguid automatiseerima, ei saa turvalisus ja vastavus jääda teisejärguliseks . LLM-i paindlikkuse ja ettevõtte piirangute kombinatsioon nõuab väga läbimõeldud turvapositsiooni.
Esiteks, ärge kunagi kodeerige volitusi ega saladusi oma C#-koodi . Kasutage oma pilveplatvormil standardseid saladuste haldamise mehhanisme, keskkonnamuutujaid või hallatavaid identiteete ning veenduge, et teie agendiprotsessil on ainult need õigused, mida see tegelikult vajab.
Teiseks peaks iga agendi nimel tehtud väline kutse läbima puhastus- ja valideerimiskihid . See hõlmab nii kasutaja sisendeid kui ka mudeli loodud argumente tööriistadele, kuna mõlemad võivad sisaldada ootamatut, vigast või pahatahtlikku sisu.
Kolmandaks peaksite logima ja auditeerima iga tööriista kutsumise, sealhulgas võtmekonteksti, nagu kasutaja, kutsuv agent, sihtsüsteem ja tulemus . Reguleeritud tööstusharudes võib see auditeerimisjälg olla kohustuslik; isegi väljaspool neid keskkondi on see intsidentidele reageerimise ja haldamise jaoks hindamatu väärtusega.
Lõpuks viige oma juurutamise arhitektuur vastavusse ettevõtte mustritega, näiteks eraldades juhtimis- ja järeldustasandid . See tähendab orkestreerimise, konfigureerimise ja jälgimise eraldamist töömahukatest järeldusprotsessidest, mis parandab skaleeritavust, turvalisust ja töökindlust.
Juurutamine, skaleerimine ja analüütikaga ühenduse loomine
Kui teie C# agendid testides hästi käituvad, vajate juurutusstrateegiat, mis skaleerub sujuvalt ja integreerub ülejäänud teie serveripinuga . Konteinerid, orkestraatorid ja hallatavad tehisintellekti teenused on siin teie liitlased.
Levinud muster on pakkida oma agendi orkestreerimiskiht konteineritesse ja käitada neid Kubernetes'i või mõne muu orkestreerimiskeskkonna all, delegeerides samal ajal LLM-i järeldused hallatavatele teenustele, näiteks Azure OpenAI-le . See võimaldab teil oma juhtimistasandit ja järeldustasandit nõudluse kõikumise korral eraldi skaleerida.
Pikad või mahukad agentidega suhtlemised saavad sageli kasu asünkroonsest töötlemisest ja järjekordadest . HTTP-päringute blokeerimise asemel keeruka mitmeastmelise töö lõpuleviimise ajal panete tööüksused järjekorda, lasete taustatöötajatel neid hallata ja teavitate kliente, kui tulemused on valmis.
Ärilisest vaatenurgast ilmneb tegelik väärtus sageli siis, kui sisestate agendi väljundid analüütika- ja ärianalüüsi tööriistadesse . See võib tähendada struktureeritud kokkuvõtete, otsuste või mõõdikute edastamist andmeladudesse ja nende kuvamist Power BI või muude ärianalüüsi platvormide armatuurlaudade kaudu.
See suletud ahel – agendid genereerivad teadmisi või tegevusi, analüütika mõõdab mõju ja meeskonnad itereerivad küsimuste ja tööriistade kallal – muudab tehisintellekti uudsusest jätkusuutlikuks operatiivseks võimekuseks . Aja jooksul saate täpsustada, millised agendid pakuvad suurimat investeeringutasuvust, milliseid töövooge tuleks rohkem automatiseerida ja kus peab inimjärelevalve tsüklisse jääma.
Kõik need tükid kokku pannes saame C#-keskse ökosüsteemi, kus assistendid, tööriistad, töövood ja pilveteenused teevad koostööd: Assistantsi API pakub vestluslikku arutluskäiku, teie .NET-kood annab tugevad tööriistad ja oleku, Microsoft.Extensionsi teegid pakuvad puhtaid abstraktsioone ning Azure AI Foundry ja AI Toolkit sujuvad katsetamise ja juurutamise protsessid . Hoolika tähelepanuga mälule, jälgitavusele, turvalisusele ja arhitektuurile saavad need agendid pakkuda reaalseid ja mõõdetavaid parandusi tõhususes, otsuste kvaliteedis ja automatiseerimises kogu teie organisatsioonis.
