Cara Membina Ejen AI dengan Alatan dalam Csharp

Laman Utama » Python » Cara Membina Ejen AI dengan Alatan dalam Csharp

Membina ejen AI dengan alatan dalam C# bukan lagi impian futuristik; ia merupakan cara yang sangat praktikal untuk mengautomasikan aliran kerja, menganalisis data dan menghubungkan aplikasi .NET anda dengan model bahasa besar (LLM)Dengan seni bina yang betul, anda boleh beralih daripada klien sembang mudah kepada ejen gred pengeluaran yang menaakul, memanggil API, mengatur aliran kerja dan menghormati kekangan perusahaan seperti keselamatan, kebolehcerapan dan kawalan kos.

Panduan ini membimbing anda tentang bagaimana konsep ejen AI moden dipetakan ke tindanan C#, bagaimana Azure OpenAI dan OpenAI Assistants API sesuai, dan cara memasukkan semuanya ke dalam amalan kejuruteraan perisian .NET yang mantap.Kami juga akan menghubungkan idea-idea ini dengan rangka kerja ejen Microsoft yang baru muncul dan perkakasan AI dalam Visual Studio Code, supaya anda mendapat pandangan lengkap daripada prototaip tempatan kepada penggunaan awan yang boleh diskala.

Daripada chatbot kepada ejen AI penuh dalam C#

Pada tahap yang tinggi, ejen AI ialah sistem yang mengejar matlamat dan bukan sekadar menjawab satu gesaan sahajaIni bermakna ejen memerlukan gabungan penaakulan, alat, kesedaran konteks dan ingatan supaya ia boleh memutuskan apa yang perlu dilakukan seterusnya, bukan hanya apa yang perlu dibalas pada giliran semasa.

Dalam istilah C# praktikal, anda boleh menganggap ejen sebagai lapisan koordinasi di atas klien LLM ditambah satu set alat yang didedahkan sebagai kaedah .NET, API atau perkhidmatan luaran.Model ini menyumbang kepada penaakulan dan pemahaman bahasa, manakala kod C# anda menyumbang kepada logik perniagaan, akses data, keselamatan dan penyepaduan dengan sistem sedia ada anda.

Ejen moden sering bergantung pada model bahasa yang besar untuk membuat keputusan, algoritma carian atau logik perancangan, tetapi ia menjadi benar-benar berguna hanya apabila ia disambungkan kepada alat.Alatan mungkin termasuk pertanyaan pangkalan data, API HTTP, mikroservis dalaman, carian fail atau penterjemah kod berpasir di mana ejen boleh menjalankan kod analisis data dengan selamat.

Kesedaran konteks merupakan bahagian kritikal terakhir yang membolehkan ejen menggunakan sejarah sembang, stor vektor, data perusahaan atau graf pengetahuan sebagai sebahagian daripada penaakulannya.Konteks itu boleh semudah log perbualan pendek yang disimpan dalam ingatan atau serumit keadaan aliran kerja teragih yang merangkumi berbilang ejen dan stor data.

Blok binaan teras pembantu dan ejen AI

API Pembantu OpenAI dan Azure OpenAI memberi anda satu set primitif yang sangat konkrit untuk ejen binaan dalam C#.Daripada mesin keadaan yang digulung secara manual, anda bekerja dengan entiti yang ditakrifkan dengan baik yang sepadan dengan cara ejen berasaskan LLM berfikir dan beroperasi.

Pembantu mewakili persona AI yang dikonfigurasikan: model yang digunakannya, arahan yang diikutinya dan alatan yang dibenarkan untuk dipanggilnyaDalam C#, ini dipetakan kepada objek yang anda cipta dengan pilihan seperti nama, arahan sistem dan senarai definisi alat yang menerangkan apa yang boleh digunakan oleh model.

Utas ialah sesi perbualan yang menghubungkan pengguna dengan pembantu dari semasa ke semasaBenang tersebut menyimpan senarai mesej yang tersusun, mengendalikan pemotongan konteks secara automatik agar kekal dalam had token dan bertindak sebagai tulang belakang memori ejen untuk interaksi tersebut.

Mesej ialah cebisan kandungan konkrit yang mengalir antara pengguna dan pembantuDalam API Pembantu, mesej boleh menyimpan teks biasa, imej atau fail lain. Dalam C#, anda menggunakannya sebagai objek dalam koleksi, memeriksa teks, anotasi atau ID fail yang berkaitan bergantung pada kandungannya.

Larian ialah operasi yang memulakan penaakulan pembantu terhadap kandungan threadSebaik sahaja anda memulakan larian, pembantu akan menggunakan konfigurasinya, membaca mesej, memanggil alat mengikut keperluan dan kemudian menambah mesej baharu dengan hasilnya kembali ke thread yang sama.

Langkah-langkah larian merakam urutan tindakan terperinci yang dilakukan oleh pembantu semasa larianDengan memeriksanya, anda boleh melihat alatan yang dipanggil, argumen yang dihantar, mesej yang dijana dan bagaimana ejen mencapai jawapan akhirnya. Ini sangat berharga untuk penyahpepijatan, kebolehcerapan dan pengauditan dalam persekitaran perusahaan.

Selain daripada primitif ini, pembantu boleh menggunakan pelbagai alat secara selari untuk menyelesaikan tugasanJenis alat terbina dalam yang biasa termasuk penterjemah kod yang boleh menjalankan coretan dalam masa jalan berpasir, panggilan fungsi tersuai (fungsi .NET anda sendiri didedahkan sebagai alat) dan keupayaan carian fail yang melanjutkan model dengan pengetahuan luaran.

Menggunakan alatan: pelaksanaan kod, panggilan fungsi dan carian fail

Tooling ialah apa yang mengubah model bahasa pasif menjadi ejen yang berkebolehan yang benar-benar boleh menyelesaikan sesuatu dalam aplikasi .NET anda.Daripada hanya mengembalikan teks, model boleh memutuskan untuk memanggil fungsi, melaksanakan kod atau mencari stor fail apabila itu adalah cara terbaik untuk menjawab permintaan pengguna.

Alat penterjemah kod membolehkan ejen menulis dan menjalankan kod dalam persekitaran terpencil untuk tugas seperti analisis data, visualisasi atau simulasi asasDaripada C#, anda tidak menjalankan kod tersebut secara langsung; anda mengkonfigurasi pembantu dengan keupayaan penterjemah kod dan kemudian membaca kembali output yang dihasilkannya, seperti imej yang dijana atau hasil berstruktur.

Pemanggilan fungsi mendedahkan logik domain anda sendiri sebagai alat yang boleh dipilih dan digunakan oleh modelAnda menerangkan setiap fungsi dengan metadata: nama, tujuan dan skema parameter. Pembantu kemudian memilih bila untuk mencetuskan fungsi tersebut berdasarkan input pengguna dan penaakulan perantaraan, manakala pelaksanaan C# anda mengendalikan pengesahan, ralat dan tamat masa.

Alat carian fail membolehkan ejen mendasarkan responsnya dalam data luaran, seperti dokumentasi, laporan atau pangkalan pengetahuanAnda memuat naik fail, mencipta stor atau indeks vektor dan memberikan pembantu akses kepadanya. Dari situ, model boleh mendapatkan sebahagian kandungan yang berkaitan dan memasukkannya ke dalam jawapannya, meningkatkan ketepatan fakta dan kebolehkesanan.

Prinsip reka bentuk utama ialah alat mestilah selamat dan berdaya tahan, dengan pengesahan input yang kukuh, pengendalian ralat dan had sumber yang jelas.Walaupun LLM memilih bila untuk menghubungi mereka, kod C# anda tetap bertanggungjawab sepenuhnya untuk menguatkuasakan peraturan perniagaan, had kadar dan dasar akses data.

Mencipta ejen aplikasi konsol .NET minimum dengan Azure OpenAI

Untuk menjadikan semua ini konkrit, anda boleh mulakan dengan aplikasi konsol .NET mudah yang berkomunikasi dengan OpenAI atau Azure OpenAI Assistants API.Projek minimum jenis ini sesuai untuk ejen bukti konsep yang sepenuhnya menggunakan kod namun sudah menggunakan alatan, fail dan thread perbualan.

Langkah pertama ialah mencipta projek konsol .NET dan menambah pakej SDK yang diperlukan yang memberi anda akses kepada klien OpenAI dan Azure OpenAI.Dengan adanya ciri-ciri tersebut, anda akan mewujudkan klien OpenAI generik menggunakan kunci API anda atau klien khusus Azure yang menghala ke titik akhir Azure OpenAI anda dan menggunakan kelayakan seperti DefaultAzureCredential.

Daripada klien umum, anda memperoleh klien khusus: klien pembantu untuk mengurus pembantu, thread dan run, dan klien fail untuk memuat naik dan memuat turun failPemisahan ini menjelaskan operasi yang berkaitan dengan konfigurasi dan orkestrasi berbanding pengendalian fail mentah.

Anda kemudian boleh mencipta strim dokumen dalam memori terus di dalam kod C# anda untuk mensimulasikan data perniagaan sebenarContohnya, anda mungkin mentakrifkan dokumen JSON kecil yang menyimpan metrik jualan bulanan untuk ID produk yang berbeza dan menukarnya kepada strim yang boleh dimuat naik oleh klien fail.

Sebaik sahaja fail dimuat naik untuk kegunaan pembantu, platform tersebut akan mengembalikan pengecam fail yang boleh anda pautkan ke stor vektor baharu dan lampirkan pada pembantu sebagai sumber carian fail.Dalam konfigurasi pembantu yang sama, anda juga mendayakan penterjemah kod supaya ejen bukan sahaja boleh mencari nilai tetapi juga menjana graf atau analisis yang lebih lanjutan.

Selepas menyediakan pilihan pembantu dengan nama, arahan dan definisi alat, anda mencipta pembantu yang disokong oleh model seperti gpt-4oAnda juga mengkonfigurasi thread dengan mesej awal pengguna, mungkin sesuatu seperti meminta prestasi produk tertentu dari semasa ke semasa dan meminta visualisasi.

Pembantu klien membolehkan anda mencipta thread dan segera memulakan larian dalam satu panggilan, kemudian menilai status larian sehingga ia mencapai keadaan terminalGelung tinjauan pendapat ini mudah tetapi berkesan untuk alatan baris arahan; dalam persekitaran web atau perkhidmatan latar belakang, anda mungkin beralih kepada corak dipacu peristiwa atau tak segerak.

Setelah proses selesai, anda akan menstrim semula mesej daripada thread dalam tertib menaik dan mencetak balasan pembantu ke konsol.Bagi setiap kandungan, anda boleh memeriksa teks, anotasi yang merujuk kepada fail input atau output dan sebarang imej yang dijana oleh penterjemah kod yang kemudiannya anda simpan ke cakera dan log dengan tag ruang letak mudah dalam output konsol.

Pengurusan keadaan, ingatan dan reka bentuk perbualan

Sebaik sahaja anda beralih daripada contoh mainan, keadaan dan memori menjadi kebimbangan utama dalam reka bentuk ejen C# andaCabarannya ialah sejarah perbualan berkembang tanpa batasan, manakala model mempunyai had token yang ketat dan anda juga perlu menyimpan data untuk pematuhan, analitik atau penyahpepijatan.

Satu strategi biasa adalah untuk mengekalkan thread atau sesi berasingan bagi setiap pengguna atau kes penggunaan, dan meringkaskan perbualan secara berkala untuk mengekalkan hanya konteks yang paling relevan.Ringkasan boleh dijana oleh model itu sendiri dan kemudian disimpan bersama metadata berstruktur dalam pangkalan data atau stor vektor.

Pendekatan yang lebih maju menggunakan kepentingan semantik apabila memutuskan apa yang hendak disimpan, dimampatkan atau dibuangDaripada sekadar memangkas mesej terlama, anda menanda atau mengindeks kandungan mengikut topik, entiti atau proses perniagaan dan menjalankan pertanyaan yang disasarkan untuk membina semula konteks yang diperlukan untuk pelaksanaan baharu.

Dalam C#, anda biasanya melaksanakan memori sebagai gabungan cache dalam proses untuk akses pantas dan storan berterusan untuk ketahanan dan kebolehauditan.Ini mungkin bermakna memasangkan pangkalan data hubungan untuk metadata berstruktur dengan pangkalan data vektor untuk carian semantik merentasi kandungan tidak berstruktur, semuanya tersembunyi di sebalik antara muka repositori yang boleh dipanggil oleh ejen anda tanpa mempedulikan teknologi yang mendasarinya.

Reka bentuk perbualan yang bernas juga penting: anda harus mencipta arahan sistem, penerangan alat dan gesaan pengguna supaya LLM boleh membuat penaakulan dengan berkesan sambil kekal dalam sempadan domain anda.Ini termasuk menjelaskan bila ejen harus bertanya soalan penjelasan, bila hendak memanggil alat dan bila hendak menolak permintaan yang berada di luar skop yang dibenarkan.

Alatan seperti fungsi C#, API dan perkhidmatan luaran

Dalam aplikasi sebenar, alat yang paling berkuasa ialah fungsi domain anda sendiri, yang didedahkan supaya ejen boleh mengatur kerja merentasi sistem dalaman andaIni mungkin termasuk operasi seperti mencipta tiket, membuat pertanyaan tentang rekod pelanggan, menjalankan pengiraan kewangan atau mencetuskan aliran kerja dalam perkhidmatan mikro sedia ada anda.

Bagi setiap alat, anda perlu menyediakan metadata yang kaya yang menerangkan apa yang dilakukannya, input yang dijangkakannya dan apa yang dikembalikannya, idealnya dalam skema yang boleh dibaca mesin.Itu membantu LLM memilih alat yang betul, membina hujah yang sah dan mentafsir keputusan dengan betul, sekali gus mengurangkan halusinasi dan kesilapan.

Dari segi pelaksanaan, setiap pengendali alat dalam C# memerlukan pengaturcaraan defensif: pengesahan input yang ketat, pengendalian pengecualian yang mantap dan tamat masa yang munasabah.Ejen mungkin mencuba perkara yang tidak masuk akal secara perniagaan; kod anda mesti menguatkuasakan dasar dan bukannya menganggap model sentiasa berkelakuan seperti yang diramalkan.

Adalah juga bijak untuk merekodkan setiap pemanggilan alat bersama-sama dengan pengguna yang memanggil, segmen gesaan pencetus dan hasilnya.Itu memberi anda jejak audit yang jelas, menyokong semakan keselamatan dan membolehkan anda melaraskan alat yang paling berkesan atau memerlukan penghadang tambahan.

Orkestrasi dan aliran kerja berbilang ejen dalam .NET

Apabila senario anda menjadi lebih kompleks, anda mungkin mendapati bahawa satu ejen sahaja tidak mencukupi, dan anda memerlukan berbilang ejen khusus yang bekerjasama.Contohnya, seorang ejen mungkin menumpukan pada penyelidikan dan pengumpulan data, seorang lagi pada analisis dan yang ketiga pada penggubalan output yang mesra pengguna.

Secara konseptual, ini sepadan dengan corak aliran kerja yang telah diketahui oleh pembangun .NET: langkah berjujukan, cabang selari, penyerahan dan peranan penyeliaDaripada logik berkod keras, ejen menyelaras melalui mesej berstruktur dan ruang kerja yang dikongsi, tetapi corak orkestrasi terasa biasa.

Aliran kerja berjujukan menghantar output satu ejen terus ke ejen seterusnya, sesuai untuk tugasan linear seperti pengumpulan keperluan, reka bentuk, pelaksanaan dan semakanAliran kerja selari membolehkan berbilang ejen memproses aspek masalah yang berbeza pada masa yang sama, kemudian menggabungkan hasilnya dalam langkah seterusnya.

Corak serah terima membolehkan tanggungjawab berpindah dari ejen ke ejen berdasarkan syarat, seperti ambang keyakinan, kategori kandungan atau tindakan penggunaPersediaan gaya sembang kumpulan menempatkan beberapa ejen dalam perbualan bersama di mana mereka boleh membahaskan pilihan, bertukar pandangan dan bertemu untuk mencari penyelesaian dalam masa nyata.

Persediaan yang diselia atau berhierarki memperkenalkan ejen pengurus yang menyemak keputusan pertengahan, menugaskan tugasan dan menyelesaikan konflikDalam .NET, anda boleh mewakili orkestrasi ini menggunakan pekerja latar belakang, baris gilir mesej atau enjin aliran kerja, sementara ejen itu sendiri berkomunikasi melalui API Pembantu atau abstraksi yang berkaitan.

Microsoft.Extensions.AI, VectorData dan Rangka Kerja Ejen

Untuk menjadikan pembinaan ejen lebih idiomatik untuk pembangun .NET, Microsoft memperkenalkan perpustakaan asas seperti Microsoft.Extensions.AI dan Microsoft.Extensions.VectorDataPustaka-pustaka ini direka bentuk agar serupa dengan pakej Microsoft.Extensions lain yang telah anda gunakan untuk pengelogan, konfigurasi dan suntikan kebergantungan.

Sambungan AI menyediakan komponen modular untuk bekerja dengan model, alat dan gesaan dengan cara yang boleh dipasangDaripada mengekod vendor LLM tertentu secara tetap, anda boleh mendaftarkan penyedia model dan menukarnya melalui konfigurasi, yang sangat membantu apabila anda perlu mengimbangi kos, kependaman dan keupayaan merentasi persekitaran.

Sambungan data vektor memberi tumpuan kepada penyepaduan carian semantik dan penjanaan tambahan dapatan semula ke dalam aplikasi andaIa mengabstrak pelaksanaan pangkalan data vektor tertentu dan memberi anda antara muka biasa untuk menyimpan, mencari dan mengurus penyematan yang memperkasakan ingatan jangka panjang ejen anda.

Selain blok binaan ini, Microsoft Agent Framework bertujuan untuk menawarkan abstraksi peringkat lebih tinggi yang disesuaikan khusus untuk senario ejen dan aliran kerja.Walaupun butiran terus berkembang, tujuannya adalah untuk menyediakan cara yang konsisten untuk menentukan ejen, alatan, aliran kerja dan konteks, dengan penyepaduan yang kukuh ke dalam ekosistem .NET dan Azure yang lebih luas.

AI Toolkit, Azure AI Foundry dan ejen daripada Visual Studio Code

Ramai pembangun lebih suka meneroka dan membuat prototaip ejen terus daripada editor mereka, dan di situlah sambungan AI Toolkit dan Azure AI Foundry untuk Visual Studio Code memainkan peranan.Secara keseluruhannya, ia membolehkan anda menyemak imbas model, menggunakannya, menilai kualiti dan menghubungkannya ke dalam ejen tanpa meninggalkan persekitaran pengekodan anda.

Sambungan AI Toolkit memaparkan katalog model di mana anda boleh memeriksa model yang dihoskan awan dan tempatan, termasuk yang dilayan melalui alat seperti OllamaAnda boleh menggunakan model yang dihoskan oleh GitHub, membandingkan output daripada model yang berbeza secara bersebelahan dan melihat dengan cepat model yang sesuai dengan kes penggunaan anda.

Integrasi Azure AI Foundry menambah lapisan lain: anda boleh menggunakan model terus ke Azure, menjana kod klien C# sampel untuk memanggilnya dan mengubah konfigurasi dan metadata dari dalam VS CodeIni memperkemas laluan daripada eksperimen kepada pengeluaran, terutamanya apabila pasukan anda sudah berada dalam ekosistem Azure.

Sambungan ini juga membantu penilaian dengan membolehkan anda menyediakan set data ujian, menjalankan penilaian dan memeriksa hasil dalam alat seperti Data Wrangler.Anda boleh mentakrifkan penilai tersuai yang disesuaikan dengan domain anda, menjalankannya merentasi kelompok output model dan menggambarkan di mana ejen anda berprestasi baik atau bermasalah.

Untuk pembinaan ejen, perkakas ini menyokong penciptaan ejen dengan gesaan sistem, penjanaan mesej sistem secara automatik dan penyambungan ke pelayan Protokol Konteks Model (MCP) yang mendedahkan alatan luaran.Anda juga boleh membina ejen gaya bilik melarikan diri atau ejen khusus domain yang memanggil pelayan MCP tersuai yang mewakili perkhidmatan anda sendiri.

Dalam Azure AI Foundry itu sendiri, anda mendapat pereka ejen visual serta penyegerakan YAMLIni bermakna anda boleh mengkonfigurasi ejen, melampirkan alatan seperti carian Bing atau penterjemah kod, menguji interaksi di taman permainan dan kemudian mengeksport atau menyegerakkan konfigurasi ke dalam kawalan sumber, memastikan kod C# dan definisi ejen anda sejajar.

Pengujian, kebolehcerapan dan kawalan kos untuk ejen C# AI

Ejen sedia pengeluaran menuntut ketelitian yang sama seperti mana-mana perkhidmatan kritikal misi yang lain: ujian menyeluruh, telemetri yang baik dan pengurusan kos yang berterusanPerbezaannya ialah LLM membawa pembolehubah baharu seperti output stokastik dan penggunaan token yang anda juga mesti perhatikan.

Dari segi ujian, anda mahukan campuran ujian unit klasik untuk alatan anda dan perbualan gaya integrasi yang mensimulasikan aliran pengguna yang realistik.Ujian unit mengesahkan bahawa setiap alat berfungsi dengan betul berdasarkan input tertentu, manakala ujian perbualan menyemak bahawa ejen memilih alat yang masuk akal, menghasilkan hujah yang sah dan kekal dalam sempadan dasar.

Kebolehcerapan harus merangkumi lebih daripada sekadar kejayaan atau kegagalan; anda mahukan taburan latensi, penggunaan token, jejak langkah larian dan statistik panggilan alatMetrik ini memudahkan untuk mengenal pasti regresi apabila anda menukar model, gesaan atau pelaksanaan alat, dan ia membantu anda menala sistem anda untuk prestasi dan kos.

Kawalan kos berkait rapat dengan cara anda mengurus tempoh perbualan dan kekerapan panggilan alatPerbualan yang panjang dan tidak terbatas boleh meletuskan penggunaan token dan memperlahankan respons, jadi strategi seperti ringkasan, tetingkap konteks dan pemotongan pintar adalah penting dalam sebarang penggunaan C# yang serius.

Ia juga merupakan idea yang baik untuk menjejaki kadar kejayaan pada tahap laluan pelaksanaan atau aliran kerja tertentu, bukan hanya pada tahap ejen keseluruhan.Dengan cara itu, anda dapat melihat laluan mana melalui sistem berbilang ejen anda yang boleh dipercayai dan laluan mana yang memerlukan gesaan, alatan baharu atau penghadang tambahan yang lebih baik.

Keselamatan, pematuhan dan integrasi perusahaan

Apabila ejen anda mula menyentuh data sensitif atau mengautomasikan operasi kritikal perniagaan, keselamatan dan pematuhan tidak boleh diabaikanGabungan fleksibiliti LLM dan kekangan perusahaan memerlukan postur keselamatan yang sangat disengajakan.

Pertama sekali, jangan sekali-kali mengekodkan kelayakan atau rahsia secara keras dalam kod C# andaGunakan mekanisme pengurusan rahsia standard dalam platform awan, pembolehubah persekitaran atau identiti terurus anda dan pastikan proses ejen anda hanya mempunyai keistimewaan yang benar-benar diperlukan.

Kedua, setiap panggilan luaran yang dibuat bagi pihak ejen hendaklah melalui lapisan sanitasi dan pengesahan.Ini termasuk input pengguna dan argumen yang dijana model kepada alatan, kerana kedua-duanya boleh mengandungi kandungan yang tidak dijangka, salah bentuk atau berniat jahat.

Ketiga, anda harus mencatat dan mengaudit setiap pemanggilan alat, termasuk konteks utama seperti pengguna, ejen pemanggil, sistem sasaran dan hasilnya.Dalam industri yang dikawal selia, jejak audit ini mungkin wajib; walaupun di luar persekitaran tersebut, ia sangat berharga untuk tindak balas insiden dan tadbir urus.

Akhir sekali, selaraskan seni bina penggunaan anda dengan corak perusahaan seperti memisahkan satah kawalan dan inferensIni bermakna mengasingkan orkestrasi, konfigurasi dan pemantauan daripada proses inferens angkat berat, yang meningkatkan kebolehskalaan, keselamatan dan daya tahan operasi.

Pelaksanaan, penskalaan dan penyambungan kepada analitik

Sebaik sahaja ejen C# anda berfungsi dengan baik dalam ujian, anda memerlukan strategi penggunaan yang diskalakan dengan anggun dan disepadukan dengan seluruh susunan anda.Kontena, pengaturcara dan perkhidmatan AI terurus adalah sekutu anda di sini.

Corak biasa adalah untuk membungkus lapisan orkestrasi ejen anda ke dalam bekas dan menjalankannya di bawah Kubernetes atau orkesrator lain, sambil mewakilkan inferens LLM kepada perkhidmatan terurus seperti Azure OpenAIIni membolehkan anda menskalakan satah kawalan dan satah inferens anda secara bebas apabila permintaan berubah-ubah.

Interaksi jangka panjang atau berat dengan ejen sering mendapat manfaat daripada pemprosesan dan baris gilir tak segerakDaripada menyekat permintaan HTTP semasa proses berbilang langkah yang kompleks selesai, anda akan memasukkan item kerja ke dalam barisan, membiarkan pekerja latar belakang mengendalikannya dan memberitahu klien apabila keputusan telah siap.

Dari perspektif perniagaan, nilai sebenar sering muncul apabila anda memasukkan output ejen ke dalam alat analitik dan risikan perniagaan.Ini mungkin bermakna memasukkan ringkasan, keputusan atau metrik berstruktur ke dalam gudang data dan mendedahkannya melalui papan pemuka dalam Power BI atau platform BI yang lain.

Gelung tertutup ini—ejen yang menjana pandangan atau tindakan, analitik mengukur impak dan pasukan yang mengulangi gesaan dan alatan—menukarkan AI daripada sesuatu yang baharu kepada keupayaan operasi yang mampan.Lama-kelamaan, anda boleh memperhalusi ejen yang memberikan ROI tertinggi, aliran kerja yang mana harus diautomasikan selanjutnya dan di mana pengawasan manusia mesti sentiasa dimaklumkan.

Dengan menggabungkan semua ini, anda akan mendapat ekosistem berpusatkan C# di mana pembantu, alatan, aliran kerja dan perkhidmatan awan bekerjasama: API Pembantu membekalkan penaakulan perbualan, kod .NET anda membekalkan alatan dan keadaan yang mantap, pustaka Microsoft.Extensions menawarkan abstraksi yang bersih dan Azure AI Foundry serta AI Toolkit memperkemas eksperimen dan penggunaan.Dengan perhatian yang teliti terhadap ingatan, kebolehcerapan, keselamatan dan seni bina, ejen-ejen ini dapat memberikan peningkatan kecekapan, kualiti keputusan dan automasi yang nyata dan boleh diukur di seluruh organisasi anda.