Cara Membangun Agen AI dengan Alat di C#

Beranda » Ular sanca » Cara Membangun Agen AI dengan Alat di C#

Membangun agen AI dengan alat-alat dalam C# bukan lagi mimpi futuristik; ini adalah cara yang sangat praktis untuk mengotomatisasi alur kerja, menganalisis data, dan menghubungkan aplikasi .NET Anda dengan model bahasa besar (LLM).Dengan arsitektur yang tepat, Anda dapat beralih dari klien obrolan sederhana ke agen tingkat produksi yang mampu berpikir, memanggil API, mengatur alur kerja, dan menghormati batasan perusahaan seperti keamanan, kemampuan pengamatan, dan pengendalian biaya.

Panduan ini akan memandu Anda melalui bagaimana konsep agen AI modern dipetakan ke tumpukan C#, bagaimana Azure OpenAI dan API OpenAI Assistants berperan, dan bagaimana mengintegrasikan semuanya ke dalam praktik rekayasa perangkat lunak .NET yang tangguh.Kami juga akan menghubungkan ide-ide ini dengan kerangka kerja agen dan perangkat AI yang sedang dikembangkan oleh Microsoft di Visual Studio Code, sehingga Anda mendapatkan gambaran lengkap mulai dari prototipe lokal hingga penerapan cloud yang skalabel.

Dari chatbot hingga agen AI lengkap dalam C#

Secara garis besar, agen AI adalah sistem yang mengejar tujuan, bukan hanya menjawab satu perintah saja.Artinya, agen tersebut membutuhkan kombinasi penalaran, alat, kesadaran kontekstual, dan memori agar dapat memutuskan apa yang harus dilakukan selanjutnya, bukan hanya apa yang harus dijawab pada giliran saat ini.

Dalam istilah C# praktis, Anda dapat menganggap agen sebagai lapisan koordinasi di atas klien LLM ditambah serangkaian alat yang diekspos sebagai metode .NET, API, atau layanan eksternal.Model ini memberikan kontribusi berupa penalaran dan pemahaman bahasa, sementara kode C# Anda memberikan kontribusi berupa logika bisnis, akses data, keamanan, dan integrasi dengan sistem yang sudah ada.

Agen modern sering mengandalkan model bahasa yang besar untuk pengambilan keputusan, algoritma pencarian, atau logika perencanaan, tetapi mereka benar-benar berguna hanya ketika terhubung dengan berbagai alat.Alat-alat tersebut mungkin mencakup kueri basis data, API HTTP, layanan mikro internal, pencarian file, atau penerjemah kode terisolasi (sandbox) tempat agen dapat menjalankan kode analisis data dengan aman.

Kesadaran konteks adalah bagian penting terakhir, yang memungkinkan agen untuk menggunakan riwayat obrolan, penyimpanan vektor, data perusahaan, atau grafik pengetahuan sebagai bagian dari penalaran.Konteks tersebut bisa sesederhana catatan percakapan singkat yang tersimpan di memori, atau serumit status alur kerja terdistribusi yang mencakup banyak agen dan penyimpanan data.

Blok bangunan inti dari asisten dan agen AI.

API OpenAI dan Azure OpenAI Assistants memberi Anda serangkaian primitif yang sangat konkret untuk membangun agen di C#.Alih-alih membuat mesin keadaan secara manual, Anda bekerja dengan entitas yang terdefinisi dengan baik yang sesuai dengan cara agen berbasis LLM berpikir dan beroperasi.

Asisten tersebut mewakili persona AI yang telah dikonfigurasi: model apa yang digunakannya, instruksi apa yang diikutinya, dan alat apa yang diizinkan untuk dipanggilnya.Dalam C#, ini dipetakan ke objek yang Anda buat dengan opsi seperti nama, instruksi sistem, dan daftar definisi alat yang menjelaskan apa yang dapat dipanggil oleh model tersebut.

Thread adalah sesi percakapan yang menghubungkan pengguna dengan asisten dari waktu ke waktu.Thread tersebut menyimpan daftar pesan yang terurut, secara otomatis menangani pemotongan konteks agar tetap berada dalam batas token, dan bertindak sebagai tulang punggung memori agen untuk interaksi tersebut.

Pesan adalah potongan konten konkret yang mengalir antara pengguna dan asisten.Dalam API Asisten, sebuah pesan dapat berisi teks biasa, gambar, atau file lainnya. Dalam C#, Anda menggunakannya sebagai objek dalam sebuah koleksi, memeriksa teks, anotasi, atau ID file terkait tergantung pada kontennya.

Sebuah eksekusi adalah operasi yang memulai proses penalaran asisten atas isi suatu thread.Setelah Anda memulai proses, asisten akan menerapkan konfigurasinya, membaca pesan, memanggil alat yang diperlukan, dan kemudian menambahkan pesan baru beserta hasilnya kembali ke thread yang sama.

Langkah-langkah eksekusi mencatat urutan tindakan terperinci yang dilakukan asisten selama eksekusi.Dengan memeriksanya, Anda dapat melihat alat mana yang dipanggil, argumen apa yang dilewatkan, pesan apa yang dihasilkan, dan bagaimana agen mencapai jawaban akhirnya. Ini sangat berharga untuk debugging, pengamatan, dan audit di lingkungan perusahaan.

Selain fitur-fitur dasar tersebut, asisten dapat menggunakan berbagai alat secara paralel untuk menyelesaikan tugas.Jenis alat bawaan yang umum meliputi penerjemah kode yang dapat menjalankan cuplikan kode dalam lingkungan eksekusi terisolasi (sandbox), pemanggilan fungsi khusus (fungsi .NET Anda sendiri yang diekspos sebagai alat), dan kemampuan pencarian file yang memperluas model dengan pengetahuan eksternal.

Menggunakan alat: eksekusi kode, panggilan fungsi, dan pencarian file.

Perangkat bantu (tooling) adalah yang mengubah model bahasa pasif menjadi agen yang mampu dan dapat menyelesaikan berbagai hal di dalam aplikasi .NET Anda.Alih-alih hanya mengembalikan teks, model dapat memutuskan untuk memanggil fungsi, menjalankan kode, atau mencari di penyimpanan file jika itu adalah cara terbaik untuk menjawab permintaan pengguna.

Alat penerjemah kode memungkinkan agen untuk menulis dan menjalankan kode dalam lingkungan terisolasi untuk tugas-tugas seperti analisis data, visualisasi, atau simulasi dasar.Dari C#, Anda tidak menjalankan kode tersebut secara langsung; Anda mengkonfigurasi asisten dengan kemampuan penerjemah kode dan kemudian membaca kembali output yang dihasilkannya, seperti gambar yang dihasilkan atau hasil terstruktur.

Pemanggilan fungsi mengekspos logika domain Anda sendiri sebagai alat yang dapat dipilih dan dipanggil oleh model.Anda mendeskripsikan setiap fungsi dengan metadata: nama, tujuan, dan skema parameter. Asisten kemudian memilih kapan harus memicu fungsi-fungsi tersebut berdasarkan masukan pengguna dan pertimbangan sementara, sementara implementasi C# Anda menangani validasi, kesalahan, dan batas waktu.

Alat pencarian berkas memungkinkan agen untuk mendasarkan responsnya pada data eksternal, seperti dokumentasi, laporan, atau basis pengetahuan.Anda mengunggah file, membuat penyimpanan vektor atau indeks, dan memberikan akses kepada asisten. Dari situ, model dapat mengambil bagian-bagian konten yang relevan dan menggabungkannya ke dalam jawabannya, sehingga meningkatkan akurasi faktual dan keterlacakan.

Prinsip desain utama adalah bahwa alat harus aman dan tangguh, dengan validasi input yang kuat, penanganan kesalahan, dan batasan sumber daya yang jelas.Meskipun LLM memilih kapan harus memanggilnya, kode C# Anda tetap sepenuhnya bertanggung jawab untuk menegakkan aturan bisnis, batasan laju, dan kebijakan akses data.

Membuat agen aplikasi konsol .NET minimal dengan Azure OpenAI

Untuk memperjelas semua ini, Anda dapat memulai dengan aplikasi konsol .NET sederhana yang berkomunikasi dengan API OpenAI atau Azure OpenAI Assistants.Proyek minimalis semacam ini sangat cocok untuk agen pembuktian konsep yang sepenuhnya berbasis kode namun sudah menggunakan alat, file, dan alur percakapan.

Langkah pertama adalah membuat proyek konsol .NET dan menambahkan paket SDK yang diperlukan untuk mengakses klien OpenAI dan Azure OpenAI.Dengan pengaturan tersebut, Anda dapat membuat instance klien OpenAI generik menggunakan kunci API Anda atau klien khusus Azure yang mengarah ke endpoint Azure OpenAI Anda dan menggunakan kredensial seperti DefaultAzureCredential.

Dari klien umum, Anda dapat membuat klien khusus: klien asisten untuk mengelola asisten, thread, dan eksekusi, serta klien file untuk mengunggah dan mengunduh file.Pemisahan ini memperjelas operasi mana yang berkaitan dengan konfigurasi dan orkestrasi dibandingkan dengan penanganan file mentah.

Anda kemudian dapat membuat aliran dokumen dalam memori langsung di dalam kode C# Anda untuk mensimulasikan data bisnis nyata.Sebagai contoh, Anda dapat mendefinisikan dokumen JSON kecil yang berisi metrik penjualan bulanan untuk berbagai ID produk dan mengubahnya menjadi aliran data yang dapat diunggah oleh klien file.

Setelah file diunggah untuk digunakan oleh asisten, platform akan mengembalikan pengidentifikasi file yang dapat Anda tautkan ke penyimpanan vektor baru dan dilampirkan ke asisten sebagai sumber daya pencarian file.Dalam konfigurasi asisten yang sama, Anda juga mengaktifkan penerjemah kode sehingga agen tidak hanya dapat mencari nilai tetapi juga menghasilkan grafik atau analisis yang lebih canggih.

Setelah menyiapkan opsi asisten dengan nama, instruksi, dan definisi alat, Anda membuat asisten yang didukung oleh model seperti gpt-4o.Anda juga dapat mengkonfigurasi thread dengan pesan awal untuk pengguna, misalnya menanyakan kinerja produk tertentu dari waktu ke waktu dan meminta visualisasi.

Klien asisten memungkinkan Anda membuat thread dan langsung memulai eksekusi dalam satu panggilan, kemudian memantau status eksekusi hingga mencapai keadaan terminal.Loop polling ini sederhana namun efektif untuk alat baris perintah; dalam lingkungan layanan web atau latar belakang, Anda mungkin beralih ke pola berbasis peristiwa atau asinkron sebagai gantinya.

Setelah proses selesai, Anda dapat mengirimkan kembali pesan dari thread dalam urutan menaik dan mencetak balasan asisten ke konsol.Untuk setiap bagian konten, Anda dapat memeriksa teks, anotasi yang merujuk pada file input atau output, dan gambar apa pun yang dihasilkan oleh penerjemah kode yang kemudian Anda simpan ke disk dan catat dengan tag placeholder sederhana di output konsol.

Manajemen negara, memori, dan desain percakapan

Begitu Anda melangkah lebih jauh dari contoh-contoh sederhana, status dan memori menjadi perhatian utama dalam desain agen C# Anda.Tantangannya adalah riwayat percakapan tumbuh tanpa batas, sementara model memiliki batasan token yang ketat dan Anda juga perlu menyimpan data untuk kepatuhan, analitik, atau debugging.

Salah satu strategi umum adalah dengan mempertahankan utas atau sesi terpisah untuk setiap pengguna atau kasus penggunaan, dan secara berkala meringkas percakapan untuk hanya menyimpan konteks yang paling relevan.Ringkasan dapat dihasilkan oleh model itu sendiri dan kemudian disimpan bersama metadata terstruktur dalam basis data atau penyimpanan vektor.

Pendekatan yang lebih canggih menggunakan kepentingan semantik saat memutuskan apa yang harus disimpan, dikompresi, atau dibuang.Alih-alih hanya memangkas pesan terlama, Anda memberi tag atau mengindeks konten berdasarkan topik, entitas, atau proses bisnis, dan menjalankan kueri yang ditargetkan untuk merekonstruksi hanya konteks yang dibutuhkan untuk proses baru.

Dalam C#, Anda biasanya mengimplementasikan memori sebagai kombinasi dari cache dalam proses untuk akses cepat dan penyimpanan persisten untuk daya tahan dan kemampuan audit.Itu mungkin berarti menggabungkan basis data relasional untuk metadata terstruktur dengan basis data vektor untuk pencarian semantik di seluruh konten tidak terstruktur, semuanya tersembunyi di balik antarmuka repositori yang dapat dipanggil oleh agen Anda tanpa perlu mempedulikan teknologi yang mendasarinya.

Desain percakapan yang matang juga penting: Anda harus menyusun instruksi sistem, deskripsi alat, dan petunjuk pengguna sehingga LLM dapat bernalar secara efektif sambil tetap berada dalam batasan domain Anda.Ini termasuk mengklarifikasi kapan agen harus mengajukan pertanyaan klarifikasi, kapan harus menggunakan alat bantu, dan kapan harus menolak permintaan yang berada di luar cakupan yang diizinkan.

Alat bantu berupa fungsi C#, API, dan layanan eksternal.

Dalam aplikasi nyata, alat yang paling ampuh adalah fungsi domain Anda sendiri, yang diekspos sehingga agen dapat mengatur pekerjaan di seluruh sistem internal Anda.Hal ini mungkin mencakup operasi seperti membuat tiket, menanyakan catatan pelanggan, menjalankan perhitungan keuangan, atau memicu alur kerja di layanan mikro yang sudah ada.

Untuk setiap alat, Anda perlu menyediakan metadata yang kaya yang menjelaskan apa yang dilakukannya, input apa yang diharapkannya, dan apa yang dikembalikannya, idealnya dalam skema yang dapat dibaca mesin.Hal itu membantu LLM memilih alat yang tepat, membangun argumen yang valid, dan menafsirkan hasil dengan benar, mengurangi halusinasi dan kesalahan.

Dari sisi implementasi, setiap penangan alat di C# memerlukan pemrograman defensif: validasi input yang ketat, penanganan pengecualian yang kuat, dan batas waktu yang wajar.Agen tersebut mungkin mencoba hal-hal yang tidak masuk akal dari sudut pandang bisnis; kode Anda harus menegakkan kebijakan alih-alih berasumsi bahwa model selalu berperilaku dapat diprediksi.

Sebaiknya juga mencatat setiap penggunaan alat beserta pengguna yang menggunakannya, segmen perintah pemicu, dan hasilnya.Hal itu memberi Anda jejak audit yang jelas, mendukung tinjauan keamanan, dan memungkinkan Anda untuk menyesuaikan alat mana yang paling efektif atau membutuhkan pengamanan tambahan.

Orkestrasi multi-agen dan alur kerja di .NET

Seiring bertambahnya kompleksitas skenario Anda, Anda mungkin menyadari bahwa satu agen saja tidak cukup, dan Anda membutuhkan beberapa agen khusus yang bekerja bersama-sama.Sebagai contoh, satu agen mungkin fokus pada penelitian dan pengumpulan data, agen lain pada analisis, dan agen ketiga pada penyusunan hasil yang mudah digunakan oleh pengguna.

Secara konseptual, ini sangat sesuai dengan pola alur kerja yang sudah dikenal oleh pengembang .NET: langkah-langkah berurutan, cabang paralel, serah terima, dan peran pengawas.Alih-alih logika yang dikodekan secara langsung, agen-agen tersebut berkoordinasi melalui pesan terstruktur dan ruang kerja bersama, tetapi pola orkestrasi terasa familiar.

Alur kerja sekuensial meneruskan output dari satu agen langsung ke agen berikutnya, ideal untuk tugas-tugas linier seperti pengumpulan persyaratan, desain, implementasi, dan peninjauan.Alur kerja paralel memungkinkan beberapa agen memproses berbagai aspek suatu masalah secara bersamaan, kemudian menggabungkan hasilnya pada langkah selanjutnya.

Pola serah terima memungkinkan tanggung jawab berpindah dari satu agen ke agen lain berdasarkan kondisi tertentu, seperti ambang batas kepercayaan, kategori konten, atau tindakan pengguna.Pengaturan bergaya obrolan grup menempatkan beberapa agen ke dalam percakapan bersama di mana mereka dapat mendiskusikan pilihan, bertukar wawasan, dan mencapai solusi secara real time.

Sistem yang diawasi atau hierarkis memperkenalkan agen manajer yang meninjau hasil sementara, menetapkan tugas, dan menyelesaikan konflik.Di .NET, Anda dapat merepresentasikan orkestrasi ini menggunakan pekerja latar belakang, antrian pesan, atau mesin alur kerja, sementara agen itu sendiri berkomunikasi melalui API Asisten atau abstraksi terkait.

Microsoft.Extensions.AI, VectorData dan Kerangka Kerja Agen

Untuk membuat pembuatan agen lebih mudah dipahami oleh pengembang .NET, Microsoft memperkenalkan pustaka dasar seperti Microsoft.Extensions.AI dan Microsoft.Extensions.VectorData.Pustaka-pustaka ini dirancang agar terasa mirip dengan paket Microsoft.Extensions lain yang sudah Anda gunakan untuk pencatatan log, konfigurasi, dan injeksi dependensi.

Ekstensi AI menyediakan komponen modular untuk bekerja dengan model, alat, dan perintah secara mudah dipasang.Alih-alih menetapkan vendor LLM tertentu secara permanen, Anda dapat mendaftarkan penyedia model dan menggantinya melalui konfigurasi, yang sangat membantu ketika Anda perlu menyeimbangkan biaya, latensi, dan kemampuan di berbagai lingkungan.

Ekstensi data vektor berfokus pada pengintegrasian pencarian semantik dan generasi yang diperkaya dengan pengambilan informasi ke dalam aplikasi Anda.Mereka menyederhanakan implementasi basis data vektor spesifik dan memberi Anda antarmuka umum untuk menyimpan, mencari, dan mengelola embedding yang mendukung memori jangka panjang agen Anda.

Di atas fondasi dasar tersebut, Microsoft Agent Framework bertujuan untuk menawarkan abstraksi tingkat lebih tinggi yang secara khusus disesuaikan dengan skenario agen dan alur kerja.Meskipun detailnya terus berkembang, tujuannya adalah untuk menyediakan cara yang konsisten untuk mendefinisikan agen, alat, alur kerja, dan konteks, dengan integrasi yang kuat ke dalam ekosistem .NET dan Azure yang lebih luas.

Toolkit AI, Azure AI Foundry, dan agen dari Visual Studio Code

Banyak pengembang lebih suka mengeksplorasi dan membuat prototipe agen langsung dari editor mereka, dan di situlah ekstensi AI Toolkit dan Azure AI Foundry untuk Visual Studio Code berperan.Bersama-sama, keduanya memungkinkan Anda untuk menelusuri model, menerapkannya, mengevaluasi kualitas, dan menghubungkannya ke agen tanpa meninggalkan lingkungan pengkodean Anda.

Ekstensi AI Toolkit menampilkan katalog model tempat Anda dapat memeriksa model yang dihosting di cloud dan model lokal, termasuk model yang disajikan melalui alat seperti Ollama.Anda dapat menjalankan model yang dihosting di GitHub, membandingkan output dari berbagai model secara berdampingan, dan dengan cepat melihat mana yang sesuai dengan kasus penggunaan Anda.

Integrasi Azure AI Foundry menambahkan lapisan lain: Anda dapat menyebarkan model langsung ke Azure, menghasilkan kode klien C# sampel untuk memanggilnya, dan menyesuaikan konfigurasi serta metadata dari dalam VS Code.Hal ini menyederhanakan jalur dari eksperimen ke produksi, terutama ketika tim Anda sudah berada di ekosistem Azure.

Ekstensi ini juga membantu dalam evaluasi dengan memungkinkan Anda menyiapkan kumpulan data uji, menjalankan evaluasi, dan memeriksa hasilnya di alat seperti Data Wrangler.Anda dapat menentukan evaluator khusus yang disesuaikan dengan domain Anda, menjalankannya di berbagai kumpulan output model, dan memvisualisasikan di mana agen Anda berkinerja baik atau mengalami kesulitan.

Untuk pembuatan agen, perangkat lunak ini mendukung pembuatan agen dengan perintah sistem, pembuatan pesan sistem secara otomatis, dan koneksi ke server Model Context Protocol (MCP) yang mengekspos perangkat eksternal.Anda bahkan dapat membangun agen bergaya escape room atau agen khusus domain yang memanggil server MCP khusus yang mewakili layanan Anda sendiri.

Di dalam Azure AI Foundry itu sendiri, Anda mendapatkan perancang agen visual plus sinkronisasi YAML.Artinya, Anda dapat mengkonfigurasi agen, melampirkan alat seperti pencarian Bing atau penerjemah kode, menguji interaksi di lingkungan uji coba, lalu mengekspor atau menyinkronkan konfigurasi ke kontrol sumber, sehingga kode C# dan definisi agen Anda tetap selaras.

Pengujian, pengamatan, dan pengendalian biaya untuk agen AI C#

Agen yang siap produksi membutuhkan ketelitian yang sama seperti layanan penting lainnya: pengujian menyeluruh, telemetri yang baik, dan manajemen biaya yang berkelanjutan.Perbedaannya adalah LLM menghadirkan variabel baru seperti output stokastik dan penggunaan token yang juga harus Anda perhatikan.

Dari sisi pengujian, Anda memerlukan kombinasi antara pengujian unit klasik untuk alat Anda dan percakapan bergaya integrasi yang mensimulasikan alur pengguna yang realistis.Pengujian unit memverifikasi bahwa setiap alat berperilaku dengan benar berdasarkan input tertentu, sementara pengujian percakapan memeriksa bahwa agen memilih alat yang tepat, menghasilkan argumen yang valid, dan tetap berada dalam batasan kebijakan.

Observabilitas seharusnya mencakup lebih dari sekadar keberhasilan atau kegagalan; Anda menginginkan distribusi latensi, konsumsi token, jejak langkah eksekusi, dan statistik panggilan alat.Metrik-metrik ini mempermudah mendeteksi regresi ketika Anda mengubah model, perintah, atau implementasi alat, dan membantu Anda menyetel sistem untuk kinerja dan biaya.

Pengendalian biaya sangat terkait dengan bagaimana Anda mengelola durasi percakapan dan frekuensi penggunaan alat.Percakapan yang panjang dan tidak terbatas dapat menyebabkan penggunaan token yang berlebihan dan memperlambat respons, sehingga strategi seperti peringkasan, jendela konteks, dan pemotongan cerdas sangat penting dalam setiap penerapan C# yang serius.

Selain itu, ada baiknya juga untuk melacak tingkat keberhasilan pada tingkat jalur eksekusi atau alur kerja tertentu, bukan hanya pada tingkat agen secara keseluruhan.Dengan begitu, Anda dapat melihat rute mana dalam sistem multi-agen Anda yang dapat diandalkan dan mana yang membutuhkan petunjuk yang lebih baik, alat baru, atau pengamanan tambahan.

Keamanan, kepatuhan, dan integrasi perusahaan

Ketika agen Anda mulai mengakses data sensitif atau mengotomatiskan operasi bisnis yang penting, keamanan dan kepatuhan tidak boleh menjadi hal yang diabaikan.Kombinasi antara fleksibilitas LLM dan kendala perusahaan memerlukan postur keamanan yang sangat cermat.

Pertama, jangan pernah memasukkan kredensial atau rahasia secara langsung ke dalam kode C# Anda.Gunakan mekanisme manajemen rahasia standar di platform cloud Anda, variabel lingkungan, atau identitas terkelola, dan pastikan proses agen Anda hanya memiliki hak akses yang benar-benar dibutuhkannya.

Kedua, setiap panggilan eksternal yang dilakukan atas nama agen harus melalui lapisan sanitasi dan validasi.Hal itu mencakup input pengguna dan argumen yang dihasilkan model untuk alat, karena keduanya dapat berisi konten yang tidak terduga, salah format, atau berbahaya.

Ketiga, Anda harus mencatat dan mengaudit setiap pemanggilan alat, termasuk konteks penting seperti pengguna, agen pemanggil, sistem target, dan hasilnya.Di industri yang teregulasi, jejak audit ini mungkin bersifat wajib; bahkan di luar lingkungan tersebut, hal ini sangat berharga untuk respons insiden dan tata kelola.

Terakhir, selaraskan arsitektur penerapan Anda dengan pola perusahaan seperti memisahkan bidang kontrol dan inferensi.Artinya, memisahkan orkestrasi, konfigurasi, dan pemantauan dari proses inferensi yang berat, sehingga meningkatkan skalabilitas, keamanan, dan ketahanan operasional.

Penyebaran, penskalaan, dan koneksi ke analitik.

Setelah agen C# Anda berfungsi dengan baik dalam pengujian, Anda memerlukan strategi penerapan yang dapat diskalakan dengan baik dan terintegrasi dengan sisa tumpukan teknologi Anda.Kontainer, orkestrator, dan layanan AI terkelola adalah sekutu Anda di sini.

Pola umum yang digunakan adalah mengemas lapisan orkestrasi agen Anda ke dalam kontainer dan menjalankannya di bawah Kubernetes atau orchestrator lain, sementara mendelegasikan inferensi LLM ke layanan terkelola seperti Azure OpenAI.Ini memungkinkan Anda untuk menskalakan bidang kontrol dan bidang inferensi secara independen sesuai dengan fluktuasi permintaan.

Interaksi yang berlangsung lama atau intensif dengan agen seringkali mendapatkan manfaat dari pemrosesan dan antrian asinkron.Alih-alih memblokir permintaan HTTP saat proses multi-langkah yang kompleks selesai, Anda memasukkan item pekerjaan ke dalam antrian, membiarkan pekerja latar belakang menanganinya, dan memberi tahu klien saat hasilnya siap.

Dari perspektif bisnis, nilai sebenarnya sering kali muncul ketika Anda memasukkan output agen ke dalam alat analitik dan intelijen bisnis.Itu mungkin berarti memasukkan ringkasan terstruktur, keputusan, atau metrik ke dalam gudang data dan menampilkannya melalui dasbor di Power BI atau platform BI lainnya.

Siklus tertutup ini—agen menghasilkan wawasan atau tindakan, analitik mengukur dampak, dan tim melakukan iterasi pada perintah dan alat—mengubah AI dari hal baru menjadi kemampuan operasional yang berkelanjutan.Seiring waktu, Anda dapat menyempurnakan agen mana yang memberikan ROI tertinggi, alur kerja mana yang perlu diotomatisasi lebih lanjut, dan di mana pengawasan manusia harus tetap ada.

Dengan menggabungkan semua bagian ini, Anda akan mendapatkan ekosistem berbasis C# di mana asisten, alat, alur kerja, dan layanan cloud bekerja sama: API Asisten menyediakan penalaran percakapan, kode .NET Anda menyediakan alat dan status yang tangguh, pustaka Microsoft.Extensions menawarkan abstraksi yang bersih, dan Azure AI Foundry plus AI Toolkit menyederhanakan eksperimen dan penerapan.Dengan memperhatikan secara cermat memori, kemampuan pengamatan, keamanan, dan arsitektur, agen-agen ini dapat memberikan peningkatan nyata dan terukur dalam efisiensi, kualitas pengambilan keputusan, dan otomatisasi di seluruh organisasi Anda.