Observabilitas AI generatif sekarang tersedia secara umum untuk Amazon CloudWatch
Amazon CloudWatch mengumumkan ketersediaan umum observabilitas AI generatif, membantu Anda memantau semua komponen aplikasi dan beban kerja AI, termasuk agen yang dikerahkan dan dioperasikan dengan Amazon Bedrock AgentCore. Rilis ini memperluas melampaui pemantauan runtime untuk menyertakan observabilitas lengkap di seluruh kemampuan Alat, Gateway, Memori, dan Identitas bawaan AgentCore. Tim dan pengembang DevOps sekarang dapat mendapatkan tampilan out-of-the-box tentang latensi, penggunaan token, kesalahan, dan kinerja di semua komponen beban kerja AI mereka, mulai dari invokasi model hingga operasi agen. Fitur ini kompatibel dengan kerangka kerja orkestrasi AI generatif populer seperti Strands Agents, LangChain, dan LangGraph, menawarkan fleksibilitas dengan kerangka kerja pilihan Anda.
Dengan fitur baru ini, CloudWatch memungkinkan pengembang untuk menganalisis data telemetri di seluruh komponen aplikasi AI generatif. Pelanggan dapat memantau pola eksekusi kode di Alat Bawaan, melacak tingkat keberhasilan transformasi API melalui Gateway, menganalisis pola penyimpanan dan pengambilan memori, dan memastikan perilaku agen yang aman melalui observabilitas Identitas. Tampilan terhubung membantu pengembang mengidentifikasi masalah dengan cepat - mulai dari celah di VectorDB hingga kegagalan autentikasi - menggunakan pelacakan prompt ujung ke ujung, metrik yang dikuratori, dan log. Pengembang dapat memantau seluruh armada agen mereka melalui bagian "AgentCore" di konsol CloudWatch, yang terintegrasi secara mulus dengan kemampuan CloudWatch lainnya termasuk Sinyal Aplikasi, Alarm, Perlindungan Data Sensitif, dan Wawasan Log.
Fitur ini sekarang tersedia di AS Timur (Virginia Utara), AS Timur (Ohio), AS Barat (Oregon), Eropa (Frankfurt), Eropa (Irlandia), Asia Pasifik (Mumbai), Asia Pasifik (Tokyo), Asia Pasifik (Singapura), dan Asia Pasifik (Sydney).
Untuk mempelajari selengkapnya, kunjungi dokumentasi. Tidak ada harga tambahan untuk Observabilitas Gen AI, harga CloudWatch yang ada untuk data telemetri yang mendasarinya berlaku.