Amazon CloudWatch menambahkan observabilitas AI generatif (Pratinjau)
Kini Amazon CloudWatch membantu Anda mengamati aplikasi dan beban kerja AI generatif, termasuk agen yang di-deploy dan dioperasikan dengan AgentCore Amazon Bedrock (Pratinjau), memberikan wawasan tentang kinerja, kesehatan, dan akurasi AI. Anda mendapatkan tampilan langsung mengenai latensi, penggunaan, dan kesalahan beban kerja AI untuk mendeteksi masalah lebih cepat pada komponen seperti invokasi model dan agen. Anda juga dapat menemukan masalah lebih cepat menggunakan pelacakan prompt menyeluruh dari komponen seperti basis pengetahuan, alat, dan model. Fitur ini kompatibel dengan kerangka kerja orkestrasi AI generatif populer seperti Strands Agents, LangChain, dan LangGraph, menawarkan fleksibilitas dengan kerangka kerja pilihan Anda.
Dengan fitur baru ini, Amazon CloudWatch menganalisis data telemetri di seluruh komponen aplikasi AI generatif, membantu mengidentifikasi sumber kesalahan dengan cepat. Misalnya, Anda dapat menentukan sumber respons yang tidak akurat — baik dari celah di VectorDB atau pengambilan sistem RAG yang tidak lengkap — menggunakan pelacakan prompt menyeluruh, metrik, dan log yang dikurasi. Tampilan interaksi komponen yang terhubung ini membantu pengembang mengoptimalkan beban kerja lebih cepat untuk memberikan tingkat ketersediaan, akurasi, keandalan, dan kualitas yang tinggi. Pengembang dapat menjaga agar agen AI tetap berjalan lancar dengan memantau dan menilai armada agen di satu tempat. Tampilan yang dikurasi agen tersedia di tab “AgentCore” di konsol CloudWatch untuk observabilitas GenAI. Observabilitas AI generatif terintegrasi dengan kemampuan CloudWatch lainnya seperti Sinyal Aplikasi, Alarm, Dasbor, Perlindungan Data Sensitif, dan Wawasan Log, membantu Anda memperluas alat observabilitas yang ada dengan lancar untuk memantau beban kerja AI generatif.
Fitur ini tersedia di Pratinjau di 4 region: AS Timur (Virginia Utara), AS Barat (Oregon), Eropa (Frankfurt), dan Asia Pasifik (Sydney). Untuk mempelajari selengkapnya, kunjungi dokumentasi. Harga CloudWatch berlaku untuk data telemetri yang dikumpulkan dan disimpan.