Sinyal Aplikasi Amazon CloudWatch kini mendukung Amazon Bedrock
Sinyal Aplikasi Amazon CloudWatch kini mendukung Amazon Bedrock, yang memungkinkan pengguna memecahkan masalah kesalahan dan kinerja lambat dalam aplikasi AI generatif. Amazon Bedrock adalah layanan terkelola sepenuhnya yang menawarkan model fondasi (FM) yang dibangun oleh perusahaan AI terkemuka, seperti Anthropic, Meta, dan Amazon beserta alat lain untuk membangun aplikasi AI generatif. Bagi pengguna dengan aplikasi AI generatif yang mengandalkan Bedrock FM, peningkatan ini memberikan pemahaman lebih mendalam tentang bagaimana kegagalan seperti pengecualian validasi model atau bagaimana latensi dalam model yang berbeda memengaruhi pengalaman pengguna akhir.
Sinyal Aplikasi, menyediakan dasbor siap pakai untuk menghubungkan telemetri di seluruh metrik, jejak, log, pemantauan pengguna nyata, dan pemantauan sintetis untuk aplikasi Anda dan dependensinya, seperti Amazon Simple Queue Service (SQS), Amazon S3, atau Amazon Bedrock, yang mempercepat pemecahan masalah gangguan aplikasi. Misalnya, pengembang aplikasi yang mengoperasikan aplikasi LLM (Large Language Model) yang menginvokasi Bedrock FM dapat melacak jika API dukungan pelanggan mereka mengalami masalah. Mereka kemudian dapat menelusuri jejak berkorelasi tepat yang menyebabkan kesalahan, beserta log berkorelasi, untuk menetapkan akar penyebabnya, seperti input model tidak valid atau waktu respons lama dari model LLM, yang menyebabkan pengalaman pengguna akhir yang buruk. Pelacakan kinerja model dalam aplikasi Anda memungkinkan Anda mengevaluasi berbagai model dan memilih model terbaik untuk kasus penggunaan Anda, mengoptimalkan biaya dan pengalaman pelanggan.
Untuk mempelajari lebih lanjut, lihat dokumentasi untuk mengaktifkan Sinyal Aplikasi Amazon CloudWatch pada aplikasi Anda yang berinteraksi dengan model Amazon Bedrock. Untuk mencoba Sinyal Aplikasi pada aplikasi contoh, kunjungi Lokakarya Observabilitas AWS One.