Amazon CloudWatch Uygulama Sinyalleri, Amazon Bedrock'ı desteklemeye başladı
Amazon CloudWatch Uygulama Sinyalleri, Amazon Bedrock'ı desteklemeye başladı. Bu sayede, kullanıcıların üretici yapay zeka uygulamalarındaki hataları ve performans yavaşlaması sorunlarını düzeltmelerine olanak sağlıyor. Amazon Bedrock; Anthropic, Meta ve Amazon gibi önde gelen yapay zeka şirketleri tarafından oluşturulan altyapı modelleri (FM) ile birlikte üretici yapay zeka uygulamaları oluşturmaya yönelik diğer araçları sunan, tam olarak yönetilen bir hizmettir. Bu geliştirme, Bedrock altyapı modellerini temel alan üretici yapay zeka uygulamalarına sahip kullanıcıların, model doğrulama istisnaları gibi hataların veya farklı modellerdeki gecikmenin son kullanıcı deneyimini nasıl etkilediğini daha iyi anlamalarını sağlar.
Uygulama Sinyalleri ölçümler, izler, günlükler, gerçek kullanıcı izleme ve Amazon Simple Queue Service (SQS), Amazon S3 veya Amazon Bedrock gibi uygulamalarınız ile bağımlılıklarına yönelik sentetik izleme genelinde telemetriyi ilişkilendirmek amacıyla kullanıma hazır panolar sunar. Örneğin, Bedrock altyapı modellerini çağıran bir LLM (Büyük Dil Modeli) uygulamasını işleten uygulama geliştiricisi, müşteri desteği API'sinin sorun yaşayıp yaşamadığını izleyebilir. Daha sonra, geçersiz model girdileri veya LLM'lerin uzun yanıt süreleri gibi olumsuz son kullanıcı deneyiminin kök nedenini belirlemek amacıyla, hataya katkı sunan ilişkili günlükleri ve izleri ayrıntılı bir şekilde inceleyebilirler. Uygulamanızdaki model performansını izlemek, farklı modelleri değerlendirip kullanım durumunuza en uygun olanını seçerek uygulamanızı maliyet ve müşteri deneyimi için optimize etmenize olanak tanır.
Daha fazla bilgi için, Amazon Bedrock modelleriyle etkileşim kuran uygulamalarınızda Amazon CloudWatch Uygulama Sinyallerini etkinleştirme hakkındaki belgelere bakın. Örnek uygulamayla Uygulama Sinyallerini denemek için AWS One Gözlemlenebilirlik Atölye Çalışması sayfasını ziyaret edin.