Amazon CloudWatch, üretken yapay zeka gözlemlenebilirliği ekliyor (Ön İzleme)
Amazon CloudWatch artık Amazon Bedrock AgentCore (Önizleme) ile dağıtılan ve işletilen temsilciler de dahil olmak üzere üretken yapay zeka uygulamalarını ve iş yüklerini gözlemlemenize yardımcı olarak yapay zeka performansı, durumu ve doğruluğu hakkında öngörüler sağlıyor. Model çağrıları ve temsilciler gibi bileşenlerdeki sorunları daha hızlı tespit etmek için yapay zeka iş yüklerinizin gecikme süresi, kullanımı ve hatalarına ilişkin kullanıma hazır bir görünüm elde edersiniz. Ayrıca bilgi tabanları, araçlar ve modeller gibi bileşenlerin uçtan uca hızlı takibini kullanarak sorunları daha hızlı bulabilirsiniz. Bu özellik; Strands Agents, LangChain ve LangGraph gibi popüler üretken yapay zeka düzenleme çerçeveleriyle uyumludur ve çerçeve seçiminizde esneklik sunar.
Bu yeni özellik sayesinde Amazon CloudWatch, üretken bir yapay zeka uygulamasının bileşenlerindeki telemetri verilerini analiz ederek hataların kaynağını hızlı bir şekilde belirlemeye yardımcı oluyor. Örneğin, VectorDB'nizdeki boşluklardan veya eksik RAG sistemi yeniden değerlendirmelerinden kaynaklanan hatalı yanıtların kaynağını uçtan uca istem izleme, derlenmiş ölçümler ve günlükler kullanarak belirleyebilirsiniz. Bileşen etkileşimlerinin bu bağlantılı görünümü, geliştiricilerin yüksek düzeyde kullanılabilirlik, doğruluk, güvenilirlik ve kalite sunmak için iş yüklerini daha hızlı optimize etmesine yardımcı olur. Geliştiriciler, temsilci filosunu tek bir yerden izleyip değerlendirerek yapay zeka temsilcilerinin sorunsuz çalışmasını sağlayabilir. Temsilci tarafından oluşturulan görünüm, üretken yapay zeka gözlemlenebilirliği için CloudWatch konsolundaki "AgentCore" sekmesinde mevcuttur. Üretken yapay zeka gözlemlenebilirliği; Uygulama Sinyalleri, Alarmlar, Panolar, Hassas Veri Koruması ve Günlük Öngörüleri gibi diğer CloudWatch özellikleriyle entegre edilmiştir ve mevcut gözlemlenebilirlik araçlarını üretken yapay zeka iş yüklerini izlemek için sorunsuz bir şekilde genişletmenize yardımcı olur.
Bu özellik, 4 bölgede Önizleme aşamasında kullanılabilir: ABD Doğu (Kuzey Virginia), ABD Batı (Oregon), Avrupa (Frankfurt) ve Asya Pasifik (Sidney). Daha fazla bilgi edinmek için belgeleri inceleyin. CloudWatch fiyatlandırması, toplanan ve depolanan telemetri verileri için geçerlidir.