Amazon Bedrock, OpenAI ve Anthropic uyumlu API'ler için Amazon CloudWatch ölçümleri ekliyor
Amazon Bedrock, önde gelen yapay zeka şirketlerinin yüksek performanslı temel modellerine güvenli, kurumsal düzeyde erişim sağlayan ve üretken yapay zeka uygulamaları oluşturup ölçeklendirmenize olanak tanıyan tam olarak yönetilen bir hizmettir. Amazon Bedrock müşterileri artık bedrock-runtime uç noktası ve diğer AWS hizmetlerinde yaptıkları gibi, Amazon CloudWatch ölçümleriyle bedrock-mantle uç noktasına giden çıkarım trafiğini izleyebilir. Bedrock-mantle uç noktası, OpenAI Responses API'sini, OpenAI Chat Completions API'sini ve Anthropic Messages API'sini destekleyerek müşterilerin Amazon Bedrock'ta mevcut OpenAI veya Anthropic tabanlı uygulamaları minimum kod değişikliğiyle çalıştırmasına olanak tanır.
Bedrock-mantle uç noktası için CloudWatch ölçümleri AWS/BedrockMantle ad alanı altında yayınlanır ve çıkarım sayılarını, girdi ve çıktı belirteci toplamlarını ve istemci hata sayımlarını içerir. Ölçümler, müşterilerin kullanım ve maliyetleri doğru iş yüklerine ve ekiplere bağlayabilmeleri için hesap, proje, model ve proje-ve-model dahil olmak üzere birden fazla ayrıntı düzeyinde yayınlanır.
Bu lansman ile müşteriler üretim çıkarımını izleyebilir, alarmlar kurabilir ve bedrock-mantle uç noktasında kapasite planlayabilir. Kullanmaya başlamak için Amazon CloudWatch konsolunu açın, Ölçümler'i seçin ve hesabınızın ölçümlerini görüntülemek için AWS/BedrockMantle ad alanını seçin. Bedrock-mantle uç noktası için CloudWatch ölçümleri, bu uç noktalarının sunulduğu tüm AWS Bölgelerinde mevcuttur: ABD Doğu (Kuzey Virginia, Ohio), ABD Batı (Oregon), Asya Pasifik (Mumbai, Tokyo, Sidney, Cakarta), Avrupa (Frankfurt, İrlanda, Londra, Milano, Stokholm) ve Güney Amerika (São Paulo). Daha fazla bilgi edinmek için bedrock-mantle uç noktası için CloudWatch ölçümlerine bakın.