Amazon Bedrock, Hizmet Kotaları desteğini genişletiyor
Amazon Bedrock, önde gelen yapay zeka şirketlerinin yüksek performanslı temel modellerine güvenli, kurumsal düzeyde erişim sağlayan ve üretken yapay zeka uygulamaları oluşturup ölçeklendirmenize olanak tanıyan tam olarak yönetilen bir hizmettir. Amazon Bedrock müşterileri artık AWS Hizmet Kotaları aracılığıyla bedrock-mantle uç noktası için çıkarım kotalarını görüntüleyebilir. Bu, müşterilere bu uç noktasının sınırlarını görüntülemenin tanıdık ve tutarlı bir yolunu sağlar (bedrock-runtime uç noktaları ve diğer AWS hizmetlerinde kullandıkları yolun aynısı) ve onlara iş yükleri için geçerli olan sınırlar hakkında net bir görüntü verir.
Bedrock-mantle uç noktası, OpenAI Responses API'sini, OpenAI Chat Completions API'sini ve Anthropic Messages API'sini destekleyerek müşterilerin Amazon Bedrock'ta mevcut OpenAI veya Anthropic tabanlı uygulamaları minimum kod değişikliğiyle çalıştırmasına olanak tanır. AWS Hizmet Kotaları artık uç noktadaki desteklenen modeller için model başına dakika başına girdi belirteçleri ve dakika başına çıktı belirteçleri kotalarını açığa çıkarıyor.
Bu lansman ile müşteriler, bedrock-mantle uç noktasında ne kadar sınırları olduğu konusunda görünürlük kazanır ve proaktif olarak üretim ölçeği planlayabilir. Başlamak için AWS Hizmet Kotaları konsolunu açın, Amazon Bedrock'ı seçin ve mevcut kotalarınızı görüntülemek için "Bedrock Mantle" öğesini arayın. Bu kotalardan herhangi birine artış talep etmek için standart Amazon Bedrock limit artırma sürecini izleyin. Bedrock-mantle uç noktası için Hizmet Kotaları desteği, bu uç noktasının sunulduğu tüm AWS Bölgelerinde mevcuttur: ABD Doğu (Kuzey Virginia, Ohio), ABD Batı (Oregon), Asya Pasifik (Mumbai, Tokyo, Sidney, Cakarta), Avrupa (Frankfurt, İrlanda, Londra, Milano, Stokholm) ve Güney Amerika (São Paulo). Daha fazla bilgi edinmek için Amazon Bedrock İçin Kotalar sayfasına bakın.