Amazon Bedrock ขยายการรองรับ Service Quotas
Amazon Bedrock เป็นบริการที่มีการจัดการเต็มรูปแบบซึ่งให้การเข้าถึงโมเดลพื้นฐานที่มีประสิทธิภาพสูงระดับองค์กรที่ปลอดภัยจากบริษัทด้าน AI ชั้นนำ ซึ่งทำให้คุณสามารถสร้างและปรับขนาดแอปพลิเคชัน AI ช่วยสร้างได้ ขณะนี้ลูกค้า Amazon Bedrock สามารถดูโควตาการอนุมานสำหรับตำแหน่งข้อมูล bedrock-mantle ผ่าน AWS Service Quotas ได้แล้ว ซึ่งช่วยให้ลูกค้ามีวิธีการที่คุ้นเคยและสอดคล้องกันในการติดตามขีดจำกัดสำหรับตำแหน่งข้อมูลนี้ เช่นเดียวกับที่ใช้กับตำแหน่งข้อมูล bedrock-runtime และบริการ AWS อื่น ๆ อยู่แล้ว พร้อมทั้งช่วยให้มองเห็นขีดจำกัดที่มีผลกับเวิร์กโหลดของตนได้อย่างชัดเจน
ตำแหน่งข้อมูล bedrock-mantle รองรับ OpenAI Responses API, OpenAI Chat Completions API และ Anthropic Messages API ช่วยให้ลูกค้าสามารถเรียกใช้แอปพลิเคชันที่สร้างบน OpenAI หรือ Anthropic เดิมบน Amazon Bedrock ได้โดยมีการเปลี่ยนแปลงโค้ดเพียงเล็กน้อย ขณะนี้ AWS Service Quotas แสดงโควตาจำนวนโทเค็นอินพุตต่อนาที (input-tokens-per-minute) และจำนวนโทเค็นเอาต์พุตต่อนาที (output-tokens-per-minute) สำหรับแต่ละโมเดลที่รองรับบนตำแหน่งข้อมูลแล้ว
ด้วยการเปิดตัวครั้งนี้ ลูกค้าจะสามารถมองเห็นขีดจำกัดที่มีอยู่บนตำแหน่งข้อมูล bedrock-mantle ได้อย่างชัดเจน และสามารถวางแผนรองรับการขยายสเกลสำหรับการใช้งานจริงได้ล่วงหน้า หากต้องการเริ่มต้นใช้งาน ให้เปิดคอนโซล AWS Service Quotas เลือก Amazon Bedrock และค้นหาคำว่า "Bedrock Mantle" เพื่อดูโควตาปัจจุบันของคุณ หากต้องการขอเพิ่มโควตาใด ๆ เหล่านี้ โปรดปฏิบัติตามกระบวนการขอเพิ่มขีดจำกัดมาตรฐานของ Amazon Bedrock การรองรับ Service Quotas สำหรับตำแหน่งข้อมูล bedrock-mantle พร้อมใช้งานใน AWS Region ทุกแห่งที่มีตำแหน่งข้อมูลให้บริการ ได้แก่ สหรัฐอเมริกาฝั่งตะวันออก (เวอร์จิเนียฝั่งเหนือ, โอไฮโอ), สหรัฐอเมริกาฝั่งตะวันตก (ออริกอน), เอเชียแปซิฟิก (มุมไบ, โตเกียว, ซิดนีย์, จาการ์ตา), ยุโรป (แฟรงก์เฟิร์ต, ไอร์แลนด์, ลอนดอน, มิลาน, สตอกโฮล์ม) และอเมริกาใต้ (เซาเปาลู) หากต้องการเรียนรู้เพิ่มเติม โปรดดูโควตาสำหรับ Amazon Bedrock