Amazon Bedrock เพิ่มเมตริก Amazon CloudWatch สำหรับ API ที่เข้ากันได้กับ OpenAI และ Anthropic
Amazon Bedrock เป็นบริการที่มีการจัดการเต็มรูปแบบซึ่งให้การเข้าถึงโมเดลพื้นฐานที่มีประสิทธิภาพสูงระดับองค์กรที่ปลอดภัยจากบริษัทด้าน AI ชั้นนำ ซึ่งทำให้คุณสามารถสร้างและปรับขนาดแอปพลิเคชัน AI ช่วยสร้างได้ ขณะนี้ลูกค้า Amazon Bedrock สามารถติดตามตรวจสอบการรับส่งข้อมูลการอนุมานไปยังตำแหน่งข้อมูล bedrock-mantle ด้วยเมตริก Amazon CloudWatch ได้แล้ว ในลักษณะเดียวกับที่ใช้กับตำแหน่งข้อมูล bedrock-runtime และบริการ AWS อื่น ๆ ตำแหน่งข้อมูล bedrock-mantle รองรับ OpenAI Responses API, OpenAI Chat Completions API และ Anthropic Messages API ช่วยให้ลูกค้าสามารถเรียกใช้แอปพลิเคชันที่พัฒนาบน OpenAI หรือ Anthropic อยู่แล้วบน Amazon Bedrock ได้โดยมีการเปลี่ยนแปลงโค้ดเพียงเล็กน้อย
เมตริก CloudWatch สำหรับตำแหน่งข้อมูล bedrock-mantle จะถูกเผยแพร่ภายใต้ Namespace AWS/BedrockMantle และประกอบด้วยจำนวนการอนุมาน ยอดรวมโทเค็นอินพุตและเอาต์พุต และจำนวนข้อผิดพลาดที่เกิดจากไคลเอ็นต์ เมตริกจะถูกเผยแพร่ในหลายระดับความละเอียด ได้แก่ ระดับบัญชี ระดับโครงการ ระดับโมเดล และระดับโครงการร่วมกับโมเดล เพื่อให้ลูกค้าสามารถระบุการใช้งานและค่าใช้จ่ายให้กับเวิร์กโหลดและทีมที่เกี่ยวข้องได้อย่างถูกต้อง
ด้วยการเปิดตัวครั้งนี้ ลูกค้าสามารถติดตามตรวจสอบการอนุมานในสภาพแวดล้อมการใช้งานจริง ตั้งค่าการแจ้งเตือน และวางแผนปริมาณการประมวลผลสำหรับตำแหน่งข้อมูล bedrock-mantle ได้ ในการเริ่มต้นใช้งาน ให้เปิดคอนโซล Amazon CloudWatch เลือก Metrics (เมตริก) แล้วเลือก Namespace AWS/BedrockMantle เพื่อดูเมตริกสำหรับบัญชีของคุณ เมตริก CloudWatch สำหรับตำแหน่งข้อมูล bedrock-mantle พร้อมใช้งานใน AWS Region ทุกแห่งที่มีการให้บริการตำแหน่งข้อมูลดังกล่าว ได้แก่ สหรัฐอเมริกาฝั่งตะวันออก (เวอร์จิเนียฝั่งเหนือ, โอไฮโอ), สหรัฐอเมริกาฝั่งตะวันตก (ออริกอน), เอเชียแปซิฟิก (จาการ์ตา, มุมไบ, ซิดนีย์, โตเกียว), ยุโรป (แฟรงก์เฟิร์ต, ไอร์แลนด์, ลอนดอน, มิลาน, สตอกโฮล์ม) และอเมริกาใต้ (เซาเปาลู) หากต้องการเรียนรู้เพิ่มเติม โปรดดูเมตริก CloudWatch สำหรับตำแหน่งข้อมูล bedrock-mantle