ฐานความรู้ของ Amazon Bedrock รองรับการอนุมานข้ามรีเจี้ยนแล้ว

โพสต์บน: 13 ก.ย. 2024

ฐานความรู้ของ Amazon Bedrock ประกาศเปิดตัวการรองรับการอนุมานข้ามรีเจี้ยน ซึ่งเป็นฟีเจอร์เสริมที่ช่วยให้นักพัฒนาสามารถจัดการปริมาณการรับส่งข้อมูลที่เพิ่มขึ้นอย่างกะทันหันได้อย่างราบรื่นโดยใช้การประมวลผลข้าม AWS Region ต่าง ๆ

เมื่อใช้การอนุมานข้ามรีเจี้ยน ลูกค้าที่ใช้บริการฐานความรู้ของ Amazon Bedrock ที่ใช้ RetrieveAndGenerate API จะสามารถรับขีดจำกัดอัตราการโอนถ่ายข้อมูลได้สูงขึ้น และความยืดหยุ่นที่เพิ่มขึ้นในช่วงที่มีความต้องการสูงสุด เมื่อเลือกใช้การอนุมานข้ามรีเจี้ยน นักพัฒนาก็ไม่ต้องเสียเวลาและเหนื่อยไปกับการคาดการณ์ความต้องการที่ผันผวนอีกต่อไป แต่การอนุมานข้ามรีเจี้ยนจะกำหนดเส้นทางการรับส่งข้อมูลระหว่างรีเจี้ยนต่าง ๆ ในลักษณะไดนามิก ซึ่งช่วยรับรองความพร้อมใช้งานที่เหมาะสมที่สุดสำหรับแต่ละคำขอและประสิทธิภาพที่ราบรื่นยิ่งขึ้นในช่วงที่มีการใช้งานสูง หากต้องการใช้การอนุมานข้ามรีเจี้ยน ลูกค้าต้องระบุโปรไฟล์การอนุมานเป็น “modelARN” ในคำขอของ RetrieveAndGenerate API ทั้งนี้ ไม่มีค่าใช้จ่ายเพิ่มเติมสำหรับการกำหนดเส้นทางเมื่อใช้การอนุมานข้ามรีเจี้ยน และคุณจะถูกเรียกเก็บเงินตามรีเจี้ยนที่ส่งคำขอเข้ามา (รีเจี้ยนต้นทาง)

โปรดดูรายชื่อโมเดลที่รองรับและรีเจี้ยนที่กำหนดไว้ล่วงหน้าที่นี่ หากต้องการดูเพิ่มเติมเกี่ยวกับฟีเจอร์นี้และวิธีเริ่มต้นใช้งาน โปรดดูเอกสารประกอบ Amazon Bedrock หรือบล็อกนี้