การอนุมานแบบแบทช์ของ Amazon Bedrock รองรับรูปแบบ Converse API แล้ว
ขณะนี้ การอนุมานแบบแบทช์ของ Amazon Bedrock รองรับ Converse API เป็นประเภทการเรียกดำเนินการของโมเดล ซึ่งช่วยให้คุณสามารถใช้รูปแบบอินพุตที่สอดคล้องกันและไม่ขึ้นกับโมเดลสำหรับเวิร์กโหลดแบบแบทช์ของคุณ
ก่อนหน้านี้ การอนุมานแบบแบทช์จำเป็นต้องใช้รูปแบบคำขอเฉพาะของแต่ละโมเดลผ่าน InvokeModel API ขณะนี้ เมื่อสร้างงานการอนุมานแบบแบทช์ คุณสามารถเลือก Converse เป็นประเภทการเรียกดำเนินการของโมเดล และจัดโครงสร้างข้อมูลอินพุตของคุณโดยใช้รูปแบบคำขอมาตรฐานของ Converse API ได้ เอาต์พุตสำหรับงานแบทช์ของ Converse เป็นไปตามรูปแบบการตอบกลับของ Converse API ด้วยฟีเจอร์นี้จะทำให้คุณสามารถใช้รูปแบบคำขอแบบรวมเดียวกันสำหรับทั้งการอนุมานแบบเรียลไทม์และการอนุมานแบบแบทช์ ซึ่งช่วยให้การจัดการพร้อมท์ง่ายขึ้น และลดความพยายามในการสลับระหว่างโมเดล คุณสามารถกำหนดค่าประเภทการเรียกดำเนินการของโมเดลแบบ Converse ได้ผ่านทั้งคอนโซล Amazon Bedrock และ API
ความสามารถนี้พร้อมใช้งานใน AWS Region ทุกแห่งที่รองรับการอนุมานแบบแบทช์ของ Amazon Bedrock ในการเริ่มต้นใช้งาน โปรดดูสร้างงานการอนุมานแบบแบทช์ และจัดรูปแบบและอัปโหลดข้อมูลการอนุมานแบบแบทช์ของคุณ ในคู่มือผู้ใช้ Amazon Bedrock