Amazon Bedrock รองรับ Responses API จาก OpenAI
ขณะนี้ Amazon Bedrock รองรับ Responses API บนตำแหน่งข้อมูลบริการใหม่ที่รองรับ OpenAI API แล้ว Responses API ช่วยให้นักพัฒนาทำการอนุมานแบบอะซิงโครนัสสำหรับเวิร์กโหลดการอนุมานที่ใช้งานในระยะยาวได้ ลดความยุ่งยากในการผสานรวมการใช้เครื่องมือสำหรับเวิร์กโฟลว์ของเจ้าหน้าที่ และยังรองรับการจัดการการสนทนาแบบ Stateful อีกด้วย แทนที่จะต้องให้นักพัฒนาส่งประวัติการสนทนาทั้งหมดของแต่ละคำขอ แต่ Responses API ช่วยให้นักพัฒนาสร้างบริบทใหม่ได้โดยอัตโนมัติ โดยไม่ต้องจัดการกับประวัติด้วยตนเอง ตำแหน่งข้อมูลบริการใหม่เหล่านี้รองรับทั้งโหมดสตรีมมิ่งและไม่สตรีมมิ่ง เปิดใช้งานการสนับสนุนความพยายามให้เหตุผลภายใน Chat Completions API และต้องใช้เพียงการเปลี่ยนแปลง URL พื้นฐานเท่านั้น เพื่อให้นักพัฒนาผสานการทำงานของโค้ดพื้นฐานที่มีอยู่ร่วมกับความเข้ากันได้ของ OpenAI SDK
Chat Completion ที่มีการสนับสนุนความพยายามให้เหตุผลสำหรับโมเดล Amazon Bedrock ที่ขับเคลื่อนโดย Project Mantle ทั้งหมด เป็นเครื่องมืออนุมานแบบกระจายตัวใหม่สำหรับโมเดลแมชชีนเลิร์นนิงขนาดใหญ่ที่ให้บริการบน Amazon Bedrock Project Mantle ช่วยลดความซับซ้อนและเร่งการบรรจุโมเดลใหม่บน Amazon Bedrock ซึ่งมอบการอนุมานแบบไม่ต้องใช้เซิร์ฟเวอร์ที่มีประสิทธิภาพสูงและเชื่อถือได้พร้อมการควบคุมบริการที่มีคุณภาพอันซับซ้อน ปลดล็อกโควตาลูกค้าเริ่มต้นได้มากขึ้นด้วยการจัดการความสามารถอัตโนมัติและทำพูลแบบครบวงจร และมีความเข้ากันได้กับข้อมูลจำเพาะ OpenAI API ทันทีที่เริ่มใช้งาน การสนับสนุน Responses API พร้อมใช้งานแล้ววันนี้ เริ่มต้นด้วยโมเดล GPT OSS 20B/120B ของ OpenAI และพร้อมรองรับรุ่นอื่นๆ ในไม่ช้า
หากต้องการเริ่มต้นใช้งาน โปรดดูเอกสารประกอบการบริการที่นี่