OpenAI GPT-6 Astra รองรับโหมด UltraFast บน Amazon Bedrock แล้ว
วันนี้ AWS ประกาศความพร้อมใช้งานของโหมด UltraFast สำหรับ GPT-6 Astra จาก OpenAI บน Amazon Bedrock Ultrafast คือความเร็วระดับพรีเมียมสำหรับ GPT-6 Astra ที่ออกแบบมาเพื่อรองรับเวิร์กโหลดที่ให้ความสำคัญกับความเร็วเป็นอันดับแรก OpenAI ระบุว่า Ultrafast ช่วยให้การอนุมานผ่าน API ทำงานได้รวดเร็วขึ้นสูงสุดถึง 6 เท่า โดยมีความเร็วสูงสุดถึง 300 โทเค็นต่อวินาที เอ็นจิ้นการอนุมานของ Amazon Bedrock มอบประสิทธิภาพ การรักษาความปลอดภัย และความเสถียรที่จำเป็นสำหรับเวิร์กโหลดในการใช้งานจริง
ใช้งาน GPT-6 Astra Ultrafast สำหรับแอปพลิเคชันที่ไวต่อเวลาแฝง เช่น ผู้ช่วยเขียนโค้ดแบบเรียลไทม์ Agent แบบโต้ตอบ และประสบการณ์การใช้งานสำหรับลูกค้าที่ต้องการการตอบสนองที่รวดเร็วและมีคุณภาพสูง การควบคุมของ AWS ที่ได้รับการยอมรับช่วยให้คุณรักษาความปลอดภัยของเวิร์กโหลด กำกับดูแลสิทธิ์เข้าถึง และตรวจประเมินกิจกรรมการเรียกดำเนินการโมเดล
คุณสามารถเริ่มต้นใช้งานได้ในคอนโซล Amazon Bedrock หรือผ่าน API ของ Amazon Bedrock ที่รองรับโดยใช้โปรแกรม สำหรับข้อมูลเกี่ยวกับ AWS Region ที่รองรับ, ตำแหน่งข้อมูล API, ฟีเจอร์, โปรไฟล์การอนุมาน และค่าบริการ โปรดดูเอกสารประกอบ Amazon Bedrock