Amazon Bedrock นำเสนอ FM ที่ผ่านการคัดสรรแล้วสำหรับการอนุมานแบบกลุ่มในราคาถูกกว่าราคาของการอนุมานตามคำขอถึง 50%

โพสต์บน: 21 ส.ค. 2024

เมื่อปีที่แล้ว เราได้เปิดตัวการรองรับการอนุมานแบบกลุ่มในการแสดงตัวอย่าง ซึ่งทำให้คุณสามารถประมวลผลพร้อมท์เป็นกลุ่มเพื่อให้ได้รับการตอบกลับสำหรับการประเมินโมเดล การทดลอง และการประมวลผลแบบออฟไลน์ได้ Amazon Bedrock รองรับการอนุมานแบบกลุ่มแล้ว โดยเปิดให้ใช้งานโดยทั่วไปใน AWS Region ทุกแห่งที่รองรับกับโมเดลที่รองรับตั้งแต่วันนี้เป็นต้นไป ใช้การอนุมานแบบกลุ่มเพื่อเรียกใช้คำขอการอนุมานหลายรายการแบบอะซิงโครนัส และเพิ่มประสิทธิภาพการอนุมานของโมเดลด้วยชุดข้อมูลขนาดใหญ่ Amazon Bedrock นำเสนอโมเดลพื้นฐาน (FM) ที่ผ่านการคัดสรรแล้วจากผู้ให้บริการ AI ชั้นนำ เช่น Anthropic, Meta, Mistral AI และ Amazon สำหรับการอนุมานแบบกลุ่มในราคาถูกกว่าการอนุมานตามคำขอถึง 50% ระยะเวลาในการดำเนินการอนุมานแบบกลุ่มให้เสร็จสิ้นขึ้นอยู่กับปัจจัยหลายประการ เช่น ขนาดของงาน แต่คุณสามารถคาดหวังกรอบเวลาในการดำเนินงานทั่วไปให้เสร็จสิ้นได้ภายใน 24 ชั่วโมง คุณสามารถเรียนรู้เพิ่มเติมได้ในเอกสารประกอบเกี่ยวกับอนุมานแบบกลุ่มของเรา และคุณยังสามารถดูข้อมูลอ้างอิงได้จากเอกสารอ้างอิง API ของเราได้อีกด้วย

Amazon Bedrock เป็นบริการที่มีการจัดการเต็มรูปแบบ ซึ่งนำเสนอตัวเลือกโมเดลพื้นฐาน (FM) ที่มีประสิทธิภาพสูงจากบริษัท AI ชั้นนำ เช่น AI21 Labs, Anthropic, Cohere, Meta, Mistral AI, Stability AI ตลอดจน Amazon ผ่านทาง API เดียว นอกจากนี้ Amazon Bedrock ยังมอบชุดความสามารถอันหลากหลายที่ลูกค้าต้องการเพื่อสร้างแอปพลิเคชัน AI ช่วยสร้าง ซึ่งมาพร้อมการรักษาความปลอดภัย ความเป็นส่วนตัว และ AI ที่รับผิดชอบในตัว ความสามารถเหล่านี้ช่วยให้คุณสร้างแอปพลิเคชันที่ปรับแต่งมาให้เหมาะกับกรณีการใช้งานที่หลากหลายในอุตสาหกรรมต่างๆ ช่วยให้องค์กรประสบผลสำเร็จในการเติบโตอย่างยั่งยืนจาก AI ช่วยสร้าง ในขณะเดียวกันก็สร้างความไว้วางใจให้กับลูกค้าและมีความรับผิดชอบในการกำกับดูแลข้อมูล

หากต้องการข้อมูลเพิ่มเติมเกี่ยวกับ Amazon Bedrock โปรดไปที่หน้า Amazon Bedrock และดูรายละเอียดเพิ่มเติมในเอกสารประกอบของ Amazon Bedrock