NVIDIA Nemotron 3 Nano พร้อมให้บริการแล้วบน Amazon Bedrock
Amazon Bedrock รองรับโมเดล NVIDIA Nemotron 3 Nano 30B A3B ซึ่งเป็นความก้าวหน้าล่าสุดของ NVIDIA ในการสร้างโมเดลภาษาที่มีประสิทธิภาพซึ่งให้ประสิทธิภาพในการให้เหตุผลสูง รองรับการโทรด้วยเครื่องมือดั้งเดิม และการประมวลผลบริบทแบบขยายด้วยหน้าต่างบริบทโทเค็น 256k โมเดลนี้ใช้สถาปัตยกรรม Mixture-of-Experts (MoE) แบบไฮบริดที่มีประสิทธิภาพเพื่อรับประกันอัตราการโอนถ่ายข้อมูลที่สูงกว่ารุ่นก่อนหน้าสำหรับเวิร์กโหลด Agentic และการเข้ารหัส โดยยังให้ความลุ่มลึกในการให้เหตุผลของโมเดลขนาดใหญ่เอาไว้ด้วย ด้วยการควบคุมการให้เหตุผลที่ชัดเจนและมีความถูกต้องแม่นยำขึ้นจากเทคนิคการเรียนรู้การเสริมแรงขั้นสูงและการดำเนินการหลังการฝึกแบบหลายสภาพแวดล้อมในทุกระดับ ทำให้โมเดลนี้เหมาะอย่างยิ่งกับองค์กร สตาร์ทอัป และนักพัฒนาที่สร้างเวิร์กโฟลว์แบบหลาย Agent เครื่องมือเพิ่มประสิทธิภาพของนักพัฒนา กระบวนการอัตโนมัติ และการวิเคราะห์การให้เหตุผลทางวิทยาศาสตร์และคณิตศาสตร์ เป็นต้น
NVIDIA Nemotron 3 Nano ใน Amazon Bedrock ขับเคลื่อนโดย Project Mantle ซึ่งเป็นเครื่องมืออนุมานแบบกระจายตัวใหม่สำหรับโมเดลแมชชีนเลิร์นนิงขนาดใหญ่ที่ให้บริการบน Amazon Bedrock Project Mantle ช่วยลดความซับซ้อนและเร่งการบรรจุโมเดลใหม่บน Amazon Bedrock ซึ่งมอบการอนุมานแบบไม่ต้องใช้เซิร์ฟเวอร์ที่มีประสิทธิภาพสูงและเชื่อถือได้พร้อมการควบคุมบริการที่มีคุณภาพอันซับซ้อน ปลดล็อกโควตาลูกค้าเริ่มต้นได้มากขึ้นด้วยการจัดการความสามารถอัตโนมัติและทำพูลแบบครบวงจร และมีความเข้ากันได้กับข้อมูลจำเพาะ OpenAI API ทันทีที่เริ่มใช้งาน
NVIDIA Nemotron 3 Nano พร้อมให้บริการแล้ววันนี้ใน Amazon Bedrock ใน AWS Region สหรัฐอเมริกาฝั่งตะวันออก (เวอร์จิเนียฝั่งเหนือ), สหรัฐอเมริกาฝั่งตะวันออก (โอไฮโอ), สหรัฐอเมริกาฝั่งตะวันตก (ออริกอน), เอเชียแปซิฟิก (โตเกียว), เอเชียแปซิฟิก (มุมไบ), อเมริกาใต้ (เซาเปาโล), ยุโรป (ลอนดอน) และยุโรป (มิลาน) และรองรับทั้งตำแหน่งข้อมูลบริการแบบรวมและแบบที่เข้ากันได้กับ API ของ OpenAI ใน Amazon Bedrock หากต้องการเรียนรู้เพิ่มเติมและเริ่มต้นใช้งาน โปรดไปที่คอนโซล Amazon Bedrock หรือเอกสารประกอบการบริการที่นี่ หากต้องการเริ่มต้นใช้งานตำแหน่งข้อมูลบริการที่เข้ากันได้กับ API ของ Amazon Bedrock OpenAI โปรดไปที่เอกสารประกอบที่นี่