OpenAI GPT OSS 和 NVIDIA Nemotron 模型在 AWS GovCloud(美国)区域的 Amazon Bedrock 中提供
Amazon Bedrock 现在支持 OpenAI 的开源 GPT 模型(120B 和 20B)以及 NVIDIA Nemotron 模型(Nano 9B v2、Nano 12B v2、Nano 30B、Super 120B),这将帮助您利用多样化、高性能的基础模型,更灵活地构建和扩展生成式人工智能应用。这为您提供了灵活性,可通过单个统一 API 将 OpenAI 和 NVIDIA 的最新模型与其他领先的人工智能模型一起利用,无需更改应用程序代码即可为每个特定使用案例选择最佳模型。
OpenAI GPT OSS 模型采用开放权重架构,具备强大的语言理解和生成能力,使企业能够以透明且灵活的方式构建复杂的 AI 应用程序。NVIDIA Nemotron 模型兼具小型语言模型(SLM)和大语言模型(LLM)的功能,可提供较高的计算效率和精度,开发人员可以使用这些功能来构建专门的代理人工智能系统。这些模型完全开源,其权重、数据集和实现方案均对外公开,从而为开发人员和企业提供了透明度与信心。
这些模型由 Mantle 提供支持,Mantle 是一个新的分布式推理引擎,用于在 Amazon Bedrock 上提供大规模机器学习模型。Mantle 简化并加快了新模型在 Amazon Bedrock 上的上线,通过完善的服务质量控制提供高性能和可靠的无服务器推理,并通过自动容量管理和统一池解锁更高的默认客户配额,同时提供与 OpenAI API 规格的开箱即用兼容性。在 AWS GovCloud(美国)区域,借助 Amazon Bedrock 中提供的 OpenAI GPT OSS 和 NVIDIA Nemotron 模型,您可以加速创新,又能合规地享受 AWS 提供的企业级安全性、无缝扩展和成本优化功能。
OpenAI GPT OSS 和 NVIDIA Nemotron 型号现已在 AWS GovCloud(美国)区域的 Amazon Bedrock 中提供。 要了解更多信息并开始使用,请访问 Amazon Bedrock 控制台或 Bedrock 服务文档页面。