AWS 和 NVIDIA

从云端到边缘设备展现 GPU 的强大功能

为什么使用 AWS 和 NVIDIA?

自 2010 年以来,AWS 一直与 NVIDIA 紧密合作,不断为客户提供大规模、经济高效且灵活的 GPU 加速解决方案。这些创新包含云端和边缘设备,涉及基础设施、软件、服务以及全栈解决方案,可在构建人工智能并将其部署到生产中时缩短制定解决方案的时间。借助在多个 AWS 区域提供的 GPU 加速解决方案,客户可以获得高计算能力,进而实现低延迟、高性能和高可靠性。自 2010 年以来,AWS 一直与 NVIDIA 紧密合作,不断为客户提供大规模、经济高效且灵活的 GPU 加速解决方案。这些创新包含云端和边缘设备,涉及基础设施、软件、服务以及全栈解决方案,可在构建人工智能并将其部署到生产中时缩短制定解决方案的时间。借助在多个 AWS 区域提供的 GPU 加速解决方案,客户可以获得高计算能力,进而实现低延迟、高性能和高可靠性。

解决方案

生成式人工智能和机器学习

适用于最复杂的人工智能/机器学习模型的 GPU 实例和软件

如今各种规模的组织都在使用生成式人工智能研发聊天机器人、文档分析、代码生成、视频和图像生成、语音识别、药物发现及合成数据生成,以期加快创新、改善客户服务并获得竞争优势。为了充分发挥这些解决方案的价值,组织需要使用自己的专有数据自定义人工智能和机器学习(ML)模型,但从头开始构建模型耗时且成本高昂。而 Amazon EC2 实例由 NVIDIA GPU 提供支持,能够加速日益复杂的大型语言模型(LLM)和计算密集型生成式人工智能应用程序的训练与推理。NVIDIA NIM 和 NeMo 微服务是 AWS Marketplace 中 NVIDIA AI 企业版的一部分,可支持组织大规模释放生成式人工智能和 LLM 的潜力。

了解有关 NVIDIA AI 企业版的更多信息

高性能计算

利用 AWS 上的 HPC 的强大功能

高性能计算(HPC)可帮助科学家和工程师们快速解决复杂的计算密集型问题。HPC 应用程序通常需要网络性能、快速存储、大量内存、计算能力,缺一不可。通过 AWS,客户可以在云端运行 GPU 驱动的 HPC,并将并行任务的数量增加到大多数本地环境都无法支持的规模,从而提高研究速度并缩短获得成效的时间。Amazon EC2 实例由 NVIDIA GPU 提供支持,是运行工程模拟、计算金融学、地震分析、分子建模、基因组学、渲染以及其他高性能计算工作负载的理想平台。

了解有关由 NVIDIA H100 Tensor Core GPU 提供支持的 Amazon EC2 P5 实例的更多信息

物联网

将 AWS 无缝扩展至边缘设备,这样边缘设备就能在自身所在地运作

具备机器学习功能的 IoT 设备面临着诸多挑战。边缘的计算资源受限往往会限制机器学习模型的复杂性和大小,同时相应地消除对更复杂算法的需求。由于边缘设备通常更容易被篡改和受到恶意攻击,确保实时处理、低延迟和网络安全至关重要。AWS IoT Greengrass 能够将 AWS 无缝扩展至边缘设备(如 NVIDIA Jetson),这样边缘设备就可以在本地操作自己生成的数据,同时仍可使用云来进行管理、分析和持久存储。

了解如何将 Jetson 模块上的 NVIDIA DeepStream 与 AWS IoT Core 和 AWS IoT Greengrass 集成

工业元宇宙

轻松创建真实系统模拟,实现运营优化

许多行业都受益于真实对象模拟,此类模拟能够让人沉浸式地感知空间,逼真、准确地呈现物理实体。工业元宇宙涵盖数字孪生及其他模拟,可帮助研究人员和工程师更有效地协作、更准确地测试产品,例如虚拟原型制作或工厂中的远程监控。NVIDIA Omniverse 是一个计算平台,支持个人和团队开发基于通用场景描述(OpenUSD)的 3D 工作流和应用程序。

了解有关 AWS 上的 NVIDIA Omniverse 的更多信息

虚拟工作站

调整员工队伍,在全球范围内网罗有创意的人才

随着远程办公的普及和对高性能计算需求的增长,各行各业开始采用更加去中心化的方法,因此人们对虚拟访问功能强大的工作站的需求也日益增加。NVIDIA 的 GPU 技术可确保在云端无缝执行 3D 建模、视频编辑和人工智能开发等图形密集型任务,为用户提供卓越性能和视觉保真度,这样的性能和视觉保真度以往通常只能在本地工作站实现。虚拟工作站利用 NVIDIA RTX 技术,在由 NVIDIA GPU 提供支持的 Amazon EC2 实例上运行,这增强了灵活性和可扩展性,并为地理位置分散的团队提供了更为敏捷的工作环境。

了解有关 AWS 上的虚拟工作站的更多信息

AWS 和 NVIDIA 服务