Amazon EC2 P5 인스턴스

Anthropic에서는 신뢰할 수 있고 해석 가능하며 조정 가능한 AI 시스템을 구축하기 위해 노력합니다. 오늘날의 대형 일반 AI 시스템은 상당한 이점이 있지만 예측이 불가능하고 신뢰할 수 없으며 불투명할 수도 있습니다. 우리의 목표는 이러한 문제를 진전시키고 사람들이 유용하다고 생각하는 시스템을 배포하는 것입니다. 우리 조직은 DL 연구의 파운데이션 모델을 구축하고 있는 세계에서 몇 안 되는 조직 중 하나입니다. 파운데이션 모델은 매우 복잡하기 때문에 이러한 최첨단 모델을 개발하고 훈련시키려면 대규모 GPU 클러스터에 효율적으로 배포해야 합니다. 현재 Amazon EC2 P4 인스턴스를 광범위하게 사용 중이며 P5 인스턴스를 출시하게 되어 기쁩니다. P4d 인스턴스에 비해 상당한 가격 대비 성능 이점을 제공할 것으로 예상되며, 차세대 LLM 및 관련 제품을 구축하는 데 필요한 방대한 규모로 사용할 수 있을 것으로 예상됩니다.

AON에서는 보험 회사가 복잡한 컴퓨팅 문제에 접근하는 방식을 혁신하고 있습니다. 보험계리 예측에서는 복잡한 재무적 위험과 보증을 모델링하기 위해 더 많은 시뮬레이션이 필요하지만, 분절된 레거시 시스템과 오류에 취약한 수작업 프로세스로 인해 상세하고 엄밀한 분석이 제한됩니다. Amazon EC2 P5 인스턴스는 우리에게 획기적인 전환점이 되었습니다. 이제 며칠이 걸리던 기계 학습 모델과 경제 예측을 단 몇 시간 만에 실행할 수 있습니다. 단일 H100 GPU 인스턴스(p5.4xlarge)를 사용할 수 있다는 것은 시간을 절약할 뿐만 아니라 컴퓨팅 리소스도 최적화할 수 있다는 뜻입니다. 고객은 이 혁신적인 기술 덕분에 위험 관리 및 제품 가격 책정에 대한 전례 없는 통찰력을 얻고 있습니다.

Van Beach, AON Global Head of Life Solutions

Cohere는 모든 기업이 언어 AI의 힘을 활용하여 자연스럽고 직관적인 방식으로 정보를 탐색, 생성, 검색하고 이에 따라 조치를 취하도록 돕고 각 고객에게 가장 적합한 데이터 환경의 여러 클라우드 플랫폼에 배포를 지원하는 데 앞장서고 있습니다. NVIDIA H100 기반 Amazon EC2 P5 인스턴스는 Cohere의 최첨단 LLM 및 생성형 AI 기능과 결합된 컴퓨팅 파워를 통해 기업이 더 빠르게 생성, 성장, 확장할 수 있는 능력을 제공합니다.

가장 빠르게 성장하는 ML용 오픈 소스 커뮤니티인 우리는 이제 NLP, 컴퓨터 비전, 생물학, 강화 학습 등을 위해 150,000개 이상의 사전 훈련된 모델과 25,000개 이상의 데이터세트를 플랫폼에서 제공합니다. LLM과 생성형 AI가 크게 발전하면서 우리는 AWS와 협력하여 미래의 오픈 소스 모델을 구축하고 기여하고 있습니다. UltraClusters에서 EFA와 함께 대규모로 Amazon SageMaker를 통해 Amazon EC2 P5 인스턴스를 사용하여 모두를 위한 새로운 기반 AI 모델을 빠르게 제공할 수 있기를 기대합니다.