Phiên bản P5 cho Amazon EC2

Tại Anthropic, chúng tôi đang nỗ lực để xây dựng các hệ thống AI đáng tin cậy, có thể diễn giải và có thể điều khiển. Mặc dù các hệ thống AI chung quy mô lớn ngày nay có thể mang lại những lợi ích đáng kể nhưng cũng có thể không thể dự đoán, không đáng tin cậy và không rõ ràng. Mục tiêu của chúng tôi là cải thiện được những vấn đề này và triển khai các hệ thống mà mọi người thấy hữu ích. Chúng tôi là một trong số ít các tổ chức trên thế giới đang xây dựng các mô hình nền tảng trong nghiên cứu học sâu. Những mô hình này rất phức tạp và để phát triển và đào tạo các mô hình tiên tiến này, chúng ta cần phân phối các mô hình này một cách hiệu quả trên các cụm GPU lớn. Hiện nay, chúng tôi đang sử dụng rộng rãi các phiên bản P4 cho Amazon EC2 và chúng tôi rất vui mừng về việc ra mắt các phiên bản P5. Chúng tôi hy vọng các phiên bản này sẽ mang lại lợi ích giá/hiệu năng đáng kể so với các phiên bản P4d và các phiên bản này sẽ có sẵn ở quy mô lớn cần thiết để xây dựng LLM thế hệ tiếp theo và các sản phẩm có liên quan.

Tại AON, chúng tôi đã và đang cách mạng hóa cách công ty bảo hiểm tiếp cận những khó khăn trong việc tính toán phức tạp. Các dự báo thẩm định bảo hiểm đòi hỏi nhiều mô phỏng hơn để có thể mô hình hóa các đảm bảo và rủi ro phức tạp về tài chính, nhưng hệ thống cũ rời rạc cùng những tác vụ thủ công dễ sai sót lại hạn chế khả năng phân tích chi tiết và sát sao. Các phiên bản P5 cho Amazon EC2 đã mang lại sự tiến triển vượt bậc cho chúng tôi. Giờ đây, chúng tôi có thể chạy các mô hình máy học và dự báo kinh tế từng tiêu tốn nhiều ngày chỉ trong vài giờ. Khả năng sử dụng một phiên bản GPU H100 (p5.4xlarge) duy nhất không chỉ giúp chúng tôi tiết kiệm được thời gian mà còn tối ưu hóa được tài nguyên điện toán. Khách hàng của chúng tôi đang thấy được những thông tin chuyên sâu chưa từng thấy về quản lý rủi ro và định giá sản phẩm, tất cả là nhờ vào công nghệ đột phá này.

Van Beach, Giám đốc toàn cầu về giải pháp cuộc sống, AON

Cohere dẫn đầu trong việc giúp mọi doanh nghiệp khai thác sức mạnh của AI ngôn ngữ để khám phá, tạo, tìm kiếm và hành động dựa trên thông tin một cách tự nhiên và trực quan, triển khai trên nhiều nền tảng đám mây trong môi trường dữ liệu hoạt động hiệu quả nhất cho từng khách hàng. Các phiên bản P5 cho Amazon EC2 hoạt động trên nền NVIDIA H100 sẽ giải phóng khả năng tạo, phát triển và điều chỉnh quy mô nhanh hơn cho các doanh nghiệp với khả năng điện toán kết hợp với các khả năng của AI tạo sinh và LLM hiện đại của Cohere.

Là cộng đồng nguồn mở phát triển nhanh nhất cho máy học, hiện chúng tôi cung cấp hơn 150.000 mô hình được đào tạo trước và 25.000 tập dữ liệu trên nền tảng của chúng tôi cho NLP, thị giác máy tính, sinh học, học tăng cường, v.v. Với những tiến bộ đáng kể trong LLM và AI tạo sinh, chúng tôi đang hợp tác với AWS để xây dựng và đóng góp các mô hình nguồn mở của tương lai. Chúng tôi mong muốn sẽ sử dụng các phiên bản P5 cho Amazon EC2 thông qua Amazon SageMaker trên quy mô lớn trong UltraClusters với EFA để đẩy nhanh việc cung cấp các mô hình AI nền tảng mới cho mọi người.