Amazon Bedrock artık Cohere Embed'den sıkıştırılmış katıştırma işlemlerini destekliyor
Amazon Bedrock artık Cohere Embed modelinden sıkıştırılmış katıştırmaları (int8 ve ikili) destekleyerek geliştiricilerin ve işletmelerin performanstan ödün vermeden daha verimli üretici yapay zeka uygulamaları oluşturmasına olanak tanır. Cohere Embed önde gelen bir metin katıştırma modelidir. En sık olarak Almayla Artırılmış Üretim (RAG) ve semantik arama sistemlerini desteklemek için kullanılır.
Cohere Embed modeli tarafından üretilen metin katıştırmaları, vektör arama özelliklerine sahip bir veritabanında saklanmalıdır ve depolama maliyetleri doğrudan katıştırma çıktısının boyutları ve sayı biçimi hassasiyeti ile ilgilidir. Cohere'in sıkıştırmaya duyarlı model eğitim teknikleri, modelin, sıklıkla kullanılan FP32 hassas formatından çok daha küçük boyutlu ikili ve int8 hassas formatında katıştırmaları üretmesine olanak tanıyarak minimum doğruluk düşüşü sağlar. Bu, kurumsal arama uygulamalarınızı daha hızlı, daha ucuz ve daha verimli bir şekilde çalıştırma olanağından yararlanmanızı sağlar. int8 ve ikili katıştırmalar, milisaniyeler içinde milyonlarca katıştırmayı arama olanağının kritik bir iş avantajı olduğu büyük, çok kiracılı kurulumlar için özellikle ilgi çekicidir. Cohere'in sıkıştırılmış katıştırmaları, çalışanlarınızı ve müşterilerinizi desteklemek için yapay zeka stratejinizi hızlandırarak, uygun ölçekte üretime geçirilebilecek kadar verimli uygulamalar oluşturmanıza olanak tanır.
Cohere Embed int8 ve ikili katıştırmalar Amazon Bedrock'ta artık Cohere Embed modelinin kullanılabildiği tüm AWS Bölgelerinde kullanıma kullanılabilir. Daha fazla bilgi edinmek için Amazon Bedrock'ta Cohere ürün sayfasını, belgeleri ve Cohere lansman blogunu okuyun. Amazon Bedrock'ta Cohere modellerini kullanmaya başlamak için Amazon Bedrock konsoluna gidin.