Amazon Bedrock unterstützt jetzt komprimierte Einbettungen von Cohere Embed
Amazon Bedrock unterstützt jetzt komprimierte Einbettungen (int8 und binär) aus dem Cohere-Embed-Modell, sodass Entwickler und Unternehmen effizientere generative KI-Anwendungen erstellen können, ohne Kompromisse bei der Leistung eingehen zu müssen. Cohere Embed ist in das führende Texteinbettungsmodell. Es kommt am häufigsten bei Retrieval-Augmented Generation (RAG) und semantischen Suchsystemen zur Anwendung.
Texteinbettungen, die vom Cohere Embed-Modell ausgegeben werden, müssen in einer Datenbank mit Vektorsuchfunktionen gespeichert werden, wobei die Speicherkosten in direkter Korrelation mit den Dimensionen der eingebetteten Ausgabe und der Präzision des numerischen Formats stehen. Die kompressionsorientierten Modelltrainingstechniken von Cohere ermöglichen es dem Modell, Einbettungen im Binär- und Int8-Präzisionsformat auszugeben, die deutlich kleiner sind als das häufig verwendete FP32-Präzisionsformat, und dies bei minimaler Verschlechterung der Präzision. Dadurch können Sie die Suchanwendungen Ihres Unternehmens schneller, günstiger und effizienter ausführen. int8- und binäre Einbettungen sind besonders für große, mandantenfähige Einrichtungen interessant, für die die Fähigkeit, Millionen von Einbettungen innerhalb von Millisekunden zu durchsuchen, ein entscheidender Geschäftsvorteil ist. Die komprimierten Einbettungen von Cohere ermöglichen es Ihnen, Anwendungen zu erstellen, die effizient genug sind, um sie in großem Umfang in Betrieb zu nehmen. Dies beschleunigt die Umsetzung einer KI-Strategie zur Unterstützung von Mitarbeitern und Kunden.
Die int8- und binären Einbettungen von Cohere Embed sind jetzt in Amazon Bedrock in allen AWS-Regionen verfügbar, in denen das Cohere-Embed-Modell verfügbar ist. Lesen Sie die Informationen zu Cohere auf der Produktseite von Amazon Bedrock, in der Dokumentation und im Launch-Blog zu Cohere, um mehr zu erfahren. Machen Sie Ihre ersten Schritte mit Cohere-Modellen in Amazon Bedrock und rufen Sie die Amazon-Bedrock-Konsole auf.