Die generativen KI-Modelle Llama 3.2 sind jetzt in Amazon Bedrock verfügbar

Veröffentlicht am: 25. Sept. 2024

Die Llama 3.2-Modellsammlung ist jetzt in Amazon Bedrock verfügbar. Llama 3.2 ist Metas neueste Weiterentwicklung bei großen Sprachmodellen (LLMs). Die Llama 3.2-Modelle werden in verschiedenen Größen angeboten, von kleinen und mittleren multimodalen Modellen über 11B- und 90B-Parametermodelle, die anspruchsvolle Schlussfolgerungsaufgaben verarbeiten können, einschließlich multimodaler Unterstützung für hochauflösende Bilder, bis hin zu einfachen, nur Text enthaltenden 1B- und 3B-Parametermodellen, die für Edge-Geräte geeignet sind. Llama 3.2 ist das erste Llama-Modell, das Vision-Aufgaben unterstützt. Es verfügt über eine neue Modellarchitektur, die Bild-Encoder-Darstellungen in das Sprachmodell integriert.

Zusätzlich zu den bestehenden textfähigen Modellen Llama 3.1 8B, 70B und 405B unterstützt Llama 3.2 multimodale Anwendungsfälle. Sie können jetzt vier neue Llama 3.2-Modelle – 90B, 11B, 3B und 1B – von Meta in Amazon Bedrock verwenden, um die nächste Generation von KI-Möglichkeiten zu erschließen. Mit dem Schwerpunkt auf verantwortungsvoller Innovation und Sicherheit auf Systemebene helfen Ihnen die Modelle von Llama 3.2 bei der Entwicklung und Bereitstellung modernster generativer KI-Modelle und -Anwendungen. Sie nutzen Llama in Amazon Bedrock, um neue Innovationen wie Image Reasoning zu initiieren, und sind auch für On-Edge-Anwendungen zugänglicher. Die neuen Modelle sind für KI-Workloads zudem effizienter, haben eine geringere Latenz sowie eine bessere Leistung und eignen sich daher für eine Vielfalt von Anwendungen.

Die Modelle Llama 3.2 90B und 11B von Meta sind in Amazon Bedrock in der Region USA West (Oregon) und in den Regionen USA Ost (Ohio, Nord-Virginia) über regionsübergreifende Inferenz erhältlich. Die Modelle Llama 3.2 1B und 3B sind in den Regionen USA West (Oregon) und Europa (Frankfurt) sowie in den Regionen USA Ost (Ohio, Nord-Virginia) und Europa (Irland, Paris) über regionsübergreifende Inferenz erhältlich. Um mehr zu erfahren, lesen Sie den Launch-Blog, die Llama-Produktseite und die Dokumentation. Rufen Sie zum Einstieg in Llama 3.2 in Amazon Bedrock die Amazon-Bedrock-Konsole auf.