Model AI generatif Meta Llama 3.1 kini tersedia di Amazon SageMaker JumpStart
Model Meta Llama yang paling canggih dan mumpuni hingga saat ini, Llama 3.1, kini tersedia di Amazon SageMaker JumpStart, hub machine learning (ML) yang menawarkan model terlatih dan algoritme bawaan untuk membantu Anda memulai ML dengan cepat. Anda dapat menyebarkan dan menggunakan model Llama 3.1 dengan beberapa klik di SageMaker Studio atau secara terprogram melalui SageMaker Python SDK.
Model Llama 3.1 menunjukkan peningkatan yang signifikan dibandingkan versi sebelumnya karena peningkatan data pelatihan dan skala. Model mendukung panjang konteks 128K, peningkatan 120K token dari Llama 3. Model Llama 3.1 memiliki kapasitas 16 kali lipat dari model Llama 3 dan meningkatkan penalaran untuk kasus penggunaan dialog multibahasa dalam delapan bahasa. Model tersebut dapat mengakses lebih banyak informasi dari teks yang panjang untuk membuat keputusan yang lebih tepat dan memanfaatkan data kontekstual yang lebih kaya untuk menghasilkan respons yang lebih tepat. Menurut Meta, Llama 3.1 405B adalah salah satu model fondasi terbesar yang tersedia untuk umum dan sangat cocok untuk pembuatan data sintetis dan penyulingan model, yang keduanya dapat meningkatkan model Llama yang lebih kecil. Untuk penggunaan data sintetis guna menyempurnakan model, Anda harus mematuhi lisensi Meta. Baca EULA untuk informasi tambahan. Semua model Llama 3.1 menyediakan kemampuan canggih dalam pengetahuan umum, matematika, penggunaan alat, dan penerjemahan multibahasa.
Model Llama 3.1 tersedia saat ini di SageMaker JumpStart di AWS region AS Timur (Ohio), AS Barat (Oregon), dan AS Timur (Virginia Utara). Untuk memulai model Llama 3.1 di SageMaker JumpStart, lihat dokumentasi dan blog.