Amazon Bedrock Model Distilation sekarang tersedia dalam pratinjau
Dengan Amazon Bedrock Model Distilation, pelanggan dapat menggunakan model yang lebih kecil, lebih cepat, dan lebih hemat biaya yang memberikan akurasi spesifik kasus penggunaan yang sebanding dengan model yang paling mumpuni di Amazon Bedrock.
Saat ini, menyempurnakan model hemat biaya yang lebih kecil untuk meningkatkan akurasinya untuk kasus penggunaan pelanggan adalah proses berulang di mana pelanggan perlu menulis prompt dan respons, menyempurnakan set data pelatihan, memastikan bahwa kumpulan data pelatihan menangkap beragam contoh, dan menyesuaikan parameter pelatihan.
Amazon Bedrock Model Distilation mengotomatiskan proses yang diperlukan untuk menghasilkan data sintetis dari model guru, melatih dan mengevaluasi model siswa, dan kemudian menjadi host model distilasi akhir untuk inferensi. Untuk menghilangkan sebagian beban iterasi, Model Distilation dapat memilih untuk menerapkan metode sintesis data berbeda yang paling cocok untuk kasus penggunaan Anda untuk membuat model distilasi yang kira-kira cocok dengan model lanjutan untuk kasus penggunaan tertentu. Misalnya, Bedrock dapat memperluas set data pelatihan dengan menghasilkan petunjuk serupa atau menghasilkan respons sintetis berkualitas tinggi menggunakan pasangan respon prompt yang disediakan pelanggan sebagai contoh emas.
Pelajari selengkapnya dalam dokumentasi dan blog kami.