OpenAI GPT-6 Astra kini mendukung mode UltraFast di Amazon Bedrock
Hari ini, AWS mengumumkan ketersediaan mode UltraFast untuk GPT-6 Astra dari OpenAI di Amazon Bedrock. Ultrafast adalah tingkatan kecepatan premium untuk GPT-6 Astra yang dirancang untuk beban kerja di mana kecepatan sangat penting. Menurut OpenAI, Ultrafast menghadirkan inferensi hingga 6 kali lebih cepat dalam API, dengan hingga 300 token per detik. Mesin inferensi Amazon Bedrock menghadirkan kinerja, keamanan, dan keandalan yang dibutuhkan untuk beban kerja produksi.
Gunakan GPT-6 Astra Ultrafast untuk aplikasi yang sensitif terhadap latensi, seperti asisten coding real-time, agen interaktif, dan pengalaman yang berhadapan langsung dengan pelanggan yang membutuhkan respons cepat dan berkualitas tinggi. Kendali AWS yang telah ditetapkan membantu Anda mengamankan beban kerja, mengatur akses, dan mengaudit aktivitas invokasi model.
Anda dapat memulai melalui konsol Amazon Bedrock atau secara terprogram menggunakan API Amazon Bedrock yang didukung. Untuk informasi mengenai AWS Region, titik akhir, API, fitur, profil inferensi, dan harga yang didukung, lihat dokumentasi Amazon Bedrock.