Amazon Bedrock memperluas dukungan API dan memperkenalkan inferensi Lintas Region untuk model OpenAI
Amazon Bedrock kini mendukung model OpenAI GPT-5.6 (Sol, Terra, dan Luna) pada titik akhir bedrock-runtime, dengan dukungan untuk API Responses, Converse, dan Chat Completions. Hal ini juga menambahkan dukungan untuk inferensi lintas-Region, yang memungkinkan pelanggan menggunakan inferensi lintas-Region tipe Global dan Geo untuk mendapatkan throughput yang lebih tinggi serta biaya inferensi yang lebih rendah.
Inferensi lintas-Region secara otomatis mengarahkan permintaan inferensi ke berbagai AWS Region untuk memberikan throughput yang lebih tinggi, tanpa Anda perlu mengelola kapasitas di berbagai Region tersebut. Inferensi lintas region geografis mengarahkan permintaan dalam wilayah geografis yang telah ditentukan sebelumnya—termasuk dukungan US Geo (US CRIS) baru dengan peluncuran ini—sehingga Anda dapat melakukan penskalaan sambil tetap memproses data dalam wilayah geografis tersebut, sementara inferensi lintas region global melayani permintaan dari AWS Region komersial mana pun tempat model tersebut tersedia, memberi Anda akses terluas ke kapasitas Bedrock dan throughput tertinggi selama lonjakan permintaan. Dengan inferensi lintas-Region Global, Anda juga mendapatkan biaya yang lebih rendah karena inferensi Global dihargai lebih rendah per token untuk model OpenAI dibandingkan dengan inferensi dalam Region dan Geo. Peluncuran ini juga memperluas dukungan API—Anda kini dapat menggunakan model GPT OpenAI dengan Responses API, Chat Completions API, dan Converse API pada titik akhir bedrock-runtime. Karena API OpenAI asli ini sekarang berjalan di bedrock-runtime, model-model tersebut bekerja dengan kontrol tingkat akun yang sama yang sudah Anda gunakan untuk model lain di Bedrock: penggunaan muncul dalam pencatatan invokasi model Bedrock (dapat dikirim ke Amazon S3 atau Log Amazon CloudWatch) dan dalam metrik Amazon CloudWatch yang mencakup jumlah invokasi, jumlah token, latensi, pembatasan, dan kesalahan, serta dirinci dalam AWS Cost Explorer dan AWS Cost and Usage Report sehingga Anda dapat mengaitkan pengeluaran berdasarkan model.
Inferensi lintas-Region untuk model OpenAI tersedia di semua AWS Region tempat model OpenAI di Amazon Bedrock ditawarkan. Untuk memulai, tinjau kartu model untuk GPT 5.6 (Sol, Terra, dan Luna) di Panduan Pengguna Amazon Bedrock.