Amazon Bedrock memperluas dukungan API dan memperkenalkan Inferensi Lintas Region untuk model OpenAI di AWS GovCloud (AS)
Amazon Bedrock kini mendukung model OpenAI GPT-5.6 (Terra dan Luna) pada titik akhir bedrock-runtime, dengan dukungan untuk API Responses, Converse, dan Chat Completions di AWS GovCloud (AS). Fitur ini juga menambahkan dukungan untuk Inferensi Lintas Region, memungkinkan pelanggan untuk menggunakan Inferensi Lintas Region di dalam region AWS GovCloud (AS) untuk mengakses throughput yang lebih tinggi dan redundansi yang lebih besar.
Inferensi Lintas Region secara otomatis mengarahkan permintaan inferensi di seluruh Region AWS GovCloud (AS) untuk memberi Anda throughput yang lebih tinggi, tanpa Anda perlu mengelola kapasitas di beberapa Region. Inferensi Lintas Region di dalam AWS GovCloud (AS) mengarahkan permintaan di kedua region sehingga Anda dapat melakukan penskalaan sambil mempertahankan kedaulatan data AS, memberi Anda akses terluas ke kapasitas Bedrock dan throughput tertinggi selama lonjakan permintaan. Peluncuran ini juga memperluas dukungan API; Anda dapat menggunakan model OpenAI GPT dengan Responses API, Chat Completions API, dan Converse API pada titik akhir bedrock-runtime. Karena API OpenAI asli ini sekarang berjalan di bedrock-runtime, model-model tersebut bekerja dengan kontrol tingkat akun yang sama yang sudah Anda gunakan untuk model lain di Bedrock: penggunaan muncul dalam pencatatan invokasi model Bedrock (dapat dikirim ke Amazon S3 atau Log Amazon CloudWatch) dan dalam metrik Amazon CloudWatch yang mencakup jumlah invokasi, jumlah token, latensi, pembatasan, dan kesalahan, serta dirinci dalam AWS Cost Explorer dan AWS Cost and Usage Report sehingga Anda dapat mengaitkan pengeluaran berdasarkan model.
Inferensi Lintas Region untuk model OpenAI tersedia di semua AWS Region tempat model OpenAI di Amazon Bedrock ditawarkan. Untuk memulai, tinjau kartu model untuk GPT-5.6 (Terra dan Luna) di Panduan Pengguna Amazon Bedrock.