Pertanyaan Umum Amazon Bedrock

Agen Amazon Bedrock adalah kemampuan terkelola penuh yang mempermudah developer untuk membuat aplikasi berbasis AI generatif yang dapat menyelesaikan tugas kompleks untuk berbagai kasus penggunaan dan memberikan jawaban terkini berdasarkan sumber pengetahuan eksklusif. Hanya dalam beberapa langkah singkat, Agen Amazon Bedrock membagi tugas dan membuat rencana orkestrasi secara otomatis–tanpa pengodean manual apa pun. Agen terhubung ke data perusahaan secara aman melalui API, yang secara otomatis mengubah data menjadi format yang dapat dibaca oleh mesin, dan menambahkan informasi yang relevan pada permintaan untuk menghasilkan respons yang paling akurat. Agen kemudian juga dapat memanggil API untuk memenuhi permintaan pengguna secara otomatis. Misalnya, perusahaan manufaktur mungkin ingin mengembangkan aplikasi AI generatif yang mengotomatisasi pelacakan tingkat inventaris, data penjualan, informasi rantai pasokan, dan yang dapat merekomendasikan titik serta jumlah pemesanan ulang yang optimal untuk memaksimalkan efisiensi. Sebagai kemampuan yang terkelola penuh, Agen Amazon Bedrock menghapus pengangkatan yang tidak terdiferensiasi untuk pengelolaan integrasi sistem dan penyediaan infrastruktur, sehingga memungkinkan developer menggunakan AI generatif sepenuhnya di seluruh organisasi mereka.

Anda dapat menghubungkan FM dengan aman ke sumber data perusahaan Anda menggunakan Agen Amazon Bedrock. Dengan dasar pengetahuan, Anda dapat menggunakan agen untuk memberi FM di Amazon Bedrock akses ke data tambahan, yang membantu model menghasilkan respons yang lebih relevan, konteks spesifik, dan akurat tanpa harus melatih ulang FM secara terus-menerus. Berdasarkan input pengguna, agen mengidentifikasi dasar pengetahuan yang sesuai, mengambil informasi yang relevan, dan menambahkan informasi ke prompt input, yang akan memberikan lebih banyak informasi konteks kepada model untuk menghasilkan penyelesaian.

Agen Amazon Bedrock dapat membantu Anda meningkatkan produktivitas, meningkatkan pengalaman layanan pelanggan Anda, dan mengotomatiskan alur kerja (seperti memproses klaim asuransi).

Dengan agen, developer memiliki dukungan tanpa hambatan untuk pemantauan, enkripsi, izin pengguna, penentuan versi, dan manajemen invokasi API tanpa harus menulis kode kustom. Agen Amazon Bedrock mengotomatiskan rekayasa perintah dan orkestrasi dari tugas yang diminta pengguna. Developer dapat menggunakan templat perintah yang dibuat oleh agen sebagai acuan untuk menyempurnakannya lebih lanjut demi pengalaman pengguna yang lebih baik. Mereka dapat memperbarui input pengguna, rencana orkestrasi, dan respons FM. Dengan akses ke templat prompt, developer memiliki kontrol yang lebih baik atas orkestrasi Agen.

Dengan agen terkelola penuh, Anda tidak perlu khawatir tentang penyediaan atau pengelolaan infrastruktur dan dapat membawa aplikasi ke produksi lebih cepat.

Setiap konten pelanggan yang diproses oleh Amazon Bedrock dienkripsi dan disimpan saat diam di Wilayah AWS tempat Anda menggunakan Amazon Bedrock.

Tidak. Input pengguna dan output model tidak dibagikan dengan penyedia model mana pun.

Amazon Bedrock menawarkan beberapa kemampuan untuk mendukung persyaratan keamanan dan privasi. Amazon Bedrock termasuk dalam cakupan standar kepatuhan umum seperti Fedramp Moderate, Service and Organization Control (SOC), International Organization for Standardization (ISO), Health Insurance Portability and Accountability Act (HIPAA) yang memenuhi syarat, dan pelanggan dapat menggunakan Bedrock sesuai dengan Peraturan Perlindungan Data Umum (GDPR). Amazon Bedrock termasuk dalam cakupan laporan SOC 1, 2, 3, sehingga memungkinkan pelanggan mendapatkan wawasan tentang kontrol keamanan kami. Kami menunjukkan kepatuhan melalui audit pihak ketiga yang ekstensif terhadap kontrol AWS kami. Amazon Bedrock adalah salah satu layanan AWS di bawah Kepatuhan ISO untuk standar ISO 9001, ISO 27001, ISO 27017, ISO 27018, ISO 27701, ISO 22301, dan ISO 20000. Amazon Bedrock bersertifikasi CSA Security Trust Assurance and Risk (STAR) Level 2, yang memvalidasi penggunaan praktik terbaik dan postur keamanan penawaran cloud AWS. Dengan Amazon Bedrock, konten Anda tidak digunakan untuk meningkatkan model dasar dan tidak dibagikan dengan penyedia model mana pun. Anda dapat menggunakan AWS PrivateLink untuk membangun konektivitas privat dari Amazon VPC Anda ke Amazon Bedrock, tanpa harus memaparkan data Anda ke lalu lintas internet.

Tidak, AWS dan penyedia model pihak ketiga tidak akan menggunakan input atau output apa pun dari Amazon Bedrock untuk melatih Amazon Nova, Amazon Titan, atau model pihak ketiga.

Amazon Bedrock mendukung SDK untuk layanan runtime. SDK iOS dan Android, serta Java, JS, Python, CLI, .Net, Ruby, PHP, Go, dan C++ mendukung input teks dan ucapan.

Streaming didukung di semua SDK.

Lihat halaman harga Amazon Bedrock untuk informasi harga saat ini.

Tergantung pada kontrak Dukungan AWS Anda, Amazon Bedrock didukung dalam paket Dukungan Developer, Dukungan Bisnis, dan Dukungan Korporasi.

Anda dapat menggunakan metrik CloudWatch untuk melacak token input dan output.

Pelanggan akan melihat tagihan AWS Marketplace untuk model nirserver Bedrock dan model Marketplace Bedrock tertentu. Hal ini karena model ini dijual oleh penyedia pihak ketiga sebagai “Konten Pihak Ketiga”, seperti yang dijelaskan di bagian 50.12 ketentuan layanan AWS.

Kami meluncurkan pra-pelatihan lanjutan untuk model Amazon Titan Text Express dan Amazon Titan di Amazon Bedrock. Pra-pelatihan lanjutan memungkinkan Anda melanjutkan pra-pelatihan pada model dasar Amazon Titan menggunakan sejumlah besar data tanpa label. Tipe pelatihan ini akan mengadaptasi model dari korpus domain umum ke korpus domain yang lebih spesifik seperti medis, hukum, keuangan, dan lain-lain, sekaligus tetap mempertahankan sebagian besar kemampuan model dasar Amazon Titan. 

Perusahaan mungkin ingin membuat model untuk tugas di domain tertentu. Model dasar mungkin tidak dilatih tentang jargon teknis yang digunakan dalam domain spesifik tersebut. Oleh karena itu, menyempurnakan model dasar secara langsung akan memerlukan catatan pelatihan berlabel dalam jumlah besar dan durasi pelatihan yang lama untuk mendapatkan hasil yang akurat. Untuk meringankan beban ini, pelanggan dapat memberikan data tanpa label dalam jumlah besar untuk pekerjaan pra-pelatihan lanjutan. Pekerjaan ini akan mengadaptasi model dasar Amazon Titan ke domain baru. Kemudian pelanggan dapat menyempurnakan model kustom yang baru dilatih sebelumnya untuk tugas hilir menggunakan catatan pelatihan berlabel yang jauh lebih sedikit dan durasi pelatihan yang lebih singkat. 

Pra-pelatihan lanjutan dan penyempurnaan Amazon Bedrock memiliki persyaratan yang sangat mirip. Untuk alasan ini, kami memilih untuk membuat API terpadu yang mendukung pra-pelatihan lanjutan dan penyempurnaan. Penyatuan API mengurangi kurva pembelajaran dan akan membantu pelanggan menggunakan fitur standar seperti Amazon EventBridge untuk melacak pekerjaan yang berjalan lama, integrasi Amazon S3 untuk mengambil data pelatihan, tanda sumber daya, dan enkripsi model. 

Pra-pelatihan lanjutan membantu Anda dengan mudah mengadaptasi model Amazon Titan ke data spesifik domain Anda sambil tetap mempertahankan fungsionalitas dasar model Amazon Titan. Untuk membuat pekerjaan pra-pelatihan lanjutan, navigasikan ke konsol Amazon Bedrock dan klik “Model Kustom”. Anda akan menavigasi ke halaman model kustom yang memiliki dua tab: Model dan Pekerjaan pelatihan. Kedua tab menyediakan menu drop-down “Kustomisasi Model” di sebelah kanan. Pilih “Pra-pelatihan Lanjutan” dari menu drop-down untuk menavigasi ke “Buat Pekerjaan Pra-pelatihan Lanjutan. “ Anda akan memberikan model sumber, nama, enkripsi model, data input, hyper-parameter, dan data output. Selain itu, Anda dapat memberikan tanda beserta detail tentang peran AWS Identity and Access Management (IAM) dan kebijakan sumber daya untuk pekerjaan tersebut.

Eksklusif untuk Amazon Bedrock, rangkaian model Amazon Titan menggabungkan 25 tahun pengalaman Amazon dalam berinovasi dengan AI dan machine learning di seluruh bisnisnya. FM Amazon Titan memberi berbagai pilihan gambar, multimodal, dan model teks berperforma tinggi kepada pelanggan, melalui API terkelola penuh. Amazon Titan dibuat oleh AWS dan dilatih sebelumnya pada set data besar, yang menjadikannya model tujuan umum yang kuat dan dibangun untuk mendukung berbagai kasus penggunaan, sekaligus mendukung penggunaan AI yang bertanggung jawab. Gunakan apa adanya atau sesuaikan secara pribadi dengan data Anda sendiri. Pelajari selengkapnya tentang Amazon Titan.

Untuk mempelajari selengkapnya tentang data yang diproses untuk mengembangkan dan melatih FM Amazon Titan, kunjungi halaman Pelatihan dan Privasi Model Amazon Titan.

Anda dapat menyerap konten dari berbagai sumber, termasuk web, Amazon Simple Storage Service (Amazon S3), Confluence (pratinjau), Salesforce (pratinjau), dan SharePoint (pratinjau). Anda juga dapat secara terprogram menyerap data streaming atau data dari sumber yang tidak didukung. Anda juga dapat terhubung ke sumber data terstruktur seperti gudang data Redshift dan katalog data AWS Glue.

Basis Pengetahuan Amazon Bedrock menyediakan Bahasa Alami terkelola ke SQL untuk mengonversi bahasa alami menjadi kueri SQL yang dapat ditindaklanjuti dan mengambil data, yang memungkinkan Anda membangun aplikasi menggunakan data dari sumber-sumber ini.

Ya, manajemen konteks sesi sudah terpasang, sehingga memungkinkan aplikasi Anda mempertahankan konteks di berbagai interaksi, yang penting untuk mendukung percakapan multi-putaran.

Ya, semua informasi yang diambil termasuk kutipan, yang meningkatkan transparansi dan meminimalkan risiko halusinasi dalam respons yang dihasilkan.

Basis Pengetahuan Amazon Bedrock mendukung pemrosesan data multimodal, yang memungkinkan developer membangun aplikasi AI generatif yang menganalisis data teks dan visual, termasuk gambar, bagan, diagram, serta tabel. Respons model dapat memanfaatkan wawasan dari elemen visual selain teks, yang memberikan jawaban yang lebih akurat dan relevan secara kontekstual. Selain itu, atribusi sumber untuk respons mencakup elemen visual, yang meningkatkan transparansi dan kepercayaan dalam respons.

Basis Pengetahuan Amazon Bedrock dapat memproses dokumen yang kaya visual dalam format PDF, yang mungkin berisi gambar, tabel, bagan, dan diagram. Untuk data khusus gambar, Basis Pengetahuan Bedrock mendukung format gambar standar seperti JPEG dan PNG, yang memungkinkan kemampuan pencarian di mana pengguna dapat mengambil gambar yang relevan berdasarkan kueri berbasis teks.

Pelanggan memiliki tiga opsi penguraian untuk Basis Pengetahuan Bedrock. Untuk pemrosesan khusus teks, pengurai Bedrock default bawaan tersedia tanpa biaya tambahan, sehingga ideal untuk kasus yang tidak memerlukan pemrosesan data multimodal. Otomatisasi Data Amazon Bedrock (BDA) atau model fondasi dapat digunakan untuk mengurai data multimodal. Untuk informasi selengkapnya, lihat dokumentasi produk. 

Basis Pengetahuan Amazon Bedrock menangani berbagai kompleksitas alur kerja seperti perbandingan konten, penanganan kegagalan, kontrol throughput, dan enkripsi, yang memastikan bahwa data Anda diproses dan dikelola dengan aman sesuai standar keamanan AWS yang ketat.

Evaluasi Model di Amazon Bedrock memungkinkan Anda mengevaluasi, membandingkan, dan memilih FM terbaik untuk kasus penggunaan Anda hanya dalam beberapa langkah. Amazon Bedrock menawarkan pilihan evaluasi otomatis dan evaluasi manusia. Anda dapat menggunakan evaluasi otomatis dengan metrik yang telah ditentukan sebelumnya seperti akurasi, ketahanan, dan toksisitas. Anda dapat menggunakan alur kerja evaluasi manusia untuk metrik subjektif atau khusus seperti keramahan, gaya, dan keselarasan dengan suara merek. Untuk evaluasi manusia, Anda dapat menggunakan karyawan internal atau tim yang dikelola AWS sebagai peninjau. Evaluasi model di Amazon Bedrock menyediakan set data bawaan yang dikurasi atau Anda dapat membawa set data Anda sendiri.

Anda dapat mengevaluasi berbagai metrik yang telah ditentukan sebelumnya seperti akurasi, ketahanan, dan toksisitas menggunakan evaluasi otomatis. Anda juga dapat menggunakan alur kerja evaluasi manusia untuk metrik subjektif atau khusus, seperti keramahan, relevansi, gaya, dan keselarasan dengan suara merek.

Evaluasi otomatis memungkinkan Anda mempersempit daftar FM yang tersedia dengan cepat berdasarkan kriteria standar (seperti akurasi, toksisitas, dan ketahanan). Evaluasi berbasis manusia sering kali digunakan untuk mengevaluasi kriteria yang lebih bernuansa atau subjektif yang memerlukan penilaian manusia dan ketika evaluasi otomatis mungkin tidak ada (seperti suara merek, niat kreatif, keramahan).

Anda dapat dengan cepat mengevaluasi model Amazon Bedrock untuk metrik seperti akurasi, ketahanan, dan toksisitas dengan menggunakan set data bawaan yang dikurasi, atau dengan membawa set data cepat Anda sendiri. Setelah set data perintah Anda dikirim ke model Amazon Bedrock untuk inferensi, respons model diberi skor dengan algoritma evaluasi untuk setiap dimensi. Mesin backend mengumpulkan skor respons perintah individu menjadi skor ringkasan dan menyajikannya melalui laporan visual yang mudah dipahami.

Amazon Bedrock memungkinkan Anda mengatur alur kerja tinjauan manusia dengan beberapa langkah dan menghadirkan karyawan internal Anda, atau menggunakan tim pakar yang dikelola AWS, untuk mengevaluasi model. Melalui antarmuka intuitif Amazon Bedrock, manusia dapat meninjau dan memberikan umpan balik terhadap respons model dengan mengklik jempol ke atas atau bawah, memberi peringkat pada skala 1-5, memilih yang terbaik dari beberapa respons, atau memberi peringkat perintah. Misalnya, anggota tim dapat diperlihatkan bagaimana dua model merespons perintah yang sama, lalu diminta untuk memilih model yang memperlihatkan output yang lebih akurat, relevan, atau bergaya. Anda dapat menentukan kriteria evaluasi yang penting bagi Anda, dengan menyesuaikan instruksi dan tombol agar muncul di UI evaluasi untuk tim Anda. Anda juga dapat memberikan instruksi terperinci dengan contoh dan sasaran evaluasi model secara keseluruhan, sehingga pengguna dapat menyelaraskan pekerjaannya. Metode ini berguna untuk mengevaluasi kriteria subjektif yang memerlukan penilaian manusia, atau keahlian bidang studi yang lebih bernuansa, dan yang tidak dapat dengan mudah dinilai dengan evaluasi otomatis.

Pagar Pembatas Amazon Bedrock membantu Anda mengimplementasikan perlindungan untuk aplikasi AI generatif Anda berdasarkan kasus penggunaan Anda dan kebijakan AI yang bertanggung jawab. Anda dapat membuat beberapa pagar pembatas yang disesuaikan dengan kasus penggunaan yang berbeda dan menerapkannya di beberapa model fondasi (FM), memberikan pengalaman pengguna yang konsisten dan menstandardisasi kontrol keselamatan dan privasi di seluruh aplikasi AI generatif Anda.

Pagar Pembatas membantu Anda menentukan serangkaian enam kebijakan untuk membantu melindungi aplikasi AI generatif Anda. Anda dapat mengonfigurasi kebijakan berikut di Pagar Pembatas Amazon Bedrock:

• Filter konten multimodal — Konfigurasikan ambang batas untuk mendeteksi dan memfilter teks dan/atau konten gambar berbahaya di seluruh kategori termasuk kebencian, hinaan, seksual, kekerasan, pelanggaran, dan serangan cepat.

• Topik yang Ditolak – Tentukan serangkaian topik yang tidak diinginkan dalam konteks aplikasi Anda. Filter akan membantu memblokirnya jika terdeteksi dalam kueri pengguna atau respons model.

• Filter kata — Konfigurasikan filter untuk membantu memblokir kata-kata, frasa, dan kata-kata kotor yang tidak diinginkan (kecocokan tepat). Kata-kata tersebut dapat mencakup istilah menyinggung, nama pesaing, dll.

• Filter informasi sensitif — Konfigurasikan filter untuk membantu memblokir atau menutupi informasi sensitif, seperti informasi pengenal pribadi (PII), atau regex khusus dalam input pengguna dan respons model. Pemblokiran atau masking dilakukan berdasarkan deteksi probabilistik informasi sensitif dalam format standar dalam entitas seperti nomor SSN, Tanggal Lahir, alamat, dll. Ini juga memungkinkan konfigurasi deteksi pola berbasis ekspresi reguler untuk pengidentifikasi.

• Pemeriksaan landasan kontekstual — Membantu mendeteksi dan menyaring halusinasi jika respons tidak didasarkan (misalnya, tidak akurat secara faktual atau informasi baru) dalam informasi sumber dan tidak relevan dengan kueri atau instruksi pengguna.

• Pemeriksaan Penalaran Otomatis — Membantu mendeteksi ketidakakuratan faktual dalam konten yang dihasilkan, menyarankan koreksi, dan menjelaskan mengapa respons akurat dengan memeriksa representasi pengetahuan yang terstruktur dan matematis yang disebut Kebijakan Penalaran Otomatis.

Pagar Pembatas Bedrock mendukung konten teks dan gambar untuk memungkinkan pelanggan membangun aplikasi AI generatif yang aman dalam skala besar.

Pagar Pembatas Amazon Bedrock bekerja dengan berbagai model, termasuk FM yang didukung di Amazon Bedrock, model yang disempurnakan, serta model yang di-hosting sendiri di luar Amazon Bedrock. Input pengguna dan output model dapat dievaluasi secara independen untuk model pihak ketiga dan yang di-hosting sendiri menggunakan ApplyGuardrail API. Pagar Pembatas Amazon Bedrock juga dapat diintegrasikan dengan Agen Amazon Bedrock dan Basis Pengetahuan Amazon Bedrock untuk membangun aplikasi AI generatif yang aman dan terlindungi yang selaras dengan kebijakan AI yang bertanggung jawab

Saat ini, Pagar Pembatas Amazon Bedrock mendukung bahasa Inggris, Prancis, dan Spanyol dalam bahasa alami. Menggunakan bahasa lain akan memberikan hasil yang tidak efektif.

Terdapat lima kebijakan pagar pembatas yang masing-masing memiliki perlindungan berbeda

• Filter konten – Ini memiliki 6 kategori yang tersedia (kebencian, penghinaan, seksual, kekerasan, pelanggaran (termasuk aktivitas kriminal) dan serangan cepat (pembobolan penjara dan injeksi cepat. Setiap kategori dapat memiliki ambang batas yang dikustom lebih lanjut dalam hal tingkat ketelitian pemfilteran - rendah/sedang/tinggi untuk teks dan konten gambar.
• Topik yang ditolak – Ini adalah topik khusus yang dapat ditentukan oleh pelanggan menggunakan deskripsi bahasa alami yang sederhana
• Filter informasi sensitif – Dilengkapi dengan lebih dari 30 PII siap pakai. Ini dapat disesuaikan lebih lanjut dengan menambahkan informasi milik pelanggan yang sensitif.
• Filter kata – Dilengkapi dengan pemfilteran kata-kata kotor siap pakai dan dapat disesuaikan lebih lanjut dengan kata-kata khusus.
• Pemeriksaan landasan kontekstual – Dapat membantu mendeteksi halusinasi untuk aplikasi RAG, ringkasan, dan percakapan, di mana informasi sumber dapat digunakan sebagai referensi untuk memvalidasi respons model.

Terdapat lima kebijakan pagar pembatas yang masing-masing memiliki perlindungan berbeda

• Filter konten – Ini memiliki 6 kategori yang tersedia (kebencian, penghinaan, seksual, kekerasan, pelanggaran (termasuk aktivitas kriminal) dan serangan cepat (pembobolan penjara dan injeksi cepat. Setiap kategori dapat memiliki ambang batas yang disesuaikan lebih lanjut dalam hal agresivitas pemfilteran - rendah/sedang/tinggi.
• Topik yang ditolak – Ini adalah topik khusus yang dapat ditentukan oleh pelanggan menggunakan deskripsi bahasa alami yang sederhana
• Filter informasi sensitif – Dilengkapi dengan lebih dari 30 PII siap pakai. Ini dapat disesuaikan lebih lanjut dengan menambahkan informasi milik pelanggan yang sensitif.
• Filter kata – Dilengkapi dengan pemfilteran kata-kata kotor siap pakai dan dapat disesuaikan lebih lanjut dengan kata-kata khusus.
• Pemeriksaan landasan kontekstual – Dapat membantu mendeteksi halusinasi untuk aplikasi RAG, ringkasan, dan percakapan, di mana informasi sumber dapat digunakan sebagai referensi untuk memvalidasi respons model.

Pagar Pembatas Amazon Bedrock memberikan kemampuan untuk membuat pagar pembatas wajib untuk setiap panggilan inferensi menggunakan kemampuan penegakan berbasis kebijakan IAM. Lihat di sini untuk detailnya. 

AWS menawarkan ganti rugi kekayaan intelektual (IP) tanpa batas untuk klaim hak cipta yang timbul dari output generatif dari layanan AI generatif Amazon berikut yang tersedia secara umum: model Amazon, dan layanan lain yang tercantum dalam Bagian 50.10 dari Ketentuan Layanan (“Layanan AI Generatif yang Diganti Rugi”). Artinya, pelanggan dilindungi dari klaim pihak ketiga yang menuduh adanya pelanggaran hak cipta atas output yang dihasilkan oleh Layanan AI Generatif yang Diberi Ganti Rugi sebagai respons terhadap input atau data lain yang diberikan oleh pelanggan. Pelanggan juga harus menggunakan layanan secara bertanggung jawab, seperti tidak memasukkan data yang melanggar atau menonaktifkan fitur pemfilteran layanan.

Ada biaya terpisah untuk penggunaan Pagar Pembatas Amazon Bedrock. Ini dapat diterapkan untuk input dan output. Harga di bagian bawah halaman di sini.

Pagar Pembatas Amazon Bedrock menawarkan filter Informasi Sensitif yang menyediakan 31 PI yang menyertakan nomor jaminan sosial dan nomor telepon. Lihat di sini untuk daftar lengkapnya.

Pagar Pembatas Amazon Bedrock dihargai dengan model per penggunaan untuk konten teks dan gambar. Silakan lihat halaman harga Pagar Pembatas untuk detail harga.

Ya, API Pagar Pembatas Amazon Bedrock membantu pelanggan menjalankan pengujian otomatis. “Pembuat kasus uji” mungkin sesuatu yang ingin Anda gunakan sebelum melakukan deployment pagar pembatas dalam produksi. Belum ada pembuat kasus uji asli. Untuk pemantauan lalu lintas produksi yang berkelanjutan, pagar pembatas menyediakan log terperinci dari semua pelanggaran untuk setiap input dan output, sehingga pelanggan dapat memantau secara terperinci setiap input yang masuk dan keluar dari aplikasi gen AI mereka. Log ini dapat disimpan di CloudWatch atau S3 dan dapat digunakan untuk membuat dasbor khusus berdasarkan kebutuhan pelanggan.

Menggunakan Kebijakan Penalaran Otomatis, pemeriksaan Penalaran Otomatis dapat menunjukkan klaim yang akurat dan ketidakakuratan faktual dalam konten. Untuk pernyataan yang akurat dan tidak akurat, pemeriksaan Penalaran Otomatis memberikan penjelasan logis yang dapat diverifikasi untuk output-nya. Pemeriksaan Penalaran Otomatis memerlukan keterlibatan di muka dari ahli domain untuk membuat Kebijakan dan hanya mendukung konten yang menentukan aturan. Di sisi lain, pemeriksaan landasan kontekstual di Pagar Pembatas Bedrock menggunakan teknik machine learning untuk memastikan konten yang dihasilkan mengikuti dokumen yang disediakan sebagai input dari basis pengetahuan, tanpa memerlukan pekerjaan tambahan di muka. Pemeriksaan Penalaran Otomatis dan Landasan Kontekstual memberikan umpan baliknya dalam output API Pagar Pembatas. Anda dapat menggunakan umpan balik untuk memperbarui konten yang dihasilkan.

Format gambar PNG dan JPEG didukung dengan Pagar Pembatas Bedrock.

Amazon Bedrock Marketplace memberi pelanggan lebih dari 100 model populer, baru, atau khusus, selain dari FM nirserver Amazon Bedrock sehingga pelanggan dapat membangun dan mengoptimalkan aplikasi AI generatif mereka dengan mudah. Dalam konsol Amazon Bedrock, pelanggan akan dapat menemukan katalog luas FM yang ditawarkan oleh berbagai penyedia. Anda kemudian dapat men-deploy model tersebut ke titik akhir yang terkelola penuh, tempat Anda dapat memilih jumlah instans dan tipe instans yang diinginkan. Setelah di-deploy, model dapat diakses melalui API Invokasi Amazon Bedrock. Untuk model teks ke teks yang disempurnakan untuk percakapan, pelanggan dapat menggunakan Converse API baru kami, sebuah API terpadu yang mengabstraksi perbedaan FM dan memungkinkan penggantian model hanya dengan perubahan satu parameter. Jika berlaku, model-model tersebut dapat digunakan dengan Playground, Agen, Basis Pengetahuan, Manajemen Prompt, Alur Prompt, Pagar Pembatas, dan Evaluasi Model Amazon Bedrock.

Anda harus menggunakan Amazon Bedrock Marketplace untuk mendapatkan keuntungan dari model-model kuat yang muncul dengan cepat seiring dengan inovasi industri AI generatif. Anda dapat dengan cepat mengakses dan men-deploy model populer, baru, dan khusus yang disesuaikan dengan kebutuhan unik Anda, yang dapat mempercepat waktu masuk pasar, meningkatkan akurasi, atau mengurangi biaya alur kerja AI generatif. Anda dapat mengakses model-model tersebut melalui API terpadu Bedrock dan, jika kompatibel dengan Converse API dari Bedrock, menggunakannya secara native dengan alat Bedrock seperti Agen, Basis Pengetahuan, dan Pagar Pembatas. Anda dapat dengan mudah menghubungkan Amazon Bedrock Marketplace ke model nirserver Amazon Bedrock, semuanya dari satu tempat.
 

Cukup navigasikan ke halaman Katalog Model Amazon Bedrock di konsol Bedrock tempat Anda dapat mencari daftar model Marketplace Amazon Bedrock bersama dengan model Amazon Bedrock nirserver. Setelah memilih model Amazon Bedrock Marketplace yang ingin digunakan, Anda dapat berlangganan model melalui halaman Detail Model, dengan menerima EULA dan harga yang ditetapkan oleh penyedia. Setelah langganan selesai, yang biasanya memerlukan waktu beberapa menit, Anda dapat men-deploy model ke titik akhir SageMaker yang terkelola penuh dengan mengklik Deploy di halaman Detail Model atau menggunakan API. Pada langkah deployment, Anda dapat memilih jumlah instans dan tipe instans yang diinginkan untuk memenuhi beban kerja Anda. Setelah titik akhir diatur, yang biasanya memerlukan waktu 10-15 menit, Anda dapat mulai membuat panggilan inferensi ke titik akhir dan menggunakan model di alat canggih Bedrock, asalkan model tersebut kompatibel dengan Converse API dari Bedrock.

Model dengan arsitektur yang didukung oleh Impor Model Kustom (Mistral, Mixtral, Flan, dan Llama2/3/3.1/3.2) dapat disempurnakan di SageMaker dan disediakan di Amazon Bedrock melalui Impor Model Kustom. Model yang tidak didukung oleh Impor Model Kustom masih dapat disempurnakan di SageMaker. Namun, versi yang disempurnakan dari model ini tidak dapat digunakan di Amazon Bedrock.

Apa itu Otomatisasi Data Bedrock? Otomatisasi Data Amazon Bedrock adalah kemampuan Bedrock yang didukung GenAI yang menyederhanakan pengembangan aplikasi AI generatif dan mengotomatiskan alur kerja yang melibatkan dokumen, gambar, audio, dan video. Dengan memanfaatkan Otomatisasi Data Bedrock, developer dapat mengurangi waktu dan upaya pengembangan, sehingga memudahkan dalam membangun pemrosesan dokumen cerdas, analisis media, dan solusi otomatisasi berbasis data multimodal lainnya. Otomatisasi Data Bedrock menawarkan akurasi terdepan di industri dengan biaya yang lebih rendah daripada solusi alternatif, bersama dengan fitur-fitur seperti landasan visual dengan skor kepercayaan untuk kejelasan dan mitigasi halusinasi bawaan. Layanan ini memastikan wawasan yang dapat dipercaya dan akurat dari sumber data multimodal yang tidak terstruktur. Pelanggan dapat dengan mudah menyesuaikan output Otomatisasi Data Bedrock untuk menghasilkan wawasan spesifik dalam format yang konsisten yang dibutuhkan oleh sistem dan aplikasi mereka. Developer memulai dengan Otomatisasi Data Bedrock di konsol Amazon Bedrock, tempat mereka dapat mengonfigurasi dan menyesuaikan output menggunakan data sampel. Mereka kemudian dapat mengintegrasikan API inferensi multimodal terpadu Otomatisasi Data Bedrock ke dalam aplikasi mereka untuk memproses konten yang tidak terstruktur pada skala produksi dengan akurasi dan konsistensi yang tinggi. Otomatisasi Data Bedrock juga terintegrasi dengan Basis Pengetahuan Bedrock, sehingga memudahkan developer untuk menghasilkan informasi yang bermakna dari konten multimodal tidak terstruktur mereka agar dapat memberikan respons yang lebih relevan untuk retrieval augmented generation (RAG).

Otomatisasi Data Bedrock memudahkan transformasi data korporasi yang tidak terstruktur menjadi format output khusus aplikasi yang dapat digunakan oleh aplikasi AI gen dan alur kerja ETL. Pelanggan tidak perlu lagi menghabiskan waktu dan upaya dalam mengelola dan mengorkestrasi banyak model, prompt rekayasa, menerapkan pagar pembatas keselamatan, atau menyatukan output untuk menyelaraskannya dengan persyaratan sistem downstream. Otomatisasi Data Bedrock menghadirkan pemrosesan data tidak terstruktur yang sangat akurat, konsisten, dan terjangkau. Otomatisasi Data Bedrock dibangun dengan mempertimbangkan AI yang bertanggung jawab, yang memberi pelanggan fitur-fitur utama seperti landasan visual dan skor kepercayaan, yang memudahkan untuk mengintegrasikan Otomatisasi Data Bedrock dalam alur kerja korporasi.

Kemampuan Otomatisasi Data Bedrock tersedia melalui API terkelola penuh yang dapat dengan mudah diintegrasikan oleh pelanggan ke dalam aplikasi mereka. Pelanggan tidak perlu khawatir tentang penskalaan sumber daya komputasi yang mendasarinya, pemilihan dan orkestrasi model, atau manajemen prompt untuk FM.

Cetak biru adalah fitur yang digunakan pelanggan untuk menentukan persyaratan output mereka menggunakan bahasa alami atau editor skema. Fitur tersebut termasuk daftar bidang yang ingin mereka ekstrak, format data untuk setiap bidang, dan instruksi bahasa alami untuk setiap bidang. Misalnya, developer dapat mengetik, "Buat cetak biru untuk faktur dengan bidang berikut: tax, dueDate, ReceiptDate" atau "Pastikan total faktur sesuai dengan jumlah item baris". Mereka mereferensikan cetak biru sebagai bagian dari panggilan API inferensi sehingga sistem menampilkan informasi dalam format yang dijelaskan dalam cetak biru.

Dokumen

Otomatisasi Data Bedrock mendukung output standar dan output kustom untuk dokumen.

• Output standar akan memberikan ekstraksi teks dari dokumen dan output generatif seperti ringkasan dokumen serta keterangan untuk tabel/gambar/diagram. Output dikembalikan dalam urutan baca dan secara opsional dapat dikelompokkan berdasarkan elemen tata letak, yang akan mencakup header/footer/judul/tabel/gambar/diagram. Output standar akan digunakan untuk integrasi BDA dengan Basis Pengetahuan Bedrock.
• Output Kustom memanfaatkan cetak biru, yang menentukan persyaratan output menggunakan bahasa alami atau editor skema. Cetak biru mencakup daftar bidang yang akan diekstrak dan format data untuk setiap bidang.

Otomatisasi Data Bedrock mendukung PDF, PNG, JPG, TIFF, maksimum 1500 halaman, dan ukuran maksimum file 500 MB per permintaan API. Secara default, BDA akan mendukung 50 tugas bersamaan dan 10 transaksi per detik per pelanggan.

Gambar

Otomatisasi Data Bedrock mendukung output standar maupun output kustom untuk gambar.

• Output standar akan menyediakan ringkasan, deteksi konten eksplisit, deteksi teks, deteksi logo, dan taksonomi Iklan: IAB untuk gambar. Output standar akan digunakan untuk integrasi BDA dengan Basis Pengetahuan Bedrock.
• Output Kustom memanfaatkan cetak biru, yang menentukan persyaratan output menggunakan bahasa alami atau editor skema. Cetak biru mencakup daftar bidang yang akan diekstrak dan format data untuk setiap bidang.

Otomatisasi Data Bedrock mendukung JPG, PNG, resolusi maksimum 4K, dan ukuran maksimum file 5 MB per permintaan API. Secara default, BDA mendukung konkurensi maksimal 20 gambar pada 10 transaksi per detik (TPS) per pelanggan.

Video

Otomatisasi Data Bedrock mendukung kedua output standar untuk video.

• Output standar akan menyediakan ringkasan video lengkap, segmentasi bagian, ringkasan bagian, transkripsi audio lengkap, identifikasi pembicara, deteksi konten eksplisit, deteksi teks, deteksi logo, dan taksonomi Interactive Advertising Bureau (IAB) untuk video. Ringkasan video lengkap dioptimalkan untuk konten dengan dialog deskriptif seperti gambaran umum produk, pelatihan, siaran berita, dan dokumenter.

Otomatisasi Data Bedrock mendukung MOV dan MKV dengan H.264, VP8, VP9, durasi maksimum video 4 jam, dan ukuran maksimum file 2 GB per permintaan API. Secara default, BDA mendukung konkurensi maksimal 20 video pada 10 transaksi per detik (TPS) per pelanggan.

Audio

Otomatisasi Data Bedrock mendukung kedua output standar untuk audio.

• Output standar akan menyediakan ringkasan, termasuk ringkasan bagian, transkripsi lengkap, dan deteksi moderasi konten eksplisit untuk file audio.

Otomatisasi Data Bedrock mendukung FLAC, M4A, MP3, MP4, Ogg, WebM, WAV, durasi maksimum audio 4 jam, dan ukuran maksimum file 2 GB per permintaan API.

Otomatisasi Data Amazon Bedrock umumnya tersedia di AWS Region AS Barat (Oregon) dan AS Timur (Virginia Utara).

Otomatisasi Data Amazon Bedrock saat ini mendukung bahasa Inggris. Dukungan bahasa tambahan akan segera hadir pada tahun 2025.

Amazon Bedrock dapat diakses melalui Konsol Manajemen AWS, API, atau Studio Terpadu Amazon SageMaker. Dalam Studio Terpadu Amazon SageMaker, pengguna dapat dengan cepat membangun dan mengulangi aplikasi AI generatif dengan menggunakan model fondasi (FM) performa tinggi. Melalui antarmuka yang intuitif, Anda dapat bereksperimen dengan berbagai model, berkolaborasi dalam proyek, dan menyederhanakan akses ke berbagai alat serta sumber daya Bedrock untuk membangun aplikasi AI generatif dengan cepat.

Untuk mengakses kemampuan Amazon Bedrock dalam Studio Terpadu Amazon SageMaker, developer dan admin mereka harus mengikuti langkah-langkah berikut:

1. Buat domain baru di Amazon SageMaker Unified Studio.
2. Aktifkan profil proyek pengembangan aplikasi Gen AI.
3. Akses Amazon Bedrock melalui bagian Playground AI Generatif (Temukan) dan Pengembangan Aplikasi AI Generatif (Build), menggunakan kredensial masuk tunggal (SSO) perusahaan mereka di Studio Terpadu Amazon SageMaker.

Meskipun Amazon Bedrock dapat diakses melalui Konsol Manajemen AWS, API, atau Studio Terpadu Amazon SageMaker, kemampuannya dalam Studio Terpadu SageMaker dikembangkan berdasarkan Studio Amazon Bedrock (yang kini tidak lagi tersedia) dengan beberapa peningkatan utama. Saat diakses melalui Studio Terpadu Amazon SageMaker, Amazon Bedrock menyediakan akses ke model AI canggih dari perusahaan terkemuka, alat untuk membuat dan menguji prompt AI, serta kelancaran integrasi dengan Basis Pengetahuan Amazon Bedrock, Pagar Pembatas Amazon Bedrock, Alur Amazon Bedrock, dan Agen Amazon Bedrock. Tim dapat berkolaborasi di sebuah ruang kerja bersama untuk membangun aplikasi AI kustom yang disesuaikan dengan kebutuhan mereka.

Fitur-fitur baru mencakup hub model untuk perbandingan model AI secara berdampingan, playground yang diperluas dengan dukungan interaksi obrolan, gambar, dan video, serta peningkatan pembuatan Basis Pengetahuan dengan kemampuan perayapan web. IDE ini memperkenalkan pembuatan Agen untuk aplikasi obrolan yang lebih kompleks dan menyederhanakan berbagi aplikasi serta prompt AI di dalam organisasi. IDE juga menawarkan akses ke kode aplikasi yang mendasarinya dan kemampuan untuk mengekspor aplikasi obrolan sebagai templat CloudFormation. Dengan mengelola detail infrastruktur AWS, IDE ini memungkinkan pengguna dari berbagai tingkat keahlian untuk membuat aplikasi AI dengan lebih efisien, sehingga menjadikannya alat yang lebih serbaguna dan kuat daripada pendahulunya.

IDE Amazon Bedrock telah diganti namanya untuk lebih merepresentasikan kemampuan inti Amazon Bedrock yang diakses melalui lingkungan terkelola Studio Terpadu Amazon SageMaker.

Saat mengakses antarmuka Amazon Bedrock melalui Studio Terpadu Amazon SageMaker, tim mendapatkan manfaat dari lingkungan terkelola yang mendukung kolaborasi. Tim dapat membuat proyek, mengundang kolega, dan secara kolaboratif membangun aplikasi AI generatif bersama. Mereka dapat menerima umpan balik cepat tentang prototipe dan berbagi aplikasi dengan siapa pun di Studio Terpadu SageMaker atau dengan pengguna tertentu di domain. Kontrol akses yang kuat dan fitur tata kelola hanya mengotorisasi anggota yang berwenang untuk mengakses sumber daya proyek seperti data atau aplikasi AI generatif, sehingga mendukung privasi dan kepatuhan data, serta dengan demikian mendorong kolaborasi dan berbagi lintas fungsi yang aman. Selain itu, aplikasi AI generatif dapat dibagikan dari builder ke pengguna tertentu di domain Studio Terpadu SageMaker, atau dengan individu tertentu, sehingga memungkinkan hak akses, kontrol, dan tata kelola aset yang tepat.

Meskipun Amazon Bedrock dapat diakses melalui Konsol Manajemen AWS, API, atau Studio Terpadu Amazon SageMaker, integrasi ini menghilangkan hambatan antara data, alat, dan pengembang dalam proses pengembangan AI generatif. Tim mendapatkan pengalaman pengembangan terpadu dengan mengakses lingkungan dan alat analitik JupyterLab yang sudah dikenal, sekaligus menggabungkan kemampuan AI generatif Amazon Bedrock dengan lancar—semuanya dalam ruang kerja yang sama.

Lingkungan terpadu memungkinkan kolaborasi yang lancar di antara para developer dari berbagai tingkat keterampilan di sepanjang siklus pengembangan - mulai dari persiapan data hingga pengembangan model dan pembangunan aplikasi AI generatif. Tim dapat mengakses alat terintegrasi untuk pembuatan basis pengetahuan, konfigurasi pagar pembatas, dan pengembangan aplikasi AI generatif beperforma tinggi, semuanya dalam kerangka kerja yang aman dan terkelola.

Dalam Amazon SageMaker Unified Studio, developer dapat dengan mudah beralih di antara alat yang berbeda berdasarkan kebutuhan mereka dengan menggabungkan kemampuan analitik, machine learning, dan AI generatif dalam satu ruang kerja. Pendekatan konsolidasi ini mengurangi kompleksitas pengembangan dan mempercepat waktu pencapaian nilai untuk proyek AI generatif. Dengan membawa Amazon Bedrock ke dalam Studio Terpadu Amazon SageMaker, AWS mengurangi hambatan masuk untuk pengembangan AI generatif sekaligus mempertahankan keamanan dan tata kelola kelas korporasi, yang pada akhirnya memungkinkan organisasi untuk lebih cepat dan lebih efektif dengan AI generatif.

Kemampuan Amazon Bedrock di Studio Terpadu Amazon SageMaker sangat ideal untuk tim perusahaan yang memerlukan lingkungan terkelola untuk membangun dan melakukan deployment aplikasi AI generatif secara kolaboratif. Melalui Studio Terpadu Amazon SageMaker, tim dapat mengakses:
 

• Playground AI Generatif di bagian Temukan memungkinkan tim untuk bereksperimen dengan model fondasi (FM), menguji berbagai model dan konfigurasi, membandingkan output model, serta berkolaborasi dalam pembuatan prompt dan aplikasi. Lingkungan ini menyediakan cara yang lancar bagi tim untuk mengevaluasi dan memahami kemampuan berbagai model sebelum mengimplementasikannya dalam aplikasi mereka.
   
• Pengembangan Aplikasi AI Generatif di bagian Build menyediakan alat yang diperlukan tim untuk membuat aplikasi AI generatif yang siap produksi. Tim dapat membuat dan mengelola Basis Pengetahuan, menerapkan Pagar Pembatas untuk AI yang bertanggung jawab, mengembangkan Agen dan Alur, serta berkolaborasi secara aman sekaligus mempertahankan kontrol tata kelola dan kepatuhan. Lingkungan ini sangat berharga bagi organisasi yang memerlukan keamanan kolaborasi dan kelancaran akses ke seluruh kemampuan Amazon Bedrock, sekaligus tetap menjaga standar keamanan dan kepatuhan perusahaan.

Kemampuan Amazon Bedrock sekarang secara umum tersedia di Studio Terpadu Amazon SageMaker, dengan menawarkan lingkungan kolaboratif yang tertata yang memberdayakan pengembang untuk membuat dan menyesuaikan aplikasi AI generatif dengan cepat. Antarmuka intuitif ini melayani pengembang dari semua tingkat keahlian, dengan menyediakan akses tanpa batas ke model fondasi (FM) performa tinggi di Amazon Bedrock dan alat kustomisasi canggih untuk pengembangan kolaboratif aplikasi AI generatif yang disesuaikan.

Di Studio Terpadu Amazon SageMaker, Amazon Bedrock terintegrasi secara lancar dengan kemampuan analitik, machine learning (ML), dan AI generatif Amazon SageMaker. Organisasi dapat lebih cepat beralih dari konsep ke produksi dengan membuat prototipe dan bereksperimen dengan model fondasi di Amazon Bedrock, lalu dengan mudah beralih ke notebook JupyterLab atau editor kode untuk mengintegrasikan sumber daya ini ke dalam aplikasi dan alur kerja yang lebih luas. Ruang kerja terkonsolidasi ini menyederhanakan kompleksitas, sehingga memungkinkan pembuatan prototipe, iterasi, dan deployment yang lebih cepat untuk aplikasi AI generatif yang siap produksi serta bertanggung jawab dan selaras dengan persyaratan bisnis tertentu.

Amazon Bedrock di Studio Terpadu SageMaker terikat oleh kuota dan batas akun yang ditentukan untuk platform serta sumber daya Amazon Bedrock yang mendasarinya, seperti model fondasi (FM), Basis Pengetahuan, Agen, Alur, dan Pagar Pembatas.

Akses ke Amazon Bedrock melalui Studio Terpadu SageMaker hadir tanpa biaya tambahan, dan pengguna hanya membayar untuk penggunaan sumber daya yang mendasari yang diperlukan oleh aplikasi AI generatif yang mereka buat. Misalnya, pelanggan hanya akan membayar untuk model terkait, Pagar Pembatas, dan Basis Pengetahuan yang telah mereka gunakan pada aplikasi AI generatifnya. Untuk informasi selengkapnya, kunjungi halaman harga Amazon Bedrock.

Amazon Bedrock di Studio Terpadu SageMaker terikat oleh SLA yang sama dengan Amazon Bedrock. Untuk informasi selengkapnya, kunjungi halaman Perjanjian Tingkat Layanan Amazon Bedrock.

Untuk memfasilitasi kelancaran pengalaman onboarding dengan Amazon Bedrock di Studio Terpadu SageMaker, Anda dapat menemukan dokumentasi yang terperinci di Panduan Pengguna. Jika Anda memiliki pertanyaan tambahan atau memerlukan bantuan lebih lanjut, jangan ragu untuk menghubungi tim akun AWS.