Amazon Bedrock SSS

Amazon Bedrock aracıları; geliştiricilerin, çok çeşitli kullanım örnekleri için karmaşık görevleri tamamlayabilen ve tescilli bilgi kaynaklarına dayalı güncel cevaplar sunabilen üretici yapay zeka tabanlı uygulamalar oluşturmasını kolaylaştıran, tam olarak yönetilen yeteneklerdir. Sadece birkaç tıklamayla Amazon Bedrock aracıları, herhangi bir manuel kodlama yapmadan görevleri otomatik olarak parçalar ve bir düzenleme planı oluşturur. Aracı, bir API aracılığıyla şirket verilerine güvenli bir şekilde bağlanır, verileri otomatik olarak makine tarafından okunabilir bir formata dönüştürür ve en doğru yanıtı oluşturmak için isteği ilgili bilgilerle artırır. Aracılar daha sonra kullanıcının isteğini yerine getirmek için API'leri otomatik olarak çağırabilir. Örneğin bir üretim şirketi, envanter seviyelerini, satış verilerini, tedarik zinciri bilgilerini izlemeyi otomatikleştiren ve verimliliği en üst düzeye çıkarmak için en uygun yeniden sipariş noktalarını ve miktarlarını önerebilen üretici yapay zeka uygulaması geliştirmek isteyebilir. Tam yönetilen yetenekler olarak Amazon Bedrock aracıları, sistem entegrasyonu ve altyapı tedarik yönetiminin farklılaşmamış yükünü ortadan kaldırarak geliştiricilerin, kuruluşları genelinde üretici yapay zekayı tam anlamıyla kullanmalarına olanak tanır.

Amazon Bedrock aracılarını kullanarak FM'leri şirketinizin veri kaynaklarına güvenli bir şekilde bağlayabilirsiniz. Bilgi tabanıyla, Amazon Bedrock'taki FM'lerin, FM'yi sürekli olarak yeniden eğitmeden modelin daha alakalı, bağlama özgü ve doğru yanıtlar üretmesine yardımcı olan ek verilere erişimini sağlamak için aracıları kullanabilirsiniz. Kullanıcı girdisine dayanarak, aracılar uygun bilgi tabanını belirler, ilgili bilgileri alır ve bilgileri girdi istemine ekler ve modeli tamamlamak için daha fazla bağlam bilgisi verir.

Amazon Bedrock aracıları, üretkenliği artırmanıza, müşteri hizmetleri deneyiminizi geliştirmenize veya DevOps görevlerini otomatikleştirmenize yardımcı olabilir.

Aracılar sayesinde geliştiriciler, özel kod yazmadan izleme, şifreleme, kullanıcı izinleri ve API çağrı yönetimi için kesintisiz destekten yararlanabilirler. Amazon Bedrock aracıları, kullanıcı tarafından talep edilen görevlerin istem mühendisliğini ve düzenlemesini otomatikleştirir. Geliştiriciler, geliştirilmiş bir kullanıcı deneyimi için aracının oluşturduğu istem şablonunu esas alabilir. Kullanıcı girişini, düzenleme planını ve altyapı modeli yanıtını güncelleyebilirler. İstek şablonuna erişim sayesinde geliştiriciler, Agent düzenleme üzerinde daha iyi kontrole sahiptir.

Tamamen yönetilen aracılar sayesinde altyapıyı sağlama veya yönetme konusunda endişelenmenize gerek kalmaz ve uygulamaları daha hızlı bir şekilde üretime taşıyabilirsiniz.

Amazon Bedrock tarafından işlenen her müşteri içeriği, Amazon Bedrock'ı kullanmakta olduğunuz AWS Bölgesinde bekleme durumunda şifrelenir ve depolanır.

Hayır. Kullanıcı girdileri ve model çıktıları, model sağlayıcılarıyla paylaşılmaz.

Amazon Bedrock, güvenlik ve gizlilik gereksinimlerini desteklemek için çeşitli özellikler sunar. Bedrock; Hizmet Kuruluş Denetimi (SOC), Uluslararası Standartlar Teşkilatı (ISO), Sağlık Sigortası Taşınabilirlik ve Sorumluluk Yasası (HIPAA) gibi ortak uyumluluk standartlarına uygundur ve müşteriler Bedrock'ı Genel Veri Koruma Tüzüğü (GDPR) uyarınca kullanabilirler. Amazon Bedrock, SOC 1, 2 ve 3 raporlarının kapsamına dahil edilmiştir ve müşterilerin güvenlik kontrollerimiz hakkında fikir edinmelerini sağlar. AWS kontrollerimizin kapsamlı üçüncü taraf denetimleriyle uyumluluğu gösteriyoruz. Amazon Bedrock; ISO 9001, ISO 27001, ISO 27017, ISO 27018, ISO 27701, ISO 22301 ve ISO 20000 standartlarına yönelik ISO Uyumluluğu kapsamındaki AWS hizmetlerinden biridir. Amazon Bedrock, en iyi uygulamaların kullanımını ve AWS bulut tekliflerinin güvenlik durumunu doğrulayan CSA Security Trust Assurance and Risk (STAR) Seviye 2 sertifikasına sahiptir. Amazon Bedrock ile içeriğiniz temel modelleri geliştirmek için kullanılmaz ve herhangi bir model sağlayıcıyla paylaşılmaz. Verilerinizi internet trafiğine maruz bırakmak zorunda kalmadan Amazon Sanal Özel Bulutunuzdan (VPC) Amazon Bedrock'a özel bağlantı kurmak için AWS PrivateLink'i kullanabilirsiniz.

Hayır. AWS ve üçüncü taraf model sağlayıcıları Amazon Titan'ı veya üçüncü taraf modellerini eğitmek için Bedrock'a müşteri girdilerini veya Bedrock'tan müşteri çıktılarını kullanmaz.

Amazon Bedrock, çalışma zamanı hizmetleri için SDK'leri destekler. iOS ve Android SDK'lerinin yanı sıra Java, JS, Python, CLI, .Net, Ruby, PHP, Go ve CPP hem metin hem de konuşma girişini destekler.

Akış tüm SDK'lerde desteklenir.

Güncel fiyatlandırma bilgileri için lütfen Amazon Bedrock Fiyatlandırması Sayfasına bakın.

Amazon Bedrock, AWS destek sözleşmenize bağlı olarak Geliştirici Desteği, İşletme Desteği ve Kurumsal Destek planları kapsamında desteklenir.

Girdi ve çıktı belirteçlerini takip etmek için CloudWatch ölçümlerini kullanabilirsiniz.

Amazon Bedrock ile FM'leri gizli olarak özelleştirebilir ve verilerinizin nasıl kullanıldığını ve şifrelendiğini kontrol edebilirsiniz. Amazon Bedrock, temel altyapı modelinin ayrı bir kopyasını oluşturur ve modelin bu özel kopyasını eğitir. İstemler, bir istemi tamamlamak için kullanılan bilgiler, FM yanıtları ve özelleştirilmiş FM'ler dahil verileriniz, API çağrısının işlendiği Bölgede kalır.

Amazon Bedrock'ta Titan Text Express ve Titan modelleri için Sürekli Ön Eğitimi başlattık. Bu, büyük miktarlarda etiketlenmemiş veri kullanarak bir Titan temel modelinde ön eğitime devam etmenizi sağlayacaktır. Bu tür bir eğitim, modeli genel bir alan kitaplığından tıp, hukuk, finans vb. gibi daha spesifik bir alan kitaplığına uyarlarken Titan temel modelinin becerilerinin çoğunu koruyacaktır. 

Tipik olarak, işletmeler belirli bir alandaki görevler için modeller oluşturmak isteyebilir. Temel modeller, söz konusu alanda kullanılan teknik jargon konusunda eğitilmemiş olabilir. Bu nedenle, temel modele doğrudan ince ayar yapılması, doğru sonuçlar elde etmek için büyük miktarda etiketli eğitim kaydı ve uzun bir eğitim süresi gerektirecektir. Bu yükü hafifletmek amacıyla müşteri Sürekli Ön Eğitim işi için büyük miktarlarda etiketlenmemiş veri sağlayabilir. Bu iş Titan temel modelini yeni alana uyarlayacaktır. Daha sonra müşteri, önemli ölçüde daha az etiketli eğitim kaydı ve daha az eğitim süresiyle yeni önceden eğitilmiş özel modele aşağı akış görevlerine göre ince ayar yapabilir. 

Bedrock Sürekli Ön Eğitim ve İnce Ayarlama (FT) çok benzer gereksinimlere sahiptir. Bu nedenle, hem CPT hem de FT'yi destekleyen birleşik API'ler oluşturmayı seçiyoruz. API'lerin birleştirilmesi öğrenme eğrisini azaltır ve müşterilerin uzun süren işleri takip etmek için CloudWatch Event Bridge, eğitim verilerini almak için S3 entegrasyonu, Kaynak etiketleri ve Model şifrelemesi gibi standart özellikleri kullanmasına yardımcı olur. 

Sürekli Ön Eğitim, Titan modellerinin temel işlevselliğini korurken onları alanınıza özgü verilerinize kolayca uyarlamanıza yardımcı olur. Sürekli Ön Eğitim işi oluşturmak için Bedrock Konsoluna gidin ve "Özel Modeller" ögesine tıklayın. İki sekmesi olan özel model sayfasına gideceksiniz: Modeller ve Eğitim işleri. Her iki sekme de sağda "Modeli Özelleştir" adlı bir açılır menü sağlar. "Sürekli Ön Eğitim işi oluştur" ekranına gitmek için Modeli Özelleştir açılır menüsünden "Sürekli Ön Eğitim" seçeneğini belirleyin. Kaynak modelini, adı, model şifrelemesini, giriş verilerini, hiper parametreleri ve çıktı verilerini sağlayın. Ek olarak, iş için IAM rolleri ve kaynak politikaları hakkında ayrıntılarla birlikte Etiketler de sağlayabilirsiniz.

Amazon Bedrock'a özel olan Amazon Titan model ailesi, Amazon'un kendi işletmesinde yapay zeka ve makine öğrenimi konusundaki 25 yıllık yenilik yapma deneyimini bir araya getiriyor. Amazon Titan altyapı modelleri (FM'ler), müşterilere tam olarak yönetilen bir API aracılığıyla çok çeşitli yüksek performanslı görüntü modeli, çok modlu model ve metin modeli seçenekleri sunar. Amazon Titan modelleri AWS tarafından oluşturulur ve büyük veri kümeleri üzerinde önceden eğitilerek çeşitli kullanım örneklerini desteklemek için oluşturulmuş güçlü, genel amaçlı modeller haline gelir ve aynı zamanda yapay zekanın sorumlu kullanımını destekler. Bunları olduğu gibi kullanın veya kendi verilerinizle özel olarak kişiselleştirin.

Amazon Titan FM'lerini geliştirmek ve eğitmek amacıyla işlenen veriler hakkında daha fazla bilgi edinmek için Amazon Titan Model Eğitimi ve Gizlilik sayfasını ziyaret edin.

Desteklenen veri formatları arasında .pdf, .txt, .md, .html, .doc ve.docx, .csv, .xls ve.xlsx dosyaları bulunur. Dosyalar Amazon S3'e yüklenmelidir. Amazon S3'te verilerinizin konumunu göstermeniz yeterlidir. Amazon Bedrock İçin Bilgi Tabanları, vektör veri tabanınıza aktarma iş akışının tamamını halleder.

Amazon Bedrock İçin Bilgi Tabanları, metni yerleştirmeye dönüştürmeden önce parçalamak üzere üç seçenek sunar. 

1.  Varsayılan seçenek: Amazon Bedrock İçin Bilgi Tabanları, belgenizi otomatik olarak her biri 200 belirteç içeren parçalara bölerken cümlelerin ortadan bölünmemesini sağlar. Bir belge 200'den az belirteç içeriyorsa daha fazla bölünmez. İki ardışık parça arasında belirteçlerin %20'si örtüşür.

2.  Sabit boyutlu parçalama: Bu seçenekte, Amazon Bedrock İçin Bilgi Tabanlarında, belgenizi otomatik olarak parçalara bölmek üzere parça başına maksimum belirteç sayısını ve parçalar arasındaki örtüşme yüzdesini belirtebilirsiniz. 

3.  Belge başına bir yerleştirme oluştur seçeneği: Amazon Bedrock, belge başına bir yerleştirme oluşturur. Bu seçenek, belgelerinizi ayrı dosyalara bölerek önceden işlediyseniz ve Bedrock'ın belgelerinizi daha fazla parçalamasını istemiyorsanız uygundur.
 

Şu anda Amazon Bedrock İçin Bilgi Tabanları, Amazon Bedrock'ta bulunan Titan Metin Yerleştirme modelinin en son sürümünü kullanmaktadır. Titan Metin Yerleştirme modeli, 8K belirteçleri ve 25'ten fazla dili desteklemenin yanında 1.536 boyutunda bir yerleştirme oluşturur. 

Amazon Bedrock İçin Bilgi Tabanları, belgelerinizi yerleştirmeye (vektör) dönüştürmeye ve yerleştirmeleri özel bir vektör veri tabanına depolamaya yönelik tüm alım iş akışını halleder. Amazon Bedrock İçin Bilgi Tabanları; Amazon OpenSearch Sunucusuz için vektör altyapısı, Pinecone, Redis Enterprise Cloud, Amazon Aurora (yakında) ve MongoDB (yakında) dahil olmak üzere popüler vektör depolama veri tabanlarını destekler. Mevcut bir vektör veri tabanınız yoksa Amazon Bedrock sizin için bir Amazon OpenSearch Sunucusuz vektör deposu oluşturur.

Kullanım durumunuza bağlı olarak Amazon EventBridge'i Amazon S3 ile Amazon Bedrock İçin Bilgi Tabanları arasında periyodik veya olay odaklı bir senkronizasyon oluşturmak üzere kullanabilirsiniz.

Amazon Bedrock'ta Model Değerlendirmesi yalnızca birkaç tıklamayla kullanım durumunuz için en iyi altyapı modelini değerlendirmenize, karşılaştırmanıza ve seçmenize olanak tanır. Amazon Bedrock, otomatik değerlendirme ve insan değerlendirmesi seçenekleri sunar. Doğruluk, sağlamlık ve toksisite gibi önceden tanımlanmış ölçümlerle otomatik değerlendirmeyi kullanabilirsiniz. Samimiyet, stil ve marka sesine uyum gibi öznel veya özel ölçümler için insan değerlendirme iş akışlarını kullanabilirsiniz. İnsan değerlendirmesi için kurum içi çalışanlarınızdan veya AWS tarafından yönetilen bir ekipten değerlendirici olarak yararlanabilirsiniz. Model değerlendirmesi, yerleşik seçilmiş veri kümeleri sağlar veya kendi veri kümelerinizi getirebilirsiniz.

Otomatik değerlendirmeleri kullanarak doğruluk, sağlamlık ve toksisite gibi önceden tanımlanmış çeşitli ölçümleri değerlendirebilirsiniz. Samimiyet, alaka düzeyi, stil ve marka sesine uyum gibi öznel veya özel ölçümler için insan değerlendirme iş akışlarını da kullanabilirsiniz.

Otomatik değerlendirmeler, mevcut altyapı modellerinin listesini standart kriterlere (doğruluk, toksisite ve sağlamlık gibi) göre hızlı bir şekilde daraltmanıza olanak tanır. İnsan temelli değerlendirmeler genellikle insan yargısını gerektiren ve otomatik değerlendirmelerin bulunmayabileceği (marka sesi, yaratıcı niyet, samimiyet gibi) daha nüanslı veya öznel kriterleri değerlendirmek için kullanılır.

Seçilmiş dahili veri kümelerinden yararlanarak veya kendi istem veri kümelerinizi getirerek Bedrock modellerini doğruluk, sağlamlık ve toksisite gibi ölçümler için hızlı bir şekilde değerlendirebilirsiniz. İstek veri kümeleriniz çıkarım için Amazon Bedrock modellerine gönderildikten sonra model yanıtları her boyut için değerlendirme algoritmalarıyla puanlanır. Arka uç motoru, bireysel hızlı yanıt puanlarını özet puanlar olarak toplar ve bunları anlaşılması kolay görsel raporlar aracılığıyla sunar.

Amazon Bedrock, birkaç tıklamayla insan incelemesi iş akışları oluşturarak şirket içi çalışanlarınızı getirmenize veya modelleri değerlendirmek için AWS tarafından yönetilen bir uzman ekibinden yararlanmanıza olanak tanır. Amazon Bedrock'ın sezgisel arabirimi sayesinde insanlar beğenme/beğenmeme simgesine tıklayarak, 1 ila 5 ölçeğinde derecelendirerek, birden çok yanıt arasından en iyisini seçerek veya istemleri derecelendirerek model yanıtlarını inceleyebilir ve geri bildirim verebilir. Örneğin, bir ekip üyesine iki modelin aynı isteme nasıl yanıt verdiği gösterilebilir ve kendisinden daha doğru, alakalı veya stilistik çıktılar gösteren modeli seçmesi istenebilir. Talimatları ve düğmeleri ekibinizin değerlendirme Kullanıcı Arayüzünde görünecek şekilde özelleştirerek sizin için önemli olan değerlendirme kriterlerini belirtebilirsiniz. Ayrıca örnekleri ve model değerlendirmesinin genel amacını içeren ayrıntılı talimatlar da sağlayabilirsiniz, böylece çalışmalarını buna göre ayarlayabilirler. Bu yöntem, insan yargısı veya daha nüanslı konu uzmanlığı gerektiren ve otomatik değerlendirmelerle kolayca değerlendirilemeyen öznel kriterleri değerlendirmek açısından kullanışlıdır.

Amazon Bedrock için Bütünlük Korumaları, kullanım örneklerinize ve sorumlu yapay zeka politikalarınıza dayalı olarak üretici yapay zeka uygulamalarınız için önlemler uygulamanıza olanak tanır. Bütünlük Korumaları, istenmeyen ve zararlı içeriği filtreleyerek kullanıcılar ile Altyapı Modelleri (FM'ler) arasındaki etkileşimi kontrol etmeye yardımcı olur ve yakın gelecekte kimliği tanımlayabilecek bilgileri (PII) düzenleyerek üretici yapay zeka uygulamalarında içerik güvenliğini ve gizliliğini artıracaktır. Belirli kullanım örneklerine göre uyarlanmış farklı yapılandırmalara sahip birden fazla bütünlük koruması oluşturabilirsiniz. Ek olarak, bütünlük korumalarında müşteri tanımlı politikaları ihlal edebilecek kullanıcı girdilerini ve altyapı modelleri yanıtlarını sürekli olarak izleyebilir ve analiz edebilirsiniz.

Bütünlük korumaları, müşterilerin üretici yapay zeka uygulamalarını korumaya yardımcı olacak bir dizi politika tanımlamasına olanak tanır. Bir bütünlük korumasında aşağıdaki politikaları yapılandırabilirsiniz.

• Reddedilen Konular: Uygulamanız bağlamında istenmeyen bir dizi konu tanımlayabilirsiniz. Örneğin, bir çevrim içi bankacılık asistanı, yatırım tavsiyesi vermekten kaçınacak şekilde tasarlanabilir.
• İçerik Filtreleri: Zararlı içeriği nefret, hakaret, cinsellik ve şiddet kategorileri arasında filtrelemek için eşikleri yapılandırabilirsiniz.
• Kelime Filtreleri (Çok Yakında): Kullanıcı girdilerinde ve FM tarafından oluşturulan yanıtlarda engellenecek bir dizi kelime tanımlayabilirsiniz.
• PII Sansürü (Çok Yakında): FM tarafından oluşturulan yanıtlarda sansürlenebilecek bir dizi PII seçebilirsiniz. Kullanım durumuna bağlı olarak, PII içeriyorsa bir kullanıcı girdisini de engelleyebilirsiniz.

Bütünlük Korumaları; Titan, Anthropic Claude, Meta Llama 2, AI21 Jurassic ve Cohere Komut Altyapı Modelleri dahil olmak üzere Amazon Bedrock'ta bulunan tüm büyük dil modelleriyle kullanılabilir. Ayrıca ince ayarlanmış altyapı modellerinin yanı sıra Amazon Bedrock Temsilcileri'yle de kullanılabilir.

AWS, aşağıdaki genel kullanıma sunulan Amazon üretici yapay zeka hizmetlerinin üretici çıktısından kaynaklanan telif hakkı talepleri için sınırsız fikri mülkiyet (IP) tazminatı sunar: Amazon Titan modelleri, Amazon CodeWhisperer Profesyonel ve Hizmet Koşulları'nın Bölüm 50.10'da listelenen diğer Hizmetler ("Tazmin Edilen Üretici Yapay Zeka Hizmetleri"). Bu, müşterilerin, müşteri tarafından sağlanan girdilere veya diğer verilere yanıt olarak Tazmin Edilen Üretici Yapay Zeka Hizmetleri tarafından oluşturulan çıktıdan kaynaklı telif hakkı ihlaline yönelik üçüncü taraf iddialarından korunduğu anlamına gelir. Müşteriler ayrıca Hizmetleri ihlale neden olacak verileri girmeyerek veya bir Hizmetin filtreleme özelliklerini devre dışı bırakmayarak sorumlu bir şekilde kullanmalıdır.

Ek olarak, Hizmetlerin kullanımına ilişkin standart IP tazminatımız, müşterileri Hizmetler ve onları eğitmek için kullanılan veriler tarafından IP ihlaline (telif hakkı iddiaları dahil) yönelik üçüncü taraf iddialarından korur.