Amazon Bedrock SSS
Genel
Amazon Bedrock nedir?
Amazon Bedrock; üretici yapay zeka uygulamaları oluşturmak, geliştirmeyi güvenlik, gizlilik ve sorumlu yapay zekayla birleştirmek için ihtiyaç duyduğunuz geniş bir yetenek setinin yanı sıra sektöre yön veren altyapı modelleri (FM'ler) seçenekleri sağlayan tam olarak yönetilen bir hizmettir. Amazon Bedrock'ın kapsamlı yetenekleriyle çeşitli üst düzey FM'leri deneyebilir, ince ayar ve retrieval-augmented generation (RAG) gibi teknikleri kullanarak bunları verilerinizle gizli olarak özelleştirebilir ve kod yazmadan karmaşık iş görevlerini (seyahat rezervasyonları ve sigorta taleplerinin işlenmesinden reklam kampanyaları oluşturmaya ve envanter yönetimine kadar) yürüten, yönetilen aracılar oluşturabilirsiniz. Amazon Bedrock sunucusuz olduğundan herhangi bir altyapıyı yönetmek zorunda değilsiniz ve zaten aşina olduğunuz AWS hizmetlerini kullanarak üretici yapay zeka yeteneklerini uygulamalarınıza güvenli bir şekilde entegre edebilir ve dağıtabilirsiniz.
Amazon Bedrock'ta hangi altyapı modelleri kullanılabilir?
Amazon Bedrock müşterileri, günümüzde mevcut olan en son teknoloji altyapı modellerinden bazılarını seçebilir. Buna aşağıdakilerden gelen dil ve katıştırma modelleri dahildir:
- AI21 Labs: Jurassic – 2 Ultra, Jurassic – 2 Mid
- Anthropic: Claude 3 Opus, Claude 3 Sonnet, Claude 3 Haiku
- Cohere: Command R, Command R+, Embed
- Meta: Llama 3 8B, Llama 3 70B
- Mistral AI: Mistral 8X7B Instruct, Mistral 7B Instruct, Mistral Large, Mistral Small
- Stability AI: Stable Diffusion XL 1.0
- Amazon Titan: Amazon Titan Metin Premier, Amazon Titan Metin Hızlı, Amazon Titan Metin Hafif, Amazon Titan Metin Katıştırma, Amazon Titan Metin Katıştırma V2, Amazon Titan Çok Modlu Katıştırma, Amazon Titan Görüntü Oluşturucu
Neden Amazon Bedrock hizmetini kullanmalıyım?
Amazon Bedrock'ı üretici yapay zeka uygulamaları oluşturmak için kullanmanın beş nedeni vardır.
- Önde gelen altyapı modellerinin seçimi: Amazon Bedrock, Amazon'un ve AI21 Labs, Anthropic, Cohere, Meta, Mistral AI ve Stability AI gibi önde gelen yapay zeka şirketlerinin sunduğu çok çeşitli yüksek performanslı altyapı modelleriyle çalışmak için kullanımı kolay bir geliştirici deneyimi sunar. Oyun alanında çeşitli altyapı modellerini hızlı bir şekilde deneyebilir ve seçtiğiniz modellerden bağımsız olarak çıkarım için tek bir API kullanabilirsiniz. Bu da, farklı sağlayıcılardan gelen altyapı modellerini kullanma ve minimum kod değişikliği ile en son model sürümlerini güncel tutma esnekliği sağlar.
- Verilerinizle kolay model özelleştirme: Altyapı modellerini herhangi bir kod yazmadan görsel bir arayüz aracılığıyla kendi verilerinizle özel olarak özelleştirin. Amazon Basit Depolama Hizmeti'nde (Amazon S3) depolanan eğitim ve doğrulama veri kümelerini seçin ve gerekirse mümkün olan en iyi model performansını elde etmek için hiper parametreleri ayarlayın.
- Görevleri yürütmek için API'leri dinamik olarak çağırabilen tam yönetilen temsilciler: Şirket sistemlerinizi ve API'lerinizi dinamik olarak çağırarak seyahat rezervasyonu ve sigorta taleplerini işlemekten reklam kampanyaları oluşturmaya, vergi beyannamelerini hazırlamaya ve envanterinizi yönetmeye kadar karmaşık iş görevlerini yürüten temsilciler oluşturun. Amazon Bedrock'ın tam olarak yönetilen aracıları, görevleri parçalamak, bir düzenleme planı oluşturmak ve yürütmek için altyapı modellerinin akıl yürütme özelliklerini genişletir.
- Özel verilerle altyapı modellerinin gücünü genişletmek üzere RAG'a yönelik yerel destek: Amazon Bedrock için Bilgi Tabanları ile artırma almak üzere yönetilen hizmet içinden altyapı modellerini veri kaynaklarınıza güvenli bir şekilde bağlayarak altyapı modelinin zaten güçlü özelliklerini genişletebilir ve belirli etki alanınız ve kuruluşunuz hakkında daha bilgili hale getirebilirsiniz.
- Veri güvenliği ve uyumluluk sertifikaları: Amazon Bedrock, güvenlik ve gizlilik gereksinimlerini desteklemek için çeşitli özellikler sunar. Amazon Bedrock; Hizmet ve Kuruluş Denetimi (SOC), Uluslararası Standartlar Teşkilatı (ISO), Sağlık Sigortası Taşınabilirlik ve Sorumluluk Yasası (HIPAA) gibi ortak uyumluluk standartlarına uygundur ve müşteriler Amazon Bedrock'ı Genel Veri Koruma Tüzüğü (GDPR) uyarınca kullanabilirler. Amazon Bedrock, en iyi uygulamaların kullanımını ve AWS bulut tekliflerinin güvenlik durumunu doğrulayan CSA Security Trust Assurance and Risk (STAR) Seviye 2 sertifikasına sahiptir. Amazon Bedrock ile içeriğiniz temel modelleri geliştirmek için kullanılmaz ve herhangi bir model sağlayıcıyla paylaşılmaz. Amazon Bedrock'taki verileriniz aktarım sırasında ve durgunken her zaman şifrelenir. İsteğe bağlı olarak verileri kendi anahtarlarınızı kullanarak şifreleyebilirsiniz. Trafiğinizi İnternet'e maruz bırakmadan altyapı modelleriniz ile Amazon Sanal Özel Bulutunuz (Amazon VPC) arasında özel bağlantı kurmak için Amazon Bedrock ile AWS PrivateLink'i kullanabilirsiniz.
Amazon Bedrock'ı kullanmaya nasıl başlayabilirim?
Amazon Bedrock'ın sunucusuz deneyimiyle, hızlı bir şekilde kullanmaya başlayabilirsiniz. AWS Yönetim Konsolu'nda Amazon Bedrock'a gidin ve oyun alanındaki FM'leri deneyin. Ayrıca bir aracı oluşturabilir ve konsolda test edebilirsiniz. Kullanım örneğinizi belirledikten sonra, herhangi bir altyapıyı yönetmek zorunda kalmadan AWS araçlarını kullanarak FM'leri uygulamalarınıza kolayca entegre edebilirsiniz.
Amazon Bedrock kullanmaya başlama kursu bağlantısı
Amazon Bedrock kullanıcı kılavuzu bağlantısı
Amazon Bedrock diğer hizmetlerle nasıl çalışır?
Amazon Bedrock, eylemleri çağırmak için AWS Lambda, eğitim ve doğrulama verileri için Amazon S3 ve ölçümleri izlemek için Amazon CloudWatch ile çalışır.
Amazon Bedrock için en yaygın kullanım durumları nelerdir?
Kullanım örneklerini kullanmaya hızlı bir şekilde başlayabilirsiniz:
- Öyküler, denemeler, sosyal medya gönderileri ve web sayfası kopyası gibi yeni özgün içerik parçaları oluşturun.
- Büyük bir veri grubundan soruları yanıtlamak için bilgileri arayın, bulun ve sentezleyin.
- Dil istemlerinden çeşitli konuların, ortamların ve sahnelerin gerçekçi ve sanatsal görüntülerini oluşturun.
- Kelime eşleştirmeden daha alakalı ve bağlamsal ürün önerileriyle müşterilerin aradıklarını bulmalarına yardımcı olun.
- Makaleler, blog gönderileri, kitaplar ve belgeler gibi metin içeriğinin özünü anlamak için tamamını okumak zorunda kalmadan özetini alın.
- Müşteri tercihlerine ve geçmiş satın alımlara uyan ürünler önerin
Daha fazla üretici yapay zeka kullanım örneği keşfedin.
Amazon Bedrock Oyun Alanı nedir?
Amazon Bedrock, konuşma sohbeti arabirimi kullanarak çeşitli FM'leri denemenizi sağlayan bir oyun alanı sunar. Bir istem sağlayabilir ve istemi sağlamak için konsol içinde bir web arabirimi kullanabilir, metin veya resim oluşturmak için önceden eğitilmiş modellerden yararlanabilir veya alternatif olarak kullanım örneğinize uyarlanmış ince ayarlanmış bir modeli tercih edebilirsiniz.
Amazon Bedrock'a hangi AWS Bölgelerinde erişilebilir?
Amazon Bedrock'ın kullanılabildiği AWS Bölgelerinin listesi için Amazon Bedrock Başvuru Kılavuzu'ndaki Amazon Bedrock uç noktaları ve kotaları bölümüne bakın.
Amazon Bedrock'ta bir modeli nasıl özelleştirebilirim?
Etiketli verileri kullanarak veya etiketlenmemiş verileri kullanarak modeli özelleştirmek için devam eden eğitim öncesi özelliğini kullanarak Amazon Bedrock'ta altyapı modellerine kolayca ince ayar yapabilirsiniz. Kullanmaya başlamak için eğitim ve doğrulama veri kümesini sağlayın, hiper parametreleri (dönemler, toplu iş boyutu, öğrenme hızı, ısınma adımları) yapılandırın ve işi gönderin. Birkaç saat içinde, ince ayarlanmış modelinize aynı API (InvokeModel) ile erişilebilir.
Bir modeli eğitip Amazon Bedrock'ta dağıtabilir miyim?
Evet, belirli herkese açık modelleri eğitebilir ve Özel Model İçeri Aktarma özelliğini kullanarak bunları Amazon Bedrock'a aktarabilirsiniz. Şu anda bu özellik yalnızca Llama 2/3, Mistral ve Flan mimarilerini desteklemektedir. Ek bilgi için bkz. belgeler.
Aracılar
Amazon Bedrock aracıları nelerdir?
Amazon Bedrock aracıları; geliştiricilerin, çok çeşitli kullanım örnekleri için karmaşık görevleri tamamlayabilen ve tescilli bilgi kaynaklarına dayalı güncel cevaplar sunabilen üretici yapay zeka tabanlı uygulamalar oluşturmasını kolaylaştıran, tam olarak yönetilen yeteneklerdir. Sadece birkaç kısa adımla Amazon Bedrock aracıları, herhangi bir manuel kodlama yapmadan görevleri otomatik olarak parçalar ve bir düzenleme planı oluşturur. Aracı, bir API aracılığıyla şirket verilerine güvenli bir şekilde bağlanır, verileri otomatik olarak makine tarafından okunabilir bir formata dönüştürür ve en doğru yanıtı oluşturmak için isteği ilgili bilgilerle artırır. Aracılar daha sonra kullanıcının isteğini yerine getirmek için API'leri otomatik olarak çağırabilir. Örneğin bir üretim şirketi, envanter seviyelerini, satış verilerini, tedarik zinciri bilgilerini izlemeyi otomatikleştiren ve verimliliği en üst düzeye çıkarmak için en uygun yeniden sipariş noktalarını ve miktarlarını önerebilen üretici yapay zeka uygulaması geliştirmek isteyebilir. Tam yönetilen yetenekler olarak Amazon Bedrock aracıları, sistem entegrasyonu ve altyapı tedarik yönetiminin farklılaşmamış yükünü ortadan kaldırarak geliştiricilerin, kuruluşları genelinde üretici yapay zekayı tam anlamıyla kullanmalarına olanak tanır.
FM'leri şirket veri kaynaklarıma nasıl bağlayabilirim?
Amazon Bedrock aracılarını kullanarak FM'leri şirketinizin veri kaynaklarına güvenli bir şekilde bağlayabilirsiniz. Bilgi tabanıyla, Amazon Bedrock'taki FM'lerin, FM'yi sürekli olarak yeniden eğitmeden modelin daha alakalı, bağlama özgü ve doğru yanıtlar üretmesine yardımcı olan ek verilere erişimini sağlamak için aracıları kullanabilirsiniz. Kullanıcı girdisine dayanarak, aracılar uygun bilgi tabanını belirler, ilgili bilgileri alır ve bilgileri girdi istemine ekler ve modeli tamamlamak için daha fazla bağlam bilgisi verir.
Amazon Bedrock aracıları için kullanım durumlarından bazıları nelerdir?
Amazon Bedrock aracıları; üretkenliği artırmanızı, müşteri hizmetleri deneyiminizi geliştirmenizi veya iş akışlarını otomatikleştirmenizi (sigorta taleplerini işleme koyma gibi) sağlayabilir.
Amazon Bedrock aracıları, geliştirici üretkenliğini artırmaya nasıl yardımcı olur?
Aracılar sayesinde geliştiriciler, özel kod yazmadan izleme, şifreleme, kullanıcı izinleri, sürüm oluşturma ve API çağrı yönetimi için kesintisiz destekten yararlanabilirler. Amazon Bedrock aracıları, kullanıcı tarafından talep edilen görevlerin istem mühendisliğini ve düzenlemesini otomatikleştirir. Geliştiriciler, geliştirilmiş bir kullanıcı deneyimi için aracının oluşturduğu istem şablonunu esas alabilir. Kullanıcı girişini, düzenleme planını ve altyapı modeli yanıtını güncelleyebilirler. İstek şablonuna erişim sayesinde geliştiriciler, Agent düzenleme üzerinde daha iyi kontrole sahiptir.
Tamamen yönetilen aracılar sayesinde altyapıyı sağlama veya yönetme konusunda endişelenmenize gerek kalmaz ve uygulamaları daha hızlı bir şekilde üretime taşıyabilirsiniz.
Güvenlik
Amazon Bedrock tarafından işlenen içerik, Amazon Bedrock'ı kullanmakta olduğum AWS Bölgesi dışına taşınır mı?
Amazon Bedrock tarafından işlenen her müşteri içeriği, Amazon Bedrock'ı kullanmakta olduğunuz AWS Bölgesinde bekleme durumunda şifrelenir ve depolanır.
Kullanıcı girdileri ve model çıktıları üçüncü taraf model sağlayıcılarına sunuluyor mu?
Hayır. Kullanıcı girdileri ve model çıktıları, model sağlayıcılarıyla paylaşılmaz.
Amazon Bedrock hangi güvenlik ve uyumluluk standartlarını destekliyor?
Amazon Bedrock, güvenlik ve gizlilik gereksinimlerini desteklemek için çeşitli özellikler sunar. Amazon Bedrock; Fedramp Orta, Hizmet Kuruluş Denetimi (SOC), Uluslararası Standartlar Teşkilatı (ISO), Sağlık Sigortası Taşınabilirlik ve Sorumluluk Yasası (HIPAA) uygunluğu gibi ortak uyumluluk standartları kapsamındadır ve müşteriler Bedrock'ı Genel Veri Koruma Tüzüğü (GDPR) uyarınca kullanabilirler. Amazon Bedrock, SOC 1, 2 ve 3 raporlarının kapsamına dahil edilmiştir ve müşterilerin güvenlik kontrollerimiz hakkında fikir edinmelerini sağlar. AWS kontrollerimizin kapsamlı üçüncü taraf denetimleriyle uyumluluğu gösteriyoruz. Amazon Bedrock; ISO 9001, ISO 27001, ISO 27017, ISO 27018, ISO 27701, ISO 22301 ve ISO 20000 standartlarına yönelik ISO Uyumluluğu kapsamındaki AWS hizmetlerinden biridir. Amazon Bedrock, en iyi uygulamaların kullanımını ve AWS bulut tekliflerinin güvenlik durumunu doğrulayan CSA Security Trust Assurance and Risk (STAR) Seviye 2 sertifikasına sahiptir. Amazon Bedrock ile içeriğiniz temel modelleri geliştirmek için kullanılmaz ve herhangi bir model sağlayıcıyla paylaşılmaz. Verilerinizi internet trafiğine maruz bırakmak zorunda kalmadan Amazon VPC'den Amazon Bedrock'a özel bağlantı kurmak için AWS PrivateLink'i kullanabilirsiniz.
AWS ve üçüncü taraf model sağlayıcıları Amazon Titan'ı veya üçüncü taraf modellerini eğitmek için Amazon Bedrock'a müşteri girdilerini veya Amazon Bedrock'tan müşteri çıktılarını kullanır mı?
Hayır. AWS ve üçüncü taraf model sağlayıcıları Amazon Titan'ı veya üçüncü taraf modellerini eğitmek için Amazon Bedrock'a müşteri girdilerini veya Bedrock'tan müşteri çıktılarını kullanmaz.
SDK
Amazon Bedrock için hangi SDK'ler destekleniyor?
Amazon Bedrock, çalışma zamanı hizmetleri için SDK'ları destekler. iOS ve Android SDK'larının yanı sıra Java, JS, Python, CLI, .Net, Ruby, PHP, Go ve C++ hem metin hem de konuşma girişini destekler.
Hangi SDK'ler akış işlevini destekliyor?
Akış tüm SDK'lerde desteklenir.
Faturalama ve destek
Amazon Bedrock'ın maliyeti nedir?
Güncel fiyatlandırma bilgileri için lütfen Amazon Bedrock fiyatlandırması sayfasına bakın.
Amazon Bedrock için ne tür destek sağlanır?
Amazon Bedrock, AWS Destek sözleşmenize bağlı olarak Geliştirici Desteği, İşletme Desteği ve Kurumsal Destek planları kapsamında desteklenir.
Girdi ve çıktı belirteçlerini nasıl takip edebilirim?
Girdi ve çıktı belirteçlerini takip etmek için CloudWatch ölçümlerini kullanabilirsiniz.
Özelleştirme
Amazon Bedrock üzerinden erişilebilen FM'leri özelleştirmek için verilerimi nasıl güvenli bir şekilde kullanabilirim?
Amazon Bedrock ile FM'leri gizli olarak özelleştirebilir ve verilerinizin nasıl kullanıldığını ve şifrelendiğini kontrol edebilirsiniz. Amazon Bedrock, temel altyapı modelinin (FM) ayrı bir kopyasını oluşturur ve modelin bu özel kopyasını eğitir. İstemler dahil verileriniz, bir istemi tamamlamak için kullanılan bilgiler ve altyapı modeli (FM) yanıtları. Özelleştirilmiş altyapı modelleri (FM), API çağrısının işlendiği bölgede kalır.
Amazon Bedrock sürekli ön eğitimi destekliyor mu?
Amazon Titan Text Express ve Amazon Bedrock'ta Amazon Titan modelleri için sürekli ön eğitim başlattık. Sürekli ön eğitim, büyük miktarlarda etiketlenmemiş veri kullanarak bir Amazon Titan temel modelinde ön eğitime devam etmenize olanak tanır. Bu tür bir eğitim, modeli genel bir etki alanı kitaplığından tıp, hukuk, finans vb. gibi daha spesifik bir etki alanı kitaplığına uyarlarken Amazon Titan temel modelinin becerilerinin çoğunu koruyacaktır.
Neden Amazon Bedrock'ta sürekli ön eğitimi kullanmalıyım?
İşletmeler belirli bir etki alanındaki görevler için modeller oluşturmak isteyebilir. Temel modeller, söz konusu alanda kullanılan teknik jargon konusunda eğitilmemiş olabilir. Bu nedenle, doğrudan temel modelde ince ayar yapılması, doğru sonuçlar elde etmek için büyük miktarda etiketli eğitim kaydı ve uzun bir eğitim süresi gerektirir. Bu yükü hafifletmek amacıyla müşteri sürekli ön eğitim işi için büyük miktarlarda etiketlenmemiş veri sağlayabilir. Bu iş Amazon Titan temel modelini yeni etki alanına uyarlayacaktır. Daha sonra müşteri, önemli ölçüde daha az etiketli eğitim kaydı ve daha kısa eğitim süresiyle yeni önceden eğitilmiş özel modele aşağı akış görevlerine göre ince ayar yapabilir.
Sürekli ön eğitim özelliği diğer AWS hizmetleriyle nasıl ilişkilidir?
Amazon Bedrock sürekli ön eğitim ve ince ayarlama çok benzer gereksinimlere sahiptir. Bu nedenle hem sürekli ön eğitimi hem de ince ayarlamayı destekleyen birleşik API'ler oluşturmayı seçiyoruz. API'lerin birleştirilmesi öğrenme eğrisini azaltır ve müşterilerin uzun süren işleri takip etmek için Amazon EventBridge, eğitim verilerini almak için Amazon S3 entegrasyonu, kaynak etiketleri ve model şifrelemesi gibi standart özellikleri kullanmasına yardımcı olur.
Sürekli ön eğitimi nasıl kullanırım?
Sürekli ön eğitim, Amazon Titan modellerinin temel işlevselliğini korurken Amazon Titan modellerini etki alanınıza özgü verilerinize kolayca uyarlamanıza yardımcı olur. Sürekli ön eğitim işi oluşturmak için Amazon Bedrock konsoluna gidin ve "Özel Modeller" ögesine tıklayın. İki sekmesi olan özel model sayfasına gideceksiniz: Modeller ve Eğitim işleri. Her iki sekme de sağda bir "Modeli Özelleştir" açılır menüsü sağlar. "Sürekli Ön Eğitim İşi Oluştur" bölümüne gitmek için açılır menüden "Sürekli Ön Eğitim" seçeneğini seçin. Kaynak modelini, adı, model şifrelemesini, giriş verilerini, hiper parametreleri ve çıktı verilerini sağlayın. Ek olarak iş için AWS Kimlik ve Erişim Yönetimi (IAM) rolleri ve kaynak politikalarıyla ilgili ayrıntıların yanı sıra etiketler sağlayabilirsiniz.
Amazon Titan
Amazon Titan modelleri nelerdir?
Amazon Bedrock'a özel olan Amazon Titan model ailesi, Amazon'un iş dünyasında yapay zeka ve makine öğrenimi konularındaki 25 yıllık yenilik yapma deneyimlerini bir araya getiriyor. Amazon Titan altyapı modelleri (FM), müşterilere tam olarak yönetilen bir API aracılığıyla çok çeşitli yüksek performanslı görüntü modeli, çok modlu model ve metin modeli seçenekleri sunar. Amazon Titan modelleri AWS tarafından oluşturulur ve büyük veri kümeleri üzerinde önceden eğitilerek çeşitli kullanım örneklerini desteklemek için oluşturulmuş güçlü, genel amaçlı modeller haline gelir ve aynı zamanda yapay zekanın sorumlu kullanımını destekler. Bunları olduğu gibi kullanın veya kendi verilerinizle özel olarak kişiselleştirin. Amazon Titan hakkında daha fazla bilgi edinin.
Amazon Titan altyapı modellerini (FM) geliştirmek ve eğitmek için işlenen veriler hakkında nereden daha fazla bilgi edinebilirim?
Amazon Titan altyapı modellerini (FM) geliştirmek ve eğitmek amacıyla işlenen veriler hakkında daha fazla bilgi edinmek için Amazon Titan Model Eğitimi ve Gizlilik sayfasını ziyaret edin.
Veri alma kapasitesi artırılmış üretim (RAG)
Amazon Bedrock bilgi tabanları tarafından hangi tür veri biçimleri kabul edilmektedir?
Desteklenen veri formatları arasında .pdf, .txt, .md, .html, .doc ve.docx, .csv, .xls ve.xlsx dosyaları bulunur. Dosyalar Amazon S3'e yüklenmelidir. Amazon S3'te verilerinizin konumunu gösterin. Amazon Bedrock bilgi tabanları, vektör veri tabanınıza aktarma iş akışının tamamını üstlenir.
Amazon Bedrock bilgi tabanları, katıştırmaya dönüştürmeden önce belgeleri nasıl parçalar?
Amazon Bedrock bilgi tabanları, metni katıştırmaya dönüştürmeden önce parçalamak üzere üç seçenek sunar.
1. Varsayılan seçenek: Amazon Bedrock bilgi tabanları, belgenizi otomatik olarak her biri 200 belirteç içeren parçalara bölerken cümlelerin ortadan bölünmemesini sağlar. Bir belge 200'den az belirteç içeriyorsa daha fazla bölünmez. İki ardışık parça arasında belirteçlerin %20'si örtüşür.
2. Sabit boyutlu parçalama: Bu seçenekte, parça başına maksimum belirteç sayısını ve Amazon Bedrock bilgi tabanları parçaları arasındaki örtüşme yüzdesini belirtebilirsiniz, böylece belgeniz otomatik olarak parçalara bölünerek bir cümlenin ortadan bölünmemesi sağlanır.
3. Belge başına bir yerleştirme oluştur seçeneği: Amazon Bedrock, belge başına bir yerleştirme oluşturur. Bu seçenek, belgelerinizi ayrı dosyalara bölerek önceden işlediyseniz ve Amazon Bedrock'ın belgelerinizi daha fazla parçalamasını istemiyorsanız uygundur.
Belgeleri yerleştirmelere (vektörlere) dönüştürmek için hangi yerleştirme modeli kullanılır?
Şu anda Amazon Bedrock bilgi tabanları, Amazon Bedrock'ta bulunan Amazon Titan Metin Katıştırma modelinin en son sürümünü kullanır. Titan Metin Katıştırmaları V2 modeli 8K belirteçleri ve 100'den fazla dili destekler. Esnek 256, 512 ve 1.024 boyutunda bir katıştırma oluşturur.
Amazon Bedrock bilgi tabanları tarafından hangi vektör veri tabanları desteklenir?
Amazon Bedrock bilgi tabanları, belgelerinizi katıştırmalara (vektör) dönüştürmeye ve katıştırmaları özel bir vektör veri tabanına depolamaya yönelik tüm alım iş akışını üstlenir. Amazon Bedrock bilgi tabanları; Amazon OpenSearch Sunucusuz için vektör altyapısı, Pinecone, Redis Enterprise Cloud, Amazon Aurora (yakında) ve MongoDB (yakında) dahil olmak üzere popüler vektör depolama veri tabanlarını destekler. Mevcut bir vektör veri tabanınız yoksa Amazon Bedrock sizin için bir OpenSearch Sunucusuz vektör deposu oluşturur.
Amazon S3'ten Amazon Bedrock bilgi tabanlarına periyodik veya olay odaklı senkronizasyon yapmak mümkün müdür?
Kullanım durumunuza bağlı olarak Amazon EventBridge'i Amazon S3 ile Amazon Bedrock bilgi tabanları arasında periyodik veya olay odaklı bir senkronizasyon oluşturmak üzere kullanabilirsiniz.
Model değerlendirmesi
Amazon Bedrock'ta Model Değerlendirmesi nedir?
Amazon Bedrock'ta Model Değerlendirmesi yalnızca birkaç kısa adımda kullanım durumunuz için en iyi altyapı modelini (FM) değerlendirmenize, karşılaştırmanıza ve seçmenize olanak tanır. Amazon Bedrock, otomatik değerlendirme ve insan değerlendirmesi seçenekleri sunar. Doğruluk, sağlamlık ve toksisite gibi önceden tanımlanmış ölçümlerle otomatik değerlendirmeyi kullanabilirsiniz. Samimiyet, stil ve marka sesine uyum gibi öznel veya özel ölçümler için insan değerlendirme iş akışlarını kullanabilirsiniz. İnsan değerlendirmesi için kurum içi çalışanlarınızı veya AWS tarafından yönetilen bir ekibi gözden geçirici olarak kullanabilirsiniz. Amazon Bedrock'ta Model Değerlendirmesi, dahili seçilmiş veri kümeleri sağlar veya kendi veri kümelerinizi getirebilirsiniz.
Altyapı modellerini hangi ölçümlere göre değerlendirebilirim?
Otomatik değerlendirmeleri kullanarak doğruluk, sağlamlık ve toksisite gibi önceden tanımlanmış çeşitli ölçümleri değerlendirebilirsiniz. Samimiyet, alaka düzeyi, stil ve marka sesine uyum gibi öznel veya özel ölçümler için insan değerlendirme iş akışlarını da kullanabilirsiniz.
İnsan temelli ve otomatik değerlendirmeler arasındaki fark nedir?
Otomatik değerlendirmeler, mevcut altyapı modellerinin listesini standart kriterlere (doğruluk, toksisite ve sağlamlık gibi) göre hızlı bir şekilde daraltmanıza olanak tanır. İnsan temelli değerlendirmeler genellikle insan yargısını gerektiren ve otomatik değerlendirmelerin bulunmayabileceği (marka sesi, yaratıcı niyet, samimiyet gibi) daha nüanslı veya öznel kriterleri değerlendirmek için kullanılır.
Otomatik değerlendirme nasıl çalışır?
Seçilmiş dahili veri kümelerini kullanarak veya kendi istem veri kümelerinizi getirerek Amazon Bedrock modellerini doğruluk, sağlamlık ve toksiklik gibi ölçümler için hızlı bir şekilde değerlendirebilirsiniz. İstek veri kümeleriniz çıkarım için Amazon Bedrock modellerine gönderildikten sonra model yanıtları her boyut için değerlendirme algoritmalarıyla puanlanır. Arka uç motoru, bireysel hızlı yanıt puanlarını özet puanlar olarak toplar ve bunları anlaşılması kolay görsel raporlar aracılığıyla sunar.
İnsan değerlendirmesi nasıl çalışır?
Amazon Bedrock, birkaç kısa adımda insan incelemesi iş akışları oluşturarak şirket içi çalışanlarınızı getirmenize veya modelleri değerlendirmek için AWS tarafından yönetilen bir uzman ekibini kullanmanıza olanak tanır. Amazon Bedrock'ın sezgisel arabirimi sayesinde insanlar beğenme veya beğenmeme simgesine tıklayarak, 1 ila 5 ölçeğinde derecelendirerek, birden çok yanıt arasından en iyisini seçerek veya istemleri derecelendirerek model yanıtlarını inceleyebilir ve geri bildirim verebilir. Örneğin, bir ekip üyesine iki modelin aynı isteme nasıl yanıt verdiği gösterilebilir ve kendisinden daha doğru, alakalı veya stilistik çıktılar gösteren modeli seçmesi istenebilir. Talimatları ve düğmeleri ekibinizin değerlendirme Kullanıcı Arayüzünde görünecek şekilde özelleştirerek sizin için önemli olan değerlendirme kriterlerini belirtebilirsiniz. Ayrıca örnekleri ve model değerlendirmesinin genel amacını içeren ayrıntılı talimatlar da sağlayabilirsiniz, böylece kullanıcılar çalışmalarını buna göre ayarlayabilirler. Bu yöntem, insan yargısı veya daha nüanslı konu uzmanlığı gerektiren ve otomatik değerlendirmelerle kolayca değerlendirilemeyen öznel kriterleri değerlendirmek açısından kullanışlıdır.
Duyarlı yapay zeka
Amazon Bedrock bütünlük korumaları nelerdir?
Amazon Bedrock bütünlük korumaları, kullanım örneklerinize ve sorumlu yapay zeka politikalarınıza dayalı olarak üretici yapay zeka uygulamalarınız için önlemler uygulamanıza yardımcı olur. Bütünlük Korumaları, istenmeyen ve zararlı içeriği filtreleyerek kullanıcılar ile altyapı modelleri (FM) arasındaki etkileşimi kontrol etmeye yardımcı olur ve yakın gelecekte kimliği tanımlayabilecek bilgileri (PII) düzenleyerek üretici yapay zeka uygulamalarında içerik güvenliğini ve gizliliğini artıracaktır. Belirli kullanım örneklerine göre uyarlanmış farklı yapılandırmalara sahip birden fazla bütünlük koruması oluşturabilirsiniz. Ek olarak bütünlük korumalarıyla, müşteri tanımlı politikaları ihlal edebilecek kullanıcı girdilerini ve altyapı modeli (FM) yanıtlarını sürekli olarak izleyebilir ve analiz edebilirsiniz.
Amazon Bedrock bütünlük korumalarında mevcut güvenlik önlemleri nelerdir?
Bütünlük korumaları, üretici yapay zeka uygulamalarınızı korumaya yardımcı olacak bir dizi politika tanımlamanızı sağlar. Bir bütünlük korumasında aşağıdaki politikaları yapılandırabilirsiniz.
- Reddedilen konular: Uygulamanız bağlamında istenmeyen bir dizi konu tanımlamaya yardımcı olur. Örneğin, bir çevrim içi bankacılık asistanı, yatırım tavsiyesi vermekten kaçınacak şekilde tasarlanabilir.
- İçerik filtreleri: Zararlı içeriği nefret, hakaret, cinsellik ve şiddet kategorileri arasında filtrelemek için eşikleri yapılandırmanıza yardımcı olur.
- Kelime filtreleri: Kullanıcı girdilerinde ve altyapı modeli (FM) tarafından oluşturulan yanıtlarda engellenecek bir dizi kelime tanımlamanıza yardımcı olur.
- PII düzeltmesi: FM tarafından oluşturulan yanıtlarda düzeltilebilecek bir dizi kimliği tanımlayabilecek bilgi (PII) seçmenize yardımcı olur. Kullanım durumuna bağlı olarak Bütünlük Korumaları, PII içeren bir kullanıcı girişini engellemenize de yardımcı olabilir.
- Bağlamsal referans kontrolleri: Yanıtların kaynak bilgilerinde temellendirilmemesi (ör. olgusal olarak yanlış veya yeni bilgiler) ve kullanıcının sorgusu veya talimatıyla alakasız olması durumunda halüsinasyonların algılanmasına ve filtrelenmesine yardımcı olur.
Bütünlük korumalarını Amazon Bedrock'ta mevcut tüm altyapı modelleri ve araçlarla kullanabilir miyim?
Bütünlük korumaları, Amazon Bedrock'ta bulunan tüm büyük dil modelleri (LLM'ler) ile kullanılabilir. Ayrıca ince ayarlanmış altyapı modellerinin yanı sıra Amazon Bedrock Temsilcileri'yle de kullanılabilir.
AWS, üretici yapay zeka hizmetleri için telif hakkı taleplerini kapsayan bir fikri mülkiyet tazminatı sunuyor mu?
AWS, aşağıdaki genel kullanıma sunulan Amazon üretici yapay zeka hizmetlerinin üretici çıktısından kaynaklanan telif hakkı talepleri için sınırsız fikri mülkiyet (IP) tazminatı sunar: Amazon Titan modelleri, Amazon CodeWhisperer Profesyonel ve Hizmet Koşulları Bölüm 50.10'da listelenen diğer hizmetler ("Tazmin Edilen Üretici Yapay Zeka Hizmetleri"). Bu, müşterilerin, müşteri tarafından sağlanan girdilere veya diğer verilere yanıt olarak Tazmin Edilen Üretici Yapay Zeka Hizmetleri tarafından oluşturulan çıktıdan kaynaklı telif hakkı ihlaline yönelik üçüncü taraf iddialarından korunduğu anlamına gelir. Müşteriler ayrıca hizmetleri, ihlale neden olacak verileri girmeyerek veya bir Hizmetin filtreleme özelliklerini devre dışı bırakmayarak sorumlu bir şekilde kullanmalıdır.
Ek olarak hizmetlerin kullanımına ilişkin standart IP tazminatımız, müşterileri hizmetler ve onları eğitmek için kullanılan veriler tarafından IP ihlaline (telif hakkı iddiaları dahil) yönelik üçüncü taraf iddialarından korur.
Kullanıma hazır (yerleşik) bütünlük korumalarının bir listesi var mı ve neler özelleştirilebilir?
Her biri farklı kullanıma hazır korumalara sahip beş bütünlük koruması politikası mevcuttur
- İçerik filtreleri: Cezai suçlar dahil olmak üzere nefret, hakaret, cinsel, şiddet ve istem saldırısı adı verilen jailbreak ve prompt saldırısı gibi kullanıma hazır 6 kategoriye sahiptir. Her kategori, saldırganlık açısından daha fazla özelleştirilmiş eşiklere (düşük/orta/yüksek) sahip olabilir.
- Reddedilen konu: Müşterinin basit doğal dil açıklaması kullanarak tanımlayabileceği özelleştirilmiş konulardır
- Hassas bilgi filtresi: 30'dan fazla kullanıma hazır PII ile birlikte gelir. Müşterinin hassas olan özel bilgileri eklenerek daha da özelleştirilebilir.
- Kelime filtreleri: Küfür filtrelemesi olarak anılır ve özel kelimelerle daha da özelleştirilebilir.
- Bağlamsal temellendirme denetimleri: Model yanıtını doğrulamak üzere kaynak bilgilerin referans olarak kullanılabileceği RAG, özetleme ve konuşma uygulamaları için halüsinasyonları tespit etmede yardımcı olabilir.
Varsayılan bütünlük korumaları sosyal güvenlik numaralarını veya telefon numaralarını otomatik olarak algılar mı?
Temel modeller yerel korumalara sahiptir ve bunlar her modelle ilişkili varsayılan korumalardır. Bu yerel korumalar, Amazon Bedrock bütünlük korumalarının bir parçası DEĞİLDİR. Amazon Bedrock bütünlük korumaları, müşteri tarafından uygulama gereksinimlerine ve sorumlu yapay zeka politikalarına göre isteğe bağlı olarak uygulanabilen ek bir özelleştirilmiş koruma katmanıdır.
Amazon Bedrock bütünlük korumalarının bir parçası olarak, sosyal güvenlik numarası ve telefon numarası algılama, 30'dan fazla kullanıma hazır kimliği tanımlayabilecek bilgilerin bir parçasıdır. Tam listeye buradan ulaşabilirsiniz.
Müşterilerin Amazon Bedrock bütünlük koruması oluşturması için ayrı bir maliyet var mı? Ayrıca hem girdi hem de çıktılara mı uygulanır?
Amazon Bedrock bütünlük korumalarını kullanmak için ayrı bir maliyet vardır. Hem girdi hem de çıktılara uygulanabilir. Fiyatlandırma bölümüne buradan ulaşabilirsiniz.
Müşteriler, kurdukları bütünlük korumalarının etkinliği konusunda otomatik testler yapabilir mi? Devamlı izleme için bir "test durumu oluşturucu" (gazeteci terimi) var mı?
Evet. Amazon Bedrock Bütünlük Koruması API'leri, müşterilerin otomatik testler çalıştırmasına yardımcı olur. "Test durumu oluşturucu" aracını, üretimde bütünlük korumaları dağıtmadan önce kullanmak isteyebilirsiniz. Henüz yerel bir test durumu oluşturucu yok. Bütünlük korumaları, üretim trafiğinin sürekli izlenmesi adına her girdi ve çıktı için tüm ihlallerin ayrıntılı günlüklerini sağlar. Böylece müşteriler, kendi üretici yapay zeka uygulamalarında giren ve çıkan her girdiyi ayrıntılı olarak izleyebilir. Bu günlükler CloudWatch veya S3'te saklanabilir ve müşterilerin gereksinimlerine göre özel panolar oluşturmak için kullanılabilir.
Bugün aradığınızı buldunuz mu?
Sayfalarımızdaki içeriğin kalitesini artırabilmemiz için bize görüşlerinizi bildirin.