Almayla Artırılmış Üretim nedir?
Almayla Artırılmış Üretim (RAG), bir büyük dil modelinin çıktısını optimize etme sürecidir. Dolayısıyla bu yaklaşım, bir yanıt oluşturmadan önce eğitim veri kaynaklarının dışında yetkili bir bilgi tabanına başvurur. Büyük Dil Modelleri (LLM'ler) çok miktarda veri üzerinde eğitilir ve soruları cevaplama, dilleri çevirme ve cümleleri tamamlama gibi görevler için orijinal çıktılar üretmek amacıyla milyarlarca parametre kullanır. RAG, LLM'lerin zaten güçlü yeteneklerini belirli etki alanlarına veya bir kuruluşun dahili bilgi tabanına genişletir ve tüm bunları yaparken modeli yeniden eğitmeye gerek olmaz. RAG, LLM çıktısını iyileştirmeye yönelik uygun maliyetli bir yaklaşımdır. Dolayısıyla çeşitli bağlamlarda alakalı, doğru ve kullanışlı kalır.
Almayla Artırılmış Üretim neden önemlidir?
LLM'ler, akıllı sohbet robotlarını ve diğer doğal dil işleme (NLP) uygulamalarını destekleyen önemli bir yapay zeka (AI) teknolojisidir. Amaç, yetkili bilgi kaynaklarına çapraz referans vererek çeşitli bağlamlarda kullanıcı sorularını cevaplayabilen bot'lar oluşturmaktır. Ne yazık ki LLM teknolojisinin doğası LLM yanıtlarına öngörülemezlik getirmektedir. Buna ek olarak LLM eğitim verileri statiktir ve sahip olduğu bilgi için bir son tarih sunar.
LLM'lerin bilinen zorlukları şunları içerir:
- Cevabı olmadığında yanlış bilgi sunma.
- Kullanıcı belirli, güncel bir yanıt beklediğinde güncel olmayan veya genel bilgi sunma.
- Yetkili olmayan kaynaklardan yanıt oluşturma.
- Farklı eğitim kaynaklarının farklı şeyler hakkında konuşmak için aynı terminolojiyi kullandığı terminoloji karışıklığı nedeniyle yanlış yanıtlar oluşturma.
Büyük Dil Modelini, güncel olaylardan haberdar olmayı reddeden ancak her soruyu her zaman mutlak bir güvenle cevaplayacak aşırı hevesli yeni bir çalışan olarak düşünebilirsiniz. Ne yazık ki böyle bir tutum kullanıcı güvenini olumsuz etkileyebilir ve sohbet robotlarınızın öykünmesini istediğiniz bir şey değildir.
RAG, bu zorlukların bazılarını çözmeye yönelik yaklaşımlardan biridir. Bu yaklaşım, LLM'yi önceden belirlenmiş yetkili bilgi kaynaklarından alakalı bilgileri almaya yeniden yönlendirir. Kuruluşlar üretilen metin çıktısı üzerinde daha fazla denetime sahiptir ve kullanıcılar LLM'nin yanıtı nasıl ürettiğine dair öngörüler elde eder.
Almayla Artırılmış Üretim'in avantajları nelerdir?
RAG teknolojisi, bir kuruluşun üretici yapay zeka çalışmaları için çeşitli avantajlar sağlar.
Uygun maliyetli uygulama
Sohbet robotu geliştirme genellikle bir altyapı modeli kullanılarak başlar. Altyapı modelleri (FM'ler), geniş yelpazedeki genelleştirilmiş ve etiketlenmemiş veriler üzerinde eğitilen API tarafından erişilebilir LLM'lerdir. FM'lerin kuruluşa veya etki alanına özgü bilgiler için yeniden eğitilmesinin hesaplamaya dayalı ve finansal maliyetleri yüksektir. RAG, LLM'ye yeni veriler sunmaya yönelik daha uygun maliyetli bir yaklaşımdır. Bu yaklaşım, üretici yapay zeka teknolojisini daha geniş çapta erişilebilir ve kullanılabilir hâle getirir.
Güncel bilgiler
Bir LLM için orijinal eğitim veri kaynakları, ihtiyaçlarınıza uygun olsa bile alaka düzeyini korumak zordur. RAG, geliştiricilerin üretici modellere ilişkin son araştırmaları, istatistikleri veya haberleri sağlamasına olanak tanır. Geliştiriciler, LLM'yi doğrudan canlı sosyal medya akışlarına, haber sitelerine veya sık güncellenen diğer bilgi kaynaklarına bağlamak için RAG kullanabilir. LLM daha sonra kullanıcılara en son bilgileri sağlayabilir.
Artan kullanıcı güveni
RAG, LLM'nin kaynak ilişkilendirmesi ile doğru bilgi sunmasına olanak verir. Çıktı, kaynaklara yönelik alıntılar veya referanslar içerebilir. Kullanıcılar, daha fazla açıklamaya veya daha fazla ayrıntıya ihtiyaç duyarsa kaynak belgeleri kendileri de arayıp bulabilir. Bu da üretici yapay zeka çözümünüze olan güven ve inancı artırabilir.
Daha fazla geliştirici denetimi
RAG ile geliştiriciler sohbet uygulamalarını daha verimli bir şekilde test edebilir ve geliştirebilir. Geliştiriciler, değişen gereksinimlere veya işlevler arası kullanıma uyum sağlamak için LLM'nin bilgi kaynaklarını denetleyebilir ve değiştirebilir. Geliştiriciler, ayrıca hassas bilgilerin alınmasını farklı yetkilendirme seviyeleriyle kısıtlayabilir ve LLM'nin uygun yanıtlar üretmesini sağlayabilir. Buna ek olarak LLM belirli sorular için yanlış bilgi kaynaklarına başvurursa sorunları giderip düzeltmeler de yapabilir. Kuruluşlar, daha geniş yelpazedeki uygulamalar için üretici yapay zeka teknolojisini daha kendinden emin bir şekilde uygulayabilir.
Almayla Artırılmış Üretim nasıl çalışır?
RAG olmadan LLM, kullanıcı girdisini alır ve üzerinde eğitildiği bilgilere veya zaten bildiklerine dayalı olarak bir yanıt oluşturur. RAG ile, ilk olarak yeni bir veri kaynağından bilgi çekmek için kullanıcı girdisini kullanan bir bilgi alma bileşeni tanıtılır. Kullanıcı sorgusu ve ilgili bilginin her ikisi de LLM'ye verilir. LLM, daha iyi yanıtlar oluşturmak için yeni bilgileri ve bunların eğitim verilerini kullanır. Aşağıdaki bölümlerde sürece genel bir bakış sağlanır.
Harici veriler oluşturma
LLM'nin orijinal eğitim veri kümesinin dışındaki yeni verilere harici veriler denir. Bu veriler; API'ler, veri tabanları veya belge depoları gibi birden fazla veri kaynağından gelebilir. Veriler; dosyalar, veri tabanı kayıtları veya uzun metin gibi çeşitli biçimlerde mevcut olabilir. Gömme dil modelleri olarak adlandırılan bir diğer yapay zeka tekniği, verileri sayısal temsillere dönüştürür ve bir vektör veri tabanında depolar. Bu işlemle üretici yapay zeka modellerinin anlayabileceği bir bilgi kitaplığı oluşturulur.
İlgili bilgileri alma
Bir sonraki adım, alaka düzeyi araması yapmaktır. Kullanıcı sorgusu bir vektör temsiline dönüştürülür ve vektör veri tabanlarıyla eşleştirilir. Örneğin bir kuruluş için insan kaynakları sorularını cevaplayabilen akıllı bir sohbet robotu düşünün. Bir çalışan, "Ne kadar yıllık iznim var?" şeklinde bir arama yaparsa sistem, bireysel çalışanın geçmiş izin kaydının yanı sıra yıllık izin politikası belgelerini de alır. Çalışanın girdiği verilerle son derece alakalı olduğu için bu özel belgeler döndürülür. Alaka düzeyi matematiksel vektör hesaplamaları ve temsiller kullanılarak hesaplanmış ve belirlenmiştir.
LLM istemini artırma
Daha sonra, RAG modeli, alınan alakalı verileri bağlama ekleyerek kullanıcı girdisini (veya istemlerini) artırır. Bu adımda, LLM ile etkili bir şekilde iletişim kurmak için istem mühendisliği teknikleri kullanılır. Artırılmış istem, büyük dil modellerinin kullanıcı sorgularına doğru bir cevap oluşturmasına olanak tanır.
Harici verileri güncelleme
Bir sonraki soru şu olabilir: Harici veriler güncelliğini yitirirse ne olur? Güncel bilgileri almak için muhafaza etmek üzere zaman uyumsuz bir şekilde belgeleri güncelleyin ve belgelerin gömme temsilini güncelleyin. Bunu otomatik gerçek zamanlı işlemler veya periyodik toplu işleme yoluyla yapabilirsiniz. Bu, veri analizinde yaygın bir zorluktur. Değişim yönetimine ilişkin farklı veri bilimi yaklaşımları kullanılabilir.
Aşağıdaki diyagramda, LLM'lerle RAG kullanmanın kavramsal akışı gösterilmektedir.
Almayla Artırılmış Üretim ile semantik arama arasındaki fark nedir?
Semantik arama, LLM uygulamalarına geniş kapsamlı harici bilgi kaynakları eklemek isteyen kuruluşlar için RAG sonuçlarını geliştirir. Modern işletmeler; el kitapları, SSS'ler, araştırma raporları, müşteri hizmetleri kılavuzları ve insan kaynakları belge depoları gibi büyük miktarlardaki bilgiyi çeşitli sistemlerde depolar. Bağlam alma, uygun ölçekte zorlayıcıdır ve sonuç olarak üretici çıktı kalitesini düşürür.
Semantik arama teknolojileri, farklı bilgilerin büyük veri tabanlarını tarayabilir ve verileri daha doğru bir şekilde alabilir. Örneğin "Geçen yıl makine onarımlarına ne kadar harcandı?" gibi soruları, soruyu ilgili belgelerle eşleyerek ve arama sonuçları yerine belirli bir metni döndürerek cevaplayabilir. Geliştiriciler, daha sonra, LLM'ye daha fazla bağlam sağlamak için bu cevabı kullanabilir.
RAG kapsamındaki geleneksel veya anahtar kelime arama çözümleri, bilgi açısından yoğun görevler için sınırlı sonuçlar üretir. Geliştiriciler verilerini manuel olarak hazırlarken kelime gömmeleri, belge toplama ve diğer karmaşıklıklarla da ilgilenmelidir. Buna karşılık, semantik arama teknolojileri tüm bilgi tabanı hazırlama işini yapar. Böylece geliştiriciler bunu yapmak zorunda kalmaz. Bu teknolojiler, aynı zamanda RAG yükünün kalitesini en üst düzeye çıkarmak için semantik olarak alakalı bölümler ve alaka düzeyine göre sıralanan belirteç kelimeler üretir.
AWS, Almayla Artırılmış Üretim gereksinimlerinizi nasıl destekleyebilir?
Amazon Bedrock geliştirmeyi basitleştirip gizliliği ve güvenliği korurken üretici yapay zeka uygulamaları oluşturmak için geniş bir yetenek kümesinin yanı sıra yüksek performanslı altyapı modellerinden oluşan bir seçenek sunan, tam olarak yönetilen bir hizmettir. Amazon Bedrock bilgi tabanlarıyla, FM'leri sadece birkaç tıklamayla RAG veri kaynaklarınıza bağlayabilirsiniz. Vektör dönüştürmeleri, geri alma işlemleri ve geliştirilmiş çıktı üretimi otomatik olarak işlenir.
Kendi RAG'larını yöneten kuruluşlar için Amazon Kendra, makine öğrenimi ile desteklenen son derece hassas bir kurumsal arama hizmetidir. Amazon Kendra'nın yüksek doğrulukta anlamsal sıralaması ile RAG iş akışlarınız için kurumsal bir geri alma aracı olarak kullanabileceğiniz optimize edilmiş bir Kendra Alma API'si sağlar. Örneğin Alma API'si ile şunları yapabilirsiniz:
- İlgi düzeyine göre sıralanmış, her biri 200 adede kadar belirteç kelimeden oluşan 100'e kadar semantik olarak bağlantılı pasaj alma.
- Amazon Basit Depolama Hizmeti, SharePoint, Confluence ve diğer web siteleri gibi popüler veri teknolojilerinde önceden oluşturulmuş bağlayıcıları kullanma.
- HTML, Word, PowerPoint, PDF, Excel ve metin dosyaları gibi çok çeşitli belge biçimlerini destekleme.
- Yanıtları, son kullanıcı izinlerinin izin verdiği belgelere göre filtreleme.
Amazon ayrıca daha özel üretici yapay zeka çözümleri oluşturmak isteyen kuruluşlar için de seçenekler sunar. Amazon SageMaker JumpStart, altyapı modelleri, yerleşik algoritmalar ve yalnızca birkaç tıklamayla dağıtabileceğiniz önceden oluşturulmuş ML çözümleri içeren bir makine öğrenimi merkezidir. Mevcut SageMaker not defterlerine ve kod örneklerine başvurarak RAG uygulamasını hızlandırabilirsiniz.
Hemen ücretsiz bir hesap oluşturarak AWS'de Almayla Artırılmış Üretime başlayın
AWS'de Sonraki Adımlar
