Databricks 에서 Amazon Bedrock 에서 지원하는 모델을 이용한 RAG Chatbot 데모
AI
AWS GenAI Loft | 서울
데이터
일:
-
시간:
-
유형:
대면
발표자:
신현우 (Edward Shin) | Solutions Architect, Databricks
언어:
한국어
레벨:
100 - 기초, 200 - 중급
발표자
모두 표시
특허관련 데이터로 Amazon Bedrock 에서 지원하는 Embedding 모델과 LLM 을 이용하여 Databricks 의 Vector Search, Agent Framework & Evaluation, MLFlow 로 RAG Chatbot 을 구현합니다.
이 제품 투어에서는 Databricks에서 작동하는 end-to-end RAG (Retrieval Augmented Generation) 시스템이 어떻게 작동하는지, 그리고 각 쿼리에 대해 가장 최신이고 관련 있는 정보를 동적으로 가져와 AI 애플리케이션의 정확성과 관련성을 향상시키는 방법을 확인할 수 있습니다. 복잡한 데이터 상호 작용을 단순화하는 직관적인 사용자 경험을 제공하여 RAG를 워크플로우에 원활하게 통합하는 방법을 확인해 보세요. 이를 통해 팀이 데이터 관리보다는 전략적인 작업에 집중할 수 있습니다.
이 투어에서는 다음에 대해 배우게 됩니다:
- 비구조화된 데이터(PDF)를 수집하고 델타 테이블에 저장하기 위한 워크플로우 설정
- 임베딩 모델을 사용하여 텍스트 데이터를 벡터로 변환하고 벡터 데이터베이스에 저장하기
- 임베딩 모델, 기본 언어 모델, 심지어 langchain 체인까지 제공합니다!
- LLM을 데이터와 함께 연결하여 모델의 응답을 향상시키기