게시된 날짜: Jun 9, 2023
오늘부터 Technology Innovation Institute(TII)의 최첨단 Falcon 40B 파운데이션 모델을 Amazon SageMaker JumpStart에서 사용할 수 있게 되었습니다. Amazon SageMaker JumpStart는 사전 훈련된 모델, 기본 제공 알고리즘, 사전 구축된 솔루션 템플릿을 제공하여 기계 학습을 신속하게 시작할 수 있도록 지원하는 SageMaker의 기계 학습(ML) 허브입니다. SageMaker Studio에서 몇 번의 클릭으로 또는 SageMaker Python SDK를 통해 프로그래밍 방식으로 이 Falcon LLM을 배포하고 사용할 수 있습니다.
Falcon 40B는 Hugging Face Open LLM 리더보드에서 1위를 차지한 Apache 2.0 라이선스에 따라 이용 가능한 400억 개 파라미터로 구성된 대규모 언어 모델(LLM)로, 여러 벤치마크에 걸쳐 LLM을 추적, 순위 지정 및 평가하여 최고 성능의 모델을 식별합니다. Falcon 40B는 2023년 5월 출시 이후 특별한 미세 조정 없이도 탁월한 성능을 보여줬습니다. AWS는 고객이 이 최첨단 모델에 더 쉽게 액세스할 수 있도록 Amazon SageMaker JumpStart를 통해 Falcon 40B를 사용할 수 있도록 했습니다. 이제 고객은 자체 Falcon 40B 모델을 빠르고 쉽게 배포하고, 번역, 질문 답변, 정보 요약 등 애플리케이션의 특정 요구 사항에 맞게 사용자 지정할 수 있습니다.
Falcon 40B는 현재 미국 동부(오하이오), 미국 동부(버지니아 북부), 미국 서부(오레곤), 아시아 태평양(도쿄), 아시아 태평양(서울), 아시아 태평양(뭄바이), 유럽(런던), 유럽(프랑크푸르트), 유럽(아일랜드) 및 캐나다(중부)에서 Amazon SageMaker JumpStart를 통해 정식 버전을 사용할 수 있으며 다른 AWS 리전도 곧 추가될 예정입니다. 이 새로운 기능을 사용하는 방법을 알아보려면 SageMaker JumpStart 설명서, SageMaker JumpStart 소개 - Falcon LLM을 사용한 텍스트 생성 예제 노트북, Technology Innovation Institute trains the state-of-the-art Falcon LLM 40B foundation model on Amazon SageMaker 블로그 게시물을 참조하세요.