Amazon Bedrock, Mistral AI 모델 지원 예정

Mistral AI는 공개적으로 사용 가능한 모델에서 최고 성능을 이끌어내는 것을 사명으로 하는 프랑스의 AI 회사입니다. 이 회사는 챗봇에서 코드 생성에 이르기까지, 다양한 작업에 사용할 수 있는 빠르고 안전한 대규모 언어 모델(LLM)의 제작을 전문으로 합니다.

곧 Amazon Bedrock에서 Mistral 7B와 Mixtral 8x7B라는 두 가지 고성능 Mistral AI 모델이 제공될 예정임을 발표하게 되어 기쁩니다. AWS는 AI21 Labs, Anthropic, Cohere, Meta, Stability AI, Amazon 등 다른 주요 AI 회사에 이어 7번째 파운데이션 모델 제공업체로서 Amazon Bedrock에 Mistral AI를 도입합니다. 이 두 가지 Mistral AI 모델을 사용하면 Amazon Bedrock에서 사용 사례에 따라 생성형 AI 애플리케이션을 구축하고 확장할 최적의 고성능 LLM을 유연하게 선택할 수 있습니다.

Mistral AI 모델 개요
많은 기대를 모으고 있는 이 두 가지 Mistral AI 모델을 간략하게 소개해 보겠습니다.

• Mistral 7B는 자연스러운 코딩 기능으로 영어 텍스트 생성 작업을 지원하는 Mistral AI의 첫 번째 파운데이션 모델입니다. 요구되는 메모리가 작고 크기에 비해 처리량이 높아, 짧은 지연 시간을 제공하도록 최적화된 모델입니다. 이 모델은 강력한 성능을 제공하며, 텍스트 요약 및 분류부터 텍스트 완성 및 코드 완성까지 다양한 사용 사례를 지원합니다.
• Mixtral 8x7B는 텍스트 요약, 문답, 텍스트 분류, 텍스트 완성 및 코드 생성에 이상적이며 인기 있는 고품질 희소 전문가 혼합(MoE) 모델입니다.

적합한 파운데이션 모델을 선택하는 것은 애플리케이션을 성공적으로 구축하기 위한 열쇠입니다. Mistral AI 모델이 왜 귀사의 사용 사례에 적합한지 보여주는 몇 가지 주요 특징을 살펴보겠습니다.

• 비용과 성능의 균형 – Mistral AI 모델의 두드러진 특징 중 하나는 비용과 성능의 균형이 놀랍도록 잘 잡혀 있다는 것입니다. 희소 MoE를 사용하는 모델인 만큼 효율적이고 비용이 낮으며 확장성이 뛰어난 동시에 비용을 관리하기가 용이합니다.
• 빠른 추론 속도 – Mistral AI 모델은 인상적인 추론 속도를 자랑하며 짧은 지연 시간을 제공하도록 최적화되어 있습니다. 또한 이 모델은 메모리 요구 사항이 낮고 크기에 비해 처리량이 높습니다. 이는 프로덕션 사용 사례를 확장하려는 경우에 무엇보다 중요하게 요구되는 특징입니다.
• 투명성과 신뢰성 – Mistral AI 모델은 투명성이 뛰어나고 맞춤형 구성이 가능합니다. 따라서 조직이 엄격한 규제 요건을 충족할 수 있습니다.
• 다양한 사용자가 이용 가능 – Mistral AI 모델은 누구나 이용할 수 있습니다. 따라서 규모에 관계없이 어떤 조직에서든 생성형 AI 기능을 애플리케이션에 통합할 수 있습니다.

곧 이용 가능
공개적으로 사용 가능한 Mistral AI 모델이 곧 Amazon Bedrock에서 제공될 예정입니다. Amazon Bedrock에서 이들 모델이 제공되기 시작하면 평소처럼 이 블로그에서 제일 먼저 소식을 알릴 예정이므로 구독을 잊지 마세요!

자세히 알아보기

• Amazon Bedrock 제품 페이지의 Mistral AI

향후 업데이트를 기다려 주세요.

— Donnie