Amazon Web Services 한국 블로그
DeepSeek-V3.1 모델, Amazon Bedrock 정식 출시
지난 3월, Amazon Web Services(AWS)는 DeepSeek-R1을 Amazon Bedrock에서 완전관리형 모델로 정식 출시하여 서버리스 방식으로 제공하는 최초의 클라우드 서비스 제공업체가 되었습니다. 그 이후, 고객은 Amazon Bedrock을 통해 DeepSeek-R1의 기능을 사용하면서 Bedrock의 안전한 AI 배포를 위한 강력한 가드레일과 포괄적인 도구를 활용하여 생성형 AI 애플리케이션을 빌드하고 있습니다.
오늘, 저는 DeepSeek-V3.1을 이제 Amazon Bedrock에서 완전관리형 파운데이션 모델로 사용할 수 있다는 소식을 발표하게 되어 기쁩니다. DeepSeek-V3.1은 상세한 단계별 분석을 위한 사고 모드(생각의 사슬 추론)와 더 빠른 응답을 위한 비사고 모드(직접 답변) 사이를 전환하는 하이브리드 오픈 웨이트 모델입니다.
DeepSeek에 따르면, DeepSeek-V3.1의 사고 모드는 DeepSeek-R1-0528에 비해 더 나은 결과, 복잡한 검색 태스크에서 더 강력한 다단계 추론, 대폭 향상된 사고 효율성으로 비슷한 답변 품질을 달성합니다.
| 벤치마크 | DeepSeek-V3.1 | DeepSeek-R1-0528 |
|---|---|---|
| Browsecomp | 30.0 | 8.9 |
| Browsecomp_zh | 49.2 | 35.7 |
| HLE | 29.8 | 24.8 |
| xbench-DeepSearch | 71.2 | 55.0 |
| Frames | 83.7 | 82.0 |
| SimpleQA | 93.4 | 92.3 |
| Seal0 | 42.6 | 29.7 |
| SWE-bench Verified | 66.0 | 44.6 |
| SWE-bench Multilingual | 54.5 | 30.5 |
| Terminal-Bench | 31.3 | 5.7 |
DeepSeek-V3.1 모델은 훈련 후 최적화를 통해 도구 사용 및 에이전트 태스크에서의 성능이 이전 DeepSeek 모델에 비해 대폭 향상되었습니다. 또한 DeepSeek-V3.1은 대규모 단일 언어 또는 병렬 말뭉치가 없는 리소스 부족 언어에서 크게 향상된 기능을 포함하여 원어민에 가까운 숙련도로 100개 이상의 언어를 지원합니다. 글로벌 애플리케이션을 구축하여 의사 결정 프로세스에 대한 가시성을 유지하면서 이전 DeepSeek 모델에 비해 정확도를 높이고 할루시네이션을 줄일 수 있습니다.
이 모델을 사용하는 주요 사용 사례는 다음과 같습니다.
- 코드 생성 – DeepSeek-V3.1은 소프트웨어 엔지니어링 벤치마크와 코드 에이전트 기능이 개선되어 코딩 태스크에 탁월하므로 자동 코드 생성, 디버깅 및 소프트웨어 엔지니어링 워크플로에 이상적입니다. 코딩 벤치마크에서 우수한 성능을 발휘하는 동시에 효율적으로 고품질 결과를 제공합니다.
- 에이전틱 AI 도구 – 이 모델은 훈련 후 최적화를 통해 향상된 도구 호출을 제공하므로 도구 사용 및 에이전틱 워크플로에서 매우 유용합니다. 구조화된 도구 호출, 코드 에이전트, 검색 에이전트를 지원하므로 자율적 AI 시스템 구축을 위한 확실한 선택으로 자리매김하고 있습니다.
- 엔터프라이즈 애플리케이션 – DeepSeek 모델은 다양한 채팅 플랫폼과 생산성 도구에 통합되어 사용자 상호 작용을 개선하고 고객 서비스 워크플로를 지원합니다. 이 모델은 다국어 기능을 제공하고 문화적 민감성을 갖췄기 때문에 글로벌 엔터프라이즈 애플리케이션에 적합합니다.
이전 게시물에서 언급한 바와 같이, 공개적으로 사용 가능한 모델을 구현하는 경우 프로덕션 환경에서 구현할 때 데이터 프라이버시 요구 사항을 신중하게 고려하고, 출력의 편향을 확인하고, 데이터 보안, 책임 있는 AI 및 모델 평가 측면에서 결과를 모니터링해야 합니다.
Amazon Bedrock Guardrails를 사용하여 Amazon Bedrock의 엔터프라이즈급 보안 특성에 액세스하고 애플리케이션 요구 사항에 맞게 사용자 지정된 보호 장치와 책임 있는 AI 정책을 구현할 수 있습니다. 또한 Amazon Bedrock 모델 평가 도구를 사용하여 모델을 평가 및 비교하여 사용 사례에 가장 적합한 모델을 식별할 수 있습니다.
Amazon Bedrock에서 DeepSeek-V3.1 모델 시작하기
Amazon Bedrock 콘솔에서 DeepSeek-V3.1 모델을 테스트하려면 왼쪽 메뉴 창의 Playgrounds에서 Chat/Text를 선택합니다. 그런 다음 왼쪽 상단에서 Select model을 선택하고 카테고리로 DeepSeek, 모델로 DeepSeek-V3.1을 선택합니다. 그런 다음 Apply를 선택합니다.
선택한 DeepSeek-V3.1 모델을 사용하여 아래와 같은 기술 아키텍처 결정에 대한 프롬프트 예제를 실행합니다.
bit.ly와 같은 확장 가능한 URL 단축 서비스를 위한 고급 아키텍처를 개략적으로 설명해 주세요. API 설계, 데이터베이스 선택(SQL vs. NoSQL), 리디렉션 메커니즘 작동 방식, 고유한 단축 코드 생성 방법 같은 주요 구성 요소에 대한 설명이 필요해요.
Model reasoning 모드를 전환하여 최종 결론에 도달하기 전에 응답의 생각의 사슬을 생성하는 사고 기능을 켜거나 끌 수 있습니다.
AWS Command Line Interface(AWS CLI) 및 AWS SDK를 사용하여 모델에 액세스할 수도 있습니다. 이 모델은 InvokeModel 및 Converse API를 모두 지원합니다. 여러 가지 사용 사례와 다양한 프로그래밍 언어에 대한 광범위한 코드 예제를 참조할 수 있습니다.
자세히 알아보려면 AWS 설명서의 DeepSeek 모델 추론 파라미터 및 응답을 참조하세요.
정식 출시
DeepSeek-V3.1은 이제 미국 서부(오리건), 아시아 태평양(도쿄), 아시아 태평양(뭄바이), 유럽(런던) 및 유럽(스톡홀름) AWS 리전에서 사용할 수 있습니다. 향후 업데이트 여부는 전체 리전 목록을 확인하세요. 자세한 내용은 Amazon Bedrock 기반 DeepSeek 제품 페이지와 Amazon Bedrock 요금 페이지를 확인하세요.
지금 바로 Amazon Bedrock 콘솔에서 DeepSeek-V3.1 모델을 사용해 보시고 AWS re:Post for Amazon Bedrock 또는 평소 이용하는 AWS Support 연락처를 통해 피드백을 보내주세요.
— Channy
2025년 9월 19일 업데이트 — 모델 액세스 섹션을 제거했습니다. Amazon Bedrock은 모든 AWS 계정에 대해 자동으로 활성화하여 모든 서버리스 파운데이션 모델 및 새 모델에 대한 액세스를 간소화하므로 Bedrock 콘솔을 통해 수동으로 액세스를 활성화할 필요가 없습니다. 모델 액세스 페이지는 2025년 10월 8일에 사용 중지됩니다. 계정 관리자는 필요에 따라 모델 액세스를 제한하기 위해 AWS IAM 정책 및 서비스 제어 정책(SCP)을 사용하실 수 있습니다.