Amazon Nova Forge 출시: Nova 모델 기반 맞춤형 프론티어 모델 생성 가능

기업 비즈니스 전반에 걸쳐 생성형 AI 활용을 빠르게 확대하고 있습니다. 심층적인 분야별 전문 지식이나 특정 비즈니스 컨텍스트가 필요한 애플리케이션에는 독점 지식, 워크플로, 고유한 요구 사항을 진정으로 이해하는 모델이 필요합니다.

프롬프트 엔지니어링 및 검색 증강 생성(RAG) 등의 기법은 많은 사용 사례에 효과적이지만, 전문 지식을 모델의 핵심 이해에 통합하는 데 있어 근본적인 한계가 있습니다. 감독형 미세 조정 및 강화 학습은 모델을 사용자 지정하는 데 도움이 되지만 개발 수명 주기의 너무 후반부에 작동하여 이미 완전히 훈련된 모델 위에 수정 사항을 겹쳐 적용하기 때문에 특정 관심 분야로 조정하기가 어렵습니다.

조직이 자사의 독점 데이터만을 사용하여 지속적인 사전 학습을 통해 심층적인 사용자 지정을 시도할 경우, 새로운 콘텐츠를 학습하면서 모델이 기본 기능을 상실하는 치명적인 망각 현상이 발생하는 경우가 많습니다. 동시에 모델을 처음부터 학습하는 데 필요한 데이터, 컴퓨팅 및 비용은 여전히 대부분의 조직에서 감당할 수 없는 장벽으로 작용합니다.

오늘, Nova를 사용하여 자체적인 프론티어 모델을 구축할 수 있는 새로운 서비스인 Amazon Nova Forge를 소개합니다. Nova Forge 고객은 초기 모델 체크포인트부터 개발을 시작하고, Amazon Nova에서 엄선한 학습 데이터와 데이터세트를 결합하고, AWS에서 사용자 지정 모델을 안전하게 호스팅할 수 있습니다. Nova Forge는 자체적인 개척 모델을 구축하는 가장 쉽고 비용 효율적인 방법입니다.

사용 사례 및 적용
Nova Forge는 독점 데이터 또는 산업별 데이터를 이용하며 해당 분야를 진정으로 이해하는 AI를 구축하고자 하는 조직을 위해 설계되었습니다. 여기에는 다음이 포함됩니다.

• 제조 및 자동화 – 전문 프로세스, 장비 데이터 및 산업별 워크플로를 이해하는 모델 구축
• 연구 및 개발 – 독점 연구 데이터 및 분야별 지식을 기반으로 학습된 모델 생성
• 콘텐츠 및 미디어 브랜드 특성, 콘텐츠 표준 및 특정 관리 요건을 이해하는 모델 개발
• 전문 산업 – 산업별 용어, 규정 및 모범 사례에 따른 학습 모델

구체적인 사용 사례에 따라 Nova Forge를 사용하여 차별화된 기능을 추가하고, 작업별 정확도를 향상시키고, 비용을 절감하고, 지연 시간을 단축할 수 있습니다.

Nova Forge의 작동 방식
Nova Forge는 사전 학습, 중간 학습, 사후 학습 단계에 걸쳐 초기 체크포인트부터 모델 개발을 시작할 수 있도록 하여 기존 사용자 지정 방식의 한계를 해결합니다. 모든 학습 단계에서 독점 데이터와 Amazon Nova에서 엄선한 데이터를 혼합하고, Amazon SageMaker AI 완전 관리형 인프라에서 검증된 레시피를 사용하여 학습을 실행할 수 있습니다. 이러한 데이터 혼합 방식은 원시 데이터만 사용하여 학습할 때보다 치명적인 망각을 크게 줄여 핵심 인텔리전스, 일반적인 지시 이행 능력, 안전 이점 등의 기본 기술을 보존하는 동시에 전문 지식을 통합하는 데 도움이 됩니다.

Nova Forge는 자체 환경에서 강화 학습(RL)을 위한 보상 함수를 사용할 수 있는 기능을 제공합니다. 이를 통해 모델은 사용 사례를 대표하는 환경에서 생성된 피드백으로 학습할 수 있습니다. 단일 단계 평가 외에도 자체 오케스트레이터를 사용하여 다중 턴 롤아웃을 관리하고 복잡한 에이전트 워크플로 및 순차적 의사 결정 작업에 대한 강화 학습을 구현할 수 있습니다. 화학 도구를 사용하여 분자 설계의 점수를 매기든, 효율적인 작업 완료에 보상을 제공하고 충돌에 페널티를 부여하는 로봇 시뮬레이션을 수행하든, 자체 환경을 직접 연결할 수 있습니다.

Nova Forge에 내장된 책임 있는 AI 툴킷을 활용하여 모델의 안전 및 콘텐츠 조정 설정을 구성할 수도 있습니다. 안전, 보안 및 민감한 콘텐츠 처리와 같은 특정 비즈니스 요구 사항에 맞게 설정을 조정할 수 있습니다.

Nova Forge 시작하기
Nova Forge는 기존 AWS 워크플로와 원활하게 통합됩니다. Amazon SageMaker AI의 친숙한 도구와 인프라를 사용하여 학습을 실행한 후, 사용자 지정 Nova 모델을 Amazon Bedrock의 프라이빗 모델로 가져올 수 있습니다. 이를 통해 Amazon Bedrock의 모든 모델과 동일한 보안, 일관된 API 및 광범위한 AWS 통합을 누릴 수 있습니다.

이제 Amazon SageMaker Studio에서 Amazon Nova를 사용하여 프론티어 모델을 구축할 수 있습니다.

모델 구축을 시작하려면 사전 학습, 중간 학습, 사후 학습 중 사용할 체크포인트를 선택하세요. 여기에서 데이터세트를 업로드하거나 기존 데이터세트를 사용할 수도 있습니다.

Nova에서 제공하는 엄선된 데이터세트를 혼합하여 학습 데이터를 혼합할 수 있습니다. 분야별로 분류된 이러한 데이터세트는 모델의 전반적인 성능을 유지하고 과적합이나 치명적인 망각을 방지하는 데 도움이 될 수 있습니다.

선택적으로, 강화 미세 조정(RFT)을 사용하여 특정 분야에서 사실적 정확도를 높이고 할루시네이션 현상을 줄일 수 있습니다.

학습이 완료되면 모델을 Amazon Bedrock으로 가져와 애플리케이션에서 사용하세요.

알아야 할 사항
Amazon Nova Forge는 미국 동부(버지니아 북부) AWS 리전에서 사용할 수 있습니다. 이 프로그램에는 여러 Nova 모델 체크포인트 이용, 독점 데이터와 Amazon Nova의 엄선된 학습 데이터를 혼합하는 학습 레시피, 검증된 학습 레시피, Amazon SageMaker AI 및 Amazon Bedrock과의 통합 기능이 포함되어 있습니다.

Amazon Nova 사용 설명서에서 자세히 알아보고 Amazon SageMaker AI 콘솔에서 Nova Forge를 살펴보세요.

전문가의 도움이 필요한 조직은 생성형 AI 혁신 센터에 문의하여 모델 개발 이니셔티브에 대한 추가 지원을 받을 수도 있습니다.

– Danilo