Amazon Web Services 한국 블로그

AWS, OpenAI 오픈 웨이트 모델 정식 출시

AWS는 업계 최고의 파운데이션 모델(FM)을 제공하기 위해 최선을 다하고 있으며, 주요 AI 혁신가의 획기적인 모델을 포함하도록 선택 범위를 지속적으로 확장하여 고객이 항상 최신 개선 사항에 접근하여 비즈니스를 발전시킬 수 있도록 합니다.

오늘 저는 Amazon Bedrock과 Amazon SageMaker JumpStart에서 오픈 웨이트를 갖춘 두 개의 새로운 OpenAI 모델을 출시한다는 소식을 발표하게 되어 기쁩니다. OpenAI gpt-oss-120b 및 gpt-oss-20b 모델은 텍스트 생성 및 추론 작업을 위해 설계되어 개발자와 조직에 인프라 및 데이터를 완벽하게 제어하면서 AI 애플리케이션을 구축할 수 있는 새로운 옵션을 제공합니다.

이러한 개방형 가중치 모델은 코딩, 과학적 분석 및 수학적 추론에 탁월하며 주요 대안에 필적하는 성능을 제공합니다. 두 모델 모두 128K 컨텍스트 창을 지원하며 특정 사용 사례 요구 사항에 맞게 조정 가능한 추론 수준(낮음/중간/높음)을 제공합니다. 이 모델은 기능을 향상하기 위한 외부 도구를 지원하며, 예를 들어 Stand Agents와 같은 프레임워크를 사용하여 에이전트 워크플로에서 사용할 수 있습니다.

Amazon Bedrock과 Amazon SageMaker JumpStart를 통해 AWS는 OpenAI 오픈 웨이트 모델을 비롯한 주요 AI 회사에서 제공하는 수백 개의 FM에 액세스하여 자유롭게 혁신을 이룰 수 있도록 합니다. 포괄적인 모델 선택을 통해 AI 워크로드를 매번 완벽한 모델에 맞출 수 있습니다.

Amazon Bedrock을 사용하면 코드를 다시 작성하지 않고도 다양한 모델을 원활하게 실험하고, 기능을 조합하고, 공급업체 간에 전환할 수 있습니다. 따라서 모델 선택을 전략적 이점으로 전환하여 새로운 혁신이 등장함에 따라 AI 전략을 지속적으로 발전시키는 데 도움이 됩니다. 출시 시 이러한 새 모델은 OpenAI 호환 엔드포인트를 통해 Bedrock에서 사용할 수 있습니다. OpenAI SDK가 이 엔드포인트를 가리키도록 하거나 Bedrock InvokeModel 및 Converse API를 사용할 수 있습니다.

SageMaker JumpStart를 사용하면 사용 사례에 맞게 모델을 빠르게 평가, 비교 및 사용자 지정할 수 있습니다. 그런 다음 SageMaker AI 콘솔 또는 SageMaker Python SDK를 사용하여 원본 모델 또는 사용자 지정 모델을 프로덕션 환경에 배포할 수 있습니다.

실제로 어떻게 작동하는지 보겠습니다.

Amazon Bedrock에서 OpenAI 오픈 웨이트 모델 시작하기
Amazon Bedrock 콘솔에서는 탐색 창의 구성 및 학습 섹션에서 모델 액세스를 선택합니다. 그런 다음 이 페이지에 나열된 두 OpenAI 모델로 이동하여 액세스를 요청합니다.

콘솔 스크린샷

이제 액세스 권한이 생겼으니 Chat/Test 플레이그라운드를 사용하여 모델을 테스트하고 평가합니다. OpenAI를 카테고리로 선택한 다음 gpt-oss-120b 모델을 선택합니다.

콘솔 스크린샷

이 모델을 사용하여 다음 샘플 프롬프트를 실행합니다.

한 가족이 내년 휴가를 위해 5,000 USD를 저축하려고 합니다. 이 돈을 연 2%의 이자를 받는 저축 계좌에 넣거나 연 4%의 이자를 받는 정기예금에 넣을 수 있지만 휴가 전까지는 자금을 사용할 수 없습니다. 연중에 긴급 경비로 1,000 USD가 필요한 경우 휴가 자금을 최대한 늘리려면 두 가지 옵션으로 어떻게 돈을 나누어야 할까요?

이 프롬프트는 결과를 산출하는 데 사용된 생각의 사슬을 포함하는 출력을 생성합니다.

API 엔드포인트(기본 URL)를 구성하고 인증을 위해 Amazon Bedrock API 키를 사용하여 OpenAI SDK와 함께 이러한 모델을 사용할 수 있습니다. 예를 들어, 미국 서부(오리건) AWS 리전 엔드포인트(us-west-2)와 내 Amazon Bedrock API 키를 사용하도록 이 환경 변수를 설정했습니다.

export OPENAI_API_KEY="<my-bedrock-api-key>"
export OPENAI_BASE_URL="https://bedrock-runtime.us-west-2.amazonaws.com/openai/v1"

이제 OpenAI Python SDK를 사용하여 모델을 호출합니다.

client = OpenAI()

response = client.chat.completion.create(
    messages=[{
        "role": "user",
        "content": "Hello, how are you?"
    }],
    model="openai.gpt-oss-120b-1:0",
    stream=True
)

for item in response:
    print(item)

AI 에이전트를 구축하려면 Amazon Bedrock API 또는 OpenAI API를 지원하는 프레임워크를 선택할 수 있습니다. 예를 들어 Amazon Bedrock API를 사용하는 Strands Agents의 시작 코드는 다음과 같습니다.

from strands import Agent
from strands.models import BedrockModel
from strands_tools import calculator

model = BedrockModel(
    model_id="openai.gpt-oss-120b-1:0"
)
agent = Agent(
    model=model,
    tools=[calculator]
)

agent("Tell me the square root of 42 ^ 3")

코드(app.py 파일)를 저장하고 종속성을 설치하고 에이전트를 로컬에서 실행합니다.

pip install strands-agents strands-agents-tools
python app.py

해당 에이전트에 만족하면 완전 관리형 서버리스 런타임, 메모리 및 ID 관리를 포함하여 Amazon Bedrock AgentCore에서 제공하는 기능을 사용하여 프로덕션에 배포할 수 있습니다.

Amazon SageMaker JumpStart에서 OpenAI 오픈 웨이트 모델 시작하기
Amazon SageMaker AI 콘솔에서는 SageMaker Studio의 OpenAI 오픈웨이트 모델을 사용할 수 있습니다. 이 작업을 처음 수행할 때는 SageMaker 도메인을 설정해야 합니다. 단일 사용자(단순) 또는 조직에 맞게 설정하는 옵션이 있습니다. 이 테스트에서는 단일 사용자 설정을 사용합니다.

SageMaker JumpStart 모델 보기에서 gpt-oss-120b 또는 gpt-oss-20b 모델에 대한 자세한 설명을 볼 수 있습니다.

gpt-oss-20b 모델을 선택한 다음 모델을 배포합니다. 다음 단계에서는 인스턴스 유형과 초기 인스턴스 수를 선택합니다. 몇 분 후 배포 시 엔드포인트가 생성되고 SageMaker Studio에서 원하는 AWS SDK를 사용하여 호출할 수 있습니다.

자세히 알아보려면 AWS 인공 지능 블로그에 있는 OpenAI의 GPT OSS 모델을 이제 SageMaker JumpStart에서 사용할 수 있습니다.를 참조하십시오.

알아야 할 사항
새로운 OpenAI 오픈 웨이트 모델은 이제 미국 서부(오리건) AWS 리전의 Amazon Bedrock에서 사용할 수 있으며, Amazon SageMaker JumpStart는 미국 동부(오하이오, 버지니아 북부) 및 아시아 태평양(뭄바이, 도쿄)에서 이러한 모델을 지원합니다.

각 모델에는 완전한 생각의 사슬 출력 기능이 탑재되어 있어 모델의 추론 과정을 자세히 파악할 수 있습니다. 이러한 투명성은 높은 수준의 해석 가능성과 검증이 필요한 애플리케이션에 특히 유용합니다. 이러한 모델을 사용하면 특정 요구에 맞게 자유롭게 수정, 조정 및 사용자 지정할 수 있습니다. 이러한 유연성 덕분에 고유한 사용 사례에 맞게 모델을 미세 조정하고 기존 워크플로에 통합할 수 있으며, 이를 기반으로 산업 또는 애플리케이션에 맞게 조정된 새롭고 특화된 모델을 만들 수도 있습니다.

보안과 안전은 종합적인 평가 프로세스 및 안전 조치와 함께 이러한 모델의 핵심에 내장되어 있습니다. 모델은 표준 GPT-4 토크나이저와의 호환성을 유지합니다.

Amazon Bedrock의 서버리스 환경이든 SageMaker JumpStart의 광범위한 기계 학습(ML) 개발 기능을 통해서든 관계없이 원하는 환경에서 두 모델을 모두 사용할 수 있습니다. 이러한 모델 및 서비스 사용과 관련된 비용에 대한 자세한 내용은 Amazon Bedrock 요금 및 Amazon SageMaker AI 요금 페이지를 참조하십시오.

자세히 알아보려면 Amazon Bedrock 설명서에서 모델의 파라미터 및 채팅 완료 API를 참조하십시오.

Amazon Bedrock 콘솔 또는 Amazon SageMaker AI 콘솔에서 AWS 기반 OpenAI 오픈 웨이트 모델을 지금 시작해 보세요.

– Danilo