Beam 模型 (由 Reflection 提供) 現已在 Amazon SageMaker JumpStart 和 AWS Trainium 上推出
Beam 是美國 Reflection 提供的首個開放權重模型，現已在 Amazon SageMaker AI 的模型中樞 Amazon SageMaker JumpStart 中提供。Beam 表示，其運作於同級開放權重模型的最前線，在推理、程式設計和代理程式基準測試中皆有優異表現。Beam 適用於以開放權重模型為基礎進行建構、而非僅止於呼叫模型的團隊。希望將尖端模型調整至自身網域的客戶，可以對其進行微調、檢查及修改權重，並深度嵌入其代理與工作流程中，同時全程掌控自己的資料與基礎設施。Beam 可與客戶已在 SageMaker AI 中使用的其他模型並行運作，並透過內建於每項 SageMaker AI 部署的相同控制項、稽核軌跡和監控擴展以滿足生產需求。此外，Beam 已進行移植並針對 AWS Trainium3 最佳化，讓客戶從第一天起即可享有部署及擴展模型的高效能、符合成本效益選項。「Reflection 提供的是開發人員真正能掌控的前沿 AI，而不只是透過 API 租用。將 Beam 引進 SageMaker AI 後，數百萬名開發人員即可在其已信任的基礎設施上使用這項能力，於自己的 AWS 帳戶中、以自己的資料執行，完全在他們的掌控之下，」Reflection 共同創辦人暨執行長 Misha Laskin 表示。
以 Beam 進行建構的團隊，可以做得遠不只是呼叫 API：用專有程式碼與資料對其微調、針對自身網域進行特化，並將其串接到跨工具的多步驟代理式工作流程中。實際上，這代表能夠解決真實的軟體問題、產生及檢閱程式碼、自動化作業工作，並在可自行塑造而非單純取用的模型上處理進階數學與科學推理。由於 Beam 以 Apache 2.0 授權發行，客戶可以檢視並自訂模型，同時在自己的 AWS 帳戶中執行，因此資料會保持私密並在他們的掌控之下，並受到他們已仰賴的相同 AWS 安全與合規能力保護。「像 Beam 這類現已在 Amazon SageMaker 推出的進階 AI 模型，讓我們能夠在自身的安全環境中完全執行開放權重的前沿 AI，並對權重、資料和管道擁有完整可視性。在多模型 AI 的時代，開放性與受管基礎設施的結合是 AI 生態系統不可或缺的新增要素。能夠自由部署並調適進階 AI，針對任務問題量身打造客戶專屬的安全與控制，讓更多機構得以在其整個企業中更具彈性地部署進階 AI，」Accenture Federal Services 人工智慧長 Garrett Berntsen 表示。
Beam 初期在美國東部 (維吉尼亞北部) 和美國東部 (俄亥俄) Amazon SageMaker JumpStart 中提供。此模型提供 BF16、FP8 及 NVFP4 檢查點變體，並可透過全受管的 SageMaker JumpStart 端點部署。若要開始使用，請在 Amazon SageMaker Studio 內的 SageMaker JumpStart 中搜尋「Beam」，或直接在 Sagemaker AI 上部署。 如需深入了解，請閱讀 AWS Machine Learning 部落格：隆重推出 Reflection Beam、SageMaker AI 文件及 SageMaker JumpStart 文件，以取得部署指引。