- 人工智慧›
- 生成式 AI›
- Amazon Nova›
- Nova Forge
Amazon Nova Forge：使用 Nova 打造專屬前沿模型
Nova Forge 是使用 Nova 打造專屬前沿模型的新服務。Nova Forge 客戶可從早期模型檢查點開始開發，將專屬資料與 Amazon Nova 精選訓練資料混合，並在 AWS 上安全地託管自訂模型。
Nova Forge 是打造專屬前沿模型最簡單且具成本效益的方式。
優勢
利用涵蓋預先訓練、中期訓練或後訓練階段的早期 Nova 檢查點，在 SageMaker AI 上展開自訂模型開發。這讓您能在模型訓練的最佳時間點匯入專屬資料，將模型從資料中獲得的學習成效最大化。
使用 Amazon 提供的 SageMaker 訓練配方，將專屬資料與 Amazon Nova 精選訓練資料混合。此方法讓您能建立深入了解組織專有知識的模型，同時將災難性遺忘等風險降至最低，並保留推理等基礎能力。
在您的環境中整合獎勵函式以進行強化微調 (RFT)。這讓模型能從您環境中應用程式產生的回饋進行學習。
使用 Nova Forge 提供的負責任的 AI 原則工具組，設定自訂模型的安全性與內容審核設定。您可調整設定以滿足安全性、防護及處理等領域的特定業務需求。
透過搶先體驗包含 Nova 2 Pro 與 Nova 2 Omni 在內的新 Nova 模型，保持在 AI 技術的最前線。
涵蓋所有模型訓練階段的控制權與彈性
在訓練的最早階段將學習成效最大化
擁有大量非結構化資料的客戶，可透過持續預先訓練 (CPT) 匯入自身資料。從預先訓練檢查點開始，可確保在模型學習新領域的高峰期匯入新資料集，同時混合 Nova 訓練資料，將基礎能力災難性遺忘等風險降至最低。
使用專門資料集增強模型功能
針對擁有中等量非結構化資料的客戶，Nova Forge 提供模型檢查點與訓練配方，以便在中期訓練匯入資料，此時從新訓練資料學習的傾向設定不如預先訓練階段高。如同預先訓練，客戶可在中期訓練階段將專屬資料與 Amazon Nova 精選訓練資料混合。 這讓模型能吸收特定領域知識，同時保留語言理解與推理等一般能力，但採用較保守的學習率以避免災難性遺忘。
透過 SFT 與資料混合，生成有效的應用程式專屬回應
監督式微調使用標記資料 (例如指令回應資料集) 來教導模型如何回應各類查詢模式。客戶可根據需求與訓練資料可用性，選擇在自行建立的自訂基礎檢查點、Nova 預建基礎檢查點或 Nova 的指令調校模型上執行監督式微調。如同 CPT，客戶可在監督式微調期間將專屬資料與 Amazon Nova 精選標記資料集混合。這讓客戶能針對其專用應用程式訓練模型，同時維持指令遵循等廣泛的模型能力。
將準確度最大化，並使模型與真實世界回饋及模擬對齊
強化學習 (RL) 利用獎勵訊號與人類回饋進一步微調模型行為。在 RL 階段，Nova Forge 客戶可使用來自遠端獎勵函式的回饋來調校模型。這讓他們能在調校期間，透過 API 使用來自具備專有工具與驗證器之自訂環境的回饋。與業界標準 (在小型 Python 檔案中定義簡單獎勵函式) 不同，此 API 導向方法讓客戶能整合複雜的自訂環境測試架構並大規模執行。自訂獎勵函式的範例包括物理模擬器、使用具備巢狀工具呼叫之內部系統的複雜程式碼評估，以及針對專有測試架構的機器人任務。
Nova 自訂與訓練能力
使用 Nova Forge 讓我們能透過更統一的系統改善 Reddit 上的內容審核，且已展現令人印象深刻的成果。我們正以單一、更準確的解決方案取代多個不同模型，使審核更有效率。以單一且具凝聚力的方法取代多個專門 ML 工作流程的能力，象徵著我們在 Reddit 實作與擴展 AI 方式的轉變。在看到安全工作上的這些早期成功後，我們渴望探索 Nova Forge 如何協助我們業務的其他領域。
Chris Slowe
Reddit 技術長
我們正使用 Nova Forge 建立統一的藥物開發助理，可預測分子特性、推理化學問題，並生成新型候選藥物。藉由在實驗室測試 (每次實驗成本高達數千美元) 之前先透過運算探索數千種候選藥物，我們能以更低成本更快地將更好的藥物帶給病患。透過使用 Nova 2 Lite 進行監督式微調與強化微調，我們在特性預測任務上已超越 Sonnet 4 等現有大型語言模型 20-50%；在相同任務上也超越或達到多個專門 GNN 模型的效能，且我們正邁向分子生成領域。
Leela Dodda
Nimbus Therapeutics 運算化學總監
Nova Forge 讓我們能建立特定產業的 LLM，作為開放權重模型的強大替代方案。透過在 SageMaker AI 上利用受管訓練基礎設施執行，我們可結合 Amazon Nova 精選資料與我們的專屬資料集，有效率地開發專門模型，例如我們的日本金融服務 LLM。
Takahiko Inaba
Nomura Research Institute, Ltd. AI 負責人暨執行董事
在 Cosine AI，我們透過強化微調不斷推動軟體開發代理程式的極限。我們共同設計了來自 Nova Forge 的 API 導向方法，這讓我們能使用內部工具與環境，讓模型針對您企業面臨的確切挑戰進行學習與最佳化，這是我們實現最先進技術 (SOTA) 的關鍵要素。
Yang Li
Cosine AI 共同創辦人 - Yang Li，Cosine AI 共同創辦人
我們正利用 Nova Forge 計劃為我們多元的業務與營運建立最先進的 AI。在 Sony 集團，我們挑戰自我，使用由 Nova Forge 開發之模型驅動的 AI 代理程式，將審查與評估流程的效率提升 100 倍。使用強化微調的早期結果顯示，我們在超越較大型模型效能的同時，也受益於 Nova 的延遲與價格效能比優勢。
Masahiro Oba
Sony 集團公司數位與技術平台 AI 加速部門資深總經理
Nova 2 Lite 讓我們能開發下一代對話體驗，重塑使用者與 Siemens 網站互動的方式。利用 Nova 的微調能力，我們可最佳化檢索增強生成 (RAG) 系統的內容相關輸出、精進工具呼叫的關聯性，並提升搜尋結果的整體準確度。
Fabian Fischer
Siemens 企業架構師找到今天所需的資訊了嗎？
讓我們知道，以便我們改善頁面內容的品質