亚马逊AWS官方博客

接入 Amazon Bedrock 新一代推理引擎 Mantle:用 LiteLLM 网关统一调用 GPT-5.6 与 Claude

Mantle 是 Amazon Bedrock 的新一代推理引擎,OpenAI 的 GPT-5.6(Sol / Terra / Luna)等模型由它提供服务,通过 OpenAI 兼容的 bedrock-mantle 端点对外暴露。它与承载 Claude 的经典 bedrock-runtime 端点在协议上并不一致:前者用 Chat Completions / Responses,后者用 Converse / InvokeModel。本文用一台 EC2 上的 LiteLLM 网关(测试形态,生产化建议见文中)把两个端点收敛到同一个入口,实测供出 9 个模型(GPT-5.6 三变体、GPT-5.5、GPT-5.4、gpt-oss 两款、Claude 两款),客户端只认一个地址、一个 key,网关侧完全用 EC2 实例角色做 SigV4 认证,不落盘任何 API key。文中还给出一个 92 行的 pre-call 钩子,解决 Codex 客户端与 Mantle 的请求体不兼容问题,让 Codex 和 opencode 共用同一套网关。

后端即服务:AI时代应用部署新范式

AI Agent 创建数据库已成为行业新常态——在主流 Serverless 数据库平台上,80% 以上的数据库已由 Agent 创建。本文介绍如何基于 Aurora PostgreSQL + Supabase 构建后端即服务(BaaS)方案,为 AI Coding 场景提供开箱即用的数据库、认证、API 自动生成等能力。

Text-only LLM SFT 训练数据预处理:从收集到数据打包的完整指南

本文将系统介绍 Text-only LLM SFT 训练数据预处理的完整流程,涵盖从数据收集到最终打包的每一个环节,并结合真实客户案例给出实操建议。这里需要说明的是,本文聚焦于纯文本场景,且不涉及代码生成和 SQL 相关的场景。从 2025 年的行业趋势来看,代码和 SQL 相关场景基本上都是基于开源模型权重或闭源模型来构建实现的,需要针对代码和SQL相关场景做post training 的客户相对要少很多。此外,SFT 和 RFT(Reinforcement Fine-Tuning)的训练数据预处理存在差异,本文只讨论 SFT 的部分。虽然 SFT 本身又分为全参数 SFT 和 PEFT(主要是 LoRA 及其变体),但数据集的预处理流程对两者是一致的。