Category: Open Source

WebSearch Interception 是 LiteLLM 的一个功能，允许不原生支持 web search 的 LLM provider（如 AWS Bedrock、Azure、Vertex AI）通过 LiteLLM 代理自动执行网页搜索并返回带有实时信息的回答。

本文介绍如何在 AWS 上以生产级标准部署 LiteLLM AI Gateway，涵盖 ECS Fargate 和 EKS 两种方案，并结合 LiteLLM 的 Control Plane / Data Plane 分离架构实现多区域高可用部署。

本文介绍如何通过 LiteLLM AI Gateway 实现 Amazon Bedrock 的实时成本控制、多维成本监控，并结合 AWS Budgets 构建平台级兜底保护，同时利用 AWS 原生安全服务防止 API Key 盗刷。方案覆盖”事前限额 → 事中监控 → 事后兜底 → 安全纵深”四个层面，帮助企业实现 AI 投入可预测、AI 资产不被盗。

本文将通过一次完整的部署实践，演示如何在 Amazon EC2 GPU 实例上跑通 NVIDIA NemoClaw，并在此基础上引入 NVIDIA 官方刚开源的 LLM Router Blueprint 做请求级别的智能路由

这篇文章详细记录了这段实践经验。将在本文中核心讲述 （1）传统 SDLC：人驱动一切，AI 只是补全代码的工具；（2）AI-DLC：AI 是核心协作者，人做关键决策；（3）Apache Way：Community Over Code，集体共识决策。揭示出软件工程的重心正在从生产力向判断力迁移，而开源治理模型，可能是这条进化之路上最古老也最前沿的答案。

把 OpenClaw 部署到云上，不只是”方便”，而是在安全性、灵活性、成本和能力上都有质的提升。 本文会先解释云上部署的四大优势，然后提供两种部署方式： 手动部署和 一键部署。无论你选哪种，都能在一天内拥有自己的云上 AI 助手。

今天，我们宣布推出 Amazon Elastic Kubernetes Service（Amazon EKS）Capabilities，这是一组可扩展的 Kubernetes 原生解决方案，可简化工作负载编排、Amazon Web Services（AWS）云资源管理以及 Kubernetes 资源组合和编排。这些完全托管的集成平台功能包括当今许多客户正在使用的开源 Kubernetes 解决方案，如 Argo CD、适用于 Kubernetes 的 AWS 控制器和 Kube 资源编排工具。

本文展示如何通过AI辅助开发，在零手工编码的情况下构建生产就绪的多模态搜索应用，完整体验Amazon Bedr […]

今天，我很高兴地宣布：DeepSeek-V3.1 现已作为完全托管的基础模型在 Amazon Bedrock 中可用。DeepSeek-V3.1 是一款混合开源权重模型，可在思考模式（思维链推理，可进行详细的分步分析）和非思考模式（直接输出答案，可加快响应速度）之间切换。

今天，我很高兴地宣布，Amazon Bedrock 和 Amazon SageMaker JumpStart 中将推出两款全新的 OpenAI 开放权重模型。OpenAI 的 gpt-oss-120b 和 gpt-oss-20b 模型专为文本生成和推理任务而设计，这些模型为开发者和企业提供了新的选择，让他们在构建人工智能应用时能够全面控制自身的基础设施和数据。