亚马逊AWS官方博客

Category: Serverless

云端生成式 AI – 基于 Amazon EKS 的 Stable Diffusion 图像生成方案

在生成式 AI 的图像生成场景下,我们基于 Amazon EKS,实现了一种更加适合 toC 场景的解决方案,它将帮助客户从容应对大并发量的请求,达到分钟级冷启动;使用更简单的控制平面,为客户提供更灵活的架构,轻松实现各种功能模块设计;同时,它还利用 Amazon Spot instances,帮助客户有效控制成本。

私有 API 在企业场景中的应用之跨环境访问

在企业实际使用中会延伸出更多复杂场景,不仅有多账号,并且隶属于不同应用团队。从当前 VPC 中的 API Gateway Endpoint 可以访问私有的 API (如果 API 端的资源策略已允许),但是配置分散且无法统一管理,增加了额外的管理负担。因此从安全角度出发,为了方便统一控制、集中审计和一致的合规性保证,建议使用 Ingress VPC 中的 API Gateway Endpoint 作为统一入口。并且在该账号下统一配置 Route53 服务作为内网域名解析。

构建基于 Amazon Lambda 的智能客服 SaaS 系统

本博客介绍使用 Lambda、ElastiCache、RDS For postgreSQL 实现基于 Langchain 的智能客服 SaaS 系统,解决问题包括: Lambda 中共享第三方依赖库的构建,安全隔离不同租户的资料库,为不同用户的保持历史会话记录,以及保护服务对外的安全访问避免恶意调用,和不同层级的企业客户进行分层和限流。本博客展示了智能客户的方案进行的 POC 测试,和可落地的代码参考。