亚马逊AWS官方博客

Amazon Bedrock 多 IAM 用户的成本追踪和控制方案助力 AI Character 最佳实践

在本篇博客文章中，我们将深入探讨如何利用 CloudWatch 近乎实时地监控 Bedrock 的运行状况。本文设定用户场景，企业级用户使用多个 IAM 用户来使用 Bedrock，管理人员准实时监控每个 IAM 用户的 Token 数，超过阈值的时候剥夺该 IAM 用户的 Bedrock 权限，从而实现对单个 IAM 用户的精细成本管控，避免因为不当使用大语言模型而造成潜在的巨大成本损失。

使用 Serverless 架构快速构建基于 Iceberg 的事务型实时数据湖

目前大部分使用数据湖技术的场景，需要托管大规模的大数据集群，例如 Kafka 集群，Hadoop 集群等等，但是，由于集群的运维复杂度和资源弹性管理需要投入大量的人力。并且如果需要实现从数据库到数据湖的实时同步，需要对数据库事务性的数据变更进行单独的处理，才能够使得数据库与数据湖之间数据保持一致性。因此，本文提出基于 AWS 中相关的 Serverless 服务来构建数据湖，该方案主要利用 AWS 中 MSK Connect，MSK Serverless，Glue，Athena 来构建无服务的数据湖方案。

通过 Bedrock Access Gateway 解决方案快速访问 Amazon Bedrock 的多种大语言模型

亚马逊云科技研发的 Bedrock Access Gateway 解决方案提供了兼容 OpenAI API 的代理功能。本文主要介绍该方案的架构、原理、部署方法，以及如何通过该方案在不修改原应用代码的情况下，将针对 GPT 的 API 请求转发给 Amazon Bedrock，从而快速访问包括 Claude3 在内的多种大语言模型。

← Older posts