Crypto.com 在 AWS 上使用生成式人工智能在 1 秒内提供准确的情绪分析

Crypto.com 于 2016 年成立，其怀揣着一项雄心勃勃的使命：让加密货币走进每个人的钱包。该公司高度关注推动用户普及，拥有包括商家和支付网关在内的广泛合作伙伴网络，使其在众多交易平台上独树一帜。Crypto.com 目前为 90 个国家/地区的约 1 亿用户提供服务。

在这个不断发展、竞争激烈的行业中，面对如此快速的增长和多元化的客户群，Crypto.com 通过采用生成式人工智能（AI），快速提供优化的客户体验。该公司的人工智能应用场景包括用于用户引导和客户查询的对话助手，以及用于生成社交媒体营销活动的向导。

在生成式人工智能应用中，情绪分析和新闻叙事分类正变得日益重要；尤其是在加密货币领域，投资者需要及时且准确的市场情报，以便做出明智的决策。Crypto.com 提供市场洞察服务，可以让用户从加密货币和传统新闻来源获取最新新闻和信息，以此从该公司的智能引擎中获得深入见解。每项订阅服务都是根据用户的交易水平及其钱包中的币种量身定制的。

Crypto.com 使用一系列现成的机器学习（ML）模型以及自己的定制模型进行情绪分析。然而，开源模型的局限性和自托管大型语言模型（LLM）的高成本给开发人员带来了挑战。他们还面临着开源模型生成结果的准确性问题（该问题在处理多语言新闻站点时尤其明显）。因此，Crypto.com 开始寻找一种更为有效的解决方案，以整合和综合来自多个机器学习模型（包括预训练模型和定制模型）的输出结果，从而为加密货币市场提供准确、可靠和全面的洞察力。

自从 Crypto.com 成立以来，就一直在 Amazon Web Services（AWS）上运行服务，因此在为情绪分析寻找新的大型语言模型时，Amazon Bedrock 上的 Anthropic Claude 3 就成了顺理成章的选择。这些大型语言模型具有高度可扩展性，可以实时处理大量数据，有助于开展全面的市场研究。初步结果显示，Amazon Bedrock 上的大型语言模型能够非常迅速地返回结果，通常在一秒之内。

通过集成 Amazon Bedrock，消除了自托管大型语言模型所涉及的人工操作、额外成本和计算限制。在一个月内，Crypto.com 就在 Amazon Bedrock 上实施了用于情感分析的 Anthropic Claude 3 Haiku 模型，收集并分析超过 25 种语言的加密货币新闻。该公司还利用 Amazon Bedrock 进行持续的概念验证（POC）和开发。Crypto.com 人工智能与创新技术主管 Sunny Fok 表示：“Amazon SageMaker 和 Amazon Bedrock 等 AWS 服务上的生成式人工智能简化了我们采用最新大型语言模型和人工智能技术的过程。现在，我们可以在几周内将创新想法从概念验证推进到全面生产。”

为确保在模型输出中应用特定领域的知识，Crypto.com 使用自己的数据，在 Amazon Elastic Compute Cloud（Amazon EC2）上对 Mistral AI 和 Meta Llama 等开源模型进行微调。当市场上出现新的币种时，这种方法至关重要，因为现成模型往往会产生不尽如人意的结果。随后，Crypto.com 开始使用 Amazon SageMaker 作为按需端到端机器学习开发平台，对其定制模型进行微调。

Crypto.com 高级工程师 Raymond Lam 说：“Amazon SageMaker 提供了各种工具和 API，使我们能够通过用户友好的界面轻松调整模型。与 Amazon Bedrock 类似，我们只需要根据需要运行机器学习作业，而且相较于自行操作，管理定制模型要容易得多。”

在多代理部署中，从创意生成、概念验证到生产阶段，Crypto.com 得到了 AWS 的广泛支持。“针对不同应用场景应该部署哪些工具或框架，我们展开过多次讨论。”Lam 说，“AWS 团队分享了现有的应用场景，提供了示例代码，并演示了每个步骤。当出现技术问题时，AWS 解决方案架构师会帮助排除故障并提供建议，这加快了我们在 AWS 服务上采用生成式人工智能的速度。”