CarbonTrail 将生成式人工智能成本降低 88%，用于可持续排放数据监测

CarbonTrail 的使命是帮助企业测算并减少碳排放，目标是到 2050 年前减少 10 亿吨二氧化碳排放。然而，传统方法（人工流程与基于支出的粗略估算）速度太慢、准确性低且资源消耗大，难以扩展。银行面临额外挑战：监管要求需跨多个系统处理数十万客户记录，这一规模是人工方式无法实现的。新西兰银行（BNZ）便面临此问题，该银行设定了测算 50% 中小企业客户排放量的目标。

CarbonTrail 计划构建一个平台，能够接收大量会计和发票数据、提供精准洞察、减少人工智能工作负载的碳排放，并通过区域内托管满足严格的数据主权规则。创始人 Tom Hallam 表示：“银行面临压力，需了解其融资相关排放，即与贷款和投资相关的温室气体排放，这是银行对气候影响最大的领域。要快速、精准地实现这一目标，需要一个能提供规模化、准确性和可信度的人工智能驱动平台。”

为满足这些需求，CarbonTrail 在 AWS 上构建了人工智能驱动的排放测算平台。该平台的核心是在 Amazon Bedrock 上运行文档分析流程，处理发票、收据等非结构化数据，提取精准排放测算所需的细节信息。为提升效率，CarbonTrail 在 AWS Inferentia（AWS 定制硅芯片产品组合的一部分）上运行工作负载，实现更高吞吐量的同时降低每令牌的碳排放量。团队通过 Amazon Bedrock 基础模型集成 Llama 等生成式人工智能模型，实现规模化的可持续碳核算。最后，AWS Fargate 和 AWS Lambda 提供容器化、无服务器应用，为平台赋予弹性运营和无缝可扩展性。

Hallam 表示：“作为团队，我们专门寻找那些能让我们提供数据洞察，同时能耗或碳排放仅为标准生成式人工智能方法一小部分的工具、服务和硬件。这就是我们选择 AWS Inferentia 的原因。”

该平台采用区域内托管以满足数据主权要求，并支持 Amazon Virtual Private Cloud（Amazon VPC）对等连接等部署模式，服务于银行客户。Hallam 补充道：“借助 AWS，我们可在自身环境内完全运行模型，确保数据不外泄，符合客户的安全预期。这并非“一刀切”的 SaaS 产品，而是旨在直接集成到客户环境中，提供规模化的安全、可持续数据洞察。”

在此基础上，CarbonTrail 还推出了 CarbonAPI，这是一项面向开发者的服务，将相同的发票级别排放测算能力拓展至合作伙伴与金融科技公司。该 API 由 AWS Inferentia 提供支持，使机构能将标准化、可审计的排放数据洞察直接嵌入自身应用与服务，助力可持续发展报告的规模化应用，远超单个客户的覆盖范围。

Hallam 表示：“我们能处理数十万客户记录，且无需额外成本。借助 AWS Inferentia，我们还减少了人工智能工作负载的碳排放，这对我们的使命至关重要。”

通过在 AWS 上运行排放测算平台，CarbonTrail 实现了性能与效率的双重提升：相比具备嵌入功能的同类 GPT-4 模型，处理时间缩短 87%，成本降低 88%。该平台还将低可信度分类占比降低高达 40%，并通过区域内数据存储满足数据主权与合规要求。

通过 CarbonAPI，银行、金融科技公司及企业能够处理人工难以管理的海量交易与发票数据，同时缩短产品上市时间。这款即用型 API 将原本需要数月的开发工作，转变为几分钟内即可集成的排放追踪功能，帮助机构更轻松地将可持续发展洞察直接嵌入自身产品与服务。

 

其影响已十分显著。新西兰银行（BNZ）增长领域可持续金融负责人 Alex West 表示：“CarbonTrail 在 AWS 上运行的 CarbonAPI，正帮助我们向测算所有中小企业客户排放量的目标迈进。区域内交付的精准、发票级别数据洞察，让我们有信心支持客户履行可持续发展承诺，同时实现银行自身的目标。”

展望未来，CarbonTrail 计划扩大其 CarbonAPI 的覆盖范围，同时持续优化人工智能模型，以进一步降低推理过程的碳足迹，并实现运营工作流程自动化。