利用 Amazon Bedrock 构建生成式 AI 能力底座，财司客服和维修助手全面提升中集集团生产力

作为全球领先的集装箱制造商和物流装备制造商之一，中集集团高度重视技术创新。生成式 AI 技术问世以来，中集集团迅速跟进并展开 LLM（Large Language Model，大语言模型）应用研究，希望利用生成式 AI 推动业务创新。通过内部研讨和业内交流碰撞，中集集团在探索和部署生成式 AI 在集团及各业务板块的应用中面临着两大难题：

• 生成式 AI 应用落地难：LLM 有通识无专识，输出可能存在 “幻觉”，生成的内容未必完全能适用于中集集团的业务；“百模混战” 带来的技术更新迭代过快等，也成为生成式 AI 在中集集团内落地应用的关卡；
• 安全合规类挑战需解决：各类安全风险，包括数据安全风险、技术制裁风险、内容合规监管趋严、数据出境风险等，也为中集集团部署生成式 AI 中带来阻碍和门槛。

中集集团与亚马逊云科技自 2018 年深度合作以来，完成了中集集团的 SAP 上云、AI 机器视觉、数据湖、数字化绩效管理等诸多项目，双方携手云上转型共创成绩斐然。中集和亚马逊云科技成立了联合创新实验室共同研究生成式 AI 在中集的应用，共同启动 LLM 课题、可行性研究和应用探索，将生成式 AI 技术转化为中集集团的生产力。

中集集团及下属板块业务场景覆盖广泛，面临着多样化需求和专业化挑战，需要找到自身生成式 AI 创新应用的道路。基于亚马逊云科技和中集集团成立的联合实验室，双方通过多次技术交流协助中集完成了生成式 AI 的产业发展评估，并结合中集集团的战略和业务现状，通过原型方案快速验证，共同研究设计了 “6+3” LLM 创新应用框架，平衡 LLM 的创新应用与中集集团的数据安全需求。框架中的 “3”，代表在业务应用中需要三类定制化模型的支持和辅助：

• 适用于敏感信息处理的模型：专门识别和处理敏感及保密信息，确保数据安全；采用 Amazon SageMaker 与企业专有、私有化模型相结合，用于法务、招标等场景；
• 适用于企业知识库构建的模型：负责检索和整合企业内部数据，形成独特的企业知识库；面向中集集团海外客户，通过 Amazon Bedrock 调用 Claude 3 Opus 模型，定位为超级智能助手，适用于知识库相关场景；
• 适用于内容改写与数据还原的模型：对 LLM 生成的内容进行改写，并在必要时还原敏感数据；采用 Amazon SageMaker 与国产商用模型结合，适用于需要保障内容合法合规，同时在 LLM 返回内容时，可将交给 LLM 处理的脱敏脱密的企业数据和隐私信息进行还原的场景。

通过这三类定制化模型和 LLM 的结合，中集集团保障了核心数据和敏感信息始终在企业内部循环，同时又能与商业化 LLM 无缝集成。中集集团借助亚马逊云科技 Amazon SageMaker JumpStart、先进的 GPU 算力以及联合实验室多年深耕的技术能力和行业经验，灵活选择 LLM，并确保数据安全，利用 Amazon EC2 应用结合 Amazon API Gateway、AWS Lambda 实现标准接口，将企业生成式 AI 创新应用请求智能分流到匹配的模型中去处理，在用户体验、性能、成本三方面取得良好平衡。

框架中的 “6”，则代表在生成式 AI 服务中的六个关键环节——数据标注、生成、处理、传输、存储和集成中，该框架均为 LLM 在中集集团中的顺畅运行提供了全方位数据支持。该 “6+3” 创新框架为中集集团提供了一个安全、可控的 AI 应用环境，确保中集集团在保护企业数据安全和隐私的同时，充分利用了 LLM 的创新能力。

基于中集集团的 “6+3” 应用框架和亚马逊云科技的生成式 AI 能力，在双方联合创新实验室的支持下，构建企业级生成式 AI 能力底座，围绕能力、安全和价值构建员工赋能、团队智能应用和数字员工三类可推广的生成式 AI 场景化应用：

• 推出员工赋能应用：围绕员工个人的办公需求，利用 Claude3 强大能力，中集集团为其海外员工个人办公开发了 20 多个智能辅助应用，涵盖了工作报告编写、演讲稿准备、新闻稿撰写和多语种翻译等场景，有效提升员工的工作效率和生产力；
• 构建团队智能应用：中集集团基于企业数据构建了专有知识库，并结合检索增强生成 (RAG) 和智能体 (Agent) 技术，打造智能高效的部门数智服务，该类应用充分利用了企业行业能力和数据资源，为海外一线业务团队提供了强有力的技术支持；
• 打造并部署数字员工：针对海外特定专业场景，中集集团开发了由 LLM 驱动的、具备生成式 AI 能力的数字员工，应用在客户服务等领域；第一位数字员工财司客服 “点点” 已经在财司部署。

前两类面向海外业务的应用是通过 Amazon Bedrock 调用 Claude 3 模型，使用 LLM 本身的通用能力；对于第三类数字员工，则需要基于员工的具体属性，如所属部门、角色、岗位级别等，进行模型调优，让其具备相应部门、岗位所需要的技能。目前，中集集团基于亚马逊云科技在通用能力、财务场景、制造场景、法务助手、招投标以及企业内部办公等领域实现突破，已经部署了财司客服、维修助手、虚拟员工等，并推动一系列细分场景下的生成式 AI 应用落地。其中，财司客服 “点点” 是专为客户服务而设计的数字员工，点点能够回答中集集团财司客户的存款、结算、贷款、票据、外汇业务等常见问题，提供业务咨询、流程指引、业务申请资料清单及模板查询等服务。

“通过试用期测试发现，AI 数字员工能够快速识别客户意图，提供准确的回答和解决方案，而且 ‘服务态度’ 好，没有情绪，7×24 小时在线，服务的广度、强度、频度前所未有，海外客户满意度得到了显著提升。” 中集财司副总经理方继勋说，数字员工不仅让员工从大量重复事务性工作中解放出来，提高了业务价值交付效率，还为业务创新注入了动力，把更多精力投入到创新工作中。

会话结合知识管理的应用，是企业应用生成式 AI 较广泛的场景之一。中集集团面向其海外业务的财司客服 “点点”，成为会话结合知识管理领域的标杆应用率先落地。“点点” 具备强大的专业知识，集合了 4 大部门共超过 3400 项知识点，训练采用了超过 13000 项 AI 语料，可实现 7*24 小时内 30 秒内快速响应用户咨询。“点点” 面向中集集团子公司财务公司企业员工，提供关于公司内部规章制度、福利等员工关注信息的智能问答，生成答复的采用率高达 99.6%，咨询转人工率仅为 0.4%。

基于 Amazon Bedrock 知识库，集合中集集团各产品的维修手册和产品文档知识，中集集团针对其海外业务上线了能够为维修工人直接提供经验和各种知识汇总、查询、上下游维修记录打通的综合助手。维修工人可借助维修助手加速故障修复，使得 “关键故障” 引起的停机时间下降 20%，新加入维修员工熟悉岗位的时间从 1 年下降到 6 个月，让新维修员工更快独立开展工作。

亚马逊云科技为中集集团进行了多场深入的生成式 AI 技术赋能和应用普及交流活动，广受中集集团员工欢迎。在面向中集集团海外业务开展的通过 Amazon Bedrock 调用 Claude 3 构建通用智能助理活动中，上线一周回访率达到 73%，参加试点的员工中 98% 人员认为生成式 AI 技术能够帮助他们提升日常工作效率。