亚马逊AWS官方博客

云学堂:业务代码能力提升 44%,基于 Amazon SageMaker 大模型微调赋能代码生成的创新实践

本文详细介绍了云学堂利用 Amazon SageMaker 平台,针对 Java 代码生成领域进行大语言模型微调的探索和实践。通过精心的数据准备、创新的训练技术和全面的模型评估,云学堂成功开发出基于 DeepSeek-Coder 性能卓越的业务代码生成模型。

Amazon Bedrock 知识库加速客服团队应用 GenAI 能力

利用 Amazon Bedrock 知识库和定制的 Zendesk App 帮助客服团队快速应用检索增强生成(RAG)能力、提高工作效率的解决方案。主要包括使用 Bedrock 知识库进行 RAG 查询和响应生成、基于 Zendesk App 提供客服交互界面、记录日志用于优化等关键环节。通过较低的成本即可获得强大的 GenAI 辅助能力。

利用 Self Refine 提高 LLM 的生成质量

尽管 LLMs 能够生成看似合理的内容,但在细节、一致性和上下文理解等方面仍存在显著缺陷。 这些挑战凸显了一个关键问题:如何在充分利用 LLMs 强大生成能力的同时,确保输出内容的稳定,一致和丰富?为解决这一问题,研究人员提出了 Self Refine 技术,这一创新方法旨在通过迭代优化提升 LLMs 的输出质量。