Category: Artificial Intelligence

在数字经济时代，拥抱生成式 AI 技术已经成为企业的当务之急。企业制定总体的企业 AI 战略蓝图，对生成式 A […]

利用 Amazon Bedrock 知识库和定制的 Zendesk App 帮助客服团队快速应用检索增强生成（RAG）能力、提高工作效率的解决方案。主要包括使用 Bedrock 知识库进行 RAG 查询和响应生成、基于 Zendesk App 提供客服交互界面、记录日志用于优化等关键环节。通过较低的成本即可获得强大的 GenAI 辅助能力。

尽管 LLMs 能够生成看似合理的内容，但在细节、一致性和上下文理解等方面仍存在显著缺陷。 这些挑战凸显了一个关键问题：如何在充分利用 LLMs 强大生成能力的同时，确保输出内容的稳定，一致和丰富？为解决这一问题，研究人员提出了 Self Refine 技术，这一创新方法旨在通过迭代优化提升 LLMs 的输出质量。

本文基于 Amazon EKS，自建部署了 Dify 社区版，使用 Amazon S3，Aurora Postgre SQL，ElastiCache for Redis 等替代了 Dify 内置对象存储，PostgreSQL 和 Redis，并且增加了 Dify 核心服务的副本数量，实现了生产级别高可用。

类似的大模型+语音交互方案已逐步应用到生活的多个领域。例如智能音箱可通过语音指令控制家电，智能车载系统支持语音导航和信息查询，智能玩偶以寓教于乐的方式进行孩童陪伴，智能手机则集成了各类语音助手，方便用户随时随地进行语音交互。这种全新的交互模式有望改变人们的工作和生活习惯，提供高效、自然、无障碍的人机交互体验。本文将基于亚马逊云科技的 Amazon Bedrock、Polly 和 Transcribe 三项托管 AI/ML 服务和其他基础服务，实现一个大语言模型的语音交互方案。

提示词工程是一种高效灵活的技术,通过设计合理的提示,可以激发大型语言模型中蕴含的知识,从而在下游任务中获得良好的生成质量。本文全面介绍了提示词工程的基本原理、设计方法，以及在不同任务场景下的应用实践，包括直接提示、链式提示、图谱提示、生成类提示和集成式提示等 16 种技术。提示词工程为大型语言模型的应用开辟了广阔的前景，将与其他人工智能技术相互融合，构建更加智能、高效和人性化的人机交互系统。

这个解决方案演示了如何使用亚马逊个性化服务（Amazon Personalize）为 Amazon Pinpoint 生成高度个性化的客户细分。它利用机器学习来分析客户数据，如产品互动和属性，以识别对特定产品类别或属性感兴趣的细分群体。通过自动化工作流程完成 Amazon Personalize 模型训练，生成用户细分，并将其导入 Amazon Pinpoint。营销人员可以随后创建有针对性的活动和旅程，通过电子邮件、推送通知和短信等渠道与细分用户进行互动。

本文介绍了 Amazon Lex 的新生成式 AI 功能以及和 Amazon Connect 结合提供智能语音客服功能具体的配置过程。通过应用大型语言模型（LLM），Amazon Lex 能够理解更复杂的问题，并提供更自然、更人性化的回答。Lex 提供的新生成式 AI 功能包括：描述性机器人构建、辅助槽位解析，训练话语生成以及 AMAZON.QnAItent 自动构建。

本文将以 Llama3 模型为例，介绍如何在 Amazon SageMaker 便捷地进行模型推理，并根据设定的伸缩策略进行自动扩缩，以应对不同的工作负载需求。

LLM 的推理过程需要强大的算力包括显存资源，这使得在现代硬件平台上高效服务这些模型变得极具挑战性。通过使用 Spot 实例， 在维持高性能的同时能显著降低大语言模型的推理成本。