Category: Artificial Intelligence

尽管 LLMs 能够生成看似合理的内容，但在细节、一致性和上下文理解等方面仍存在显著缺陷。 这些挑战凸显了一个关键问题：如何在充分利用 LLMs 强大生成能力的同时，确保输出内容的稳定，一致和丰富？为解决这一问题，研究人员提出了 Self Refine 技术，这一创新方法旨在通过迭代优化提升 LLMs 的输出质量。

本文基于 Amazon EKS，自建部署了 Dify 社区版，使用 Amazon S3，Aurora Postgre SQL，ElastiCache for Redis 等替代了 Dify 内置对象存储，PostgreSQL 和 Redis，并且增加了 Dify 核心服务的副本数量，实现了生产级别高可用。

类似的大模型+语音交互方案已逐步应用到生活的多个领域。例如智能音箱可通过语音指令控制家电，智能车载系统支持语音导航和信息查询，智能玩偶以寓教于乐的方式进行孩童陪伴，智能手机则集成了各类语音助手，方便用户随时随地进行语音交互。这种全新的交互模式有望改变人们的工作和生活习惯，提供高效、自然、无障碍的人机交互体验。本文将基于亚马逊云科技的 Amazon Bedrock、Polly 和 Transcribe 三项托管 AI/ML 服务和其他基础服务，实现一个大语言模型的语音交互方案。

提示词工程是一种高效灵活的技术,通过设计合理的提示,可以激发大型语言模型中蕴含的知识,从而在下游任务中获得良好的生成质量。本文全面介绍了提示词工程的基本原理、设计方法，以及在不同任务场景下的应用实践，包括直接提示、链式提示、图谱提示、生成类提示和集成式提示等 16 种技术。提示词工程为大型语言模型的应用开辟了广阔的前景，将与其他人工智能技术相互融合，构建更加智能、高效和人性化的人机交互系统。

这个解决方案演示了如何使用亚马逊个性化服务（Amazon Personalize）为 Amazon Pinpoint 生成高度个性化的客户细分。它利用机器学习来分析客户数据，如产品互动和属性，以识别对特定产品类别或属性感兴趣的细分群体。通过自动化工作流程完成 Amazon Personalize 模型训练，生成用户细分，并将其导入 Amazon Pinpoint。营销人员可以随后创建有针对性的活动和旅程，通过电子邮件、推送通知和短信等渠道与细分用户进行互动。

本文介绍了 Amazon Lex 的新生成式 AI 功能以及和 Amazon Connect 结合提供智能语音客服功能具体的配置过程。通过应用大型语言模型（LLM），Amazon Lex 能够理解更复杂的问题，并提供更自然、更人性化的回答。Lex 提供的新生成式 AI 功能包括：描述性机器人构建、辅助槽位解析，训练话语生成以及 AMAZON.QnAItent 自动构建。

本文将以 Llama3 模型为例，介绍如何在 Amazon SageMaker 便捷地进行模型推理，并根据设定的伸缩策略进行自动扩缩，以应对不同的工作负载需求。

LLM 的推理过程需要强大的算力包括显存资源，这使得在现代硬件平台上高效服务这些模型变得极具挑战性。通过使用 Spot 实例， 在维持高性能的同时能显著降低大语言模型的推理成本。

Amazon Connect 是一种基于云的联络中心服务，旨在帮助企业提供更灵活、更高效的客户支持。通过集成多种通信渠道和自动化工具，Amazon Connect 能够显著提升客户体验和业务效率。某客户前期已经使用 Amazon Connect 在工作时间为其终端用户提供人工电话咨询服务。为了在非工作时间为终端用户提供自动化问答服务，我们将 Amazon Lex 和 Amazon Bedrock 与现有知识库结合起来，借助大型语言模型，为客户构建一个自动化的问答方案。

在当今快节奏的金融市场中，投资者需要实时获取并分析大量信息，以做出明智的投资决策。传统的分析方式需要大量的代码工作，也对人员的技术代码能力有一定的要求。通过利用 Amazon Bedrock 的 Agents 功能，我们可以低代码构建 AI 驱动的股票分析助手，帮助投资者快速高效地分析股票。