先声智能使用 AWS 应对工作负载高峰

数百万名从幼儿园到 12 年级的学生依赖先声智能来评估他们的英语口语和写作能力。该公司的人工智能 (AI) 平台在云端运行，能够处理多达 1.6 亿项测试，这些测试可以衡量每天参加 300 多所教育机构（主要位于中国）的三百万名学生的口语和写作能力。

先声智能平台在每天下午 5 点到 10 点期间承受着沉重的工作负载，确保在这个时间段高效处理沉重的工作负载是确保学生在进行口语和写作测试时能够获得快速应用程序性能的关键。如果云基础设施无法快速提供问题和测试结果，先声智能就面临着丢失客户的风险。

先声智能于 2016 年成立，作为一家快速发展的公司，先声智能的联合创始人兼首席执行官 Long Qin 认识到，公司需要扩展其云环境才能满足学生们不断增加的需求。公司最初依赖于一家位于中国的备选云提供商，但学生们遇到了网络性能下降的情况，包括测试需要较长时间才能加载。

当在中国进行的季节性零售活动达到高峰，并且使用同一家云提供商的其他客户所产生的流量过多，严重影响了先声智能所共用的计算资源时，这一问题变得尤为突出。在一些时候，学生们根本无法进行测试。

“提供商建议我们购买更多的计算资源以在这些繁忙时段保持网络稳定，但这样会大幅增加我们的成本”，Qin 说。“尽管我们确实需要提高服务的可靠性，但我们也希望能够经济高效地实现这个目标，以保持较强的现金流。”

为了解决性能问题，Qin 求助于 Amazon Web Services (AWS) 以获得更多支持。由于 AWS 已经为 Qin 之前工作过的一家公司预置了云环境，所以，他知道自己可以信任 AWS，相信 AWS 能够提供同样卓越的应用程序性能。Qin 还知道 AWS 能够以合理的成本预置计算资源。

吸引 Qin 的另一个关键因素是 AWS EdStart 计划。AWS EdStart 可以帮助初创公司在云中构建创新型教育和学习解决方案，同时还为符合条件的公司提供 AWS 云服务积分。通过 AWS EdStart，先声智能可以与其他教育初创公司一起，访问咨询服务、培训和社区论坛。

自从加入 AWS EdStart 计划后，Qin 一直与其他成员一起，积极参加各种社区论坛和教育训练营。在最近的一次活动中，Qin 向其他 AWS EdStart Member 发表了关于先声智能如何利用 AI 的见解。

“AWS EdStart 计划帮助我们与客户和合作伙伴建立联系，”Qin 指出。“这是在教育领域中进行联系的绝佳方法。”

先声智能云环境使用具有自动扩展功能的 Amazon Elastic Compute Cloud (Amazon EC2) 服务器实例和 Elastic Load Balancing 在服务器之间分发工作负载。为了进行对象存储，先声智能使用 Amazon Simple Storage Service (Amazon S3)，同时 Amazon Elastic Block Store (Amazon EBS) 还提供了数据块存储，Amazon S3 Glacier 通过长期备份服务提供数据存档。先声智能通过 Amazon CloudWatch 对环境进行监控。

Qin 特别称赞的一项 AWS 服务是 Amazon Polly，这项服务使用深度学习技术将文本转换为十分逼真的语音。文本转换为语音服务可将人类的自然声音与来自多种语言的几十种语音合并，以构建支持语言的应用程序。

“我们的服务使用 Amazon Polly，让学生能够听出演讲者发言中细微的英语语言差异，”Qin 解释说。“我们通常会雇佣演员，但有时候找不到，并且可能价格昂贵。AWS 为我们提供了低成本的备选方案，这项技术能够提供与人类非常相似的声音，并且提供男性和女性演讲者选项。”

Qin 说，在 AWS 上设置 IT 基础设施非常简单。先声智能依赖于位于中国的两个 AWS 数据中心，Qin 知道，如果先声智能需要扩大目标市场，可以使用位于世界其他区域的数据中心。“我们还非常看重 AWS 定期升级计算资源，”Qin 补充道。“这样可以在保持相同的新资源成本的同时，降低较旧资源的成本。这在不增加成本的情况下，为我们提供了更强大的 CPU 和更多内存。”

由于 AWS 环境与先声智能的初始云提供商的环境是并行运行的，先声智能现在可以使用 Web 访问点随时测量哪个云服务能够提供更快速的响应。“AWS 环境能够始终一致地提供较高的性能，”Qin 说。“我们的学生客户不会遇到任何测试问题。”

事实证明，当实施封锁，学生们不得不在家学习时，指引学生使用 AWS 基础设施能够带来更多益处。在实施封锁的前几周内，点击先声智能网站的流量增加了八倍，并且从此之后一直保持较高水平。“幸好有 AWS，我们才能在没有花费较大成本的情况下成功处理了这一高峰期流量问题，”Qin 说。

先声智能除了从 AWS 获得了技术和成本方面的优势之外，Qin 还强调了 AWS 团队所发挥的重要作用：“我们喜欢 AWS 与我们合作的方式，他们提供多种服务，让我们能够清楚地了解我们的投资回报情况。他们还让我们相信，我们能够获得帮助我们的公司成功实现目标的最佳建议。我们信任 AWS，他们推荐的服务始终超出我们的预期。”