50배 증대
테스트 용량
50% 절감
응답 지연 시간
2.5초 이내
Anthropic's Claude 3 Haiku의 반응 지연 시간
10만 건의 통화
생성형 AI 솔루션 기준 일일 횟수
50% 절감
Amazon Bedrock을 사용한 생성형 AI 애플리케이션 배포 시간
개요
DoorDash의 고객 센터에는 소비자와 판매자, 그리고 플랫폼을 통해 배달하는 독립 계약자인 Dasher로부터 하루에 수십만 건의 지원 요청이 접수됩니다.
DoorDash는 지원을 간소화하기 위해 생성형 인공 지능(AI)의 힘을 활용하여 셀프 서비스 제품을 개선하고 사용자 경험을 향상시키고자 했습니다. DoorDash는 기업과 AWS 전문가를 연결해 생성형 AI 솔루션을 구현하는 AWS 생성형 AI 혁신 센터(GenAIIC) 프로그램을 통해 Amazon Web Services(AWS)와 협력하여 완전히 음성으로 작동하는 셀프 서비스 생성형 AI 고객 센터 솔루션을 구축했으며, 이 솔루션은 불과 2개월 만에 라이브 테스트를 시작할 수 있었습니다.

기회 | 전 세계 수백만 Dasher의 사용자 경험을 개선하기 위한 생성형 AI 고객 센터 솔루션 구축
DoorDash는 지역 경제의 성장과 역량 강화를 사명으로 2013년에 시작되었으며 지역 비즈니스의 성공을 돕고, 현지 소비자를 동네 최고의 배달 기사와 편리하게 연결하고, Dasher에게 유연한 수익 창출 방법을 제공합니다. 2023년 말이 되었을 때, 사용자층은 매달 DoorDash를 사용하는 활성 소비자 3,700만 명 이상, 월간 활성 Dasher 2백만 명 이상 규모로 성장했습니다.
DoorDash는 소비자, 판매자 및 Dasher의 요구를 충족하기 위해 AWS의 AI 기반 고객 센터인 Amazon Connect를 사용합니다. DoorDash는 Amazon Connect를 통해 하루에 총 수십만 건의 통화를 처리합니다. 여기에는 앱 문제 해결부터 가입 및 결제 옵션에 이르기까지 일상적인 주제에 대해 도움이 필요한 Dasher의 전화가 포함됩니다.
지원팀에 문의하면 사용자는 Amazon Connect와 Amazon Lex를 기반으로 하는 셀프 서비스 대화형 음성 응답(IVR) 환경에 걸쳐 안내를 받을 수 있습니다. 이를 통해 DoorDash의 상담원 이동을 49% 줄이고 첫 문의 시 해결을 12% 증가시켜 DoorDash 사용자의 경험을 개선하고 전년 대비 300만 달러의 운영 비용을 절감할 수 있었습니다. 하지만 대부분의 통화가 여전히 실시간 상담원에게 리디렉션되고 있는 상황에서 DoorDash는 셀프 서비스 서비스를 더욱 개선할 기회를 포착했습니다. “Dasher가 가장 자주 묻는 질문과 문제를 최대한 빠르고 효율적으로 해결하도록 지원하여 이들의 시간과 노력을 절약하고 DoorDash의 셀프 서비스 기능에 대한 신뢰를 높이고 싶었습니다.”라고 DoorDash의 고객 센터 제품 책임자인 Chaitanya Hari는 말합니다.
Dasher는 일반적으로 판매자 또는 소비자 위치를 오가는 주행 중에 채팅하는 것보다 지원팀에 전화하는 것을 선호합니다. 이들은 빠르고 안정적인 지원을 제공하는 데 있어 전화에 의지하기 때문에 모든 셀프 서비스 솔루션에서 응답 지연 시간이 두 배로 중요합니다. DoorDash는 Dasher가 전화 통화 시간을 최대한 줄일 수 있도록 해야 했습니다. 따라서 응답 지연 시간을 줄이는 것이 전화 솔루션의 핵심 요소가 되었습니다.
DoorDash의 고객 센터 팀은 Dasher 지원을 간소화하기 위해 Amazon Connect 내에서 셀프 서비스에 생성형 AI를 사용하고자 했습니다. 팀은 문제 해결과 고객 만족에 대한 높은 기준을 유지하면서 대규모로 신속하게 출시할 수 있는 솔루션을 모색했습니다. 팀은 단일 API를 통해 주요 AI 회사의 고성능 파운데이션 모델을 제공하는 완전 관리형 서비스인 Amazon Bedrock을 솔루션의 기반으로 선택했습니다.

AWS를 사용하여 Dasher가 필요할 때 필요한 정보에 안정적으로 액세스할 수 있는 솔루션을 구축했습니다.”
Chaitanya Hari
DoorDash 고객 센터 제품 책임자
솔루션 | 생성형 AI 서비스를 사용하여 DoorDash의 IVR 경험 강화
AWS GenAIIC는 DoorDash에 투자하고 협력하여 기존 음성 AI 어시스턴트를 개선하기 위한 사용자 지정 생성형 AI 솔루션을 설계, 구축 및 배포했습니다. DoorDash와 GenAIIC 팀은 8주에 걸쳐 설계 및 구현을 반복하고 프로덕션 A/B 테스트에 적합한 참조 아키텍처를 개발했습니다. Amazon Bedrock 기반 솔루션은 생성형 AI 애플리케이션 개발 시간을 50% 단축했습니다.
DoorDash는 솔루션을 구축하기 위해 Amazon Bedrock에서 Anthropic Claude 모델을 사용하기로 결정했습니다. DoorDash는 Amazon Bedrock을 사용하여 필요한 모든 모델에 빠르게 액세스할 수 있었습니다. Claude는 할루시네이션, 프롬프트 인젝션 이벤트를 완화하고 욕설을 감지할 수 있기 때문에 이 프로젝트에 중요한 역할을 했습니다. Claude 3 Haiku가 출시되면서 DoorDash는 음성 애플리케이션에 필요한 정확성과 속도를 달성하여 2.5초 이하의 응답 지연 시간을 달성했습니다. DoorDash는 이러한 생성형 AI 솔루션을 통해 액세스할 수 있는 개인 식별 정보를 제공하지 않습니다. 또한 Amazon Bedrock은 암호화를 통해 데이터 보안을 지원하고 DoorDash 또는 해당 고객의 데이터가 DoorDash 애플리케이션에서만 사용되도록 합니다.
“AI로 생성한 응답을 전화 지원에 사용하면 고유한 문제가 발생합니다. 이 문제를 해결하기 위해서는 응답 시간과 응답 품질을 개선하여 Dasher들에게 업계 최고의 지원을 제공할 혁신적인 전략이 필요했습니다. Amazon Bedrock은 저희의 요구 사항에 완벽하게 부합하는 솔루션이었기 때문에 저희는 세부 사항을 개선하는 데 집중할 수 있었습니다.”라고 DoorDash 수석 프로젝트 엔지니어인 Vraj Shah는 말합니다.
심층적인 지식 기반에 대한 액세스는 셀프 서비스 솔루션의 또 다른 중요한 요소였습니다. 지식 기반이 심층적이고 다양할수록 이 솔루션은 더 효과적입니다. DoorDash는 회사 소스에서 데이터를 가져와서 Dasher에게 더 관련성 있고 정확한 응답을 제공하도록 프롬프트를 강화하는 기술인 검색 증강 생성(RAG)을 사용하기 위해 공개적으로 이용 가능한 고객 센터의 데이터를 추가했습니다.
기존 콘텐츠를 인덱싱하기 위해 수집에서 검색 및 프롬프트 보강에 이르는 전체 RAG 워크플로를 구현하는 데 도움이 되는 완전관리형 기능으로, 데이터 소스에 대한 사용자 지정 통합을 구축하고 데이터 흐름을 관리할 필요가 없는 Knowledge Bases for Amazon Bedrock을 사용했습니다. Knowledge Bases for Amazon Bedrock이 DoorDash의 백엔드 작업을 처리했습니다.
그림 1. 대화 분석을 포함하는 고객 센터 RAG 솔루션 아키텍처

또한 DoorDash는 GenAIIC의 도움을 받아 솔루션을 테스트할 수 있는 용량을 늘렸습니다. 이전에는 팀에서 시간당 소수의 수동 테스트 사례를 완료하기 위해 고객 센터 상담원을 지원 대기열에서 제외해야 했습니다. DoorDash는 개발자가 기계 학습 모델을 구축, 교육 및 배포하는 데 사용하는 Amazon SageMaker를 사용하여 테스트 및 평가 프레임워크를 구축하고 A/B 테스트에서 신속하게 인사이트를 얻고 주요 성공 지표를 대규모로 평가했습니다. 이 프레임워크를 통해 DoorDash는 시간당 수천 개의 자동화된 테스트(용량 50배 증가)를 완료하고 실측 데이터를 기준으로 응답을 의미론적으로 평가할 수 있습니다.
DoorDash는 일반적인 Dasher 문의를 자동으로 처리함으로써 셀프 서비스 워크플로를 개선하고 문제 해결 속도를 높였으며 이는 배달 시간을 단축하고 Dasher의 생산성과 만족도를 높이는 데 도움이 됩니다. 또한 생성형 AI로 일상적인 질문을 해결함으로써 DoorDash의 실시간 상담원은 사람이 직접 문제 해결하는 편이 나은 더 복잡한 문제를 해결하는 데 더 많은 시간을 할애할 수 있게 되었습니다.
그림 2. 자동화된 테스트

성과 | DoorDash 솔루션 출시 및 새로운 사용 사례로 확장
DoorDash는 2024년 초에 생성형 AI 솔루션의 테스트를 성공적으로 완료한 후 모든 Dasher를 위한 새로운 셀프 서비스 옵션의 출시를 완료했습니다. 이 솔루션은 현재 매일 수십만 건의 Dasher 지원 전화를 처리하고 있으며, 이로 인해 Dasher 관련 지원 문의에 대한 통화량이 크게 줄었습니다. 또한 이 솔루션은 실시간 상담원에 대한 에스컬레이션 수를 하루에 수천 건까지 줄이고 지원 문의를 해결하는 데 필요한 실시간 상담원의 작업 수를 줄였습니다.
출시 초기 성공에 따라 팀은 현재 솔루션에 더 많은 기능을 추가하고, DoorDash의 이벤트 기반 물류 워크플로 서비스를 활용하고 통합하여 질문과 답변 지원을 제공할 뿐만 아니라 사용자를 대신하여 조치를 취할 수 있도록 솔루션에 사용 가능한 지식 기반의 폭을 확장하는 작업을 진행 중입니다.
“AWS와 Anthropic Claude를 사용하여 Dasher가 필요할 때 필요한 정보에 안정적이고 이해하기 쉽게 액세스할 수 있는 솔루션을 구축했습니다.”라고 Hari는 말합니다. “이는 사용자와 플랫폼 전체에 계단식으로 긍정적인 영향을 미치고 있으며, 앞으로 새로운 사용 사례로 확장할 수 있기를 기대하고 있습니다.”
DoorDash 소개
DoorDash는 판매자가 편의 경제에서 번창할 수 있도록 돕고, 소비자가 더 많은 커뮤니티에 접근할 수 있도록 하고, 권한을 부여하는 작업을 제공하는 데 전념하는 지역 상거래 플랫폼입니다.

Chaitanya Hari
DoorDash 음성/고객 센터 제품 책임자
Chaitanya는 영업, 지원 등의 애플리케이션 전반에서 DoorDash 음성 시스템의 전략적 발전 및 기술적 발전을 주도하고 있습니다. Chaitanya는 AI의 최신 기술을 활용하여 운영 효율성을 높이고 DoorDash의 전반적인 비용 효율성을 개선하며 궁극적으로 뛰어난 고객 경험을 창출함으로써 DoorDash의 이익을 위해 고객 센터 기술의 경계를 지속적으로 넓히기 위해 노력하고 있습니다.

Vraj Shah
DoorDash 연결 개발자
Vraj는 DoorDash의 음성 팀 개발자입니다. Vraj는 Amazon Connect에 중점을 둔 AWS 기술에 대한 탄탄한 배경을 가지고 있으며, 이를 활용하여 DoorDash의 고객 센터 기술을 발전시키고 있습니다. Vraj는 운영 우수성을 높이고 상담원의 생산성을 높이며 고객 만족도를 향상시키는 데 핵심이 되는 솔루션을 설계하고 구현했습니다. 이를 통해 고객에게 개인화되고 원활한 경험을 제공하여 고객 만족도를 크게 높이고 회사의 비용을 더 절감할 수 있었습니다.
사용된 AWS 서비스
Amazon Bedrock
Amazon Bedrock은 선도적인 AI 기업의 고성능 파운데이션 모델(FM) 중에서 선택할 수 있고, 보안, 프라이버시, 책임 있는 AI 원칙을 적용한 생성형 AI 애플리케이션을 구축하는 데 필요한 다양한 기능 세트를 제공하는 완전관리형 서비스입니다.
Amazon Connect
AWS의 AI 기반 고객 센터인 Amazon Connect를 사용하여 규모에 맞게 고객 경험(CX)을 혁신합니다.
자세히 알아보기 »
Amazon Lex
Amazon Lex는 대화형 인터페이스를 애플리케이션에 설계, 구축, 테스트, 배포하기 위해 고급 자연어 모델을 사용하는 완전관리형 인공 지능(AI) 서비스입니다.
자세히 알아보기 »
Amazon SageMaker
Amazon SageMaker는 모든 사용 사례에서 저비용 고성능 기계 학습(ML)을 지원하는 다양한 도구 세트를 한데 결합한 완전관리형 서비스입니다.
자세히 알아보기 »
AWS 생성형 AI 혁신 센터
AI/ML 및 생성형 AI 기술에 대한 풍부한 경험을 갖춘 AWS 과학 및 전략 전문가와 함께 생성형 AI의 새로운 애플리케이션을 구상하여 요구 사항을 해결하고, 비즈니스 가치를 기반으로 새로운 사용 사례를 식별하고, 생성형 AI를 기존 애플리케이션 및 워크플로에 통합하는 프로그램입니다.
자세히 알아보기 »
시작하기
모든 산업에서 다양한 규모의 조직이 AWS를 통해 매일 비즈니스를 혁신하고 임무를 수행하고 있습니다. 지금 전문가와 상담하고 AWS로의 여정을 시작하세요.