Reality Defender vs 딥페이크의 시대: AWS를 활용한 신뢰 구축

한 정치인이 소셜 미디어에 상대 당을 도발하는 동영상을 올립니다. 한 뉴스 사이트에 전쟁 범죄를 저지른 군대의 사진이 게시됩니다. 한 어머니가 딸로부터 긴급 상황이라며 돈을 요구하는 전화를 받습니다. HR 담당 임원이 세간의 이목을 끄는 구직 희망자와 비디오 면접을 진행합니다. 10년 전만 해도 우리는 이러한 동영상을 보고, 이미지를 보고, 목소리를 듣고, 이러한 통화에 참여하면서도 그 진실성에 의문을 제기하지 않곤 했습니다. 하지만 이제는 상황이 180도 달라졌습니다.

딥페이크는 대중 미디어, 뉴스 환경, 정치 분야 및 기업에 침투했습니다. 초기에는 눈에 띄는 몇 가지 징후를 포착할 수 있었습니다. 손가락이 여섯 개인 사람, 얼굴 불일치, 로봇과 같은 어색한 말투 등이죠. 하지만 AI 시스템이 더욱 정교해지고 사용 비용도 저렴해짐에 따라, 이 같은 징후를 찾아내기가 갈수록 어려워지고 현실과 사기 행위의 경계가 점점 모호해지고 있습니다.

Reality Defender의 Alex Lisle CTO는 “우리는 포스트 리얼리티 세계라고 할 수 있는 세상에 살고 있습니다. 당연하다고 여겼던, 보고 듣는 것들이 갑자기 그 진실성을 알 수 없게 되었고, 이러한 변화가 놀라울 정도로 빠르게 일어났습니다”라고 말합니다. 이 새로운 세계를 헤쳐나가려면 여러 가지 해결해야 해야 할 문제가 있습니다. 인류의 사고방식에 있어서 완전한 전환이 요구되고 있습니다. 딥페이크는 빠르게 진화했지만 우리가 세상을 해석하는 방식은 그렇지 않습니다. Lisle는 “우리는 여전히 우리가 보고 듣는 것을 믿습니다”라고 말합니다. 또한 새로운 기술뿐만 아니라 AI 기반 딥페이크 개발에 발맞춰 솔루션을 지속적으로 혁신하고 확장할 수 있는 기업도 필요합니다. Reality Defender는 그러한 회사 중 하나입니다.

AI 시대의 신뢰

설립자이자 CEO인 Ben Colman은 뉴욕에 본사를 두고, 55명이 일하고 있는 이 스타트업이 ‘딥페이크 탐지 분야에서 시장을 선도하고 있다’고 말합니다. 이 솔루션은 이미지뿐 아니라 실시간 동영상과 음성 전반에 걸쳐 딥페이크를 탐지할 수 있어, 고객의 생체 인식 데이터를 요구하지 않고도 중요한 커뮤니케이션 채널을 보호할 수 있습니다. Colman은 Reality Defender의 경우 ‘초창기에는 AWS로 시작하는 것이 당연했다’고 설명합니다. Reality Defender는 Amazon EC2, Amazon S3, Amazon EBS, Amazon Lambda, Amazon RDS 등의 AWS 솔루션을 사용하여, 금융 기관, 사이버 보안 회사, 정부 기관, 국방부를 비롯한 고객의 보안과 확장성 요구 사항을 지원할 수 있는 플랫폼을 구축했습니다.

Reality Defender가 AWS Generative AI Accelerator 및 AWS Activate 프로그램에 참여하고 AWS 크레딧을 활용하면서 초기 단계의 발전이 가속화되었습니다. 그 이후로 이 스타트업은 AWS Support, 인프라 및 이니셔티브를 통해 혁신하고 확장하고 수상 실적과 고객을 확보할 수 있었습니다. 최근에는 AWS와 연관된 여러 이벤트에 참여했으며, 시장 진출 전략을 뒷받침할 수 있는 AWS Marketplace에 리스팅될 예정입니다.

딥페이크의 발전을 앞서다

딥페이크는 오늘날에는 널리 알려진 위협이지만, 불과 몇 년 전까지만 해도 이 분야는 충분히 연구되지 않고 별로 노출되지도 않았습니다. Colman은 “저희는 2020년 선거를 앞두고 비영리 연구 프로젝트로 시작한 회사입니다. 선거 과정에서 등장하는 딥페이크를 탐지할 수 있을 것이라는 아이디어를 가지고 시장에 진출했습니다. 그런데 2020년 선거에서는 딥페이크가 사용된 사례가 없었고, 저희가 시장보다 몇 년 앞섰다는 사실을 매우 빠르게 깨닫게 되었습니다”라고 설명합니다.

Reality Defender의 비전이 아직 시장에서 광범위한 인지도를 얻지 못한 탓에, 회사는 제품을 개선할 시간이 생겼지만 한정된 리소스로 효율적으로 구축해야 한다는 압박도 생겼습니다. 그런 만큼 AWS Activate를 통해 AWS 크레딧을 활용하는 것은 매우 중요했습니다. Colman은 “저희는 시장의 변화보다 3~4년이나 크게 앞서 있었습니다. 하지만 협업과 크레딧과 특정 머신에 액세스할 수 있는 혜택 덕분에, 남들보다 빠르게 시작할 수 있었습니다”라고 말합니다. 그 결과, 예측했던 딥페이크 시대의 니즈와 과제를 해결할 수 있는 솔루션과 팀을 적시에 구축했습니다.

그 덕분에, Reality Defender는 현재 Accenture 및 Booz Allen Hamilton과 같은 전문 서비스 회사, JP Morgan과 같은 1급 은행, 미국과 영국의 정부 기관 등, 각 분야의 주요 기업에 서비스를 제공하게 되었습니다.

기만 행위를 실시간으로 감지

딥페이크가 이러한 부문에 미치는 영향에 대한 인식이 높아졌음에도 불구하고, 진정한 문화적 변화는 아직 나타나지 않고 있습니다. Lisle은 “딥페이크를 구현하는 기술은 짧은 시간 만에 크게 발전했지만, 콘텐츠를 소비하는 사람들의 사고방식과 근본적인 신념은 크게 바뀌지 않았습니다. Reality Defender는 원시 아티팩트 자체만 놓고 거의 실시간으로 이것이 진짜인지 아닌지를 판별한다는 아이디어에서 출발했습니다. 이 같은 질문에 답할 수 있어야 한다는 근본적인 필요성이 갑자기 대두되었죠”라고 말합니다.

이러한 장벽을 극복하기 위해 조직에는 배포가 간단하고 강력한 보안을 보장하는 솔루션이 필요합니다. 딥페이크 위협에 대한 인식이 높아지고 배포 사례가 증가함에 따라, 기업이 피해가 발생하기 전에 공격을 식별하고 방지할 수 있도록 이 솔루션도 규모를 조정할 수 있어야 합니다.

Reality Defender는 이러한 요구 사항을 해결할 플랫폼을 개발했습니다. Colman은 “지금까지 음성 인증, 콜센터, 신원 확인, 화상 회의 등 다양한 분야에서 많은 작업을 수행해 온 도구가 많이 있습니다. 하지만 이들 중 어느 것도 딥페이크를 해결하지 못합니다”라고 말합니다. 이러한 도구를 사용하여 디바이스, 지리적 위치, 주민등록번호 등의 자격 증명을 식별할 수는 있지만 자격 증명을 사용하는 사람이 자격을 가진 본인인지는 증명할 수 없습니다. “실제로 그 사람의 음성이나 얼굴을 실시간으로 스캔한 다음 이미 사용 중인 모든 도구에 해당 신호를 공급할 수 있는 도구가 필요합니다.” Reality Defender의 플랫폼은 바로 이 기능을 제공하며, API 퍼스트 솔루션인 만큼, ‘모든 사람이 이미 사용하고 있는 모든 사기 방지 도구, 실시간 콜센터 플랫폼 또는 화상 회의 솔루션에 신호를 제공할 수 있습니다.’

AWS 인프라는 이미 운영 중인 AWS 환경에 대한 배포를 간소화합니다. 즉, 조직이 Reality Defender의 탐지 기능을 기존 워크플로에 통합할 수 있습니다. Colman은 Reality Defender의 고객 중 상당수가 ‘AWS 컴퓨팅 리소스를 대량으로 소비하는 고객’이며 이미 기술 스택에 포함된 솔루션인 Amazon Connect를 통해 신호를 소비할 수 있다고 말합니다. Colman은 “저희는 콜센터 내부와 외부로 들어오는 모든 음성 트래픽을 스캔하고 있는데, 이는 AWS와의 오랜 관계 없이는 불가능했을 것입니다”라고 그는 말합니다. 이 스타트업은 이러한 관계 덕분에 ‘무한한 확장성과 동시 실시간 전화 통화, Zoom 및 Teams와의 통합을 통한 실시간 화상 회의, 브랜드 안전 도구, 소셜 미디어 모니터링, 엔드포인트 스캐닝 등을 스캔’할 수 있었습니다.

무한한 확장성과 보안 간련 수상

Reality Defender는 규제가 심한 업종의 고객에게 매우 섬세한 실시간 커뮤니케이션을 제공하고 있다는 점을 강조하며, Colman은 “저희뿐만 아니라 AWS와 같은 업스트림 또는 다운스트림 파트너도 고객을 최고 수준의 보안으로 지원하고 있음을 고객에게 계속 증명해야 합니다”라고 말합니다. 회사의 수상 경력을 잠깐만 살펴봐도 이미 이러한 신뢰를 얻었음을 알 수 있습니다. JP Morgan Hall of Innovation 등재, 세계 경제 포럼의 Technology Pioneers 2025 선정, Colman이 ‘사이버보안 분야의 오스카상’이라고 표현한 RSAC Innovation Sandbox 선정 등, 여러 수상 이력이 있습니다.

다시 말씀드리지만, AWS와의 긴밀한 파트너십은 매우 중요했습니다. Colman은 “우리가 RSAC에서 발표했던 내용, 그리고 그것이 2024년 수상으로 이어진 데는 AWS와의 협업이 바탕이 되었습니다”라고 말합니다. 게다가 Reality Defender는 고객의 기본적인 보안 요구 사항을 더 쉽게 충족할 수 있습니다. 크게 볼 때, 이는 고객이 안전한 AWS 환경에서 ‘대규모로’ 사기 및 악성 활동을 탐지할 수 있도록 하는 것을 의미합니다. 작지만 중요성은 그대로 유지되는 수준으로, 공급업체 위험 평가 보고서 작성과 같은 Reality Defender의 보안 프로세스를 간소화했습니다. 이는 ‘AWS의 파트너십 없이는 불가능했던 일’이었습니다.

Reality Defender가 대량의 동시 음성 및 동영상 상호작용을 처리하는 실시간 엔터프라이즈 통신 환경으로 확장됨에 따라, 확장성이 갈수록 중요해졌습니다. Colman은 회사가 AWS 인프라를 사용하는 이유는 ‘사실상 무한한 확장이 가능하기 때문’이라고 말합니다. “AWS를 활용하여, Fortune 10 고객사에 대한 첫 번째 유형의 음성 기반 DDoS 공격을 이미 탐지할 수 있을 정도로 자동 확장한 덕분에, 고객사가 용량을 늘리는 데 전혀 문제가 없었습니다.” 무엇보다, AWS 솔루션을 사용하여 파운데이션 모델을 훈련하고, SaaS 플랫폼을 배포하고, 관리형 데이터베이스를 사용하면 ‘필요한 수준으로 확장이 가능’하다고 Lisle은 덧붙입니다.

협업을 통한 성장 가속화

양사의 관계는 단순히 화면 속 협업에만 국한되지 않습니다. Colman에 따르면, Reality Defender 팀은 AWS 시애틀 본사에서 진행된 ‘훌륭한’ 대면 미팅을 통해 많은 도움을 받았습니다. 이 미팅을 통해, 대부분의 초기 기술 스타트업에게 있어 매우 중요한 지원을 받을 수 있었습니다. 그는 “딥테크 솔루션을 개발하는 기업들은 발표 자료를 각종 수치와 통계로 가득 채우고 싶어 하는 경우가 많습니다. 하지만 그런 방식만으로는 이야기를 전달할 수 없다”며, “AWS는 우리의 이야기를 이해하기 쉬운 방식으로 전달할 수 있도록 도와주었습니다”라고 설명합니다.

그 이후로 Reality Defender는 이해 관계자에게 프레젠테이션을 제공하고, 투자자와 만나고, 주요 업계 이벤트에서 브랜드 인지도를 높이는 등, 이야기를 더 폭넓게 공유하고 있습니다. Colman은 “AWS가 없었다면 이런 기회를 얻을 수 없었을 것”이라며, “NVIDIA GTC뿐만 아니라 RSAC, Money 2020, Black Hat, Defcon 등의 티어 1 컨퍼런스에서도 협업이 주효했습니다. 부스, 컴퓨팅, 공동 데모 등 여러 공동 고객에 대해서 AWS Support의 지원을 누릴 수 있었죠”라고 말합니다.

포스트 리얼리티 시대를 헤쳐나가다

Reality Defender는 기업 내 딥페이크가 나아가고 있는 방향과 이에 따른 위협에 대한 명확한 비전을 바탕으로 설립되었습니다. ChatGPT로 시장 판도가 완전히 바뀌기 전, 그리고 딥페이크와 생성형 AI가 세간의 관심을 받기 전에, 이 스타트업은 이미 비전을 공유하고 성공을 실현하는 데 도움을 줄 수 있는 파트너를 필요로 했습니다. Colman은 “당시 AWS와 Amazon이 이미 AI에 대해 고민하고 있었던 덕분에, 저희에게는 R&D뿐만 아니라 시장 진출을 획기적으로 가속화하는 데 큰 도움이 되었습니다”라고 말합니다. Lisle은 AWS 팀이 ‘기괴한 요청에 항상 도움을 주었다’고 덧붙입니다. “저희는 누구도 가본 적 없는 길을 앞서 가고 있는 것입니다. AWS 담당자는 항상 저희와 이야기를 나누며, 난해한 문제를 해결하도록 도와주었습니다.”

한때 난해했던 것들이 이제 이해되고 과거에는 기이하게 보였던 현상이 일상이 된 지금, Reality Defender는 비영리 단체와 민주주의를 수호하고자 하는 단체 등, 새로운 고객과 시장에 진출하기 위해 노력하고 있습니다. Lisle은 “AWS는 저희를 돕거나 지속적으로 성공하는 데 필요한 어떤 것이든 실현해주는 파트너였습니다”라고 말합니다.

보고 듣는 것을 더 이상 액면 그대로 받아들일 수 없는 세상에서, Reality Defender는 디지털 커뮤니케이션에 대한 신뢰를 다시 살려내기 위해 최선을 다하고 있습니다. 소비자를 사기로부터 보호하는 것부터 언론 청렴성을 유지하고 정부 및 기업의 보안을 지원하는 데 이르기까지, 이 회사의 사명은 단순하지만 갈수록 시급해지는 질문에 뿌리를 두고 있습니다. 바로 '무엇이 진짜인가?'라는 문제입니다. 이러한 질문에 실시간으로 답할 수 있도록 인프라, 확장성, 지원을 제공하는 AWS와 함께, Reality Defender는 지속적으로 플랫폼과 전략을 개선하고 AI 시대의 신뢰를 새롭게 정의해나갈 것입니다.