클라우드에서 정의 실현: 법률 업무를 혁신하는 Predictice 및 AWS

생성형 AI의 등장으로, 다양한 분야의 전문가들은 지식을 수집하고 이러한 정보를 더 빠르고 간단하게 이해할 수 있게 되었습니다. 일부의 경우 기본 AI 플랫폼만 있으면 됩니다. 그러나 정보가 밀집되고 복잡하며 해당 부문에 엄격한 보안 및 윤리 프레임워크가 적용되는 경우 AI를 배포하고 효과적으로 사용하기란 어렵습니다. 이는 법률 부문에서 특히 두드러집니다.

Predictice의 콘텐츠 마케팅 책임자인 Vivien Douard는 “전문가들이 전문 지식에 집중할 수 있도록 문서 검토, 법률 조사 및 초안 작성과 같이 가치가 낮은 작업을 자동화”한다는 명확한 사명을 가지고 2016년에 설립되었다고 말합니다. 이 회사는 AWS와 협력하여 고객을 위해 안전하고 고도로 전문화된 솔루션을 만들었습니다. 이를 통해 해당 분야에 종사하는 사람들이 AI의 이점을 활용하고 “법률 업무를 더 빠르고 효율적으로 수행”할 수 있습니다.

AWS와의 파트너십은 매우 안전한 솔루션, 신속한 데이터베이스 통합 및 확장성에 대한 필요성에 힘입어 2024년에 시작되었습니다. Predictice는 프랑스와 룩셈부르크 고객층의 기대에 부응하고 데이터 보호 및 보안 규정을 준수하기 위해 AI 모델과 데이터를 유럽에서 호스팅하는 것이 중요했습니다.

Predictice는 Amazon Bedrock의 Anthropic Claude로 마이그레이션하고 검색 엔진에 Amazon OpenSearch Service를 활용했습니다. 또한 Amazon SageMaker JumpStart에 Cohere Embed v4를 채택하여 Amazon OpenSearch 서비스에 벡터로 인덱싱되고 저장되는 문서 처리 임베딩을 생성했습니다.

Predictice는 법률 부문에서 검색 증강 생성(RAG) 사용의 선구자로서 마이그레이션 전부터 이미 탄탄한 출발을 하고 있었습니다. 2023년에는 프랑스에서 최초로 법률 전문가 전용 RAG AI 플랫폼을 출시한 회사가 되었습니다. Predictice는 AWS와의 협력을 통해, 이제 다른 분야에서 일하는 사람들이 이미 경험한 AI의 혁신적인 영향을 법률 분야에서도 실현해 주는 포괄적인 법률 도구 상자를 구축했습니다. 결정적으로, 법률 전문가가 안심하고 기술을 채택하고 사용하는 데 필요한 고급 보안 및 특수 기능 세트를 제공합니다.

신청 기각: AI 통합의 어려움

법률 분야에서 일하는 사람들은 법의 지배를 지키고, 권리를 보호하고, 정의에 대한 접근성을 제공하고, 효과적인 거버넌스를 촉진함으로써 사회에서 중요한 역할을 합니다. 그러나 변호사, 판사, 법률 보조원 등으로 구성된 이 그룹은 다른 전문가들과 달리 모국어뿐만 아니라 보조 언어로도 비즈니스를 수행합니다. 법률 전문 용어는 수 세기에 걸친 법률 역사에 뿌리를 두고 있으며 일상적인 대화에서 사용되지 않은 지 오래 된 라틴어 단어, 구식 구조 및 구문이 포함되어 있습니다. 이러한 의사소통 방식은 정확성과 형식성을 보장하지만, 문서가 기술적이고 복잡할 수 있다는 의미이기도 합니다. “법률 분야는 데이터가 풍부하지만 기존 도구로는 그 데이터를 충분히 활용하지 못한다”고 Douard는 말합니다.

이 분야는 문서에 대한 의존도가 높고 매우 정확한 정보가 필요하기 때문에 역사적으로 AI 도입 속도가 느렸습니다. 이러한 결정은 특정 텍스트에 요약된 선례를 기반으로 하며, 새로운 규칙, 개정 및 해석은 지속적으로 진화하고 있습니다. 인프라 보안 또한 매우 중요합니다. Douard는 “초반의 주요 과제는 AI를 신뢰할 수 있다는 확신을 주는 것이었다”고 말합니다.

이러한 환경은 두 가지 과제를 안겨주었습니다. 법률 전문가는 방대한 양의 문서를 모니터링하고 액세스할 수 있어야 하며, 이들이 사용하는 모든 기술은 부문별 데이터를 해석하고 질문에 대한 검증 가능한 답변을 제공할 수 있어야 합니다. Predictice의 고객을 위해, AI 도구는 매우 안전하고 프랑스어권 사람들과 법률 전문 용어 시장에 맞춤화되어야 합니다.

법적 복잡성을 실행 가능한 인텔리전스로 전환

Predictice는 AWS와 협력하여 이 문제를 해결하는 솔루션을 개발했습니다. 이 플랫폼을 통해 6천만 개 이상의 문서가 포함된 데이터베이스에 액세스할 수 있을 뿐만 아니라 사용자의 내부 데이터베이스에도 연결할 수 있습니다. “이를 통해 관련성이 높고 신뢰할 수 있는 결과 데이터를 법률 전문가에게 제공할 수 있다”고 Douard는 말합니다. 플랫폼은 AI 기반 검색 엔진을 통해 정보 검색, 분석, 요약 및 보고와 같은 중요한 프로세스를 단일 솔루션 내에서 쉽게 이용할 수 있도록 합니다. 이 기술은 배포도 간단합니다. “Predictice는 변호사가 이미 사용하고 있는 도구에 직접 통합된다”고 Douard는 말합니다. “AI가 업무 환경에 직접 완벽하게 통합되어 고객에게 최적의 사용자 경험을 제공합니다.”

Predictice는 해당 지역에서 활동하는 프랑스어를 사용하는 고객의 요구를 충족하기 위해 맞춤형 접근 방식을 제공합니다. Douard는 “일반 AI와 달리, 우리의 어시스턴트는 수백만 건의 프랑스 법적 결정, 규정 및 단체 협약에 대한 교육을 받았다”라고 말합니다. 결정적으로, 이 플랫폼에는 법률 팀이 글로벌 출처의 정보를 정확하게 해석할 수 있는 번역 도구도 포함되어 있습니다. “예를 들어 문서, 계약서를 다운로드한 다음 약 10초 만에 30개 언어로 번역할 수 있다”고 Douard는 말합니다.

보안을 위한 '완전한 솔루션'

Predictice가 플랫폼 구축을 시작할 때는 보안이 최우선이었습니다. Thibaud는 “고객으로부터 데이터가 유출되지 않도록 하는 것이 매우 중요합니다”라고 말합니다. EU에 솔루션을 배포하려면 회사는 일반 데이터 보호 규정(GDPR)과 같은 엄격한 데이터 보호법과 프로토콜을 준수해야 했습니다. 한편 데이터를 지역 외부로 전송하려면 구체적인 법적 보호 장치가 필요합니다. Predictice의 레거시 인프라는 이러한 측면에서 한계가 있었기 때문에, 올해 초 Amazon Bedrock에서 Anthropic의 Claude Sonnet 4를 출시했을 때 회사는 이를 AWS로 마이그레이션할 완벽한 기회로 삼았습니다. “Claude가 유럽에서 엄청난 성과를 내고 있습니다!”라고 Thibaud는 말합니다.

Claude Sonnet 4는 차세대 자율 AI 에이전트를 위해 설계된 하이브리드 추론 모델입니다. Thibaud는 Amazon Bedrock을 사용하면서 “모델 간 전환이 매우 쉬워져” 보안을 최우선으로 고려하면서 플랫폼을 개선할 수 있었다고 말합니다. Thibaud는 법률 전문가가 문서를 업로드하면 해당 데이터가 플랫폼에 저장되는데, “보안을 위해, 그리고 저장된 데이터를 암호화할 수 있기 때문에 모든 데이터를 AWS로 옮기고 전송했다”고 설명합니다. Amazon Bedrock을 기반으로 구축하면 이러한 기능을 제공하는 것은 물론, 전송 중인 데이터를 암호화하고 보안 도구를 제공하여 Predictice가 고객 신뢰를 향상시켜 “마케팅 및 상업적 이점”을 확보하는 데 도움이 되었습니다.

이를 위한 핵심 요소는 국제 표준화기구(ISO)로부터 인프라가 엄격하고 세계적으로 인정받는 안전 및 보안 프레임워크를 준수한다는 것을 보여주는 ISO 27001 인증(AWS에서 호스팅되는 고객 데이터)을 획득한 것입니다. Thibaud는 “인증은 매우 복잡하며 많은 문서화가 필요합니다”라고 말합니다. Predictice는 “완벽한 솔루션“과 “보안 허브“를 제공하는 AWS의 지원을 받아 이러한 복잡성을 극복했으며, 이를 통해 “모든 데이터가 정말 안전하다는 증거를 제공할 수 있어 정말 인상적이었다”고 말하며, “그것 없이는 인증을 받을 수 없었다”고 계속합니다.

변화하는 기대치를 빠르게 충족

Predictice가 성장함에 따라 데이터 요구 사항도 늘어났습니다. 이에 회사는 Amazon OpenSearch Service를 도입하여 거의 실시간으로 대량의 데이터를 저장, 검색 및 분석할 수 있게 되었습니다. Thibaud는 “마이그레이션은 정말 순조롭게 진행되었다”고 말합니다. 또한 Predictice는 AWS 마이그레이션 가속화 프로그램을 통해 제공되는 프로모션 크레딧을 사용하여 AWS 솔루션 비용을 상쇄했기 때문에 비용 효율적이기도 했습니다. 그는 AWS가 “마이그레이션을 도와주고 기술 자문을 제공했다”고 덧붙입니다. “관계가 매우 좋았습니다.”

Predictice는 각각 16,000개의 토큰이 포함된 7백만 개의 판례법 문서를 포함하는 거대한 데이터베이스를 관리하는 임무를 맡고 있습니다. Predictice는 또한 이 데이터베이스를 벡터화하기 위해 ML 솔루션 배포를 가속화하도록 설계된 기계 학습(ML) 허브인 Amazon SageMaker JumpStart를 통해 Cohere Embed v4를 사용하고 있습니다.

Amazon OpenSearch 서비스로 마이그레이션함으로써 Predictice의 운영 속도가 크게 향상되고 복잡성이 줄어들었습니다. Thibaud는 “이전에는 클러스터를 관리하는 것이 간단하지 않았다”고 설명합니다. “팀이 2~3주에 한 번씩 클러스터를 확인하고 업그레이드해야 했습니다. OpenSearch를 사용하면 버튼을 클릭하기만 하면 됩니다.” OpenSearch를 사용하면 확장성도 더 쉽게 확보할 수 있습니다. Thibaud는 “전형적인 예가 오늘 아침이었습니다. 새 데이터베이스를 통합하고 싶었지만 사용 가능한 공간이 없었다”고 말하며, “예전에는 그렇게 통합하려면 새 시스템과 새 서버에 명령을 내리고 기다렸다가 설치해야 했으며, 여기에 이틀 정도 걸렸다”고 계속합니다. 이제 OpenSearch에 공간을 추가하는 것은 타임라인을 “몇 분”으로 줄여줘 “매우 빠르다”고 합니다.

Amazon Bedrock은 최신 AI 모델로 정기적으로 업데이트되며, 이를 통해 Predictice는 솔루션을 더욱 개선할 수 있었습니다. Predictice는 현재 합법적인 RAG 검색 서비스를 개선하기 위해 Claude Sonnet 4로 마이그레이션하는 중입니다.

판결 결과: AI의 성공

오늘날 “5,000명 이상의 법률 전문가가 매일 Predictice를 사용하고 있으며”, 이들은 “모든 법적 질문에 답할 수 있는 생성형 AI 검색 엔진”을 활용하고 있다고 말합니다. AWS 솔루션을 선택하고 수백만 개의 문서로 구성된 데이터베이스를 통합함으로써, 회사는 팀이 원하는 “답변의 질에 실질적인 차이를 만들어낼 수 있었습니다”.

Predictice의 고객 중 약 60~70%는 법률 회사로, 개인 실무자부터 대기업에 이르기까지 다양합니다. 그러나 이 스타트업은 기업 부문, 특히 보험 업계에서 솔루션에 대한 수요가 증가하고 있습니다. 여기서는 시장 가시성을 확보하는 것이 중요하며, Predictice는 AWS가 제공한 기회를 통해 유럽 최대의 스타트업 및 기술 행사인 VivaTech에서 발표할 수 있었습니다.

Predictice와 AWS의 지속적인 관계는 고객의 미래 요구 사항에 맞춰 플랫폼을 발전시키겠다는 회사의 목표를 뒷받침합니다. “법률 AI에 대한 기대치는 계속 높아질 것”이라고 Douard는 말합니다. 회사는 AWS 솔루션을 사용하여 “투명성, 성능 및 보안을 최우선으로 하여 감사를 위한 고급 기능을 준비”할 수 있습니다. 올바른 솔루션, 지원 및 확장성 잠재력을 갖춘 Predictice는 의심의 여지 없이 “시장에 나와 있는 몇 가지 일반적인 도구와는 달리, 우리는 법률 부문 전문가의 작업을 보호하는 데 변화를 가져올 수 있다”는 것을 입증했다고 Douard는 결론을 내립니다.