데이터 웨어하우스 개념

데이터 웨어하우스란 무엇입니까?

데이터 웨어하우스는 보다 정보에 입각한 의사 결정을 내릴 수 있도록 분석 가능한 정보의 중앙 리포지토리입니다. 데이터는 트랜잭션 시스템, 관계형 데이터베이스 및 기타 소스로부터 보통 정기적으로 데이터 웨어하우스로 들어갑니다. 비즈니스 애널리스트, 데이터 엔지니어, 데이터 사이언티스트 및 의사 결정권자는 비즈니스 인텔리전스(BI) 도구, SQL 클라이언트 및 기타 분석 응용 프로그램을 통해 데이터에 액세스합니다.

데이터 및 분석은 비즈니스가 경쟁력을 유지하는 데 없어서는 안 되는 부분이 되었습니다. 비즈니스 사용자는 보고서, 대시보드 및 분석 도구를 활용하여 데이터에서 통찰력을 찾아내고, 비즈니스 성과를 모니터링하며, 의사 결정을 지원합니다. 데이터 웨어하우스는 데이터를 효율적으로 저장하여 보고서, 대시보드 및 분석 도구를 강화함으로써 데이터의 입출력(I/O)을 최소화하고 수백 수천 명의 사용자에게 동시에 신속하게 쿼리 결과를 제공합니다.

데이터 웨어하우스는 어떻게 설계됩니까?

데이터 웨어하우스 아키텍처는 티어로 구성됩니다. 상단 티어는 보고, 분석 및 데이터 마이닝 도구를 통해 결과를 제시하는 프런트 엔드 클라이언트입니다. 중간 티어는 데이터를 액세스하고 분석하는 데 사용되는 분석 엔진으로 구성됩니다. 아키텍처의 하단 티어는 데이터가 로드되고 저장되는 데이터베이스 서버입니다. 데이터는 다음 두 가지의 다른 방식으로 저장됩니다. 1) 자주 액세스하는 데이터는 매우 빠른 스토리지(예: SSD 드라이브)에 저장합니다. 2) 자주 액세스하지 않는 데이터는 저렴한 객체 스토어(예: Amazon S3)에 저장합니다. 데이터 웨어하우스는 자주 액세스되는 데이터가 “빠른” 스토리지로 이동되어 쿼리 속도가 최적화되는지 자동으로 확인합니다.

데이터 웨어하우스는 어떻게 작동합니까?

데이터 웨어하우스에는 여러 개의 데이터베이스가 포함될 수 있습니다. 각 데이터베이스 내에서 데이터는 테이블 및 열로 구성됩니다. 각 열 내에서 사용자는 정수, 데이터 필드 또는 문자열 등 데이터의 설명을 정의할 수 있습니다. 테이블은 스키마 내부에 구성될 수 있으며, 이는 폴더와 같은 역할을 합니다. 데이터가 수집되면 스키마에 의해 설명되는 다양한 테이블에 저장됩니다. 쿼리 도구는 스키마를 사용하여 어떤 데이터 테이블을 액세스하고 분석할지 결정합니다.

데이터 웨어하우스를 사용하면 어떤 이점이 있습니까?

데이터 웨어하우스의 이점은 다음과 같습니다.

  • 정보에 기반한 의사 결정
  • 여러 소스의 데이터 통합
  • 과거 데이터 분석
  • 데이터 품질, 일관성 및 정확성
  • 트랜잭션 데이터베이스와 분석 처리를 분리하여 두 시스템 모두의 성능을 향상

데이터 웨어하우스, 데이터베이스 및 데이터 레이크는 어떻게 함께 동작합니까?

일반적으로 비즈니스는 데이터베이스, 데이터 레이크 및 데이터 웨어하우스의 조합을 활용하여 데이터를 저장 및 분석합니다. Amazon Redshift의 레이크 하우스 아키텍처를 사용하여 그러한 통합을 편리하게 수행할 수 있습니다.

데이터의 볼륨 및 다양성이 증가함에 따라 데이터베이스, 데이터 레이크 및 데이터 웨어하우스에서 데이터 관련 작업 시 하나 이상의 공통 패턴을 따르면 다음과 같은 이점이 있습니다.

데이터베이스 또는 데이터레이크에서 데이터를 연결하고 데이터를 준비하며 선택한 데이터를 데이터 웨어하우스로 이동한 후 보고를 수행합니다.

이미지(위): 데이터베이스 또는 데이터레이크에서 데이터를 연결하고 데이터를 준비하며 선택한 데이터를 데이터 웨어하우스로 이동한 후 보고를 수행합니다.

데이터 웨어하우스에서 데이터를 연결하고 데이터를 분석한 후 데이터를 공유하여 기타 AWS Analytics 제품과 함께 활용합니다.

이미지(위): 데이터 웨어하우스에서 데이터를 연결하고 데이터를 분석한 후 데이터를 공유하여 다른 분석 및 기계 학습 서비스와 함께 활용합니다.

데이터 웨어하우스는 데이터 분석을 위해 특별히 설계되었으며, 여기에는 대량의 데이터를 읽어 데이터 전반에 걸친 관계와 추세를 파악하는 작업이 포함됩니다. 데이터베이스는 트랜잭션의 세부 사항을 기록하는 것과 같이 데이터를 캡처하고 저장하는 데 사용됩니다.

데이터 웨어하우스와 달리, 데이터 레이크는 정형, 반정형 및 비정형 데이터를 비롯한 모든 데이터에 대한 중앙 리포지토리입니다. 데이터 웨어하우스에서는 데이터를 테이블 형식으로 구성해야 하며, 여기서는 스키마가 중요한 역할을 합니다. 테이블 형식은 SQL을 사용하여 데이터를 쿼리하기 위해 필요합니다. 그러나 일부 애플리케이션에서는 데이터가 테이블 형식일 필요가 없습니다. 빅 데이터 분석, 전체 텍스트 검색 및 기계 학습과 같은 일부 애플리케이션에서는 ‘반정형’ 또는 비정형인 경우에도 데이터에 액세스할 수 있습니다.

데이터 웨어하우스와 데이터 레이크 비교

특징 데이터 웨어하우스 데이터 레이크
데이터

트랜잭션 시스템, 운영 데이터베이스 및 사업 부서(LOB) 애플리케이션의 관계형 데이터

정형, 반정형 및 비정형 등 모든 데이터

스키마

일부 경우 데이터 웨어하우스를 구현하기 전 설계되며 분석과 동시에 작성 가능

(스키마-온-라이트 또는 스키마-온-리드)

분석 시에 작성됨(스키마-온-리드)

가격/성능

로컬 스토리지를 사용하여 가장 빠른 쿼리 결과를 얻음

저렴한 스토리지를 사용하여 쿼리 결과가 빠르게 제공되며 컴퓨팅 및 스토리지 분리

데이터 품질

신뢰할 수 있는 중앙 버전 역할을 하는 고도로 큐레이트된 데이터

큐레이트될 수 있거나 될 수 없는 모든 데이터(즉, 원시 데이터)

사용자

비즈니스 애널리스트, 데이터 사이언티스트 및 데이터 개발자

비즈니스 애널리스트(큐레이팅된 데이터 사용), 데이터 사이언티스트, 데이터 개발자, 데이터 엔지니어 및 데이터 아키텍트

분석

배치 보고, BI 및 시각화

기계 학습, 예비 분석, 데이터 검색, 스트리밍, 운영 분석, 빅 데이터 및 프로파일링

데이터 웨어하우스와 데이터베이스 비교

특징 데이터 웨어하우스 트랜잭션 데이터베이스

적합한 워크로드

분석, 보고, 빅 데이터

트랜잭션 처리
데이터 원본 여러 소스로부터 수집되고 정규화된 데이터

트랜잭션 시스템과 같이 단일 소스에서 있는 그대로 캡처한 데이터

데이터 캡처

대개 미리 결정된 대량 배치 일정에 따른 대량 쓰기 작업

트랜잭션 처리량을 최대화할 수 있도록 새로운 데이터가 사용 가능해지면서 연속적인 쓰기 작업에 최적화됨

데이터 정규화

스타 스키마 또는 눈송이 스키마와 같이 비정규화된 스키마

고도로 정규화된 정적 스키마

데이터 스토리지

컬럼 방식 스토리지를 사용하여 간단한 액세스 및 고속 쿼리 성능에 대해 최적화됨

단일 행 지향 물리적 블록에 대한 고도의 처리량 쓰기 작업에 최적화됨

데이터 액세스

I/O를 최소화하고 데이터 처리량을 최대화하도록 최적화됨

대량의 소규모 읽기 작업

데이터 마트와 데이터 웨어하우스는 어떻게 다릅니까?

데이터 마트는 금융, 마케팅 또는 영업과 같은 특정 팀 또는 사업 단위의 요구를 충족시키는 데이터 웨어하우스입니다. 규모가 더 작고, 집중적이며 사용자 커뮤니티에 가장 잘 맞는 데이터 요약을 포함할 수 있습니다. 데이터 마트는 데이터 웨어하우스의 일부일 수도 있습니다.

데이터 웨어하우스와 데이터 마트 비교

특징 데이터 웨어하우스 데이터 마트
범위

함께 통합된 중앙 집중식의 여러 주제 영역

분산된 특정 주제 영역

사용자

전사적

단일 커뮤니티 또는 부서

데이터 원본

여러 소스

단일 또는 몇 개의 소스, 또는 데이터 웨어하우스에 이미 수집된 데이터의 일부

크기

대규모이며 수백 기가바이트에서 페타바이트에 이를 수 있음

소규모이며 대개 최대 수십 기가바이트에 이름

설계

하향식

상향식

데이터 세부 정보

완전한, 상세 데이터

요약된 데이터를 포함할 수 있음

데이터 웨어하우스를 AWS에 어떻게 배포할 수 있습니까?

AWS를 사용하면 사실상 무제한의 스토리지 및 컴퓨팅 용량에 액세스하고, 수집, 저장 및 쿼리되는 데이터 양이 증가함에 따라 시스템을 병렬로 확장하며, 프로비저닝한 리소스에 대해서만 비용을 지불하는 등 온디맨드 컴퓨팅과 관련된 모든 주요 혜택을 누릴 수 있습니다. AWS에서는 서로 원활하게 통합되는 다양한 관리형 서비스를 제공하므로 엔드 투 엔드 분석 및 데이터 웨어하우징 솔루션을 신속하게 배포할 수 있습니다.

다음 그림은 스택이라고도 하는 엔드 투 엔드 분석 프로세스의 주요 단계에 대한 설명입니다. AWS는 각 단계에서 다양한 관리형 서비스를 제공합니다.

AWS는 각 분석 프로세스 단계에서 다양한 제품 및 서비스를 제공합니다.

이미지(위): AWS는 각 분석 프로세스 단계에서 다양한 제품 및 서비스를 제공합니다.

Amazon Redshift는 빠르고, 비용 효율적인 완전 관리형 데이터 웨어하우스 서비스입니다. 한 서비스에서 페타바이트 규모의 데이터 웨어하우징과 엑사바이트 규모의 데이터 레이크 분석이 함께 제공되며, 사용한 만큼만 지불하면 됩니다.

다음 단계