Streaming Data Solution for Amazon MSK

처리할 데이터를 지속적으로 캡처할 수 있는 실시간 데이터 스트리밍 서비스로, 대량으로 확장이 가능하고 내구력이 뛰어남

개요

Streaming Data Solution for Amazon MSK는 생산자, 스트리밍 스토리지, 소비자 및 대상으로 데이터가 흐르는 AWS CloudFormation 템플릿을 사용합니다. 다양한 사용 사례와 비즈니스 요구 사항을 지원하기 위해 이 솔루션은 네 가지 AWS CloudFormation 템플릿을 제공합니다. Streaming Data Solution for Amazon Kinesis와 유사하게, 이러한 템플릿은 대시보드 및 경보를 사용하여 기능을 모니터링하고 데이터를 보호하는 모범 사례를 적용하도록 구성되어 있습니다.

스트리밍 데이터는 데이터 생산자가 생성하는 많은 양의 데이터를 처리할 수 있는 대량의 확장 가능한 스토리지를 통해 내구력 있는 방식으로 캡처되어야 합니다. 생산자는 스트리밍 데이터를 지속적으로 생성하여 일반적으로 작은 크기(킬로바이트)의 레코드를 동시에 제출하는 수천 개의 데이터 소스가 될 수 있습니다.

스트리밍 데이터에는 모바일이나 웹 애플리케이션을 사용하는 고객이 생성하는 로그 파일, 전자 상거래 구매, 게임 내 플레이어 활동, 소셜 네트워크의 정보, 주식 거래소, 지리공간 서비스, 연결된 디바이스의 텔레메트리, 데이터 센터의 계측 등 다양한 데이터가 포함됩니다.

이 AWS 솔루션의 사용 사례
데이터 웨어하우징

이점

자동화된 구성
스트리밍 데이터를 손쉽게 캡처, 저장, 처리 및 제공하는 데 필요한 AWS 서비스를 자동으로 구성합니다.
네 가지 템플릿 옵션
서로 다른 네 가지의 AWS CloudFormation 템플릿 옵션 중에서 선택합니다. 프로덕션 환경을 위한 새 서비스 조합을 테스트하고 기존 애플리케이션을 개선할 수 있습니다.
실시간 사용 사례
많은 양의 애플리케이션 로그를 캡처하고 클릭스트림 데이터를 분석하며 데이터 레이크로 지속적으로 전송합니다.
사용자 지정 가능한 소스 코드
솔루션의 기본 코드를 사용자 지정한 다음 모니터링 기능을 사용하여 테스트에서 프로덕션으로 빠르게 전환합니다.

기술 세부 정보

아래 다이어그램은 솔루션의 구현 가이드를 사용하여 자동으로 배포할 수 있는 AWS CloudFormation 템플릿을 보여줍니다.
  • 옵션 1
  • Amazon Managed Streaming for Apache Kafka(Amazon MSK)를 사용하는 AWS CloudFormation 템플릿
    옵션 1 – Amazon MSK를 사용하는 AWS CloudFormation 템플릿
    AWS 아키텍처 블로그
    Amazon MSK Backup for Archival, Replay, or Analytics

    이 게시물에서는 MSK 주제를 S3에 백업하여 MSK의 장기 데이터 보존 설정을 줄이는 데 사용할 수 있는 패턴 및 솔루션에 대해 다룹니다. 일부 고객은 데이터 분석 및 기계 학습 워크로드를 위한 장기 데이터를 MSK에 저장합니다. 이 게시물에서는 S3의 주제 데이터를 오프로드하여 이 아키텍처를 간소화하고 S3를 분석 및 기계 학습에 사용하는 패턴을 공유합니다.

    블로그 보기 
    교육
    데이터 분석 기초

    이 자습형 과정에서는 데이터 분석 솔루션을 계획하는 프로세스와 관련된 다양한 데이터 분석 프로세스에 대해 학습합니다.

    지금 등록하기 
    교육
    Amazon MSK 실습

    이 사이트는 Amazon MSK와 관련된 정보와 실습을 제공합니다. 이 실습은 개인 또는 기업 AWS 계정이나 Event Engine을 사용하는 이벤트에 대해 AWS 계정 팀이 프로비저닝한 계정에서 실행할 수 있습니다.

    지금 등록하기 
    이 배포에 대한 정보
    버전
    1.7.6
    릴리스 날짜
    2023년 5월
    저자
    AWS
    예상 배포 시간
    25~30분
    예상 비용
    구현 가이드 다운로드  소스 코드  CloudFormation 템플릿  RSS 피드 구독 
    배포 옵션
    시작할 준비가 되셨나요?
    AWS Console에서 이 솔루션을 시작하여 배포
    이 AWS 솔루션이 도움이 되었나요?
    피드백 제공
  • 옵션 2
  • Amazon MSK 및 AWS Lambda를 사용하는 AWS CloudFormation 템플릿
    옵션 2 – Amazon MSK 및 AWS Lambda를 사용하는 AWS CloudFormation 템플릿
    AWS 아키텍처 블로그
    Amazon MSK Backup for Archival, Replay, or Analytics

    이 게시물에서는 MSK 주제를 S3에 백업하여 MSK의 장기 데이터 보존 설정을 줄이는 데 사용할 수 있는 패턴 및 솔루션에 대해 다룹니다. 일부 고객은 데이터 분석 및 기계 학습 워크로드를 위한 장기 데이터를 MSK에 저장합니다. 이 게시물에서는 S3의 주제 데이터를 오프로드하여 이 아키텍처를 간소화하고 S3를 분석 및 기계 학습에 사용하는 패턴을 공유합니다.

    블로그 보기 
    교육
    데이터 분석 기초

    이 자습형 과정에서는 데이터 분석 솔루션을 계획하는 프로세스와 관련된 다양한 데이터 분석 프로세스에 대해 학습합니다.

    지금 등록하기 
    교육
    Amazon MSK 실습

    이 사이트는 Amazon MSK와 관련된 정보와 실습을 제공합니다. 이 실습은 개인 또는 기업 AWS 계정이나 Event Engine을 사용하는 이벤트에 대해 AWS 계정 팀이 프로비저닝한 계정에서 실행할 수 있습니다.

    지금 등록하기 
    이 배포에 대한 정보
    버전
    1.7.6
    릴리스 날짜
    2023년 5월
    저자
    AWS
    예상 배포 시간
    25~30분
    예상 비용
    구현 가이드 다운로드  소스 코드  CloudFormation 템플릿  RSS 피드 구독 
    배포 옵션
    시작할 준비가 되셨나요?
    AWS Console에서 이 솔루션을 시작하여 배포
    이 AWS 솔루션이 도움이 되었나요?
    피드백 제공
  • 옵션 3
  • Amazon MSK, AWS Lambda, Amazon Kinesis Data Firehose를 사용하는 AWS CloudFormation 템플릿
    옵션 3 – Amazon MSK, AWS Lambda, Amazon Kinesis Data Firehose를 사용하는 AWS CloudFormation 템플릿
    AWS 아키텍처 블로그
    Amazon MSK Backup for Archival, Replay, or Analytics

    이 게시물에서는 MSK 주제를 S3에 백업하여 MSK의 장기 데이터 보존 설정을 줄이는 데 사용할 수 있는 패턴 및 솔루션에 대해 다룹니다. 일부 고객은 데이터 분석 및 기계 학습 워크로드를 위한 장기 데이터를 MSK에 저장합니다. 이 게시물에서는 S3의 주제 데이터를 오프로드하여 이 아키텍처를 간소화하고 S3를 분석 및 기계 학습에 사용하는 패턴을 공유합니다.

    블로그 보기 
    교육
    데이터 분석 기초

    이 자습형 과정에서는 데이터 분석 솔루션을 계획하는 프로세스와 관련된 다양한 데이터 분석 프로세스에 대해 학습합니다.

    지금 등록하기 
    교육
    Amazon MSK 실습

    이 사이트는 Amazon MSK와 관련된 정보와 실습을 제공합니다. 이 실습은 개인 또는 기업 AWS 계정이나 Event Engine을 사용하는 이벤트에 대해 AWS 계정 팀이 프로비저닝한 계정에서 실행할 수 있습니다.

    지금 등록하기 
    이 배포에 대한 정보
    버전
    1.7.6
    릴리스 날짜
    2023년 5월
    저자
    AWS
    예상 배포 시간
    25~30분
    예상 비용
    구현 가이드 다운로드  소스 코드  CloudFormation 템플릿  RSS 피드 구독 
    배포 옵션
    시작할 준비가 되셨나요?
    AWS Console에서 이 솔루션을 시작하여 배포
    이 AWS 솔루션이 도움이 되었나요?
    피드백 제공
  • 옵션 4
  • Amazon MSK, Amazon Kinesis Data Analytics, Amazon S3를 사용하는 AWS CloudFormation 템플릿
    옵션 4 - Amazon MSK, Amazon Kinesis Data Analytics, Amazon S3를 사용하는 AWS CloudFormation 템플릿
    AWS 아키텍처 블로그
    Amazon MSK Backup for Archival, Replay, or Analytics

    이 게시물에서는 MSK 주제를 S3에 백업하여 MSK의 장기 데이터 보존 설정을 줄이는 데 사용할 수 있는 패턴 및 솔루션에 대해 다룹니다. 일부 고객은 데이터 분석 및 기계 학습 워크로드를 위한 장기 데이터를 MSK에 저장합니다. 이 게시물에서는 S3의 주제 데이터를 오프로드하여 이 아키텍처를 간소화하고 S3를 분석 및 기계 학습에 사용하는 패턴을 공유합니다.

    블로그 보기 
    교육
    데이터 분석 기초

    이 자습형 과정에서는 데이터 분석 솔루션을 계획하는 프로세스와 관련된 다양한 데이터 분석 프로세스에 대해 학습합니다.

    지금 등록하기 
    교육
    Amazon MSK 실습

    이 사이트는 Amazon MSK와 관련된 정보와 실습을 제공합니다. 이 실습은 개인 또는 기업 AWS 계정이나 Event Engine을 사용하는 이벤트에 대해 AWS 계정 팀이 프로비저닝한 계정에서 실행할 수 있습니다.

    지금 등록하기 
    이 배포에 대한 정보
    버전
    1.7.6
    릴리스 날짜
    2023년 5월
    저자
    AWS
    예상 배포 시간
    25~30분
    예상 비용
    구현 가이드 다운로드  소스 코드  CloudFormation 템플릿  RSS 피드 구독 
    배포 옵션
    시작할 준비가 되셨나요?
    AWS Console에서 이 솔루션을 시작하여 배포
    이 AWS 솔루션이 도움이 되었나요?
    피드백 제공