Amazon Web Services ブログ

Category: Storage

DuckDB で Amazon S3 Tables に格納された表形式データセットへのアクセスを効率化する

DuckDB は軽量なインメモリ SQL エンジンで、追加のサーバー運用なしに対話型のデータ分析を実現します。本記事では、Amazon SageMaker Lakehouse Iceberg REST エンドポイントと AWS Lake Formation のアクセス許可を利用して、AWS CloudShell 上の DuckDB から Amazon S3 Tables に格納された Iceberg テーブルにアクセスし、クエリを実行する手順を紹介します。

Amazon S3 Tables による Amazon Redshift システムテーブルの長期保持

Amazon Redshift システムテーブルと Amazon S3 Tables の統合により、システムテーブルのログデータを Apache Iceberg 形式で自動的に保存し、7 日間の上限を超えて保持期間を設定できます。独自の ETL パイプラインやクラスターリソースを使わずに、長期的なコンプライアンス対応、監査、ウェアハウス横断の可観測性を実現します。本記事では、機能の仕組み、セットアップ手順、代表的なユースケースを解説します。

Kite、AWS HealthOmics を活用し細胞治療研究向けのスケーラブルなバイオインフォマティクスを推進

Gilead 傘下の Kite は、プロジェクトごとに分断されていたバイオインフォマティクスのワークフローを、AWS HealthOmics を軸にした標準化されたクラウド基盤へ移行しました。本記事では、オンプレミスのシーケンサーから電子実験ノート (ELN) を入口にしたワークフロー実行までを自動化したイベント駆動アーキテクチャと、その設計上の判断を紹介します。18 か月以上の本番稼働で 20 個のワークフローを運用し、100 名を超える研究者が ELN からバイオインフォマティクスワークフローを利用できるようになりました。

AWS HealthOmics と Amazon Bedrock AgentCore によるゲノムバリアント解釈の高速化

シーケンスデータの急増により、ゲノムバリアントの解釈は複雑なパイプラインと専門知識を要する作業になっています。本記事では、AWS HealthOmics のワークフローと Amazon S3 Tables、Amazon Bedrock AgentCore 上の Strands Agents を組み合わせ、VCF ファイルの取り込みからアノテーション、自然言語での問い合わせまでを一貫して実行するゲノムバリアント解釈エージェントを紹介します。臨床研究者が SQL を書かずに、対話形式でコホート全体のバリアントを解析できるようになります。

鮮度の高いインサイトで迅速な意思決定を – talabat が AWS と Google Cloud で実現したニアリアルタイム分析

talabat が AWS と Google Cloud にまたがるハイブリッドなマルチクラウドレイクハウスを構築した方法を紹介します。Apache Iceberg のデータを Amazon S3 Tables に一元的に保持しながら、Lakehouse フェデレーテッド Iceberg REST カタログを通じて BigQuery からニアリアルタイムで読み取り可能にし、データ移動コストを約 40% 削減しました。

Amazon Aurora MySQL から Amazon S3 Tables に Apache Iceberg 形式でデータを抽出する

Amazon Aurora MySQL Serverless v2 のデータを AWS Glue 5.0 で Amazon S3 Tables に Apache Iceberg 形式で抽出する方法を紹介します。CloudFormation テンプレートによるインフラの自動プロビジョニングからデータ移行、Amazon Athena でのクエリまでの手順を解説します。

KNFSD ファイルキャッシュのご紹介: NFS ストレージをクラウドに拡張

本記事では、KNFSD File Cache (KNFSD) の仕組みと、オンプレミスのファイラー、サードパーティ、Amazon FSx などの AWS サービスを問わず、NFS 準拠のストレージとどのように連携するかを説明します。また、単一の Terraform モジュールを使って本番環境向けのオートスケーリングクラスターをデプロイする方法も紹介します。このクラスターは、100 Gb 毎秒あたり時間 6 ドル未満で集約スループットを実現します。

Outpost VFX が ビジュアルエフェクト向けに AI モデルのトレーニングを AWS で加速した方法

本記事では、Outpost VFX が AWS インフラを活用してトレーニング速度を 8 倍に向上させ、顔置換ワークフローを刷新した方法、単一 GPU の限界を克服するために実装した技術アーキテクチャ、そして AWS マルチ GPU トレーニングで得られた具体的な成果について紹介します。