Amazon Web Services ブログ

Amazon EMR クラスター上でストレージを動的にスケールアップする

Amazon EMR クラスターのような管理された Apache Hadoop 環境では、クラスター上のストレージ容量がいっぱいになると、それに対処する便利なソリューションはありません。この状況は、クラスター起動時に、Amazon Elastic Block Store (Amazon EBS) ボリュームを設定し、マウントポイントを設定するために発生します。そのため、クラスタの実行後にストレージ容量を変更することは困難になります。これに適したソリューションとしては、通常 、クラスターにさらにノードを追加し、データレイクにデータをバックアップしてから、より大きな記憶容量を持つ新しいクラスターを起動する方法があります。または、ストレージを占有するデータを消去してもよい場合は、通常、余分なデータを削除するという方法があります。 Amazon EMR で管理可能な方法により、この問題に対処する際の役に立つ、Amazon EBS のElastic Volumes 機能を使用してストレージを動的にスケールアップする方法を説明します。この機能で、ボリュームの使用中に、ボリュームサイズを増やしたり、パフォーマンスを調整したり、ボリュームタイプを変更することができます。変更が有効になっている間も、EMR クラスターを継続使用して、大きなデータアプリケーションを実行できます。

Read More

Amazon LinuxでのJavaのLTS (Long-Term Support)提供について

Oracle社の最新のアナウンスメントによると、Oracle社が提供するOpenJDKへの無料のLTS (Long-Term Support) は2019年1月までで終了することが示されています。ここで改めてAmazon Linux 2上でのOpenJDK 8およびOpenJDK 11ランタイムへのLTSが最短でも2023年6月30日までAmazonより提供されることをお伝えします。私達はOpenJDKコミュニティとコラボレーションし、また貢献することで私達のお客様にJavaランタイムの無料LTSをご提供いたします。 加えて、Amazon Linux AMI の最新リリースである Amazon Linux AMI 2018.03では、Amazon Linux 2への移行を容易にするため、OpenJDK 8ランタイムのサポートを最短でも2020年6月30日までAWSよりご提供します。AWSのサービスである、AWS LambdaやAmazon EMR、Amazon Elastic BeanstalkはAWSがサポートするOpenJDKビルドを使用します。

Read More

AWS Well-Architected フレームワークホワイトペーパー 日本語版の更新

みなさん。こんにちは。アマゾン ウェブ サービス ジャパン 株式会社 Well-Architected リードの高山です。 このたびクラウド設計・運用のベストプラクティス集である”AWS Well-Architected フレームワーク“に関して、最新の日本語版ホワイトペーパーを公開しましたのでお知らせします。このホワイトペーパーは、2018年6月に内容が更新された”AWS Well-Architected フレームワーク “ホワイトペーパー(英語版)を日本語に翻訳したものです。 ダウンロードはこちらから> AWS Well-Architected フレームワーク ホワイトペーパー(PDF) ■AWS Well-Architected フレームワークとは? AWS Well-Architected フレームワーク(以下W-A)は、AWSのソリューションアーキテクト(SA)が、AWSのサービス開始から10年以上に渡り、様々な業種業界、数多くのお客様のアーキテクチャ設計および検証をお手伝いしてきた経験から作成したクラウド活用のベストプラクティス集です。具体的には「運用の優秀性」「セキュリティ」「可用性」「パフォーマンス効率」「コスト最適化」の5つの観点について、クラウドをより活用するための設計原則と、お客様システムがベストプラクティスに沿っているかを確認するための質問と回答で構成されています。 ■AWS Well-Architected フレームワークの活用について W-Aは設計・構築・運用の各フェーズでご活用いただけます。また一度だけではなく定期的にW-Aレビューを実施することで、よりWell-Architected(優れた設計がされた)なシステムを保つことが出来ます。活用方法については後述のBlackBeltオンラインセミナー「クラウド設計・運用のベストプラクティス集 “AWS Well-Architected Framework”」も是非ご参照ください。 一番大事なこと なお、オンラインセミナーでも触れていますが、W-Aの活用時に一番大事なことは(必ずしも全てをベストプラクティスに合わせるのがゴールではなく)「ベストプラクティスを理解した上で、ビジネス的な判断を行う」ことです。同時に「ベストプラクティスに適合させないことによる、各種リスクや改善点を顕在化させて認識し、チーム内に共有する」というのも非常に大事なポイントです。 ■今回のホワイトペーパー更新のポイント 運用の優秀性 構成を変更して、全ての基礎となる「運用の優秀性」を1つめの柱としました。ここでは「ビジネスの成功」を最終的な目標として、どのように準備して、どのように運用して、どのように進化させるべきかについてをご説明しています。ベストプラクティスには「ビジネスの成功可否を数値で判断するための各種メトリクスをあらかじめ定める」のような、一見するとAWSの範疇に収まらないのでは?という内容の記載もありますが、これはAWSが長年に渡ってお客様のシステム設計・構築・運用のお手伝いをする中で、非常に重要だと考えているポイントです。このようなメトリクスが事前に設定されていないために、ご苦労されているお客様をお見かけして来ました。 W-Aのレビュープロセス また「W-Aのレビュープロセス」についても記載しています。一部抜粋しますと… アーキテクチャのレビューは、一貫性のある方法と「誰も責めない」アプローチで詳細に行う必要があります。レビューは短時間 (数日ではなく数時間) で行います。これは話し合いであり監査ではありません。アーキテクチャをレビューする目的は、対応が必要な深刻な問題や、改善できる部分を特定することです。レビュー結果は、お客様の改善のためのアクションとなります。 など目的とレビューの進め方についてご説明しています。是非ご一読ください。 最新サービスの反映 セキュリティ関連のマネージドサービスを始めとして、前回のホワイトペーパー公開後に追加された各AWSサービスの内容を追加しています。 ■AWS Well-Architected 個別相談会のご案内 お客様は、ベストプラクティスに沿っているかの質問と回答(ホワイトペーパーの付録部分が該当します)を用いて、ご自身のシステムをセルフレビューいただけます。もし改善方法でお悩みであったり、より効率的な解決方法を知りたい場合は、AWSのSAにご相談いただくことも出来ます。是非「AWS Well-Architected 個別技術相談会」にお申込みください。 ■関連資料 AWS Well-Architected フレームワーク ホワイトペーパー(PDF) […]

Read More

Model Server for Apache MXNet v1.0 がリリース

AWS が最近リリースした Model Server for Apache MXNet (MMS) v1.0 はサービス使用状態を管理するための新しい API を特徴としており、ランタイム中のモデルの動的ロード、レイテンシーの低減、高いスループットを可能にします。本記事では、新機能を詳しくご紹介するとともに、MMS v1.0 のパフォーマンス向上についてご覧いただきます。 Model Server for Apache MXNet (MMS) とは? MMS はモデルサーバーを提供するオープンソースのフレームワークで、スケーラブルなトレーニングおよび推論のための深層学習モデルのタスクを簡略化を目的に設計されました。下図に、MMS のスケーラブルにデプロイしたアーキテクチャの例を示します。 以下は、MMS v1.0 の主要な機能です。 MXNet、Gluon、ONNX ニューラルネットワークモデル対応用途に設計。 モデルアーカイブにパッケージされたカスタムコードを使用して、推論実行パイプラインの各ステップをカスタマイズ。 REST API エンドポイントを含む、軽量かつスケーラブルなサービススタックの事前設定。 ランタイム中のモデルのロード、アンロード、スケーリングを可能にする管理 API の公開。 大規模な推論のためのビルドおよび最適化済みのコンテナイメージ。 リアルタイムのオペレーションメトリクスを使用して、システムおよび API の健全性、パフォーマンス、ロードをモニタリング。 MMS のクイックスタート MMS 1.0 では、Java 8 以上の環境が必須です。サポート対象のプラットフォームごとにインストール方法を以下に示します。 # Ubuntu/Debian ベースのディストリビューション sudo apt-get install openjdk-8-jre # Fedora、Redhat […]

Read More

AWS のディープラーニングを使い、自然災害による損害賠償を軽減する

2017 年のサンタローザ火災やハリケーンハーベイのような自然災害は、毎年何百億 USD もの損害賠償をもたらし、住宅所有者の生活において経済的混乱を招きました。保険会社は影響を受けた家屋を評価するために最善を尽くしますが、評価を開始するまでに数週間かかることもあり、それでようやく家屋を修復し保護することができます。 プロパティデータ分析会社である EagleView 社 は、  AWS における ディープラーニング に取り組んでいます。 EagleView 社のデータサイエンスと機械学習の指導者である Shay Strong は、「通常、保険会社は所有物損害の評価のために損害査定人を派遣するが、その地域が浸水したり、アクセスできないために、対応するのに数週間かかる場合があります。「EagleView 社は、衛星、航空写真、無人機の画像を使い、AWS Cloud でディープラーニングを実行し、24時間以内に損害賠償を正確に評価します。住宅所有者に情報を提供し、次の段階へ準備を迅速に行うために、データを大手保険保険会社や小規模な地域の保険会社の両方に提供しています。 多くの場合、この迅速な処理により、損害賠償において数百万 USD を節約することができます。フロリダ州のハリケーンアーマーからの洪水の際、クライアントはこのタイムリーなデータを使用して、防水シートで家屋の一部を覆い、二次的な水害を防ぐことをできるようにしました。 損害査定人による不動産評価の精度と一致させるために、EagleView 社は嵐の影響を受けた地域の多次元空間 (空間、時間、スペクトル) 全てをカバーする豊富な画像セットを使用する必要があります。この課題を解決するため、EagleView 社は米国全土で、120 台以上の航空機を使用して 1 インチ以下の解像度で撮影します。ディープラーニング画像分類器、オブジェクト検出器、およびセマンティックセグメンテーションアーキテクチャを実行するために、画像を小さな画像タイル(しばしば区画固有のタイルまたは一般的な 256×256 TMS タイル)に分解します。各画像タイルは、対応する地理空間および時間座標と関連付けることができ、追加のメタデータとして保持され、学習プロセスおよび推論プロセスを通じて維持されます。推論後、地理空間データを使用してタイルが貼り合わされて、ニューラルネットワーク予測を含む、関心領域の情報を地理登録したマップを形成することができます。予測は、AWS Cloud で管理されている永続ストレージ用のプロパティレベルのデータベースに集約することもできます。 以下の図は、2017 年のハリケーンハーベイ後のテキサス州ロックポートの一部で、EagleView 社のディープラーニングモデルによる損傷予測の精度を示しています。左の画像の緑色の箇所は、人間の分析結果による壊滅的な構造的損傷が発生する土地を示します。右側の画像のピンクの箇所は、モデルが作成したセグメント化した損傷予測です。このデータの場合、モデルは人間の分析と比較してアドレス当たり 96 % の精度を持ちます。 「暫定的な前処理能にディープラーニングを使い、アドレスレベルの属性を生成する前に画像が良好であるかどうか (たとえば、曇っていないか、ぼやけていないかなど)、また画像に関心のある適切な土地が含まれているかどうかを見極めます。我々は中間神経網を鎖状につないで、画像を前処理して、土地属性を生成するニューラルネットの効率と精度を向上させています。」と Strong 氏は付け加えています。 EagleView 社は、Apache MXNet フレームワークを使用してディープラーニングモデルを構築しました。モデルは、 AWS 上の Amazon EC2 P2、P3、およびG3 GPU […]

Read More

Amazon Translate が 113 の新言語ペアを提供できるようになりました

Amazon Translate は、良心的な価格で迅速かつ高品質な翻訳を実現するニューラル機械翻訳サービスです。本日、113 の新言語ペアの提供が開始されます。フランス語からスペイン語など、現在サポートされている言語間を単一の API リクエストで翻訳することができるようになりました。この更新により、サポートされる言語ペアの数が 24 から 137 に拡大されます。サポートされる言語ペアはすべて、最先端のニューラル機械翻訳アルゴリズムに基づいています。このドキュメントページでサポート対象言語ペアの完全なリストをご覧ください。 これまで、X <> Y ペア (X 語と Y 語のどちらも英語以外の言語) を翻訳する場合には、2 つの翻訳コールを順に実行する必要があり、X 語を英語に翻訳した後で、英語の出力を Y 語に翻訳しなければなりませんでした。つまり、実際に必要な翻訳を得るためには、翻訳を 2 度実行しなければならないということです。新しい拡大によって、この余分なステップが取り除かれると共に、X <> Y 翻訳のコストが実質上 50 パーセント削減され、翻訳が迅速化されます。 パリに拠点を置くスタートアップ企業、Clevy は、従業員からのよくある質問に自動的に返答するチャットボットを組織が作成、デプロイ、および維持することを可能にするプラットフォームを提供しています。これらの質問は、HR、IT サポート、および変更管理など、社内における事柄である場合がほとんどです。そのボットを通じて、Clevy は世界各国 100 万人を超える従業員にサービスを提供しています。Clevy は、このチャットボットを多言語対応とするために、その背景で Amazon Translate を使用しています。ボットは単一の言語で作成されますが、ユーザーは現在、10 もの他言語で質問することができます。質問が来ると、Clevy は Amazon Comprehend を使ってソース言語を検知します。次に、Clevy は Amazon Translate を使って質問をボットの言語に翻訳し、それを Clevy 独自の自然言語処理 (NLP) アルゴリズムで処理できるようにします。最後に、ユーザーに対して、ユーザーの元の言語で回答が返されます。例えば、英語でボットを作成する顧客は、世界各国の従業員が 10 の他言語で質問し、回答を得ることがきるようにすることもできます。 そのボットに多言語処理を追加することは、Clevy […]

Read More

AWS Serverless Application Model (SAM) コマンドラインインターフェイス。サーバレスアプリケーションをローカルで構築、テスト、デバッグする

数十年前、6502 アセンブリ言語でコードを何ページも記述しました。コードをアセンブルしてリンクしたら、それをメモリにロードし、戦略的なロケーションでブレークポイントを設定し、すべてが意図どおりに機能することを順に確認することをしていました。最近は、もう非自明なコードを書いたりデバッグしたりする機会がなくなってきたので、このブログ記事をいざ書くとなったときは少し心配しました (実は、数週間先延ばしにしていました)。 SAM CLI 新しい Serverless Application Model (SAM) コマンドラインインターフェイスについて説明したいと思います。説明しながら、AWS Lambda を使用して何かを構築する能力にいくらか自信が持てるようになっていければと思います。 はじめに、用語について見ていきましょう。 AWS SAM は、Serverless Application Model の略称で、AWS 上でサーバーレスアプリケーションを構築するために使用できるオープンソースのフレームワークのことです。単純な YAML テンプレートを使用して、アプリケーション (Lambda 関数、API エンドポイント、DynamoDB テーブル、およびその他のリソース) を記述するための略式構文を提供します。デプロイメント中、SAM は短縮形 SAM 構文を AWS CloudFormation テンプレートに変換して展開します。その後、CloudFormation は信頼性と再現性の高い方法でリソースをプロビジョニングします。 以前は SAM Local として知られていた AWS SAM CLI は、SAM ベースのアプリケーションの構築をサポートするコマンドラインインターフェイスです。また、ローカルでの開発とテストをサポートしており、アクティブなオープンソースプロジェクトでもあります。CLI を使用すると、Python、Node、Java、Go、.NET の中から選択することができ、すぐに始めるのに役立つ健全なテンプレートのコレクションが含まれています。 SAM CLI の sam local コマンドは、Lambda のような実行環境でローカルに関数コードを実行しながら、Lambda 関数と SAM […]

Read More

Amazon SageMaker ノートブックインスタンスのネットワーク設定と高度なルーティングオプションについて理解する

Amazon SageMaker ノートブックインスタンスは、完全マネージド型の機械学習 (ML) Amazon EC2 インスタンスを通じて、Jupyter ノートブックアプリケーションを提供します。Amazon SageMaker Jupyter ノートブックは、高度なデータ探索、トレーニングジョブの作成、Amazon SageMaker ホスティングへのモデルのデプロイ、モデルのテストや検証に使用されます。 ノートブックインスタンスには、さまざまなネットワーク設定が用意されています。このブログ記事では、さまざまなオプションの概要を説明するとともに、お客様の一般的な事例を紹介していきます。 ベーシック Amazon SageMaker ノートブックインスタンスは、Virtual Private Cloud (VPC) がアタッチされているかどうかにかかわらず起動できます。VPC をアタッチして起動すると、ノートブックは、直接インターネット接続ありまたはなしで設定することができます。 重要な注意事項: 直接インターネット接続があるとは、Amazon SageMaker サービスが、サービスによって管理される VPC を通じて、ノートブックをインターネットに接続できるネットワークインターフェイスを提供していることを意味します。 Amazon SageMaker コンソールを使用する際、次の 3 つのオプションがあります。 お客様の VPC のアタッチなし。 お客様の VPC のアタッチあり (直接インターネット接続あり)。 お客様の VPC のアタッチあり (直接インターネット接続なし)。 それはどういう意味ですか? 3 つのオプションはそれぞれ、マネージド EC2 インスタンスのネットワークインターフェイスを一連のルーティング設定で自動的に設定します。特定の状況では、これらの設定を変更して、特定の IP アドレスの範囲を別のネットワークインターフェイスにルーティングすることができます。次に、これらのデフォルト設定をそれぞれ順を追って説明します。 アタッチしたお客様の VPC なし […]

Read More

チェックしてください – EC2 および EBS 用の新しい AWS 料金見積ツール

簡易見積ツールを開始した、10 年以上前に発表したブログ記事は、今でも社内のトップ 10 リストに登場することがあります。 その記事が公開されて以来、私たちは見積ツールを 1 〜 2 度拡張、再設計、さらには再構築してきました。 新しい見積ツール 空白の画面、空のコードレポ、多くのお客様からのご意見をもとに、まったく新しい AWS 料金計算ツールを開発しています。この新しい料金計算ツールは、最終的な AWS コストを見積もり、理解するのに役立つように設計されています。過度の専門用語を避け、計算を明白にし、透明でアクセスしやすくするために全力を尽くしました。利用可能なオプションを表示し、関連するコストを調べ、高品質のデータに基づいて決定を下すことができます。 EC2 インスタンス、EBS ボリューム、非常に幅広い購入モデルのサポートを開始し、できるだけ早くより多くのサービスのサポートを追加する予定です。 クイックツアー 新しい料金計算ツールの動画は、https://calculator.aws でご覧ください。それぞれの見積もりは 1 つ以上のグループで構成され、最初の見積もりは自動的に作成されます: それぞれのグループには名前があり、特定の AWS リージョンのサービス対する価格が設定されています。[Edit group] をクリックして名前を変更し、リージョンを選択して、[Apply] をクリックします: 料金計算ツールのメインページに戻って、[Add service] をクリックして、EC2 インスタンスの設定を選択します。グループには複数のタイプとインスタンスの設定を含めることができます。[Configure] をクリックして、先へ進みます: この時点で、Quick estimate (デフォルト) を行うか、Advanced estimate の一部として詳細を記入することができます。ここでは、Quick estimate (簡易見積) を開始します: 簡易見積を行う際に留意すべきことがいくつかあります: インスタンスタイプ – EC2 インスタンスのタイプを選択するための 2 つのオプションがあります。リソース要件 (vCPU 数、メモリサイズ、GPU 数) を入力して、料金計算ツールに最低価格のオプションを選択させるか、名前で EC2 […]

Read More

只今準備中 – 南アフリカの AWS リージョン

AWS は昨年、フランスと中国 (寧夏) に新しい AWS リージョンを開設し、バーレーン、香港特別自治区、スウェーデンの各リージョン、および米国内で 2 番目の GovCloud リージョンの開設に取り組んでいることを発表しました。 南アフリカ: 2020 年初頭 今日は、2020年前半、南アフリカに AWS リージョンが開設されることをお知らせしたいと思います。この新しいリージョンはケープタウンを拠点とし、3 つのアベイラビリティーゾーンで構成されます。このリージョンは、南アフリカでワークロードを実行し、データを保存する能力を AWS のお客様とパートナーに提供します。AWS アフリカ (ケープタウン) リージョンの追加によって、組織がサブサハラアフリカ全域のエンドユーザーに低レイテンシーを提供することも可能になり、より多くのアフリカ組織が、イノベーションを推進するために、人工知能、Machine Learning、Internet of Things (IoT)、モバイルサービスなどの高度なテクノロジーを活用できるようになります。 AWS のお客様はすでに、世界中で 19 のインフラストラクチャリージョンにまたがる 55 のアベイラビリティーゾーンを活用しています。今日の発表は、グローバルリージョン (運用可能なリージョンと準備中のリージョン) の合計数を 23 に引き上げます。 高まる存在感 この新しいリージョンは、南アフリカにおける一連の投資の中で最新のものであり、南アフリカの変貌をサポートする AWS のコミットメントの一環です。2004 年、アマゾンは、先駆的なネットワーキングテクノロジー、カスタマーサポート向けの次世代ソフトウェア、および Amazon EC2 の背景にあるテクノロジーの構築に焦点を当てる Development Center in Cape Town を開設しました。AWS はまた、アカウントマネージャー、カスタマーサービス担当者、パートナーマネージャー、ソリューションアーキテクトなどを含む多数のチームを追加し、クラウドに移行するあらゆる規模のお客様を援助しています。 2015 年、AWS はその拡大を継続してヨハネスブルグに事務所を開設し、2017 年には […]

Read More