Amazon Web Services ブログ

Category: Amazon Machine Learning

新機能 – バイアスを検出し、機械学習モデルの透明性を向上させる Amazon SageMaker Clarify

今日は、お客様が機械学習 (ML) モデルのバイアスを検出し、ステークホルダーと顧客にモデルの動作を説明できるようにすることで透明性を高めるために役立つ Amazon SageMaker の新機能、Amazon SageMaker Clarify をご紹介します。 ML モデルは、データセットに存在する統計的パターンを学習するトレーニングアルゴリズムによって構築されるため、いつくかの疑問がすぐさま思い浮かびます。第一に、ML モデルが特定の予測にたどり着いた理由を説明できるようになるのか? 第二に、モデル化しようとしている現実問題をデータセットが忠実に表現しない場合はどうなるのか? そもそも、このような問題を検出することはできるのか? これらの問題は、認識できない形で何らかのバイアスを生じないのか? これから説明するとおり、これらは決して推論的な疑問ではなく、極めて現実的なもので、その影響は広範囲に及ぶ可能性があります。 バイアス問題から始めましょう。不正なクレジットカード決済を検出するモデルに取り組んでいることを想像してください。幸いにも、決済の大部分は正当なものであり、データセットの 99.9% を占めています。これは、不正決済が 0.1% のみであることを意味し、100,000 件のうち 100 件といったところです。二値分類モデル (正当な決済 vs. 不正な決済) のトレーニングでは、モデルが多数派グループに強い影響を受ける、つまりバイアスがかかる可能性が非常に高くなります。実際に、トリビアルモデルでは決済が常に正当であると判断されてしまうかもしれません。このモデルはまったく役に立たないものの、99.9% は正しいことになります! このシンプルな例から、データの統計的特性、そしてモデルの精度を測定するために使用するメトリクスをどれほど慎重に扱わなければならないかがわかります。 この過少出現問題には多数の派生タイプがあります。クラス、特徴、およびユニークな特徴量が増加しても、データセットには特定のグループについて少量のトレーニングインスタンスしか含まれていない可能性があります。実際、これらのグループの一部は、性別、年齢範囲、または国籍など、さまざまな社会的にセンシティブな特徴に該当することがあります。このようなグループの過少出現は、予測結果に不均衡な影響をもたらす恐れがあります。 残念ながら、悪意がまったくなかったとしても、データベースにバイアス問題が存在し、ビジネス、倫理、および規制面での影響を伴うモデルに取り込まれてしまう可能性があります。このため、モデル管理者が本番環境システムにおけるバイアスの潜在的な原因に注意することが重要になるのです。 では、説明可能性の問題についてお話しましょう。線形回帰や決定木ベースのアルゴリズムといったシンプルで十分に解明されているアルゴリズムでは、モデルを検証し、モデルがトレーニング中に学習したパラメータを調べ、モデルが主に使用する特徴を特定することは比較的簡単です。その後、このプロセスがビジネス慣行に沿っているかどうかを判断できます (つまり、「人間のエキスパートでもこうしただろう」と言うようなものです)。 しかし、モデルがますます複雑になるにつれて (深層学習さん、あなたのことです)、このような分析は不可能になります。スタンリー・キューブリックの「2001 年宇宙の旅」に出てくる先史時代の部族と同じように、私たちはしばしば、不可解なモノリスをまじまじと見詰めながら、それが何を意味するのか頭をかしげるしかありません。多くの企業と組織は、ML モデルを本番環境で使用する前に、それらを説明可能なものにする必要があるかもしれません。さらに、一部の規制では、ML モデルが重大な意思決定の一環として使用される場合に説明可能性が義務付けられている場合があり、この説明可能性は、最初にお話したバイアスの検出にも役立ちます。 こうして、データセットとモデルに存在するバイアスを検出し、モデルが予測を行う方法を理解するための援助をお客様から求められた AWS は、作業を開始し、SageMaker Clarify を考案しました。 Amazon SageMaker Clarify のご紹介 SageMaker Clarify は、AWS の完全マネージド型 ML サービスである Amazon […]

Read More

クラウドにヘルスデータを格納し、変換と分析を行う Amazon HealthLake

医療機関が日々必要とする患者情報には、臨床的な所見や家族の病歴から、診断内容と処方箋にいたるまで、膨大な量が含まれます。これらすべてのデータは、患者に関する医療情報の全体像を把握し、より優れた医療サービスを提供できるようにするために使用されます。現在のところ、こういったデータは、さまざまなシステム (電子カルテ、検査システム、医療画像リポジトリなど) の間で、数十種類の互換性のないフォーマットで保存されています。 FHIR (高速医療情報相互運用リソース) などの新しい規格は、このような課題に対処しようとしたものです。この規格では、それらの医療システム間で構造化データを記述および変換に適応した形式が提供されます。しかし、このデータの多くは非構造化情報であり、医療記録 (臨床記録) 、文書 (PDF 形式の検査結果) 、書式用紙 (保険請求) 、画像 (X線、MRI) 、音声 (会話記録) 、時系列データ (心電図) などの形で保存されているため、それらの形式から情報を抽出することは 1 つの課題となります。 医療機関が、これらのデータをすべて収集し、変換 (タグ付けやインデックス作成) 、構造化、分析などのための準備を完了するには、数週間、場合によっては数か月を要することがあります。さらに、そのすべての作業を行うためのコストと運用上の複雑さは、ほとんどの医療機関で許容しきれないものとなります。 この度、当社では、Amazon HealthLake を発表できる運びとなりました。これは、HIPAA 適合の完全マネージド型サービス (現在はプレビュー版) であり、医療関係およびライフサイエンスのお客様は、さまざまな形式でサイロ化された医療情報を、一元化された AWS データレイクに集約するためにご利用いただけます。HealthLake では、機械学習 (ML) モデルにより医療データの正規化が行われます。医療データ内の意味のある情報が自動的に理解され抽出されるので、すべての情報が簡単に検索できるようになります。その後、お客様はデータに対しクエリと分析を行い、関連性の把握や傾向を割り出したりしながら、それらを予測に利用することができます。 仕組み Amazon HealthLake を使用することで、オンプレミスのデータを AWS クラウドにコピーします。クラウドに保存された構造化データ (検査結果など) と非構造化データ (カルテなど) には、HealthLake により、FHIR に対応したタグ付けや構造化が行われます。すべてのデータは、標準的な医療用語を使用して完全にインデックス化されるため、患者の医療情報の照会や検索、分析、および更新が、すばやく簡単に実行できます。 HealthLake を使用する医療機関は、患者の医療情報の収集と変換を数分の内に完了し、その治療履歴を包括的に表示できるようになります。この情報は、業界標準の FHIR 形式で構造化されるので、検索とクエリのための強力な機能を利用できます。 AWS マネジメントコンソールから HealthLake API […]

Read More

新機能 — Amazon SageMaker Feature Store で機械学習の機能を格納、発見、共有する

今回、 Amazon SageMaker Feature Store を発表できることを、非常に喜ばしく思います。この Amazon SageMaker の新機能により、トレーニングや予測ワークフローで使用するために精選されたデータの安全な保存、検出、共有などを、データサイエンティストや機械学習エンジニアが容易に実施できるようになります。 作業経験が豊富な方であれば、機械学習 (ML) モデルをトレーニングし適切なアルゴリズムを選択するためには、高品質のデータを供給することがいかに重要かをご存知だと思います。ML のワークフローとして、最初にデータをクリーニングするのは良い考えです。さらに通常は、欠損値の補完、外れ値の削除、その他の処理が行われることになります。さらに多くの場合では、「特徴エンジニアリング」 と呼ばれる (一般的なものと難解なもの両方の手法がミックスされた) 手法により、データの変換が行われます。 特徴エンジニアリングの目的とは、簡単に言えば、表現性が高まるようにデータを変換して、アルゴリズムの学習を助けるということです。例えば、多くの列型データセットには、住所などの文字列が含まれています。ほとんどの ML アルゴリズムにとって、文字列は無意味なので、これらを数値表現でエンコードしなおす必要が生じます。この住所の文字列の場合であれば、GPS 座標に置き換えることができます。この形式なら、位置の概念を学ぶアリゴリズムにとって、より表現性が高いものになります。言い方を変えると、データが新しい石油だとすれば、モデルが成層圏の精度を得るのに必要とする高オクタン価のジェット燃料に、その石油を変える精製プロセスが、特徴エンジニアリングだと言えます。 実際、ML の実務担当者達は、特徴エンジニアリング用にコードを作成し、そのコードを初期データセットに適用し、処理されたデータセットでモデルをトレーニングた上でその精度の評価を行うことに、多くの時間を費やしています。この作業は実験的な性質を持つため、たとえ最小規模のプロジェクトであっても、複数回の反復が必要になることがあります。同じ特徴エンジニアリングコードが何度も実行されることも多く、同じ操作の繰り返により時間と計算リソースが浪費されます。こういった事情は、大規模な組織では、さらなる生産性の低下を引き起こすこともあり得ます。多くの場合で異なるチームが同じジョブを実行していたり、以前の作業に関する情報がないために特徴エンジニアリング用のコードを重複して記述したりするのが、その理由です。 また、MLチームには、解決しなければならない別の難しい問題もあります。モデルは処理が施されたデータセットでトレーニングされるているため、予測のために送信されるデータにも、同じ変換を適用することが不可欠となるのです。これは多くの場合、異なる言語で書きなおした特徴エンジニアリングコードを予測ワークフローに統合して、予測の処理時に実行する、ということを意味します。また、こういったプロセスの全体により、時間が消費されるだけでなく、一貫性を損なう可能性もあります。なぜなら、データ変換の最も小さな差異でさえ、予測には大きな影響を与え得るからです。 これらの問題を解決するために、しばしば ML チームは、フィーチャストアを構築します。フィーチャストアとは、トレーニングや予測ジョブで使用される処理済みデータを保持および取得できる、中央リポジトリのことです。フィーチャストアは便利ですが、独自のストアを構築および管理することは、技術、インフラストラクチャ、そして運用の面で多大な労力を要し、実際の ML 作業のための貴重な時間を奪ってしまいます。こういった状況に対する、よりよいソリューションをお客様から求められ、当社では、新サービスを作ることになりました。 Amazon SageMaker Feature Store のご紹介 Amazon SageMaker Feature Store は、ML 機能のための完全マネージド型で一元化されたリポジトリです。インフラストラクチャを管理することなく、特徴データを安全に保管および取得できます。Feature Store は、Amazon SageMaker に組み込まれています。SageMaker は、あらゆるアルゴリズムをサポートしている、ML 用の完全マネージド型サービスです。さらに Feature Store は、ウェブベースの ML 用開発環境である Amazon SageMaker Studio とも統合されています。 SageMaker […]

Read More

プレビュー: ビジネスの健全性を監視するための異常検出サービス、Amazon Lookout for Metrics

Amazon Lookout for Metrics を発表いたします。これは、機械学習 (ML) を使用してメトリックスの異常を検出する新しいサービスです。ML の経験がなくても、ビジネスの健全性を積極的に監視、問題を診断して、迅速に機会を発見できます。 Lookout for Metrics では Amazon と同じ技術を使用しています。ともすれば見つけるのが難しい、データの例外的な変化を検出しつつ、誤検出の回数を減らします。また、類似するものをまとめてグループ化し、厳密にランク付けします。さらに異常の根本原因特定に役立つ情報を提供します。 収益額やウェブページビュー、毎日のアクティブユーザー数、解約率、トランザクション量、モバイルアプリのインストール数など、さまざまなメトリックスで使用できます。本日、Lookout for Metrics のプレビューをご覧いただけます。 Amazon Lookout を異常検知のために使用する理由 どの業界の組織も、テクノロジーと自動化を通じてビジネスの効率を向上させようとしています。さまざまな試みがされていますが、よくあるのは欠陥や機会を早期に特定でき、材料コストの節約、利益率の向上、カスタマーエクスペリエンスの向上につながるものです。これまでは、組織による大量のデータ監査は、手作業に依存していました。これでは規模を拡大することが難しく、また人為的ミスの原因になりがちです。任意に範囲を決めて、ルールベースの方法を使用している組織もあります。多くの場合これらの方法は静的であり、季節性の変化に容易には対応できず、誤検出が多すぎます。 ひとたび異常が検出されると、デベロッパーやアナリスト、ビジネスオーナーは、変化の根本原因をつきとめようと数週間も費やすことになります。これが ML が効果的かつ変革的なツールになり得る状況です。しかし ML のアルゴリズムは、データの種類ごとに慎重に選択し、トレーニングを行い、テストとデプロイをする必要があります。そのため ML に熟練したエキスパートチームが必要です。 Amazonには、データ主導型の企業としての長い歴史があります。ビジネスの健全性や運営、カスタマーエクスペリエンスにおいてトップでありつづけなければならないビジネスを抱えており、その数は増え続けています。この長年に渡る取り組みの重要な部分は、さまざまなトラフィックチャネルからのウェブサイト訪問、ショッピングカートに追加された商品の数、注文数、商品ごとの収益をはじめとした、主要業績評価指標 (KPI) の異常を検出するために ML テクノロジーを構築し、改善させることでした。 Amazon Lookout for Metrics によって、すべてのデベロッパーが Amazon で使われていたものと同じ ML テクノロジーを手にすることができます。データの異常を検出してインテリジェントにグループ化することで、集計結果を視覚化し、自動的に警告を行えます。 フルマネージド型のサービスなために ML プロセス全体を扱うことができ、すぐに開始してコアビジネスに集中できます。そして最も重要なのは、異常と根本原因の分析における正確さと関連性についてのフィードバックを、このサービスがリアルタイムに組み込むことで、モデルのパフォーマンスを継続的に向上させられることです。 Amazon Lookout for Metrics の仕組み AWS マネジメントコンソールから数回クリックするだけで、Lookout for Metrics […]

Read More

AWS Panorama Appliance: コンピュータービジョンアプリケーションをエッジへ

本日 AWS re:Invent で、AWS Panorama Appliance のプレビューを行いました。また、AWS Panorama SDK が近日公開される予定であることも発表いたしました。これにより、組織はコンピュータビジョンをオンプレミスのカメラに取り込み、高精度で低レイテンシーな自動予測を行うことができます。 過去数十年にわたり、コンピュータビジョンは、学者によって議論されるトピックから、世界中の企業で使用されるツールへと変化してきました。この成長を実現するうえで、クラウドが重要であり、これまで不可能だったサービスやインフラストラクチャ機能が急増しています。 お客様は、製造ライン上の部品の検査、危険な場所での作業員のヘルメットの着用の確認、小売店での顧客トラフィックの分析など、物理的なシステムに関するさまざまな課題に直面しています。お客様は、多くの場合、問題やインシデントが発生した後に、ライブビデオフィードを手動で監視したり、録画した映像を確認したりして、これらの問題を解決しています。こうしたソリューションは、手作業でエラーが発生しやすく、拡張が困難です。 コンピュータビジョンは、クラウドで実行されているモデルを使用して、こうした検査タスクを実行するためにますます使用されています。それでも、レイテンシーの要件や断続的な接続により、クラウドへのラウンドトリップを実現できないため、クラウドのみに依存することが最適ではない場合があります。 本日の発表内容 これからは、Amazon SageMaker を使用してコンピュータービジョンモデルを開発し、それを Panorama Appliance にデプロイして、複数のネットワークと IP カメラからのビデオフィードでそのモデルを実行させることができるようになります。Panorama Appliance と関連するコンソールがプレビュー中です。 近日公開予定の Panorama SDK は、サードパーティデバイス製造元が Panorama 対応デバイスを構築するために使用できるソフトウェア開発キット (SDK) です。Panorama SDK は柔軟性が高く、設置面積が小さく、ハードウェアベンダーがさまざまなフォームファクタやセンサで新しいデバイスを簡単に構築できます。したがって、工業用地、低照度シナリオ、屋外など、さまざまな業界や環境のユースケースを満たすことができます。 アプライアンスの開梱 このブログを書くことができるように、AWS re:Invent の数週間前に Jeff に Panorama Appliance が送られました。これは、Jeff のオフィスに設置されたデバイスの写真です。 Panorama Applianceをセットアップするには、コンソールに移動し、[Get Started] をクリックします。 コンソールには、Panorama Appliance でコンピュータビジョンモデルを実行するための 3 ステップのガイドが表示されます。このブログでは、Panorama Appliance のセットアップに役立つステップ […]

Read More

【開催報告&資料公開】AWSの機械学習を使った画像データの業務活用セミナー

こんにちは、アマゾン ウェブ サービス ジャパン株式会社の大渕です。2020年9月2日にオンラインで開催された「AWSの機械学習を使った画像データの業務活用セミナー」では、AWS Japan による3つのセッションと、AWS の機械学習サービスを使って宿泊施設向け入退室管理システムを構築されたお客様のセッションが行われました。  

Read More

Amazon の機械学習とデータレイクでエネルギー使用量を予測する

あらゆる種類や規模の公益事業やエネルギー供給会社の幹部は、エネルギー使用量を予測するというニーズを複数抱えています。たとえば最高顧客責任者として、あなたのチームは家庭レベルのエネルギー使用量を予測して、そのご家庭に高額請求の可能性があると警告を送ったり、前払いや月末のエネルギー料金を予測したりすることができます。エネルギー効率化および商業エネルギープログラムの責任者として、あなたのチームはさまざまなエネルギー効率化施策を適用した際にどれくらいエネルギー消費を抑えられるのかを予測したり、最適な施策をおすすめしたりすることができます。

Read More

DeepRacer League のもう一つのトリプルでは、さらなる世界記録を更新し、初の女性優勝者が誕生しました!

AWS DeepRacer League は、誰もが参加可能な、自動運転車による世界初の国際的レーシングリーグです。あらゆるスキルレベルの開発者達が、国際的に 22 回開催される AWS イベントで直接、あるいは AWS の DeepRacer コンソールを通じオンラインでの競技参加が可能です。彼らは 2019 年のチャンピオンカップをかけたレースが開催される re:Invent 2019 への旅費無料の招待を賭けて競い合います。 先週、AWS DeepRacer League が世界中の 3 つの都市 (米国ワシントン DC、台湾台北、日本東京) を訪れました。各レースでは何日にもわたり、開発者が優勝ラップタイムを記録できるように多数の機会を提供しました。 初の女性優勝者と世界記録 東京レースは今回も最大規模で行われました。都市のすぐ離れにある幕張メッセで 2 万人を超える AWS のお客様が AWS サミットに参加し、学習、実践ラボ、およびネットワーキングを 3 日間行いました。開発者がサミットを通して競うための 2 つの DeepRacer トラック、仮想レーシングポッド、および DeepRacer モデルを構築する方法を学ぶための複数のワークショップが開かれました。 モデルを構築し、AWS DeepRacer リーグの詳細を学ぶための仮想レーシングポッド。 何百人もの開発者が各自のモデルをトラックでテストしましたが、誰も初の女性優勝者である sola@DNP の世界最高記録 7.44 秒を勝ち抜くことはできませんでした。実際の車のサイズにスケールアップした場合、DeepRacero は約 100 mph に相当します。 sola@DNP […]

Read More

【開催報告】Digital Advertising Japan Seminar 2018 – Machine Learning 事例祭り –

こんにちは。AWS ソリューションアーキテクトの八木達也 ( @ygtxxxx ) です。 7月23日に、「Digital Advertising Japan Seminar 2018 – Machine Learning 事例祭り –」を開催いたしました。 AWSジャパン主催でデジタル広告業界の方向けのイベントを開催するのは2年ぶりでしたが、定員60人のところ55名の方にお集まりいただき、盛況となりました。             このイベントは「Digital Advertising、AdTech 領域における Machine Learningの実践知」を「互いに学び合う」ことができる場を作ることを目標としていたため、AWSメンバーによるプレゼンテーションだけではなく、お客様プレゼンテーションを中心としたAGENDAを構成しました。機会学習という領域における、テクノロジー視点でのお取組み、組織育成視点でのお取組み、それぞれの視点で最先端な活動をなさる方々よりご登壇を頂きました。 まずは主催者の唐木/八木よりオープニングセッションを行いました。 唐木より全体の説明を行い、八木より「Machine Learning for Digital Advertising」というタイトルでプレゼンテーションを行いました。 Machine Learning for Digital Advertising 次に、アナリティクス スペシャリスト ソリューションアーキテクトの志村より「AWS ML Services Update」というタイトルでプレゼンテーションを行いました。 AWS ML Update ここから、お客様セッションに移りました。 まずは、SIGNATE inc. 代表取締役社長 CEO/CDO 齊藤 秀 様より「国内外AIコンペティションからみるAI技術者のキャリアパスの潮流およびAIコンペサイトSIGNATEにおけるAWS活用事例」というタイトルでプレゼンテーションを行って頂きました。 […]

Read More