投稿日: Dec 19, 2022
本日、モデルの再学習を自動化するオープンソース Python ライブラリである Renate の一般提供を発表しました。このライブラリには、新しいデータが利用可能になったときにディープニューラルネットワークを段階的に学習させるための継続学習アルゴリズムが実装されています。
機械学習のアプリケーションでは、新しいデータバッチが利用可能になったときにモデルを更新する必要があります。ディープニューラルネットワークモデルをゼロから繰り返し再学習するとコストがかかり、新しいデータのみで微調整すると「破滅的忘却」と呼ばれる現象の発生につながります。つまり、そのモデルは最新のデータでは良好なパフォーマンスを発揮しますが、古いデータではパフォーマンスが低下します。Renate の提供するアルゴリズムは、破滅的忘却の問題を軽減し、再学習プロセスを自動化するのに役立ちます。
ユーザーは、ローカルマシンでの小規模な継続学習実験の実行にも、Amazon SageMaker を使用した大規模な継続学習ジョブの実行にも Renate を使用できます。さらに Renate は、SyneTune との統合により、すぐに使える最先端のハイパーパラメータチューニングもサポートしています。
このライブラリについて詳しくは、ブログ記事をご覧ください。Renate の使用開始にあたっては、以下のリソースを参照してください。