オルタナティブ・ブログ > 吉政忠志のベンチャービジネス千里眼 >

IT業界でベンチャービジネスの支援をしている執筆者が日々の活動ログと感じたことを、徒然なるままに書き綴っていきます。

グーグルのクラウドを支えるテクノロジー > 第55回 ハイパーパラメーターチューニングの新手法(パート3)

»

私が編集支援している、CTC教育サービスで好評連載中の中井悦司氏のコラム「グーグルのクラウドを支えるテクノロジー」第55回「ハイパーパラメーターチューニングの新手法(パート3)」が公開されました。

###

はじめに
 前回に引き続き、2018年に公開された論文「Population Based Training as a Service」、および、それに関連する2017年の論文「Population Based Training of Neural Networks」を紹介します。前回は、2つ目の論文で提案された、新しいハイパーパラメーターチューニングの手法である「Population Based Training(PBT)」の手続きを説明しましたが、今回は、同じ論文で紹介されれている、PBTの実際の適用例を紹介します。
PBTによる学習精度の向上
 上述の論文では、強化学習(ビデオゲームの自動プレイ)、機械翻訳、GAN(画像生成)の3種類のタスクについて、PBTを適用した結果が示されています。図1は、それらの結果をまとめたものですが、いずれも、過去の記録を上回る成果が得られています。ここに示された過去の記録は、DeepMindの研究チームによる記録であることを考えると、PBTが現実的に有効な手法であることが感じられるのではないでしょうか。

詳細は以下をご覧ください。
https://www.school.ctc-g.co.jp/columns/nakai2/nakai255.html

Comment(0)

コメント

コメントを投稿する