機械学習のトップカンファレンスであるThe 36th International Conference on Machine Learning（ICML2019）に、弊社に所属する斉藤の論文が採択されました

スキルアップAI講師である斉藤翔汰氏が所属する横浜国立大学大学院環境情報研究院白川真一講師研究グループと筑波大学システム情報系秋本洋平准教授研究グループによる共著論文が機械学習のトップカンファレンスであるInternational Conference on Machine Learning（ICML）に採択されました。

論文の概要

ニューラルネットワークの構造は性能に大きな影響を与えることがわかっており、ニューラルネットワークの構造を最適化する手法が既に提案されていましたが、多大な計算コストを要する・構造最適化に関するパラメータの調整が必要などの問題が存在しました。

そこで、高速な構造最適化手法として既に提案されていたニューラルネットワークの構造と重みパラメータを同時最適化する手法 [Shirakawa et al. 2018] を発展させることで，従来手法と比べて非常に僅かな計算コストで最先端の予測性能を持つニューラルネットワーク構造を自動構築する手法「ASNG-NAS（Adaptive Stochastic Natural Gradient Neural Architecture Search）」を開発いたしました。

提案手法ASNG-NASの特長

・構造最適化に関するハイパーパラメータが少ない
・従来手法と比べて非常に高速
・従来手法で提案されていた優れた探索空間を利用可能

論文はこちら（ http://proceedings.mlr.press/v97/akimoto19a.html ）から確認できます。

著者

– 筑波大学システム情報系秋本洋平准教授の研究グループ（秋本准教授，西田氏）
– 横浜国立大学大学院環境情報研究院白川真一講師の研究グループ（白川講師，内田氏，吉成氏，斉藤氏）

文献情報

Youhei Akimoto, Shinichi Shirakawa, Nozomu Yoshinari, Kento Uchida, Shota Saito, and Kouhei Nishida: Adaptive Stochastic Natural Gradient Method for One-Shot Neural Architecture Search, Proceedings of the 36th International Conference on Machine Learning (ICML), Vol. 97 of PMLR, pp. 171-180 (2019)

[Shirakawa et al. 2018] : Shinichi Shirakawa, Yasushi Iwata, and Youhei Akimoto: Dynamic Optimization of Neural Network Structures Using Probabilistic Modeling, Proceedings of the Thirty-Second AAAI Conference on Artificial Intelligence (AAAI-18), pp. 4074-4082, New Orleans, Louisiana, USA, 2-7 February (2018)

弊社では、最先端領域における研究と並行し、主要なディープラーニング最新論文についてもわかりやすく解説する講座を開催しております。
ご興味のある方は下記講座リンクをご覧ください。