勾配降下法とは、目的関数の微分情報を用いて逐次的に最適化を行う方法であり、深層学習において必須のアルゴリズムとなっています。勾配降下法には様々な種類があり、AdaGrad・RMSProp・Adamなどの慣性（モーメンタム）や学習率適応を入れた、より効率的な手法が数多く開発されています。
今回のスキルアップAIキャンプでは、代表的な勾配降下法のアルゴリズムから、最新の勾配降下法のアルゴリズムを概観し、その実装方法をご紹介します．
プログラム概要
- 勾配降下法の基本
- モーメンタムと学習率適応
- Adam 発展手法あれこれ
- Lion｜遺伝的アルゴリズムによる勾配降下法アルゴリズムの探索
- ハンズオン｜PyTorch による Adam 発展手法の実装
※一部変更となる場合がございます。
スピーカー
-
株式会社スキルアップNeXt／斉藤 翔汰
スキルアップAI講師。横浜国立大学大学院 環境情報学府 情報メディア環境学専攻（現:情報環境専攻）修了。修士（情報学）。高専時代に画像認識に対して興味を持ったことがきっかけで、現在はDeep Learningや機械学習、進化計算などの人工知能分野におけるアルゴリズムの研究開発やコンサルティングに従事。日本ディープラーニング協会の2018年度・2019年度E資格合格者、2018年度G検定合格者。著書「徹底攻略ディープラーニングE資格エンジニア問題集」（インプレス）。
開催概要
日時
2023年11月22日（水）19：30～21：00
開催方法
Zoom
参加費
無料
※競合他社様のご参加は、ご遠慮いただいておりますので、ご了承ください。
