XAI受講体験記：最新のXAI理論と実装を学ぶ6時間

こんにちは、スキルアップAIの広報です。先日、弊社初となるXAI講座を実施し、東京・大阪の両会場で合計20名様にご受講いただきました（※新型コロナウイルス対策として、入場人数制限を行っての講座開催とさせていただいております）。
XAIはまだまだニッチなテーマでもあるにも関わらず、参加者は全員ご所属企業様からの代表としての参加であり、企業のXAIへの関心の高さをうかがわせるものとなりました。講座の雰囲気を少しでも感じていただけるように、講座に参加していた弊社インターン生の受講体験レポートをご紹介いたします！

現場で使える XAI(Explainable AI)講座【無料トライアルあり】

1.はじめに

こんにちは。スキルアップAIの湯浅です。大学院では、ディープラーニングを用いた自然言語処理の研究をしています。
いきなりですが、皆さんはXAIをどの程度ご存じですか。XAIとは機械学習の推定結果を得るまでのプロセスを人間が理解、説明できるAIのことを指します。偉そうに書いてしまいましたが、私もこの講座を受ける前はこの程度のことしか知りませんでした。この体験記を読んでいる方の多くは同じような状態なのではないでしょうか。

ここでは、このようにXAIをほとんど知らない状態からこの講座を受けて得られたものや、感じたことを書いていこうと思います。

XAI（説明可能なAI）とは｜意味や手法、メリット、導入課題、活用事例を解説

2.受講のきっかけ

ご存じのように、現在機械学習で用いられているモデルは、その中身がブラックボックスになっているものも多いです。モデルを利用する側の方は中身がブラックボックスになっていても問題ないかもしれませんが、モデルを作る側は当然中身がわかるほうが嬉しいです。私の場合は、XAIを学ぶことが研究で行った実験結果を考察するのに役に立つのではないかと考え、受講を決めました。

この講座には受講に必要なスキル・前提知識というものが指定されていますので、そのあたりの私の知識について補足説明をしていこうと思います。基礎数学講座、機械学習講座で指定されているものに関連する大学の授業の単位は取っています。大学の研究室ではディープラーニングを用いた自然言語処理の分野で研究を行っており、Python入門講座、ディープラーニング基礎講座に関する知識は持っている状態でした。

3.理論と実装を同時に学ぶことでXAIを現場に応用するのに必要な基礎力がつく

この講座を受けた感想を一言で言えば、「理論と実装を同時に学ぶことで、XAIを現場に応用するのに必要な基礎力がつく」ということです。

■理論編

理論的な観点からは、XAIがどのような考えに基づいて設計されているかを学ぶことができました。これはXAI全般に共通するような概念で、最新研究を理解する助けにもなりました。
また最新研究を網羅的に学ぶことにより、今できることとできないことがはっきりとわかったことは、非常に大きな収穫でした。XAIに限らず、何か新しいものを導入しようとする際、導入することが最終的にプラスとなるのか否かという部分は極めて判断が難しいと思いますが、最新の研究概要を理解できていることは、判断根拠として重要なものになると思います。

■実装編

実装編では、上の写真のようにハンズオンを通して具体的にXAIをどのように実装するかを学ぶことができました。理論を学ぶだけで実装をすぐにできるようなる人はほとんどいないと思います。講座内で理論だけでなく実装を併せて学ぶことで、実際の現場（私の場合は研究）に応用できる基礎力を育てることができたと思います。
写真からもわかりますが、ソースコードにはそれぞれのパラメータや処理に細かくコメントがつけられているので後から見直すのにも非常に役に立ちました。

4.講座を通して、視野が広がる

この講座に興味がある方の多くはXAIの必要性を分かっておられるからこそ興味を持っておられるのだと思います。私自身もそうでしたので、カリキュラムの冒頭のの「XAIのコンセプトや必要性を理解する」という部分には、正直あまり興味は持っていませんでした。しかし、講座では自分が考えていたXAIの必要性とは別の立場や視点からの必要性を学ぶことができ、非常に視野が広がりました。

具体的に言えば、ビジネスでAIの導入によって起こりうる失敗を学ぶことにより、どういった点でXAIが必要なのか、なぜXAIを導入するのかという部分でのイメージがより明確に持てるようになりました。
これは講座前には予想していなかったもので、講座を受講することで、自分では気づいていないXAIの必要性や可能性に改めて気付くきっかけにもなると思います。

XAI（説明可能なAI）とは｜意味や手法、メリット、導入課題、活用事例を解説

5.対話型の講座に演習とグループワークで、内容がしっかりと定着

スキルアップAIのXAI講座は、ひたすら講師の話を聞くという座学スタイルではなく、いきなり受講者が当てられて答えや意見を聞かれる場面や、演習やグループワークがふんだんにありました。自分で考えて答えを出すというプロセスを経ることで、能動的な学びとなり、学習内容が自分のものになりやすいと思いました。
このようなインタラクティブで対話的な講座は映像授業にはできないものなので、これは受講者にとって大きなメリットだと思います。

※スキルアップAI注）スキルアップAIでは、インタラクティブな講座の実現のために、受講者の方には下記のようなネームプレートを作っていただき、机の上に置いていただいております。突然名前を呼ばれるのには、このような仕掛けが・・・

6.まとめ

講座の6時間で、XAIについてほとんど知識がなかった私でも、実際に応用できると思えるだけの基礎力を身に着けることができました。特に、今できることとできないことを学ぶことができたのは大きな収穫でした。
AIの判断理由を人に説明する技術は相手に納得してもらう上でも非常に有用ですし、組織の中で今後の指針を決定する上での判断材料にもなると思います。皆さんもぜひ、XAIを学んでみてはいかがでしょうか。

スキルアップAIのXAI講座

7.XAI関連動画のご紹介

Google BrainのPMが共同創業した日系AIスタートアップ、AIの品質保持とは？