XAI講座体験記：まだ書籍すらない分野を最短距離で学べる6時間

こんにちは、スキルアップAIの広報です。2021年7月に弊社初となるXAI講座を実施し、東京・大阪の両会場で合計20名様にご受講いただきました（※新型コロナウイルス対策として、入場人数制限を行っての講座開催とさせていただいております）。
XAIはまだまだニッチなテーマでもあるにも関わらず、参加者は全員ご所属企業様からの代表としてのお申し込みであり、企業のXAIへの関心の高さをうかがわせるものとなりました。講座の雰囲気を少しでも感じていただけるように、講座に参加していた弊社インターン生の受講体験レポートをご紹介いたします！

現場で使える XAI(Explainable AI)講座【無料トライアルあり】

1.自己紹介と受講のきっかけ

こんにちは、スキルアップAIの小澤です。私は大学院で惑星形成の理論研究を行っているのですが、近年、系外惑星の分野でも機械学習の利用が盛んになっています。観測技術の発達により膨大な量の観測データを取得できるようになりましたが、莫大な量のデータから目当ての特徴を持つ天体を人の目で探し当てるのは困難な作業です。
そのため、そこに機械学習を応用し、ある程度天体の候補を絞る、という活用などが見られます。私も機械学習を研究に活用したく、大学の授業や市販の参考書やネットを活用して勉強をする中で、説明可能なAI（Explainable AI＝XAI）という分野があることを知りました。

私の研究において 、オープンソースを使ったコードの開発時に、コードの高速化に大きく貢献している箇所や精度が高い理由がブラックボックスだとわかりにくい上に、バグが出た際に自分で直しにくいという経験がありました。
そのため、AI分野の中でも判断根拠を明確にし、メンテナンス性を向上させる説明可能AIという分野に強く興味を持ち、今回の受講に至りました。

2.カリキュラム

講座は合計6時間でした。内容は以下の通りで、1章に1時間使う日程で講座は進められました。

1章：Explainable AI（XAI）概論
2章：What-if Tool
3章：Azure Machine LearningとXAI
4章：SHAP（Shapley Additive Explanations）
5章：最新XAI論文解説
6章：XAIの使い方

1章ではXAIに関する社会動向や歴史、ビジネスへの応用例などを学びました。
2章、3章では準備されていたNotebookを用いて実際にXAIを使ってみるハンズオンを行いました。
4章、5章ではXAIの重要技術や最新論文についての解説を受けました。
6章ではグループワークを通して実際のXAIの活用について検討を行いました。

3.ビジネスの現場でのXAIの必要性がわかる

講義の冒頭でXAIが必要とされる社会背景や必要な専門用語からわかりやすく解説してくれたため、機械学習を実務で使ったことのない私でも、内容理解がしやすかったです。また、機械学習を使う技術者側の視点だけではなく、機械学習を使った商品やサービスを提供される消費者が何を求めているのかといった視点での解説もありました。

例えば、技術者はAIから説明根拠を得たり予測結果を数理モデルで表現する手法面に焦点を当てることが多いですが、消費者は予測の理由を提示してもらうことで、安心してAI関連商品を使うことを求めているという点などです。そういった状況で、判断根拠が説明できないことはAIへの不信感や導入への阻害要因になってしまうという説明を受け、より、ビジネスの現場への応用を意識しやすく感じました。

4.ハンズオンで実際のコードに触れてみる

続くハンズオンでは、実際のコード実行を通してWhat-IfToolやSHAPなどの最新の技術や、Microsoft Azureでの自動機械学習を用い、それらの優れている点、コードの枠組みの確認を行いました。
例えば、アヤメの種類分類データセットを使いロジスティック回帰モデルを学習し、SHAPがある場合とない場合でモデルが持つ各特徴量の重みや予測に効いた特徴量を確認するなどです。それと同時に、予習や講習中にWhat-If ToolやMicrosoft Azureの使い方についても学びました。

機械学習初学者の私は、独学でサンプルコードを読むだけでは目玉の技術がコードで使用されている場所や、その解釈の仕方などを正確に理解するのは難しかったです。
しかし講座では、コードに丁寧なコメントがあったことや、ハンズオンでコードの説明と最新技術の解説を同時にしてもらえたことで、右往左往することなく、最新技術の使用法やそれぞれの優等な点についての理解が深められました。

5.まだ書籍すらない分野を体系的に学べる

最新XAI論文解説パートでは、学習モデルの判断根拠の提示手法として画像の概念に焦点を当てている研究や、「XAIでブラックボックスなモデルに無理に説明を与えるよりも、それ自体が本質的に説明可能なモデルを作成することが真に説明可能AIを追求する道である」と捉える研究など、様々な方向からXAIという分野にアプローチする論文に触れました。

一口にXAIの研究と言っても、説明手法の研究からそもそも説明可能とは何かといったXAIのあり方についての研究まで多岐にわたるものがあることを知ったことで、XAIへの解像度がとても上がりました。

XAIはまだ非常に新しい分野なので、まだ教科書と呼べる書籍すらありません。だからこそ独学で学んでいくことは難しいなか、今回代表的な手法や内容をまとめている資料を教えてもらえたことは大きな収穫でした。

以上が私のXAI講座の体験記です。私のような機械学習を学び始めて日が浅い者でも、6時間でXAIの最新技術、実際の使い方などを無理なく理解することができました。それに加えて、AI導入成功に向けた説明可能性の重要性や、最新論文のレビューを学ぶことができたので、初学者から機械学習に熟達している方まで幅広い層に意義のある講座になっていると感じました。XAIに関心のある方、ぜひチェックしてみてはいかがでしょうか。

スキルアップAIのXAI講座

6.XAI関連動画のご紹介

Google BrainのPMが共同創業した日系AIスタートアップ、AIの品質保持とは？