世界の大学、研究所が進める「XAI（説明可能なAI）」の取り組み
ブラックボックス化するAIを理解可能にするための取り組みXAI
様々なビジネスの領域で機械学習／ディープラーニングを活用した取り組みが試みられているが、AIアルゴリズムが高度であるほどに、ブラックボックス化が進みやすく、AIアルゴリズムの出すアウトプットがなぜそうなるのかが開発者も完全に理解／説明することができず、そのAI活用自体がリスクを包含したものとなる傾向が強くなっている。
そこで「説明可能なAI (Explainable AI, XAI)」が求められるようになっている。米国国防先端研究計画局（DARPA）は、XAIプログラムとして、COGLE (COmmon Ground Learning and Explanation)を開発しているXeroxのPARC研究所をはじめとする企業や大学が複数参画するプロジェクトに投資を行なうなどXAIの様々な手法追求の取り組みを本格的に展開している。
１．DARPAが主導で取り組むXAIプログラム
2017年7月、カリフォルニア、パロアルトにあるXerox PARC研究所は、米国国防先端研究計画局DARPA（the Defense Advanced Research Projects Agency）における説明可能なAI、XAI(Explainable Artificial Intelligence)プログラムに選ばれたと発表した。
機械学習／ディープラーニングを活用した取り組みが、幅広い分野で行われるようになってきており、今後、自動運転、医療、裁判などの重大な事故や事件につながる可能性がある分野でも利用されていくと、そこでの誤りが重大な結果を招く可能性がある。
そうした分野では、AIによる判断結果に加えて、その判断理由が説明可能な状態になっていることが原因検証などのために求められる。
しかし、AIによる判断／アウトプットの生成過程を人が解明することは難しい。そこでDARPAは、$7,500万ドルを投資し、AIによる判断／アウトプットの生成過程に関する説明能力を向上させるための様々な手法を追求する、XAIプログラムを2017年5月より開始している。
1年半の第1フェーズでは、13の大学や企業が参画する、複数のプロジェクトが進行中であり、続く2年半の第2フェーズには、米国海軍研究所も参画する。2021年に、各プロジェクトはそれぞれの研究成果として、「XAI（説明可能なAI）」の技法とユーザーインターフェースを披露する予定である。
13の大学や企業が参画するDARPAのXAIプログラム第1フェーズのプロジェクトから一部概要を紹介する。米国の名だたる大学、研究機関が参画していることからも、XAIの取り組みへの力の入れ具合が見て取れるだろう。
1. UCバークレーによる「車の自動運転のためのXAI」
USバークレー（カリフォルニア大学バークレー校）は、自動運転における判断の適切な説明を、視覚的にヒートマップで見せる研究を行なっている。Nvidiaなども独自に取り組んでいる研究と同じ領域を対象としている。
2. CRAがリードするCAMELチームによる「因果関係モデル」
知的システムソリューションの開発企業CRA(Charles River Analytics Inc.）は、ブラウン大学、マサチューセッツ大学や、人の認知に関する研究開発を行うRoth Cognitive Engineering と組んで、CAMEL(Casual Model to Explain Learning)チームを形成している。
人工知能が学習したデータと、人工知能が出した結論とを合わせて取り込み、その因果関係を紐解いて、人が理解できる理由の説明を行うための「因果関係モデル」の生成を目指している。
3. Xerox PARC研究所がリードする「COGLE」
Xerox PARC研究所は、カーネギーメロン大学、ウェストポイント大学、ミシガン大学、エジンバラ大学などと組んで、COGLE(COmmon Ground Learning and Explanation)を開発。
人間の概念と、機械の学習能力との間に「共通領域(common ground)」を作ることによって、人工知能の決定の意味や、将来の振る舞い予測のための情報を人に提供しており、自律型ドローンでテストを行なっている。
4. カーネギーメロン大学とスタンフォード大学による「XRL」
XRL(Explainable RL)とは、深層学習について視覚的な説明を助ける、高品質なサリエンシー（顕著性）マップを生成する方法である。
サリエンシーマップによって、人工知能が決定で使った情報や重要性を、視覚的に把握することができる。
5. SRIインターナショナル による「DARE」
世界最大の研究機関であるSRIインターナショナルは、トロント大学、カリフォルニア大学サンディエゴ校、ゲルフ大学と組んで、DARE(Deep Attention-based Representation for Explanation)をテーマに研究を行なっている。
DAREプロジェクトでは、複数の深層学習技術に対応し、人工知能の思考過程を視覚化、決定の説明となる証拠を提供したり、自然言語での説明を生成したりすることを目指している。
ここに挙げた取り組み以外にも様々な領域でプロジェクトが進められており、様々な方法論の具体化に向けた研究が進められている。
２．「XAI（説明可能なAI）」研究の意義
最先端の論文の成果を反映したAIアルゴリズムを活用した取り組みでは、各種の処理／判断の理由を開発者ですらも十分に説明しきれず、ビジネスの現場での活用に確信を持って臨むことができないということが多くある。
XAIの取り組みも後付けで人が理解できるような理由を作っているだけで、どこまで現場で理解して活用できるか分からないという意見もある。しかし、AIが判断した過程について、後付けであっても、人が理解可能な説明があれば、その理解できる範囲によって、AIによる判断／処理結果をどこまで現場で取り入れていくかという判断を行う指標とすることもできる。
特に、医療や交通など命に関わる分野や大きな投資判断を行うような場でのAI活用においては、強く求められるものであり、安心／信頼してAIを活用した取り組みを様々な領域に広げていくためにも「XAI（説明可能なAI）」の取り組みの成果の早期実用化と普及が待たれる。
執筆者
株式会社ベルテクス・パートナーズ
AI／INNOVATION SOLUTIONチーム
大手通信会社、総合商社、大手メディア企業、クラウドベンダーなど多様な業種でのAIプロジェクトの推進支援や新規事業創出推進支援を実施。各メンバーの支援実績や知見の活用と外部パートナーとも連携しながら業種を問わず大手企業におけるAIプロジェクトを推進や、新規事業／イノベーション創出に関連するソリューションを提供。
監修者
株式会社ベルテクス・パートナーズ
執行役員パートナー 東條 貴志
スタートアップでの新規事業立ち上げや事業責任者などの経験と、アーサーアンダーセン、ローランド・ベルガーなど複数ファームでの10数年のキャリアに基づく先端領域における大手企業の新規事業・イノベーション創出支援やAI／機械学習を活用した事業創出／業務改革に多数の経験を有す。
Comments