KGRI Challenge Grant: 説明可能なコンピューティング環境の実現に向けて

• プロジェクト一覧に戻る

研究概要

近年、深層学習に基づくAIツールが飛躍的に普及し、大量の学習データに依拠した大規模言語モデル（LLM）の説明可能性をめぐる諸問題が深刻化しつつある。本研究は、私たちの社会生活を取り巻くコンピューティング環境の説明可能性と公平性をめぐる諸問題の解決のために、日仏の国際連携のもと、論理的手法を利用した方法論を具体的に提示することを目的とする。日仏の研究連携を推進し、社会還元につながるLLMの説明可能性モデルを探究したい。

■2024年度の新規活動目標と内容、実施の背景

2024年度は、以下の二点を目標とする。第一に、論理的観点に基づいてコンピューティング環境の説明可能性の定義・基準の明確化を試みる。特に論理とリーズニングに基づく観点（日本側グループ）、及び、因果推論に基づく観点（フランス側グループ）という二つの観点から、説明可能性、及び、関連する公平性の概念を明確化する。第二に、実践推論に着目して大規模言語モデルの説明可能性を評価するための学習データ、及び、ベンチマーク構築を行う。また構築したベンチマークに基づいて現状のLLMの評価を行う。

SDGs

プロジェクトメンバー

プロジェクトメンバー・所員について

◎印は研究代表者

氏名	所属研究機関	職位	研究分野・関心領域
◎　峯島　宏次	文学部	准教授	研究活動統括
岡田　光弘	文学部	名誉教授	計算環境の公平性・説明可能性分析
細川　雄一郎	群馬県立女子大学 文学部	専任講師	哲学的論理、実践推論、説明可能性問題への反事実条件法の応用
小関　健太郎	東京大学／KGRI	日本学術振興会特別研究員（PD）／研究員（非常勤）	LLMの評価・改良、オントロジー工学、ソフトウェアの説明可能性分析
安東　里沙子	文学研究科	後期博士課程	証明論的な説明と自然言語への翻訳による説明、LLMの評価・ベンチマーク構築
ピエール　ワグナー	パリ第１大学哲学科／IHPST	教授／所長	論理・リーズニングによる説明、LLMの説明可能性研究の教育への応用
ジル　ドウェク	Inria／ENS Paris-Saclay	主任研究員／教授	計算アルゴリズムの説明可能性・公平性の分析、デジタル倫理への応用
クロード　キルシュナー	The French National Committee for Digital Ethics／ Inria	President／名誉主任研究員	計算アルゴリズムの説明可能性・公平性の分析、デジタル倫理への応用
カチューシャ　パラミデッシ	Inria Saclay and LIX	主任研究員	アルゴリズム・機械学習モデルの因果的説明と公平性、デジタル倫理の教育への応用
ルタ　ビンカイテ	Inria Saclay and LIX／Aivancity School for Business, Technology and Society	研究員／准教授	アルゴリズム・機械学習モデルの因果的説明と公平性、デジタル倫理の教育への応用