KGRI Challenge Grant: 説明可能なコンピューティング環境の実現に向けて
創造
研究概要

近年、深層学習に基づくAIツールが飛躍的に普及し、大量の学習データに依拠した大規模言語モデル(LLM)の説明可能性をめぐる諸問題が深刻化しつつある。本研究は、私たちの社会生活を取り巻くコンピューティング環境の説明可能性と公平性をめぐる諸問題の解決のために、日仏の国際連携のもと、論理的手法を利用した方法論を具体的に提示することを目的とする。日仏の研究連携を推進し、社会還元につながるLLMの説明可能性モデルを探究したい。
2025年度事業計画
大規模言語モデル(LLM)の急速な進展・普及を踏まえて、2024年度に引き続いて大規模言語モデル(LLM)を含む現状のAIモデルの推論能力を多角的に評価し、説明可能性をもつモデルとはどのようなものか、哲学・情報科学のハイブリッドな観点、特に論理推論と因果推論を統合した観点から研究を進める。また、これまでの準備を踏まえて、論理学・数学分野を中心にLLMの教育への応用可能性について本格的に研究に着手する。
2024年度事業報告
2024年度は、次の二点に重点を置いて研究を進めた。(1) 日仏の研究グループにより、論理推論、ならびに、因果推論の観点から大規模言語モデル(LLM)を含むAIモデルにおける説明可能性と公平性の概念の明確化に取り組んだ。(2) これと並行して、日本側グループを中心に規範的推論・実践推論に着目したLLMの推論能力評価のための新たなデータセットを構築し、説明可能性の観点から現状のLLMの評価を行った。(1)については、2024年度末にフランス側のプロジェクトメンバー4名を含む研究者を招き、三田キャンパスにて国際ワークショップ、および、ワーキングセミナーを開催した。(2)については、その成果を国際会議論文として発表し、データセットを研究目的で公開した。当初の計画に沿って、順調に研究が進展したと言える。
■公刊論文数(件数と主たる公刊誌名)、学会発表件数(国内・国際)、イベントなど社会貢献の実績(年月日、場所)国際会議論文7件(Findings of the Association for Computational Linguistics ACL 2024, Proceedings of the 14th International Conference on the Theory and Application of Diagrams, Proceedings of th 3rd International Conference on Human and Artificial Rationalities など)、国内学会発表3件、国際ワークショップ "France-Japan Meeting Considering Fair Development and Scientific Knowledge & Data Sharing with the Digital Environments of Our Lives and Society" を主催(2024年3月21日、三田キャンパスG-Lab)、ワーキングセミナー "Working Seminar on Fairness and Explainability in the Digital and ML Environments" を開催(2024年3月27日、三田キャンパスOpen-Lab)
■プロジェクト活動を通じて特に成果を挙げた事柄LLMの論理推論能力の評価を進め、自然言語処理・計算言語学の主要な国際会議であるACL2024を含む国際会議において論文発表し、あわせてデータセットの公開に結びつけたことは特筆すべき成果として挙げられる。また、2024年度末に日仏国際ワークショップを開催したことは、今後のさらなる研究連携の推進につながる重要な成果の一つである。
SDGs







プロジェクトメンバー
プロジェクトメンバー・所員について◎印は研究代表者
氏名 | 所属研究機関 | 職位 | 研究分野・関心領域 |
---|---|---|---|
◎ 峯島 宏次 | 文学部 | 准教授 | 研究活動統括 |
岡田 光弘 | 文学部 | 名誉教授 | 計算環境の公平性・説明可能性分析 |
細川 雄一郎 | 群馬県立女子大学 文学部 | 准教授 | 哲学的論理、実践推論、説明可能性問題への反事実条件法の応用 |
小関 健太郎 | 東京大学/KGRI | 日本学術振興会特別研究員(PD)/研究員(非常勤) | LLMの評価・改良、オントロジー工学、ソフトウェアの説明可能性分析 |
安東 里沙子 | 文学研究科 | 後期博士課程 | 証明論的な説明と自然言語への翻訳による説明、LLMの評価・ベンチマーク構築 |
ピエール ワグナー | パリ第1大学哲学科/IHPST | 教授/所長 | 論理・リーズニングによる説明、LLMの説明可能性研究の教育への応用 |
ジル ドウェク | Inria/ENS Paris-Saclay | 主任研究員/教授 | 計算アルゴリズムの説明可能性・公平性の分析、デジタル倫理への応用 |
クロード キルシュナー | The French National Committee for Digital Ethics/ Inria | President/名誉主任研究員 | 計算アルゴリズムの説明可能性・公平性の分析、デジタル倫理への応用 |
カチューシャ パラミデッシ | Inria Saclay and LIX | 主任研究員 | アルゴリズム・機械学習モデルの因果的説明と公平性、デジタル倫理の教育への応用 |
ルタ ビンカイテ | CISPA Helmholtz Center for Information Security | 研究員/准教授 | アルゴリズム・機械学習モデルの因果的説明と公平性、デジタル倫理の教育への応用 |