KGRI Challenge Grant: 説明可能なコンピューティング環境の実現に向けて

創造

研究概要

Koike

近年、深層学習に基づくAIツールが飛躍的に普及し、大量の学習データに依拠した大規模言語モデル(LLM)の説明可能性をめぐる諸問題が深刻化しつつある。本研究は、私たちの社会生活を取り巻くコンピューティング環境の説明可能性と公平性をめぐる諸問題の解決のために、日仏の国際連携のもと、論理的手法を利用した方法論を具体的に提示することを目的とする。日仏の研究連携を推進し、社会還元につながるLLMの説明可能性モデルを探究したい。

2025年度事業計画

■2025年度の新規活動目標と内容、実施の背景

大規模言語モデル(LLM)の急速な進展・普及を踏まえて、2024年度に引き続いて大規模言語モデル(LLM)を含む現状のAIモデルの推論能力を多角的に評価し、説明可能性をもつモデルとはどのようなものか、哲学・情報科学のハイブリッドな観点、特に論理推論と因果推論を統合した観点から研究を進める。また、これまでの準備を踏まえて、論理学・数学分野を中心にLLMの教育への応用可能性について本格的に研究に着手する。


2024年度事業報告

■当該年度活動計画に対する実施内容、および研究成果と達成度

2024年度は、次の二点に重点を置いて研究を進めた。(1) 日仏の研究グループにより、論理推論、ならびに、因果推論の観点から大規模言語モデル(LLM)を含むAIモデルにおける説明可能性と公平性の概念の明確化に取り組んだ。(2) これと並行して、日本側グループを中心に規範的推論・実践推論に着目したLLMの推論能力評価のための新たなデータセットを構築し、説明可能性の観点から現状のLLMの評価を行った。(1)については、2024年度末にフランス側のプロジェクトメンバー4名を含む研究者を招き、三田キャンパスにて国際ワークショップ、および、ワーキングセミナーを開催した。(2)については、その成果を国際会議論文として発表し、データセットを研究目的で公開した。当初の計画に沿って、順調に研究が進展したと言える。

■公刊論文数(件数と主たる公刊誌名)、学会発表件数(国内・国際)、イベントなど社会貢献の実績(年月日、場所)

国際会議論文7件(Findings of the Association for Computational Linguistics ACL 2024, Proceedings of the 14th International Conference on the Theory and Application of Diagrams, Proceedings of th 3rd International Conference on Human and Artificial Rationalities など)、国内学会発表3件、国際ワークショップ "France-Japan Meeting Considering Fair Development and Scientific Knowledge & Data Sharing with the Digital Environments of Our Lives and Society" を主催(2024年3月21日、三田キャンパスG-Lab)、ワーキングセミナー "Working Seminar on Fairness and Explainability in the Digital and ML Environments" を開催(2024年3月27日、三田キャンパスOpen-Lab)

■プロジェクト活動を通じて特に成果を挙げた事柄

LLMの論理推論能力の評価を進め、自然言語処理・計算言語学の主要な国際会議であるACL2024を含む国際会議において論文発表し、あわせてデータセットの公開に結びつけたことは特筆すべき成果として挙げられる。また、2024年度末に日仏国際ワークショップを開催したことは、今後のさらなる研究連携の推進につながる重要な成果の一つである。

SDGs

4. 質の高い教育をみんなに4. 質の高い教育をみんなに
5. ジェンダー平等を実現しよう5. ジェンダー平等を実現しよう
8. 働きがいも経済成長も8. 働きがいも経済成長も
9. 産業と技術革新の基盤をつくろう9. 産業と技術革新の基盤をつくろう
10. 人や国の不平等をなくそう10. 人や国の不平等をなくそう
12. つくる責任 つかう責任12. つくる責任 つかう責任
16. 平和と公正をすべての人に16. 平和と公正をすべての人に

プロジェクトメンバー

プロジェクトメンバー・所員について

◎印は研究代表者

◎ 峯島 宏次 文学部 准教授 研究活動統括
岡田 光弘 文学部 名誉教授 計算環境の公平性・説明可能性分析
細川 雄一郎 群馬県立女子大学 文学部 准教授 哲学的論理、実践推論、説明可能性問題への反事実条件法の応用
小関 健太郎 東京大学/KGRI 日本学術振興会特別研究員(PD)/研究員(非常勤) LLMの評価・改良、オントロジー工学、ソフトウェアの説明可能性分析
安東 里沙子 文学研究科 後期博士課程 証明論的な説明と自然言語への翻訳による説明、LLMの評価・ベンチマーク構築
カチューシャ パラミデッシ Inria Saclay and LIX 主任研究員 アルゴリズム・機械学習モデルの因果的説明と公平性、デジタル倫理の教育への応用
ルタ ビンカイテ CISPA Helmholtz Center for Information Security 研究員/准教授 アルゴリズム・機械学習モデルの因果的説明と公平性、デジタル倫理の教育への応用