開催日程

2025年10月23日(木)　14:00～17:00

開催形態

オンライン（Zoomウェビナー）

開催趣旨

デジタル化の進展につれて、バーチャルな空間にも人間関係が広がり、AIのような複雑な技術を用いたシステムへの依存が高まり、だます技術も高度化してしまいました。その結果、デジタル社会と言われる今日において、社会におけるトラスト（信頼）関係にほころびが見られます。この問題は、自動運転車、AIエージェント、生成AI、メタバースなどの新技術・新サービスの社会受容を左右するとともに、フェイク・偽装・なりすましなどによる詐欺・犯罪の懸念を高めています。このような問題意識から、JST CRDSでは総合知による取り組みの必要性を提言し、様々な分野に広がるトラスト研究の間の分野横断的な議論・連携の機会として「連続シンポジウム」を企画しました。

その公開第7回では「AIシステムの正確性の問題：ハルシネーション対策と説明可能AI」をテーマとして取り上げます。生成AIは、まるで専門家の知識・スキルを備えているような応答を返しますが、その中に一見もっともらしく思える誤情報（ハルシネーション）が交じることがあり、しばしば応答の正確性が問題視されます。また、生成AIを含む深層学習型のAIは、なぜそのような出力や振る舞いをしたのか、人間が直感的に理解できないというブラックボックス性があり、後付けで近似的な説明生成（説明可能AI）が試みられていますが、この説明の正確性には限界があります。このようなAIシステムの正確性に関わる問題について、複数の観点から3名の専門家に講演いただき、ディスカッサントとしてさらに1名の専門家を招いて総合討論を行います。

プログラム

講演概要

（1）加藤 誠「検索拡張生成（RAG）によるハルシネーション対策 ―情報検索アルゴリズムの近年の発展を踏まえて―」

生成AIにおけるハルシネーションを抑制する有効な手法の一つとして、検索拡張生成（Retrieval-Augmented Generation, RAG）が注目されている。RAGは既存文書を検索で取得し、それを参照しながら生成を行うことで、根拠を伴った回答を導くことができる。RAGは「既存文書が正確である」ことを前提としており、必ずしも適切な回答が得られるとは限らないが、利用者が生成過程を追跡・検証できる点で、ハルシネーション対策として優れた特徴を持つ、一方で、検索段階で適切な文書を取得できない場合には、逆にハルシネーションが増えることが報告されており、従来以上に情報検索アルゴリズムの精度向上が求められている。本講演では、RAGの基本的な仕組みを解説するとともに、大規模言語モデルの発展に伴う情報検索アルゴリズムの進展を概観する。最後に、RAGの限界と課題を整理し議論を行う。

（2）原 聡「LLMの挙動を理解する試み」

大規模言語モデル（LLM）の挙動を理解するために、LLMの内部を解釈するための様々なアプローチが研究されている。本講演ではこれらの研究、例えば、LLMの出力を方向付けるKey Token、隠れ層に潜む情報を探るProbing、そして複雑な内部表現を人間が可読な特徴に分解するSparse Autoencoders（SAE）、などを紹介する。また、これらの手法が抱える課題についても議論する。最後にこれらの方法を用いたハルシネーション検知の応用例について紹介する。

（3）清丸 寛一「LLMはなぜハルシネーションするのか」

大規模言語モデル（LLM）の登場以来、ハルシネーションは重要な課題であり続けている。LLMは何を知っているのか。それは単なる暗記か、質問応答等を通じて柔軟に引き出せる知識か。LLMは自身が何を知っているかを知っているのか。現在までにハルシネーションの発生機序に関わる多くの問いが検証されてきた。本講演では既存研究の知見からLLMがなぜハルシネーションするのかについて概観する。

参加申込方法

• 事前登録制（参加無料）
  こちらの 「参加登録受付フォーム」からご登録ください。
• 参加登録受付期限：2025年10月22日(水) 13:00

主催

国⽴研究開発法⼈科学技術振興機構（JST）研究開発戦略センター（CRDS）

問い合わせ窓口

　福島 俊一（JST CRDSフェロー）