大規模言語モデル（LLM）が生成する尤もらしい誤情報（ハルシネーション）は、LLM の登場以来、重要な課題であり続けているが、いまだ解決には至っていない。これは、ハルシネーションが単一の原因に帰着する現象ではなく、様々な要因が複合的に関与して生じる現象だからである。本講演では、ハルシネーション発生時のモデルの内部機序やその背後にある学習過程等、ハルシネーションの要因分析に関する諸研究を整理する。

生成AIにおけるハルシネーション対策として、検索拡張生成（Retrieval-Augmented Generation, RAG）が注目されている。RAGは、外部の文書や知識源を検索によって取得し、それを参照しながら応答を生成することで、回答の根拠を明示しやすくし、事実に基づいた生成を促す手法である。一方で、検索で不適切な文書を取得した場合には、誤った情報に基づく生成を招く可能性もあり、その有効性は検索精度に大きく依存する。本講演では、RAGの基本的な仕組みと、ハルシネーション抑制における利点を解説するとともに、検索技術の中でも特にベクトル検索に焦点を当て、その役割と特徴を説明する。さらに、RAGの限界や今後の課題について、我々の最近の研究成果も交えながら議論する。

LLMは、高度な対話応答能力と汎用的な問題解決能力により、瞬く間に社会に浸透し、人工知能システムの実社会応用における新たな可能性を切り拓いた。複雑な専門知識を正確に運用することが不可欠な医療分野も例外ではなく、LLMはすでに大きなインパクトをもたらしている。一方で、LLMにおけるハルシネーションは、医療分野では時に患者の生命に関わる判断に影響を及ぼす恐れがあり、その潜在的リスクは非常に大きい。本講演では、LLMが最終的な応答を出力する前に、ユーザからのクエリを解釈し、最適な出力を得るための思考プロセスを生成する推論（リーズニング）に着目する。この技術がハルシネーションの低減にもたらす効果について、特に医療応用を踏まえて最新研究を概観し、議論する。

大規模言語モデル（LLM）が産業界に浸透する一方、その出力の信頼性確保は依然として根源的な課題です。特に、事実に基づかない情報を生成する「ハルシネーション」は、実用化における喫緊の課題となっています。この現象は、学習データ、学習プロセス、推論機構など、モデルのライフサイクル全体に関わる複合的な要因によって生じます。そのため、完全な抑制は極めて困難です。そこで本講演では、ハルシネーションの発生を前提とし、その影響を制御する実践的なアプローチに着目します。具体的には、専門家による確認作業を支援することで、検証負担の軽減と信頼性確保の両立を目指します。特に、金融や医療といった高度な正確性が求められるミッションクリティカル領域において、この視点は不可欠です。LLMを現場で安全に活用していくための方策を共有します。