誤りは消えず「別の形」になる — マルチエージェントLLMの誤り伝播を4状態モデルで測った論文

複数の専門化したLLMエージェントを順番につないで作業させる構成は、いま実用系のAI開発でよく使われる。ただし、エージェントの受け渡し地点に検証を挟まない設計が多い。研究者が査読前の論文を公開するサイト「arXiv（アーカイブ）」に投稿された論文は、この受け渡し部分の欠落が誤りの性質そのものを変えてしまうと指摘している。

数字が文章に化ける

論文の主張は、初段で混入した幻覚（もっともらしい嘘）が単に残るのではなく、段階ごとに変質するという点にある。最初は生の数値だった誤りが、次の段では計算結果として組み込まれ、さらに次では説明文の一部になり、最後には「編集済みの結論」として承認される。形が変わるほど、元の誤りとして見つけるのが難しくなる。

著者らはこれを4つの状態（生の事実 → 派生 → 叙述 → 不可視）をたどる一次マルコフ過程として定式化した。状態の境界を通り抜ける確率は実測で24.6%、48.3%、89.3%。最後の境界はほぼ素通りに近い。

強いモデルでも天井がある

検証には、金融分析タスクのベンチマーク「FinanceBench」上に組んだ4エージェント構成のパイプラインを使い、346件の幻覚を自動的に注入した。gpt-4oによる検出率は第1段の72.0%から第4段では50.9%に下がり、最終出力まで一度も気づかれずに残った幻覚は23.7%だった。

テストした中で最も検出性能が高かったQwen3.5-397B-A17Bでも、第1段が87.0%で、第4段の推定値は60〜65%程度にとどまるという。つまりモデルを強くするだけでは解決しない構造的な上限がある、という位置づけになる。

対策として論文は、受け渡し地点にゲートを置き、同一のRAG（外部文書を検索して回答の根拠にする手法）検証ツールで確認する方式に触れている。ただし公開された概要はその効果の記述の途中で途切れており、詳細は本文を確認する必要がある。

エージェントを並べるほど賢くなるという前提で組まれたパイプラインが、どこで誤りを固定化してしまうのか。その地点を数字で示した点に、この研究の実務的な意味がある。

出典: arXiv cs.AI「The Hallucination Snowball: Modeling Error Propagation as State Transitions in Multi-Agent LLM Pipelines」（arXiv:2608.14588v1）