MoEモデルの内部信号から幻覚をトークン単位で検出する手法「InnerExpert」
LLMの幻覚検出は従来、回答や文の単位が中心でした。arXivで公開された研究は、Mixture-of-Experts構造のルーティング情報を使い、トークンごとに幻覚を見つける手法を提案しています。
Category
Models
基盤モデルのリリース、性能、アーキテクチャ
1 articles
Category
基盤モデルのリリース、性能、アーキテクチャ
1 articles
LLMの幻覚検出は従来、回答や文の単位が中心でした。arXivで公開された研究は、Mixture-of-Experts構造のルーティング情報を使い、トークンごとに幻覚を見つける手法を提案しています。