画像に埋め込んだ指示でAIエージェントは動くのか、720回の実験で検証
エージェント型AIが読み込む画像に攻撃者の命令を隠す「マルチモーダル・プロンプトインジェクション」を測る公開ベンチマークが登場。攻撃の実行完了は約1%だったが、試行は12.8%に達した。
Tag
#MMPIBench
1 articles
Tag
1 articles
エージェント型AIが読み込む画像に攻撃者の命令を隠す「マルチモーダル・プロンプトインジェクション」を測る公開ベンチマークが登場。攻撃の実行完了は約1%だったが、試行は12.8%に達した。