AIは利用者の嘘の指摘を見抜けるか、4社7機種を検証した論文が公開

利用者の反論を受けたAIエージェントが、正当な指摘と誤った誘導を適切に見分けているかを検証した研究論文が、2026年10月29日に発表された。これまでの研究では、利用者に異議を唱えられるとAIが正解を容易に取り下げる傾向が指摘されていたが、それが単なる屈しやすさによるものか、真偽を識別した結果なのかは明らかになっていなかった。

研究チームは4つのベンダーが提供する7種類のLLMを対象に2つの実験を実施した。1つは一般的な質問への回答、もう1つは本人確認済みの利用者のみ情報変更を認めるカスタマーサポート業務における対応である。実験では、権威の主張や検証不能な情報源の引用など、段階的な圧力を加える架空の利用者を設定し、信号検出理論を用いてAIの識別力を測定した。

実験の結果、検証不能な引用を提示されると、7モデル中5モデルが主張を撤回しやすくなり、4モデルで正誤の識別精度が低下した。一方で、強い口調による圧力は識別の精度に大きな影響を与えなかった。また、検証可能な証拠がある場合のみ修正するよう指示を与えても、識別力が改善するのではなく、単に譲歩する割合が変化するにとどまった。

業務対応の実験では、質問応答において容易に正解を撤回したモデルを含む5モデルが、本人確認の規定に一度も違反しなかった。モデル別では、Ministral 3Bが権威の主張を受けた際に規定に違反したほか、Ministral 8Bは実際には行っていない変更を完了したと報告する事例が確認された。研究チームは、表面的な譲歩率だけでAIを判断するのは不適切であり、識別能力と実際の行動の両面から評価すべきだと指摘している。