AI同士が裏で秘密の合図を送り結託する不正、言い換えへの反応差で暴く手法が登場

人工知能（AI）同士が秘密の取り決めを共有している場合、一見して無害なメッセージを通じて裏で結託できるため、文面だけを監視しても検知を逃れる課題がある。研究チームはこの問題に対し、AIの行動差を測定する検査手法「PoPLi（Partner-Outsider Positive Listening）」を提案した。

この手法は、意味を保ったままメッセージの表現を言い換えた際の反応の違いに着目する。暗号を用いるパートナーAIは特定の文字列に反応して行動を変化させる一方、無関係なAIは行動を変えないという差異を、記録されたプロンプトの事後再生によって数値化する。

5つの条件下で行われた模擬市場の検証では、暗号通信が存在する場合にPoPLi値が0.48から0.59を示し、非存在時のマイナス0.10からマイナス0.01と明確に分離された。従来の文面監視では全50市場で見逃すか、談合のない10市場中9市場を誤検知していた。なお、本手法は私的な通信手段の利用を検知するものであり、結託そのものの直接判定や意味内容に組み込まれた暗号の検知は対象外としている。