バックドアとは
AIの学習データやモデルに秘密の抜け穴を仕込み、特定の合図が入力された時だけ攻撃者の意図通りに誤作動させる攻撃やその仕掛けのことです。
たとえるなら — 普段は普通のドアとして機能するのに、特定の合図を出したときだけ秘密の裏口が開いて悪用されてしまうようなものです。
実務リスクと安全性バックドア攻撃AIバックドア
AIの学習データやモデルに秘密の抜け穴を仕込み、特定の合図が入力された時だけ攻撃者の意図通りに誤作動させる攻撃やその仕掛けのことです。
たとえるなら — 普段は普通のドアとして機能するのに、特定の合図を出したときだけ秘密の裏口が開いて悪用されてしまうようなものです。