第21回 ディープフェイクと偽情報
見破る目と守るしくみ

本物そっくりの偽物

ディープフェイクとは、AIを使って作られた、本物と見分けがつかないほど精巧な偽の動画・画像・音声のことです。ディープラーニング(第3回)の「ディープ」と、偽物を意味する「フェイク」を合わせた言葉です。

ある人の顔を別の人の映像にはめ込む。短い録音から、本人そっくりの声で好きな言葉をしゃべらせる。こうしたことが、いまでは特別な設備なしにできるようになりました。生成AI(第4回)の進歩が、作る手間を一気に下げたのです。

良い使い方と、悪い使い方

技術そのものが悪いわけではありません。映画の特殊効果、外国語の吹き替えで口の動きを合わせる、病気で声を失った人が自分の声を取り戻す、といった役立つ使い方があります。

問題は悪用です。家族や会社の上司の声をまねた電話でお金をだまし取る詐欺、有名人が言ってもいないことを言わせる偽の動画、本人の同意なく作られた性的な偽画像などが、世界中で深刻な被害を生んでいます。選挙の前に候補者の偽動画が出回ることへの懸念も高まっています。

さらに厄介なのが、逆向きの問題です。偽物が増えると、本物の映像や録音まで「それはAIが作った偽物だ」と言い逃れに使われるおそれがあります。偽物が出回ることで、本物への信頼まで揺らいでしまうのです。

人の目で見破れるか

以前は、指の本数がおかしい、まばたきが不自然、背景の文字が崩れている、といった手がかりで見破れることがありました。いまでも確認する価値はありますが、技術の進歩で不自然さはどんどん減っています。「おかしな点が見つからない=本物」とは言えません。

見た目よりも頼りになるのは、出どころを確かめることです。その動画を最初に出したのは誰か。本人や関係する組織の公式な発表と合っているか。信頼できる複数の報道機関が伝えているか。こうした事実の確認をファクトチェックと呼びます。

守るしくみ

技術の側からの対策も進んでいます。1つは電子透かしです。AIで作った画像や音声に目に見えない印を埋め込み、後から「AIで作られたもの」と判別できるようにします。もう1つは、写真や動画が「いつ、どの機器やソフトで作られ、どう編集されたか」という来歴情報を記録して添付するしくみで、C2PAという業界の規格づくりが進んでいます。偽物を見分ける検出AIの研究も続いています。

ただし、どれも万能ではありません。画面を撮影し直したり加工したりすると印が消えることがあり、すべての作成ツールが印を付けるわけでもありません。検出AIも、新しい作り方には追いつけないことがあります。作る側と見破る側のいたちごっこが続いている、と考えておくのが現実的です。

たとえるなら

精巧な贋作の絵を思い浮かべてください。腕の良い贋作は、絵だけを見比べても専門家ですら迷います。そこで美術の世界では、絵そのものに加えて、誰が描き、誰の手を経てきたかという記録を重視します。

ディープフェイク対策も同じです。映像だけをじっと見つめるより、「どこから来たのか」をたどる方が、ずっと確かな手がかりになります。

ニュースを読むコツ

驚くような動画や音声ほど、信じたり広めたりする前にひと呼吸おいてください。強い怒りや不安をかき立てる内容は、偽物が狙いやすい種類です。出どころと公式の発表を確かめる習慣が、自分も周りも守ります。画像であれば、同じ画像が以前どこに出ていたかを画像で検索できる機能を使って、元の写真を探すのも手です。

家族の声で「急にお金が必要」と電話が来たときに備えて、家族だけの合言葉を決めておく、いったん切って本人の番号にかけ直す、といった対策も効果的です。