あなたはAIディープフェイクを見抜けるか……専門家のテストで検証
カラム・ワトソン記者（BBCスコットランド）、エイミー・スタントン記者（BBCスコットランド・データビジュアル部門）
心理学者のクレア・サザーランド博士は、2枚の大きな写真を手に持っている。片方は、国際的な研究を先導する、オーストラリア人研究者の顔写真。もう1枚は、人工知能（AI）が生成したディープフェイク画像だ。
AIはすでに、リアルな画像を作り出す能力を大いに上達させている。その結果、何が本物で何がそうでないのかを見分けるのが、ますます難しくなっている。
しかし、機械が作り出した人物画像を見分けられるよう、人間を訓練することはできるのだろうか。
英アバディーン大学のサザーランド氏は、オーストラリア人の同僚とこの問題に取り組んできた。
答えを明かす前に、読者の皆さんにはまず、このテストに挑戦してもらいたい。
写真を見て、どれが本物でどれがAI生成画像化を判断するもので、顔をクリックすると、「REAL（本物）」か「AI」かが分かる仕組みになっている。
点数をメモしておくと便利かもしれない。
このテストを難しいと思ったあなたは、決して一人ではない。
以前は、詐欺師がよく使うコンピューター生成画像を見破るのは、もっとはるかに簡単だった。なぜなら、AIは人に余分な指を追加したり、明らかに奇妙なことをさせたりと、ミスが多かったからだ。
しかし、AIは自分のミスから学習する。
「6本目の指や左右非対称のイヤリングを探すなど、視覚的な特徴を手掛かりに偽物を見破る訓練は、成果が限られている。AIの性能が向上しすぎているし、詐欺師はそもそも、明らかに欠陥のある写真を使わないかもしれないからだ」と、エイミー・ドーウェル教授は説明する。
ドーウェル教授は、この記事の一番上でサザーランド博士が手にしている写真の、長髪の女性だ。男性の画像はディープフェイクだ。
オーストラリア国立大学の感情・表情研究所の所長を務めるドーウェル教授は、同国やカナダ、イギリスの研究者チームを率いて、人は訓練によってAIの偽物を見破れるようになるのかを研究している。
少なくとも現時点では、答えはイエスだ。しかし、AIの偽物を見抜くには、より細かいアプローチが必要となる。
偽物を見分ける感覚をつかむ
サザーランド博士は、アバディーン大学でイギリス拠点の研究を率いている。
博士によると、研究チームの面々は、顔の画像を見続けているうちに、どれが本物でどれがAI生成か、次第に見分けられるようになったことに気づいたという。
「そこで私たちは、『よし、これを他の人にも教えられるかどうか試してみたら面白いだろう』と思った」
実験では、最もリアルな顔を作れるAI画像ツールの一つ「StyleGAN3」を使い、数千ものAI生成の顔画像を作った。
実験参加者は、トレーニングを受ける前と後に検査を受けた。
何に注意するよう訓練されるのか
研究者らは、被験者の注意を六つの知覚特性に向けさせることで、参加者を訓練した。
- 対称性 ― AIは、わずかに垂れ下がったまぶたや左右非対称の笑顔など、顔を人間らしいものにするちょっとした「ずれ」を、なかなか再現できない。「本物すぎるものは、大体、本物ではない」と、研究チームは指摘する
- 比例性 ― 同じように、特に大きい鼻や突き出た耳は、ディープフェイク画像にはあまり登場しない
- 魅力 ― サザーランド氏は「AIが生成する顔は、本物より魅力的に見える傾向がある」と説明する。「これはより主観的な、美的感覚での判断だが、AIは好感の持てる顔を作り出すことが多い」
- 個性 ― 「それは例えば、『群衆の中で顔を際立たせるには何が必要か？』といったことかもしれない。AIの顔は平均的なものになりがちで、ややありきたりに見える」
- 表現力 ― サザーランド氏は「AIの顔は感情表現が乏しい傾向がある」、「感情をあまり表に出さない傾向がある」とも話した
- 覚えやすさ ― 「ディープフェイクの顔は印象に残りにくく、思い出しにくいことが多い」
また、AIが学習に使うデータの多くが若い白人を対象としているため、AIは非白人、高齢者、またはより若い人物の顔を再現する能力が低くなりがちだ。
ディープフェイクを見分けるために上に挙げたヒントは、よく聞くもので、「あいまい」に思えるかもしれない。しかし、それが大事なのだ。
AIが作った偽物だと確実に見破れる「手がかり」には、めったなことではお目にかかれない。むしろ、AIらしさを敏感に感じ取り、AIだと見抜く直感を磨くことが重要だという。
研究者らは、AI画像と実写画像の両方を人に見せて、どちらが本物でどちらがAIかを教えていくと、わずか1時間ほどで、見分ける能力が著しく向上することを発見した。
実験参加者の正答率は通常、40％程度から80％程度に向上したという。また、そのうちごく少数の人が、ほぼ100%の正答率に達した。
画像提供, Nightingale
皮肉なことに、ここで人間の脳が行っている作業は、生成AIモデルの仕組みと似ているという。
十分なデータを与えて学習させれば、時間の経過とともに精度は向上する。たとえ私たちが、その仕組みを完全に理解していなくてもだ。
研究では、実験参加者がAI画像の識別にどの程度、自信を持っているかも調査した。
先行研究では、多くの人はAIの顔を見分けられると過信していた。そして、最も自信のある人ほど間違いが多かった。
しかしトレーニング後、参加者はディープフェイクを見抜く自信を高めていた。
「これは役に立つ、そうでしょう？」とサザーランド博士は言う。「自分が正しいかどうか分からなければ、その情報を活用して何もできないので」
では、もう一度テストに挑戦してほしい。やり方は上のテストと一緒だ。
前と比べて、結果は？ 自信のほどは？
前より自信がついたというわけでなくても、自分を責める必要はない。人間社会でも、生成AIの世界でも、練習すれば上達するし、完璧とは言えなくても、少なくとも完璧に近づくことができる。
世の中には、こうしたスキルを磨くためのウェブサイトがたくさんある。また、この研究にボランティアとして参加することもできる。
なぜAI生成の偽物を見破る技術が重要なのか
AI生成の偽物は私たちにさまざまなリスクをもたらす。特に危険なのは詐欺だ。
国際コンサルティング企業のデロイトは、AIディープフェイク詐欺による損失額が、アメリカだけでも、2023年の120億ポンド（約2兆6000億円）から来年には400億ポンド（約8兆7700億円）にまで増加する可能性があると予測している。
同社の報告書は、香港に拠点を置く企業の従業員が、上司のディープフェイク画像とのビデオ通話の後、詐欺師に2500万ポンドを送金してしまった詐欺事件の事例を挙げている。
ディープフェイク技術のもう一つの悪質な利用法は、政治的なスパイ活動だ。
2019年の時点ですでにAP通信の調査報道で、「ケイティ・ジョーンズ」という女性のリンクトイン・プロフィール（写真を含む）が架空のものだと判明していた。
「ジョーンズ」は、米首都ワシントンの著名なシンクタンクや政策立案者グループとつながりのある、ロシアとユーラシアの専門家だと自称していた。
AP通信の報道によると、「ジョーンズ」は実際にはロシアの情報機関が作成したディープフェイクで、アメリカ政府の高官や国家安全保障当局者と接触することに成功していたという。
画像提供, Linkedin
オーストラリアでは現在、一人の政治家が、AIが生成した政治コンテンツには「透かし」を入れ、AI生成だと公表することを義務付ける法案を提案している。
一方、AIを公平に評価するならば、サザーランド博士はAI技術の前向きな用途もいくつか認めている。例えば、長年行方不明になっている子供が様々な年齢でどのような姿になるか、AIを使えば素早く安価に示すことができる。
博士は、「人がAIに善意をもって誠実にかかわり、AIが使われていることを認識していれば、AIは創造的な活動に非常に役立つ可能性がある」と言う。
まとめると、私たちの世界は幸いにして、何が現実で何がコンピューターで生成されたものか区別がつかないようなディストピアにはまだなっていない。
ただし、AIモデルは既に発表済みの学術論文を「読み込んで」いる可能性がある。そうやってAIは学習し続けている。
