AIが生成する「実在しない顔」 簡単に見破る方法

AIが生成する「実在しない顔」 簡単に見破る方法
https://www.nikkei.com/article/DGXZQOUC047230U1A101C2000000/

『人工知能(AI)が生成した「実在しない人物の顔写真」を見たことがある人は多いだろう。不自然さを感じさせず、本物にしか見えない。このため一時期話題になり、「複数の顔写真から、実在しない人物を当てる」といったキャンペーンやウェブサイトも作られた。実在しない人物の顔写真を生成するウェブサイトもある。

顔写真の生成には、敵対的生成ネットワーク(GAN)と呼ばれる技術が使われている。GANは2種類のAIを競わせて画像などを生成する技術である。この場合、架空の画像を生成するAIとその精度(人間らしさ)を判定するAIを競わせることで、より自然に見える画像を生成するという。

様々な可能性を感じさせる技術であるが、悪用も確認されている。その1つがSNS(交流サイト)アカウントのプロフィル画像への使用である。架空のアカウントを作成し、そのプロフィル画像に実在しない人物の顔写真を使用するのだ。そしてそのアカウントを使って詐欺を働く。

実在する人物の画像を使うと詐欺がばれやすい。例えばグーグルの画像検索などを利用されると、画像の流用に気づかれる可能性が高い。だが、AIが生成した顔写真を使えばその心配はない。

このため純粋な研究目的に加えて悪用対策としても、AIによる顔写真を見破る方法がいろいろ提案されている。米ニューヨーク州立大学オールバニ校などの研究者が2021年9月に発表した方法もその1つだ。

ただ、この方法は他の方法とは大きく異なる特徴がある。それは、驚くほどに簡単なことだ。一体、どのような方法なのだろうか。

瞳孔が円形なのは当たり前のはず

この方法を研究する出発点になったのは、「AIが生成する顔の瞳孔は、滑らかな円や楕円ではない場合がある」という観察だったという。「私たちの方法は、人間の瞳孔はほぼ円形でなければならないという単純な生理学的仮定に基づいている」と研究者らは論文の中で述べている。

論文での実験では、AIで生成した顔写真と実在する人物の顔写真をそれぞれ1600点用意し、画像処理によって瞳孔の「楕円度」を計算した。

顔写真の生成には「StyleGAN2」と呼ばれる最新のモデルを使用。実在する人物の顔写真には、実験用に収集された「Flickr-Faces-HQ」と呼ばれるデータセットを使った。

実験では、顔写真から目の場所を特定してトリミングする。そして、目の画像から抽出した瞳孔の形状が楕円形に近ければ実在する人物と判定する。

今回の研究での画像処理。(a)入力された高解像度の顔写真、(b)トリミングされた目の画像、(c)(b)から予測された目の瞳孔の形状、(d)(c)を補完した楕円形。(c)と(d)が近ければ実在する人物と判定する。この顔写真は架空の人物(出所:Eyes Tell All: Irregular Pupil Shapes Reveal GAN-generated Faces)

実験結果は、研究者らが予想した通りだった。楕円度を0から1までの数値に変換すると、AIで生成した顔写真はおよそ0.3をピークに分布。一方実在する人物の顔写真はおよそ0.7をピークに分布していた。つまり、楕円度が大きければ実在、小さければ架空の人物と判断できる。

「楕円度」の分布。横軸のBIoUが楕円度に相当する。AIが生成した顔写真が「GAN-faces」、実在する人物の顔写真が「Real」(出所:Eyes Tell All: Irregular Pupil Shapes Reveal GAN-generated Faces)

研究者らによると、画像処理をするまでもないという。顔写真を十分に拡大して瞳孔の形状をチェックすれば、実在する人物かどうかを簡単に判断できるという。

実際、論文に掲載されているサンプルを見ると、架空の人物の瞳孔は明らかにいびつな形状をしているのが分かる。

左が実在、右が架空の人物の顔写真(出所:Eyes Tell All: Irregular Pupil Shapes Reveal GAN-generated Faces)

顔写真が本物かどうか確認したい方はぜひ試していただきたい。

とはいえ、いつまで有効か分からない。あまりにも簡単な方法がゆえに、対策も容易だからだ。読者の多くの方が考えたように、顔写真の生成時に瞳孔を楕円にする処理を加えたら、この方法は通用しない。

研究者らも認識している。一部のメディアによると、顔写真を生成するプログラムに、瞳孔を丸くする機能を追加するだけで回避できると述べているという。

(日経クロステック/日経NETWORK 勝村幸博)

[日経クロステック2021年11月4日付の記事を再構成]』