『ディープフェイク 〜ニセ情報の拡散者たち』ニーナ・シック著

ご訪問いただきありがとうございます。
マンダラデザインアートブログのsachiです。

『ディープフェイク〜ニセ情報の拡散者たち』ニーナ・シック著を読みました。

Contents

1 おどろきのディープフェイク動画
2 GANというフェイク顔生成システム
3 音声合成システム（Vocal Synthesis）
4 ウクライナのゼレンスキー大統領のディープフェイク動画
5 インフォカリプス(情報の終焉）とは
6 読んでよかった『ディープフェイク〜ニセ情報の拡散者たち』

おどろきのディープフェイク動画

まず、「はじめに」の章で紹介されていたのがこの動画。

穏やかに話す、オバマ前大統領。
しかし話す内容は、何だかちょっと下品でヘン。。
タイトルは「まさかの発言（You Won’t Believe What Obama Says In This Video!）」。

実はこれは人工知能が作った、「ディープフェイク」というニセ動画なのだという。
（ディープフェイクとは、悪意を持って作り上げられたニセ情報を指す。ポルノ動画がその大半を占める）

ハリウッドの映画監督とバズフィードが製作した。
ニセ動画として合成メディアが悪用される可能性があることの警告として作られたそうだ。

びっくりした。不自然さも感じない。
すごい時代になってしまった。昔映画でよく見てきた未来の世界だ。

テクノロジーとAIが政治にもたらす変化に精通している著者は、世の中にはすでに巧妙に作り上げられた偽情報が蔓延していると書く。

AIが進化を遂げ、人々が言っていないことを言ったかのように、やっていないことをやったかのように仕立て上げることができる時代に突入し、何でもでっちあげることが可能になった、と著者は言う。

GANというフェイク顔生成システム

そして併せて紹介されていたのが
GAN（Generative Adversarial Networks）というプログラム。
こちらが生成するのは静止画だ。

2014年に米国の研究者イアン・J・グッドフェローが開発したディープ・ラーニング・システムだという。

AIはオープンソース（ソフトウェアツールや最新の結果などがインターネット上で自由に使える）になることが多く、研究者の英知が結集し、改良が続いていく。

GANは以下のサイトで現時点でのアウトプットが見られる。
（目下進化中、深化中？ということだと思う）

「ThisPersonDoesNotExist.com」　thispersondoesnotexist.com

リロードするたびに、AIのアルゴリズムがゼロから新しい顔写真を作る。

だが、どの顔もこの世には存在しない顔で、こんな人はいないのだ。
架空の人物。。

この方が顔写真入りの実名（ニセの）で、ちょっとお高い化粧品の高評価レビューなんか書いていたりしたら…きっと信じちゃうよね。。

「旅先でこの人と友達になったの」とか誰かに写真みせられたとしてもフェイクだなんて疑うことすらしないだろうよ。。

こんなに可愛い子供も生成される……。

リロードした時点でAIがゼロから新しい顔写真を作る、ということはこの顔とは二度と出会えないということか？
怖さ倍増。。SF世界だ。

GANの画像生成に興味のある方には、engadgetの以下の説明が参考になるかも。
以前のAIのように人間がマシンに教えていくのではなく、ふたつのプログラムをゲームのように競い合わせることで、互いに学びが深くなり、よって出す結果が改善されていく、ということなのだろうと思う。
↓↓↓

これはディープラーニングにおいて、生成ネットワークと識別ネットワークの2つを競合させてトレーニングするものです。
たとえば猫の写真を認識して学習を行う場合、まず生成ネットワークが猫のように見える偽の画像を生成。次に識別ネットワークが猫の写真を本物かどうか判別するという過程を繰り返す。前者はより精度の高い猫画像を生成し、後者は偽物の猫画像を見分ける能力を高めていく。あたかも「偽造者と警察」のように腕と眼力を磨き合うわけです。
GANのメリットは、1つには人が関わらずに競合ネットワークが互いに鍛えるため、膨大な手作業が省けるということ。もう1つは利用できるデータの少ない分野（たとえばプライバシー保護の厳しい医療など）でも不足したデータセットを自ら生成して補完できることです。

出典： https://japanese.engadget.com/jp-2019-02-17-web.html

音声合成システム（Vocal Synthesis）

そして音声合成（コンピュータで人工的に音声を合成すること）については、Vocal Synthesisが紹介されていた。

もう何でも作れるじゃん。。

ウクライナのゼレンスキー大統領のディープフェイク動画

この記事を書いている最中（2022年3月18日）、
「AIで生成されたニセのゼレンスキー大統領が降伏を表明しウクライナ市民に投降を呼びかける」フェイク動画がネット上に出回った、というニュースを見た。

動画は16日午後1時半、22万人のフォロワーがいる親ロシア派のアカウントにより、ロシア発祥のメッセージアプリ「テレグラム」に投稿された。
（中略）
これに先立つ同日午後0時31分ごろ、ウクライナのテレビ局「ウクライナ24」の番組の画面やウェブサイトがサイバー攻撃を受け、「ゼレンスキー大統領」の名前を使った「偽降伏声明」が、ニュースティッカー（文字ニュース）やテキストとして流れた。

出典：https://news.yahoo.co.jp/byline/kazuhirotaira/20220318-00287091

投降されたウクライナのゼレンスキー大統領のディープフェイク動画は以下。
（UKのTheTelegraphが注意を促す形でアップした）

Deepfake video of Volodymyr Zelensky surrendering surfaces on social media

フェイク動画がまさに今、世界の未来に揺さぶりをかけているところを見たと感じた。

今回のウクライナ侵攻では、この動画が出る前にもフェイク情報は色々とあったらしい。

メディアサイトを装い、親ロシアの主張を繰り返してきたアカウントの編集長の女性の顔と、コラムニストとされてきた男性の顔はいずれも自動生成されたAIの顔だったという。

おそらく上記のGANが使用されたのではないか。

ソーシャルメディアもそうだが、もっとも怖いのはテレビなどのマスメディアがある意図を持ってそういったフェイク情報を拡散することだろう。

インフォカリプス(情報の終焉）とは

残念ながら、私たちはすでに「混乱を極めたディストピア」の中にいる。この情報の時代に、情報のエコシステムが汚染され、危険な状態になっているのだ。歴史上前例のないレベルで、誤情報とニセ情報がもたらす危機に直面している。この問題を分析し、論じるため、私たちが置かれている「混乱を極めた」情報の環境を端的に表す言葉が必要だった。そしてたどり着いたのが、「インフォカリプス(情報の終焉）」だ。

インフォカリプス（infocalypse）は、情報（information info）+ 世界の終焉（apocalypse）を組み合わせた造語だという。

（2016年に米国の科学技術者アビブ・オバディアが定義。オバディアは当時、社会に有害な情報が蔓延していると警告し、この社会がもはや対処できない入り口に差し掛かっているのではないかと問い掛けていたそうだ）

インフォカリプスの始まりの話として著者が述懐していたのは、2014年のロシアによるクリミア併合とウクライナへの侵攻の時のこと。
（この本の発行は2020年6月。執筆当時は今回のウクライナ危機は始まっていない）

著者は当時EUの政策シンクタンクに勤務していて、ロシアのフェイクを流すやり方を目の当たりにしたという。
彼らがソーシャルメディアや動画サイトなどをフル活用して、自分たちが仕掛けた戦争を真っ向から否定したり、独自の筋書きを拡散するなどしていたことが書かれている。

その他にも、米国（主にトランプ政権について）、インド、ミャンマー、マレーシアなどの事例について、意図的なニセ情報がどのように政治の世界で大きな影響を及ぼしてきたか具体的に詳しく書かれており、興味深かった。

そしてその内容は、第6章「世界を震撼させる新型コロナウイルス」で、コロナ初期の情報の錯綜についてまで書かれている。

思えばコロナ時代になってから、誰の目にもわかるようになったのかも、情報の終焉が。
たとえ公にアナウンスされたとしても、確かであるか否かはわからないと誰もが考えるようになったのではないか。