じじぃの「ディープラーニング・ポルノからはじまった合成画像!ディープフェイク」

Behind the Scenes: Dali Lives

動画 YouTube
https://www.youtube.com/watch?v=BIDaxl4xqJ4

ディープフェイク ニセ情報の拡散者たち ニーナ・シック著

2021年11月28日 東京新聞 TOKYO Web
実在しない人の顔の画像をAI(人工知能)で作り出すウェブサイトが本書で紹介されている。
こうした合成メディアのうち、悪意をもってニセ情報や誤情報として使われるものを「ディープフェイク」と本書は定義する。また、そのような信用できない情報が蔓延(まんえん)した危うい世界は「インフォカリプス」と呼ばれるという。
ともにまだ新しい言葉だが、ディープフェイクはすでにポルノなどの世界で少なからぬ被害者を生み出している。一方、ニセ情報で国際情勢をかく乱するロシアの戦略や、トランプ元大統領が数々の虚言によって社会を分断していった様は、まさに私たちがいま、インフォカリプスの中を生きていることを示している。
https://www.tokyo-np.co.jp/article/145063

GAN:敵対的生成ネットワークとは何か ~「教師なし学習」による画像生成

2018-09-04 IS magazine
近年、いわゆるAI を構成する要素技術として機械学習の発展が著しい。
とくにディープラーニングはその火付け役であり、画像分類、物体検出、セグメンテーションなどの画像領域をはじめ、自然言語処理音声認識といった分野にまで広く応用されている。その表現力の高さから、今や従来の機械学習手法を凌ぐ結果を見せている。
https://www.imagazine.co.jp/gan%EF%BC%9A%E6%95%B5%E5%AF%BE%E7%9A%84%E7%94%9F%E6%88%90%E3%83%8D%E3%83%83%E3%83%88%E3%83%AF%E3%83%BC%E3%82%AF%E3%81%A8%E3%81%AF%E4%BD%95%E3%81%8B%E3%80%80%EF%BD%9E%E3%80%8C%E6%95%99%E5%B8%AB/

『ディープフェイク ニセ情報の拡散者たち』

ニーナ・シック/著、片山美佳子/訳 ナショナル ジオグラフィック 2021年発行

第1章 ディープフェイクはポルノから始まった より

GANの生みの親

ヨハンソンの不安は的中した。本書で取り上げてきた事例は氷山の一角にすぎない。合成メディア革命はまだほんの入り口だ。合成メディアを作り出す方法は急速に進歩している。初期のディープフェイクである顔入れ替えは、オートエンコーダーと呼ばれるディープラーニングのシステムを利用したものだ。しかし今、多用途に使えるディープラーニングのシステムがこれに取って代わり合成メディアの作成に使われるようになった。この変化をもたらしたのは、一人の男の発明だった。米国の研究者イアン・J・グッドフェローが2014年に発明したGANと呼ばれるディープラーニング・システムだ。
iPhoneの音声アシスタントSiri(シリ)に、コンピューターの天才は誰かと質問したら、グッドフェローを挙げるだろう。ヤギひげを生やし、ふさふさの焦げ茶色の前髪を垂らした眼鏡の男性で、穏やかな語り口のグッドフェローは、いわばAI界のスーパースターだ。2014年のある夜、機械学習の博士課程の学生だったグッドフェローは、モントリオールの人気ビアホール、レ・トロワ・ブラッスールで友人たちとビールを楽しんでいた。話題は彼らが取り組んでいたディープラーニング・プロジェクトのことで、なかなかAIに本物らしい人間の顔を作らせることができずに苦労しているという話をしていた。ディープラーニングの開発当初、機械は顔認識を可能にするようなデータの分類は得意だったが、一から作り出すとなるとうまくいかなかったのだ。
ビールをすすりながら耳を傾けていたグッドフェローは、突然ひらめいた。もし、2つのディープラーニングニューラルネットワークをゲームで戦わせたらどうなるだろう。片方が新しい情報を作り出そうとし、他方がそれを見破る。ゲームを進めるうちに、生成する側は、検出する側を打ち負かそうと、どんどん能力を向上させるだろう。生み出す側が検出する側に勝つまで、繰り返し戦い続けるはずだ。要は、競わせるというアスリートのトレーニングによく使われる方法を、ディープラーニングに応用できないかと考えたのだ。友人たちは嘲笑(あざわら)ったが、帰宅したグッドフェローはその夜のうちに作業に取りかかり、人間の顔を作り出すために、2つのディープラーニングのネットワークを敵対的なゲームで競わせるプログラムを作成した。すると、生成しる側が検出する側を打ち負かそうとすることで、タスクがどんどん向上した。グッドフェローは信じられないような突破口を開いたことに気づいた。数時間のうちに、彼が作り上げたシステムによって、これまでにない精度で人間の顔を生成することに成功したのだ。最初の敵対的生成ネットワーク(GAN)の誕生だった。

進化を続けるテクノロジー

GANは今のところ合成メディアを生成する最先端の手段だが、将来的にはこれを超えるものが出てくるだろう。合成メディアの生成の研究は爆発的な広がりを見せている。

とてつもない速さで開発が進み、減速の兆しはまったく見えない。それを後押ししているのは、オープンソースのAIと、民間の莫大な投資だ。合成メディアは夢を広げ、大きな利益を生む多方面への応用が期待できるため、完璧な合成メディアを作る技術を開発しようと、皆躍起になっているのだ。
例えば映画産業では合成メディアによって、どんなことができるだろうか。肖像を使ってAIを訓練することで、今は亡き歴史上の人物を簡単によみがえらせることができるようになる。文化や芸術の分野でも使われるだろう。フロリダのサルバドール・ダリ美術館ではAIを使って、『ダリ・ライブ』という展示を実現した。シュールレアリスムの芸術家ダリを合成メディアによってよみがえらせたのだ。動画にダリが登場し、美術館の来館者を”もてなす”。一見の価値ありだ。こんな風にダリの作品を鑑賞するとわくわくする。
合成メディアは、ゲーム産業にも変化をもたらすだろう。FIFAのようなサッカーのゲームで、本物の選手が試合をしているような画像を実現できる。ファッションの世界ではすでにAIを用いた合成メディアのモデルが登場している。2019年8月には、ベルリンを拠点とするファッションとテクノロジーの企業ザランドがGANを使い、さまざまな服をまとい、ポーズを取ることのできるAIによる合成画像のモデルを製作した。