じじぃの「カオス・地球_441_現代ネット政治=文化論・第7章・身近に迫るフェイク動画」

【警戒】中国が“偽情報を拡散”…民間団体が“真意を検証” 対策強化へ

動画 YouTube
https://www.youtube.com/watch?v=PjM9hFg3vI8


台湾の隅々に侵食する「中国ファクター」の実態

2023/08/02 東洋経済オンライン

――中国ファクターは台湾の民主主義や社会を傷つけているといえますか。

傷つけているといえる。2012年の選挙では実証研究も行われた。一連の「92年コンセンサス」の喧伝による影響力行使で、台湾の中間層における馬氏の得票が5~10%増えた可能性がある。接戦だったので、中国ファクターがなければ馬氏はあのように勝てなかったかもしれない。
https://toyokeizai.net/articles/-/691574?display=b

『現代ネット政治=文化論――AI、オルタナ右翼ミソジニー、ゲーム、陰謀論アイデンティティ

藤田直哉/著 作品社 2024年発行

安倍元首相銃撃犯・山上徹也の深層、「推し」に裏切られた弱者男性、インセル陰謀論者、負け組、オタクたちの実存の行方、ニセ情報の脅威、倍速で煽られる憎悪…。揺らぐ民主主義と自由。加速するテクノロジー、そこに希望はあるのか!ネットネイティブ世代の著者が徹底検証。

Ⅶ ネット方面見聞録(『朝日新聞』2019年4月ー2023年12月) より

身近に迫るフェイク動画、技術・制度的解決を(2023年11月)

ディープフェイクの脅威がごく身近に迫ってきた。ディープフェイクとは、生成AIで作られた、本物と見まがうような動画のことである。
岸田文雄首相がまるでテレビのニュース番組でしゃべっているようなフェイクの動画がネットで公開され、200万回以上再生された。報道によると、25歳の男が1時間程度で作り上げたという。今月6日には松野博一官房長官が記者会見で、民主主義の基盤を傷つけかねないと非難した。フェイク動画には、安倍晋三元首相や菅義偉前首相に特定の思想信念に基づく発言をさせているものも既にある。

現在、生成AIの作る動画のクオリティは上がっており、それを一般人がジャン単に使える状況になっている。これは、実写に似た画像や映像を「真実」「証拠」と感じやすい我々の認識の更新までの時間差を利用し、大きな脅威になる。

ウクライナでは、軍総司令官がゼレンスキー大統領を批判するディープフェイク動画が現れた。イスラエルパレスチナの衝突では、パレスチナアメリカ人のファッションモデルの動画が加工され、イスラエル支持のメッセージを発した。空爆で血まみれになっている赤ん坊などの画像や動画でも多くフェイクが出回っていると言われている。

フェイクが蔓延しすぎたためか、パレスチナ自治区ガザ地区で起きていることを全般をフェイクとみなす人々も現れてきた。役者が「被害」を演じていると主張するアカウントもあり、自己正当化や現実否認的な傾向と合わさって、認識論的な混乱が著しく広がっている。

ディープフェイクは日常でも用いることが出来る。21年にアメリカで、ある母親がチアリーダーの娘のライバルをおとしめるため、ライバルの喫煙動画などを捏造しコーチに送り付けた容疑で逮捕されている。おそらく今後、ハラスメントなどの証拠として提示される音声や動画が捏造か否か、調査委員会が真偽を見抜く必要も出てくるだろう。

戦争や政治におけるディープフェイクも問題であるが、それほどまでには公的ではない領域の場合、真偽を調査するコストを払う主体が現れにくいケースが多いことも推測される。「ちょっとちょっと、これ見てよ」とスマホで動画を見せられ、うわさが広がっていく場合、瞬時に真偽を判断することは困難だろう。

問題は量である。民間人がこれだけ簡単に大量に、それなりのクオリティのフェイク動画や音声を作り出せるようになってしまう状況は、かつてなかった。大量の真偽不明の情報がある状況に、人類の脳が適応できるのかも未知数である。

意識的な努力としては、真偽不明であることや、複数の見方が可能な曖昧さに耐える、ネガティブ・ケイパビリティ(答えの出ない事態に耐える力)を訓練するべきだろう。しかし、それはすぐにはできない。わたちの感覚や思考のアップデートは、まだらに起こり、その時差を利用し多くの悪質な出来事が起こるはずだ、それを防ぐためには、技術的解決か、制度的解決のための仕組みが必要である。国際的な議論を踏まえ、日本政府の対応に期待したい。