読売新聞オンライン

メニュー

ニュース

動画

写真

スポーツ

コラム・連載・解説

発言小町

漫画

教育・受験・就活

調査研究

紙面ビューアー

その他

サービス

読売新聞のメディア

購読のお申し込み

読売新聞オンラインについて

公式SNSアカウント

加藤官房長官、フェイクの笑み…AIで悪意の改変[虚実のはざま]第2部 作られる「真相」<4>

メモ入力
-最大400文字まで

完了しました

わずか30分後

 震度6強の揺れが福島、宮城両県を襲った直後の2月14日未明、ある写真がツイッターで拡散し、批判の声が相次いだ。

 <不謹慎にもほどがある>

 対象になったのは加藤官房長官だった。記者会見の場で、笑みを浮かべる写真だったからだ。

偽物 表情を改変してツイッターに投稿された画像
偽物 表情を改変してツイッターに投稿された画像
本物 実際の放送の一場面(フジテレビの映像から)
本物 実際の放送の一場面(フジテレビの映像から)

 画像が添付された投稿の中には約2000回、リツイート(転載)されたものもあり、見た人からは<笑ってる場合じゃないのに><許せない>などのコメントが多数付いた。

 会見はテレビで放送されており、画像は映像から切り取られたものだった。肉眼で確認しても不自然さは見られない。しかし、実際に放送された映像に笑っている場面はなかった。

 最初の投稿者は不明で、読売新聞は、デジタルデータの解析技術を研究する立命館大の上原哲太郎教授に画像の鑑定を依頼した。その結果、目元や口元が改ざんされた可能性が高いことが分かった。

 「精巧で簡単には判別できない」。上原教授はAI(人工知能)の技術が使われたとみる。

 通常、一部を改ざんすれば圧縮率や粒子に差異が出るとされる。今回の画像には、そうした特徴がほとんど表れておらず、上原教授が独自の手法を用い、ようやくわずかな痕跡が検出できたという。

 誰がどうやって作り変えたのか。投稿されたとみられる時間は、会見開始のわずか約30分後だった。

判別難しく

 「AIで表情を改変できるソフトを使えば、短時間で作ることも可能だ」

 画像加工技術を開発する複数の企業の担当者は、そう明かす。海外企業が作ったスマホアプリもあり、すでに悪用が懸念されているという。編集ソフトの精度も向上し、見抜くのはますます難しくなっている。

 1月には「不織布マスクは効果が薄い」といった事実と異なる投稿も、ツイッターで広がった。

 添付されていたのは、ニュース番組の一場面を切り取った画像。研究機関がマスクの飛まつ防止効果を比較したデータで「ウレタン80%」「不織布50%」などと表示されていた。

 しかし実際は逆で、何者かが数値を入れ替えて作った偽の画像だった。

 LINE(ライン)などのメッセージも例外ではない。

 文言が改変されたり、やり取りがでっち上げられたりすることもある。「民事訴訟の証拠として提出され、鑑定を依頼されることもある」と、データ解析会社の責任者は言う。

社会脅かす

 SNS上の真偽不明の話には注意していても、写真を目にすれば「動かぬ証拠」と受け取る人は多い。映像であればなおさらだ。しかし海外では、偽動画の氾濫も現実となりつつある。

バイデン氏が「不正投票組織を設立した」と発言したかのように編集された映像の一部
バイデン氏が「不正投票組織を設立した」と発言したかのように編集された映像の一部

 米国では、バイデン大統領が「最大規模の不正投票組織を設立した」と発言したかのように編集された映像が拡散するなど、政治家への攻撃に使われるケースが相次ぐ。

 一般人も標的になっており、少女が裸で飲酒している偽動画がばらまかれる騒ぎもあった。動画を作った女性は、娘のチアリーディングのライバルの少女を陥れようとしたという。

 インドでは多数の死者が出る事件も起きた。「バイクに乗った児童誘拐犯」の偽動画が広がり、犯人と間違われた人らが集団暴行を受けた末の悲劇だった。

 AIを使えば、特定の人物の唇の動きや声などをそっくり再現し、不適切な発言をしているように見せかけることもできる。「ディープフェイク」と呼ばれ、「社会や民主主義を脅かす」と指摘される。

 SNSに投稿された精巧な偽の画像や動画を、どう判別するか。世界で方法が研究されているが、有効な技術は確立されていない。

 日本で開発を進める国立情報学研究所の越前功教授(情報セキュリティー)は、危機感を抱く。

 「日本でも簡単に偽の画像や動画が作られ、飛び交う時代が近づいている。拡散を食い止められないと、何を信じていいのか分からない社会になりかねない」

無断転載・複製を禁じます
1977332 0 社会 2021/04/11 05:00:00 2021/04/28 19:29:12 2021/04/28 19:29:12 https://www.yomiuri.co.jp/media/2021/04/20210425-OYT1I50062-T.jpg?type=thumbnail

ピックアップ

読売新聞購読申し込み

読売IDのご登録でもっと便利に

一般会員登録はこちら(無料)