読売新聞オンライン

メニュー

架空の顔が「大満足」…AIで客やスタッフ生成

[読者会員限定]
メモ入力
-最大400文字まで

完了しました

 私たちがネット上で目にする情報は、消費行動に大きな影響を与える一方で、知らない間に粉飾されていることも少なくない。ネット空間の虚実を考えるシリーズの第3部は、買わせるウソを生む構図に迫る。

信ぴょう性演出

客や税理士、ライターなどとしてウェブサイトで使われた架空の顔画像。一部は読売新聞の指摘後、削除された=画像は一部修整しています
客や税理士、ライターなどとしてウェブサイトで使われた架空の顔画像。一部は読売新聞の指摘後、削除された=画像は一部修整しています

 <資格がある会社に頼んで良かったです>

 東日本の遺品整理業者のウェブサイトには、そんな「お客様の声」とともに、穏やかな表情を浮かべる男性の顔写真が2枚並ぶ。

 「49歳 松本さん」「55歳 安藤さん」と記された2人は、実在しない。その顔はAI(人工知能)で生成された架空のものだ。

 「名前や年齢もでたらめだが、顔があればコメントの信ぴょう性が増す。実在しない顔なら誰も文句を言わない」。サイトの運営者は、そう明かした。

 画像は大阪市のIT企業「ACワークス」が、大量のデータから特徴を学ばせるAIの深層学習(ディープラーニング)の技術で生成したものだった。

 同社はイメージ写真や仮想モデルなどとしての利用を想定し、会員登録すれば無料でダウンロードできるサービスを2年前に開始。実在の客を装うことなどは規約で禁止していた。

 しかし、読売新聞が同社から提供を受け、103人分の画像の利用状況を調査した結果、規約に反するとみられる方法で掲載しているサイトが少なくとも90に上ることが確認された。

 この遺品整理業者のほか、家電の通信販売、システム開発会社、資格講座など業種は多岐にわたっており、「大満足」「新規事業を始め、資格をいかしています」といったコメントとともに掲載されていた。

肩書も虚偽

 業者側がスタッフを装うケースもあった。

 中部地方のコンサルティング会社は、所属する「税理士」などの顔と名前をサイトに載せていたが、日本税理士会連合会などに確認したところ、存在しなかった。

 「介護付き旅行」の予約サイトも、おすすめの観光地を紹介する「ライター」として30人以上の顔を掲載している。しかし、代表者は取材に対し、名前や経歴も「事実ではない部分がある」と認めた。

 ACワークスは、こうしたサイトに対し「画像の削除を求める」としている。

 ネット上に架空の顔はどこまで広がっているのか。

 国内で提供できる企業は数少ないが、今後、生成技術が普及し、参入が相次ぐと見込まれている。

 海外には無料や低料金で提供するサイトが複数あり、日本からも利用できる。「白人」「黒人」「アジア系」など200万枚以上から選べるほか、年齢層や髪の色などを調整し、利用者が好きなように顔を作り出すこともできる。

 こうした機能が使われれば、どんな顔が生成されたのか、他人にはわからず、検証はより困難になる。

海外では 世論操作も

 AIの悪用を巡っては、海外で政治家の映像などを改変する「ディープフェイク」の広がりが懸念されているが、架空の人物画像は、世論操作が目的のSNS発信に悪用されるなど、別の倫理的問題をはらむ。

 フェイスブックは2019年、虚偽の米国人の名前を使って自動的に大量投稿していた約600のアカウントを削除したと発表。トランプ大統領(当時)を支持する内容で、架空の人物の顔が含まれていた。20年には、ロシアや中国から政治的な主張を広めていた偽アカウントに使われていたことも明らかになった。

 別のSNSでも、プロフィルに米国の調査機関を記していた女性の顔や名前が架空と発覚した。米政権のアドバイザーらと接触しようとしており、スパイの可能性が指摘された。

 AIや偽情報の問題に詳しい明治大の湯浅 墾道はるみち 教授(情報法)は「日本では特に『顔写真があれば本物だろう』という信頼感を持つ人は多い。政治的意図を持ったSNSでの偽情報の拡散や、悪質商法に利用されることもあるだろう」と指摘し、危機感を示す。

 「空想と現実の境界があいまいになれば、何が本当なのか分からなくなる。倫理的な線引きや規制のあり方の議論を始めるべきだ」

無断転載・複製を禁じます
2120667 1 社会 2021/06/13 05:00:00 2021/06/17 15:45:32 2021/06/17 15:45:32 https://www.yomiuri.co.jp/media/2021/06/20210613-OYT1I50013-T.jpg?type=thumbnail

ピックアップ

読売新聞購読申し込み

読売IDのご登録でもっと便利に

一般会員登録はこちら(無料)