読売新聞オンライン

メニュー

架空の顔で「お客様の声」「大満足」…AIで生成、90サイトで宣伝に悪用[虚実のはざま]第3部 粉飾のカラクリ<1>

メモ入力
-最大400文字まで

完了しました

 AI(人工知能)で作り出された架空の人間の画像が、あたかも実在するかのような形で多数の業者の宣伝サイトで使われていることが、読売新聞の取材でわかった。商品やサービスを推奨する客などを装って掲載されていた。すでに海外では悪用が問題になっており、歯止めなく使われれば、取り扱いのルールを巡って議論になる可能性がある。

AIで作られ、悪用された画像(ACワークス提供)
AIで作られ、悪用された画像(ACワークス提供)

 画像は、大量のデータから特徴を学ばせるAIの深層学習(ディープラーニング)の技術で精巧に自動生成できる。国内では大阪市のIT企業「ACワークス」が、イメージ写真や仮想モデルなどとしての利用を想定し、会員登録すれば無料でダウンロードできるサービスを2年前に開始。実在の客を装っての掲載などは規約で禁止していた。

 しかし、読売新聞が同社から提供を受け、103人分の画像の利用状況を調査した結果、規約に反するとみられる方法で掲載しているサイトが少なくとも90に上ることが確認された。

 健康食品や人材派遣、システム開発会社などが、「お客様の声」として「おすすめです」と述べているように載せているサイトが目立った。会社側が在籍する税理士などとして紹介していたが、記載内容自体が虚偽だったケースもあった。いずれも信頼性を高める狙いがあるとみられ、ACワークスは「画像の削除を求める」としている。

 AIの悪用を巡っては、政治家の映像などを改変する「ディープフェイク」の広がりが懸念されるが、架空の人物画像は、別の倫理的問題をはらむ。海外では、政治的主張を広める偽のSNSアカウントにも用いられているが、本人が実在しないため発覚しにくいという。日本でも偽情報や詐欺などの犯罪に悪用される恐れがある。

名前も年齢も

 <資格がある会社に頼んで良かったです>

 東北地方の遺品整理業者のウェブサイトには、そんな「お客様の声」とともに、穏やかな表情を浮かべる男性の顔写真が2枚並ぶ。

客や講師、税理士、ライターなどとして宣伝サイトで使われた架空の顔画像。一部は読売新聞の指摘後、削除された=画像は一部修整しています
客や講師、税理士、ライターなどとして宣伝サイトで使われた架空の顔画像。一部は読売新聞の指摘後、削除された=画像は一部修整しています

 「49歳 松本さん」「55歳 安藤さん」と記された2人は、この世に存在しない。AI(人工知能)で生み出された画像だ。 「顔があればコメントの信ぴょう性が増す。名前や年齢もでたらめだが、リアルっぽくする必要がある」。サイトの運営者は、そう理由を明かした。 実際の客の写真は本人の許可を得るのが難しく、「架空の顔なら誰も文句を言わないだろう」と考えたという。作成元の大阪市の「ACワークス」は利用規約で認めていないが、運営者は「規約まで読んでいなかった」と釈明した。

 家電の通販や整骨院、資格講座……。客や受講者などを装って画像を載せていた90以上のサイトの業種は多岐にわたっており、「大満足」「新規事業を始め、資格をいかしています」といったコメントとともに掲載されていた。

1

2

3

無断転載・複製を禁じます
2120896 0 社会 2021/06/13 05:00:00 2021/06/17 15:53:34 2021/06/17 15:53:34 https://www.yomiuri.co.jp/media/2021/06/20210613-OYT1I50025-T.jpg?type=thumbnail

ピックアップ

読売新聞購読申し込み

読売IDのご登録でもっと便利に

一般会員登録はこちら(無料)