AIが問われる「倫理」とは?

メモ入力
-最大400文字まで

完了しました

調査研究本部主任研究員 佐藤良明

 人工知能(AI)の技術革新が著しい。自動運転、画像診断など私たちの暮らしにAI技術が急速に入り込んでくる。AIはビッグデータを学習し、芸術家とコラボしてアートの分野に進出するなど、私たちの想像もつかない可能性を秘める。その一方、使い方次第では私たちを監視し、選別する危険な装置にもなりうる。21世紀の基幹テクノロジーとされるAIとどう付き合い、その活用をどこまで許容していくのか。「AI倫理」とでも呼ぶべき社会規範をきちんと議論しなくてはならない。

AIが人間を超える?

 AI研究は現在、第3次ブームとされる。最初のブームは1950年代後半~60年代で、コンピューターが「推論・探索」することで特定の問題を解く研究が進んだ。第2次ブームは1980年代。コンピューターに「知識」を入れると賢くなるというアプローチが全盛になった。現在の第3次ブームは、AIがビッグデータから規則性や関連性を見つけ出す「機械学習」という高度化研究が盛んだ。特に、機械学習をより深化させた深層学習(ディープ・ラーニング)をAIが行っている点にブームの特徴がある(注1)。

 深層学習はわかりやすく言うと、前述した「ビッグデータに潜む規則性、関連性を探す」場合、人間側が「例えばこういう特徴があるんだよ」とAIに教えるのではなく、AIが独自に特徴を発見し、判断していく。こうして飛躍的に賢くなったAIに、様々な応用の可能性を見いだすのが今の状況だ。

 AIは今後も急速に高度化し、人間の知能を完全に超える時期が来ると一部の専門家は指摘する。「シンギュラリティ」(技術的特異点)と呼ばれる「AIが人間を超える時点」は2045年に訪れると、未来学者レイ・カーツワイルは提唱した。いまAIが色々と論じられている背景には、こうした著しい技術進化がある。

AIからヒント、新たなアート

日本科学未来館に常設展示されているAIと人間がコラボしたアート作品
日本科学未来館に常設展示されているAIと人間がコラボしたアート作品

 AIが応用力を身につけた一例を挙げよう。日本科学未来館(東京・臨海副都心)は19年11月から、AIと人間が共同制作したアート作品を常設展示している。車をイメージした造形物で、完成までにどのような過程を経たのか、壁いちめんに紹介している。「AIが作った絵をもとに立体作品を作る」のが目的で、約1万枚もの車の画像をAIに覚えさせた。

 AIは当初、アナログテレビで放送を受信できない状態に映る“砂嵐”のような絵しか描けなかったが、学習を深めるにつれて、四角や丸といった形の特徴などを覚え、子どもが描くような車の絵を完成させた。未来館の展示物は、この絵をもとに人間の創作集団が大きさや形、色を決めて作り上げた。展示を監修した美術評論家の伊東順二・東京芸大特任教授は「芸術は常に革新しており最先端のものを取り入れていく。一人の人間の脳では情報処理に限界があり、まだないものを生み出すにはAIを積極的に活用していくべきだ」と語った。

AIが生み出すデザインをヒントにした新作のファッションショー
AIが生み出すデザインをヒントにした新作のファッションショー

 国内の科学研究で総本山ともいえる理化学研究所でも19年11月、AIとファッションデザイナーが共同制作した新作ファッションショーを、研究の一環として開催した。膨大な数の貝殻やバラの花の画像をAIに認識させた上で、AIの作ったデザインをもとにプロのファッションデザイナーが創作した。未来館の展示と同様、創作の主体は人間で、AIはヒントを与えてくれるにすぎない。

 ここで見た例で、AIはあくまで人間のプログラム通りに作動する「他律的」な存在だ。インプットされた情報の様々な特徴をAIが整理整頓する。ゼロからの独創的な発見・発明や優れた創作の才など、人間の備える「自律性」はAIにはない。

これまでの芸術の「模倣」か?

 それでもAIが進化すれば、優れた絵画を大量に画像認識した後、私たちが深く感動する傑作を仕上げる、という将来図は想像しうる。オランダの画家レンブラントの画風をAIが学習し、3Dプリンターで“新作”を作るという構想は既に約4年前、米マイクロソフト社や大学の共同チームが実現した。クラシック音楽でもバッハの曲調に似た曲作りなど同様の試みがある。では、これらを私たちは「芸術」と呼んでいいのだろうか。

 レンブラントやバッハの手になる芸術は、生身の人間が創造力を極限まで発揮して全く新しい何かを生み出す姿を想起させる。ある芸術家が様々な苦悩にさいなまれながらも、一瞬のひらめきによって“神の啓示”を受けたかのごとく極上の作品を完成させる。そんなイメージではないだろうか。

 一方で先述の“AI創作”は、どんなに巧みに工夫しても、結局は過去の作品群から特徴を抽出したにすぎないわけだから、「コピペ」とは言わないまでも、いわば「いいとこ取り」だ。AIのこうした無機質な作品づくりに対しては、「模倣、借用以外の何物でもなく、人の感情の動きを礎にする芸術と呼べるシロモノではない」。そう考える人がいても不自然ではないだろう。「まねること自体が芸術にとって最も恥ずべき行為で倫理的に許されない」という意見が出ても不思議ではない。

 問題はまだある。AIは芸術家にありがちなスランプとは無縁だ。その高度な情報処理能力は“作品”の量産に次ぐ量産だって可能にする。人類の至宝とも言える芸術品の「いいとこ取り」作品が、際限なく世に出るという事態もありうるのだ。

紅白歌合戦に登場した美空ひばり

AI版美空ひばりはネットでも視聴できる
AI版美空ひばりはネットでも視聴できる

 そんな中、昨年末のNHK紅白歌合戦に、AIの生み出した美空ひばりが登場し、新曲を披露したことは記憶に新しい。NHKが企画し、AIに過去の美空ひばりの映像を見せ、また過去のヒット曲を聴かせた。その結果、4K、3Dの特殊映像でリアル過ぎるAI版ひばりが誕生し、声質や歌いっぷりが本物そっくりの歌声が人工合成された。CGと歌唱は厳かな雰囲気を醸し出し、彼女の歌う新曲「あれから」に、ひばりファンは涙した。

 反響は大きく、曲のCDが発売になり、ネットで有料配信された。同じAIによる「作品」とは言え、美空ひばりのケースは、「模倣」を超えた新しいAIアートとして認められる可能性を感じさせる。

 こうした実例に加え、AIがさらに進化した場合を考えよう。

 AIアートは人間側にさらなる刺激を与え、かつてない傑作を生み出す。その傑作の特徴を学習したAIがより優れたアートを完成させる。AIのアートに刺激を受け、人間のアートはさらに高みに到達する――という好循環をもたらすこともありうる。アートの新たな可能性は既成概念を揺さぶるかもしれない。

クリエイターへの敬意

 AI創作の倫理を考える文脈で留意すべきなのは、先人への敬意だ。

 AI倫理に詳しい河島茂生・青山学院女子短大准教授(社会情報論)によれば、私たちは音楽や絵画などの創作を「特別な才能のなせるわざ」と考え、クリエイターは一般的に尊敬の対象となる。

 こうした「敬意」はAI創作のいわば倫理規範だが、一人ひとりの内心も問われる。AIがさらに発展してAI創作が今よりもレベルの高いものになった時、私たちはどう考えるか。河島准教授は「仮に『AIでもできるじゃないか』『AIで十分だ』といった思いが私たちに芽生えて、やがてクリエイター全体に敬意が払われなくなるような状況は望ましくない」と話している。

 幸いなことに、前述のレンブラント・プロジェクトは、偉大な画家をちゃかす試みに堕することなく、生み出された「新作」は、レンブラントの作風を損ねない敬意・配慮が感じられた。AI版美空ひばりも“正統ひばり節”を再現することに成功した。極端にいえば下品な歌を歌わせて、死後もなお慕われる“ひばり人気”を(おとし)めるまねは、最初から道義的に許されなかっただろう。

AIによる個人の監視・選別

 これまで見てきたAI創作以上に、倫理的な側面が問われると考えられるのは、AIによる個人情報の収集と分析だ。

 身近な例でいえば、何かネットショッピングをすると、パソコンやスマホ画面に関連商品を「おすすめします」という広告が次々と表示されるのは誰でも経験しているだろう。これもAIの小さな活用だ。この場合、広告を無視すれば済む。その一方で、知らず知らずのうちに、様々な個人情報をAIに集積されてしまい、AIによって「この人は○○○」とレッテルを貼られ選別されることが起きうる。極論すればAIの手で「要注意人物」とみなされ、社会生活に支障が起きかねない事態だ。

 昨年、こうした懸念はわかりやすい形で現実になった。就活支援の代表的サイト「リクナビ」の関連事業で、リクルートキャリア社が就活生の閲覧履歴をAIで分析し、就活生が内定を辞退する可能性を数値化して契約した企業に販売していたのだ。就活生の個人データが「収集」され、内定辞退の可能性が高い・低いと「選別」されていた。政府の個人情報保護委員会と厚生労働省はリ社に是正を勧告し、行政指導した。契約していた37社にも行政指導した。

 リ社は「採否の判断材料にしないこと」を条件に企業と契約したと説明した。しかし、データを受け取った企業側が「採用活動に使っていない」ことを誰にでもわかる形で客観的に示さない以上、採用の判断材料にしたとみられても仕方がない。採用する側も個人情報の取り扱いに明確な説明責任が求められる。

「乱用」の自覚はあったのか?

 この事例は、「AIはそういう予測までできるのか」という驚きとともに、「その使い方はさすがに認められない」との思いを多くの人に抱かせた。

 ただ、この問題で国が動いたのは個人情報保護法など関連法令に違反したり、規制をかいくぐったりする行為だったからだ。法律をないがしろにすることは当然許されない。リクナビ問題で明るみに出た、閲覧履歴を記録した符号(クッキー)は「個人を識別しうる」点が大きな課題で、法的にどう位置づけるかという点も、20年の個人情報保護法改正論議の中で今後活発になるだろう。

 しかし、法律以前に心すべき問題がある。それは、内定辞退率をAIに予測させる行為自体を倫理的に問題と考えるかどうかだ。今回の事例では、人の行動の予測を売る側・買う側双方とも、AIの許されがたい使い方をしているという自覚が薄かったのではないか。

 「技術」があって、そこに「需要」があれば何をやってもいい、という倫理感覚がマヒした発想が問題の根底にはある。そして、リクナビ問題のような「一線を越えてしまう」危険は、AIの進化に伴い社会生活のあらゆる場面に潜んでくるだろう。

リクナビ問題の核心、「知らない間に」

AIで分析した就活学生の「内定辞退率」を契約企業に販売した問題で、記者会見を開いて謝罪するリクルートキャリア社の小林大三社長(左)
AIで分析した就活学生の「内定辞退率」を契約企業に販売した問題で、記者会見を開いて謝罪するリクルートキャリア社の小林大三社長(左)
リクルートキャリア社が大学関係者に送った謝罪文書
リクルートキャリア社が大学関係者に送った謝罪文書

 厄介なことに、個人情報の収集・分析の過程で、AIがどのように判断して特定のレッテルを貼ったのかが普通の人には見えない。本人の知らない間にそうした選別が行われてしまう。AIのプログラムが複雑になり過ぎて、外から中身の見えないブラックボックス化しているのだ。リクナビ問題は一応の収束をみたものの、今後も、就活生の人種、性別、出身地、家族関係など機微な個人情報がAIに集積されていく可能性はある。その先に、再びあってはならない差別行為を生む危険性を誰が否定できるだろう。

 AI研究者らで作る「人工知能学会」倫理委員会の講演会(19年11月)でも、リクナビ問題が話題になった。会場からは「リ社が予測しなかったら、採用企業側が(AIを使って)もっとひどいことをやっていたのではないか」という声すら上がった。AIによる分析には、ベネフィットのみならずリスクもある。関係者はそれをひしひしと感じている。

人事評価、信用調査 あらゆる場面で

 企業活動でのAI利用は増え続ける。確かにAIを使えば、就活生の絞り込みに際して、採用担当者が私情を挟んだり、偏見にとらわれたりする余地がなく、公平・公正を保てる――という理屈は成り立つ。人事考課はどうか。昇進・登用は上司の好き嫌いで行われることがサラリーマン社会では珍しくないだけに、AIで客観中立の評価が可能になれば歓迎されるかもしれない。その一方で、AIブラックボックスが思わぬ不公平を生む恐れは十分にありうる。

 ある人物の財力が信用できるかどうか、与信判断にも威力を発揮する。わかりやすい実例には、中国の電子商取引大手アリババが採用している「芝麻信用」という個人信用評価システムがある。このシステムは、個人の商品購入履歴や支払い状況、SNSでの評価など様々な要素をAIに取り込み、点数化して個人の信用度を示すものだ。

 このようにAIの守備範囲は、企業活動や個人の信用調査をはじめ、入学試験、果ては結婚相手探しまで枚挙にいとまがない。既に実用化されているものから、今後、実用化される可能性を持つものまで多岐にわたっている。

 河島准教授と東大の共同チームは、昨年2月、市民600人以上を対象に、AIの信頼度をアンケート調査した。「AIは人間より正しく人物評価を下せるか?」との質問には、「正しく評価を下せる」が2・1%、「ある程度正しく」46・1%、「あまり正しくない」が38・0%、「正しくない」12・5%の回答があった。AIによる評価に対して信頼と不信が拮抗(きっこう)している状況だが、河島准教授は「信頼できるという割合が今後高まっていく可能性があり、注視が必要だ」と語った。進化を続けるAIへ私たちはますます依存度を高め、その認識も許容から信頼へと変わっていくのかもしれない。

AIから「要注意人物」とされる?

サッカーW杯ロシア大会のIDカード。優れた個人認証システムだ
サッカーW杯ロシア大会のIDカード。優れた個人認証システムだ

 政府や公的組織がAIで個人情報を収集・分析する場合は倫理面での懸念はないだろうか。

 まずは善用から。筆者は2018年のサッカー・ワールドカップ(W杯)をロシアで現地観戦し、IDカードによる顔認証システムを体験した。W杯のように世界中から観戦者が訪れる巨大イベントでは、入場時の本人確認が係員の目視では時間がかかり過ぎて立ちいかない。同国中央部エカテリンブルク市のスタジアムでは、入場門でカメラの前に立つと、IDカードの事前登録写真と来場者が同一人物であるかどうかをAIが瞬時に見極め、入場の可否を判断する。日本で昨年開催されたラグビーW杯でも、報道陣の入場時に同様の方法が採用されていた。まさに、非常に優れたAIシステムだ。

 他方警戒すべきは、身に覚えがないのに「要注意人物」と認定されて当局からマークされるような事態である。

 「プロファイリング」は犯罪捜査において容疑者の人物像を浮かび上がらせる手法として知られる。犯罪の性質や特徴から行動科学的に分析し、容疑者の特徴を推論する手法で、その過程では犯罪歴など高度なプライバシーも取り込む。これは犯罪の解決という社会秩序の維持のために必要な行為としておおむね肯定されている。

 テロなど犯罪「予防」の名目では、AI顔認証がある。国際空港でのパスポートと本人の顔認証システムは広く知られる。外国人であれば、顔の画像と指紋からブラックリストに載っていないか照合し、入国の水際で捕まえる「個人識別」ツールとしてAIが機能している。街頭の防犯カメラで、大勢の歩行者から要注意人物を割り出すAI顔認証システムも海外では登場している。これらのAI活用は、治安維持こそが大義名分になっている。

 怖いことだが、AIの分析力を使えば、集めた個人情報から「犯罪者予備軍リスト」を作ることなど朝飯前だろう。納税や代金決済の状況、ローン残高、交通違反歴、SNSでの発言など数多くのデータを収集できる。警察がこうしたリストを手元に備え、犯罪捜査に活用する未来図も予想できそうだ。しかしそれは、治安維持と個人のプライバシーの保護がぶつかり合う大きな倫理的問題をはらんでいる。

 技術的に可能だからこそ、犯罪者予備軍リストの類に懸念を抱く専門家は多い。外国人への偏見や、善良な市民を陥れる悪意は介在しないか? 誤ったリストアップの可能性はどうか? ひとたびリストに載ってしまったら、常に監視対象となり、仕事や社会活動で思わぬ差別を受ける恐れがある。西垣通・東大名誉教授は、「AIを犯罪予防に活用する際には、途方もないディストピア(暗黒郷)が出現しないよう、慎重な配慮が不可欠」と指摘する(注2)。

打ち出した倫理原則

 こうした議論を先取りする形で人工知能学会は17年、AIに関する倫理指針を策定している。AIの研究開発や利用の際に注意を払うべき条件として、(1)人類への貢献(2)法規制の順守(3)他者のプライバシーの尊重(4)公正性(5)安全性(6)誠実な振る舞い(7)社会に対する責任(8)社会との対話と自己研鑽(けんさん)(9)人工知能への倫理順守の要請――という9項目で、学会メンバーに指針の順守を呼びかけた。

 近年の技術進歩で、AIのELSI(倫理的・法的・社会的問題)は各国共通の課題になってきた。総務省も16~19年にAIを利用・活用する際のガイドラインをまとめた。これと並行する形で内閣の統合イノベーション戦略推進会議は19年3月、「人間中心のAI社会原則」(表1)を決定した。一連の指針、ガイドライン、原則の策定に共通するのは、個人の尊厳を守って差別を生まないという至極当然な社会規範の感覚だ。「人間が結果責任を負う」ことも確認している。

21世紀の人権宣言

 根本の大原則は、様々な形で打ち出されている。では、慎重さに欠け倫理的配慮が足りないケースも散見される現実社会のAI利用を、どう自制していくのか。とりわけ「個人情報の保護」は、機微に触れる課題だ。

 こうした中で世界が関心を寄せるのは、個人情報保護問題に特化して欧州連合(EU)が法律として施行した「一般データ保護規則(GDPR)」だ。AI技術と個人の尊重との関係を考える上で示唆に富む国際ルールで、専門家から「21世紀の人権宣言」と呼ばれ注目を集めている。

 GDPRは幅広い分野にわたってAI時代のデータ保護のあり方を規定しているが、「個人の尊重」という側面で山本龍彦慶応大教授は、(1)異議を唱える権利(中止請求権)(2)自動処理に基づき重要な決定を下されない権利(3)透明性の要請――に注目している(注3)。

 これらをわかりやすく言えば、(1)は「AIが自分の個人情報を分析していることがわかった場合には、やめさせることができる権利」であり、(2)は「人間の判断を介さずにAIの分析結果だけで、就業・与信・保険・入学など社会生活上の重要な決定を許さない権利」。そして、(3)は「AIを利用する側は、AIがどんな個人情報をどういう基準で分析・判断しているのか、分析される当事者に告知しなければならない」という規定だ。EUの対応はAI問題の核心を突き、それを法律できつく縛ってかなり踏み込んでいると言えるだろう。

人間はAIを使いこなせるのか?

 GDPRができた背景には、「私たちは本当にAIを使いこなせるのか?」というEU市民の自問と恐れがある。GDPRの条文からは、「私たちは、納得のいかないAI利用に異議を唱え、AI単体の諸々の決定を許さない」という個人の尊厳を重視する思いが浮かび上がってくる。

 さらにEUは19年4月に倫理指針(表2)を発表した。AI利用の倫理原則と言えるものだ。日本とも共同歩調をとり、これを世界共通原則にする働きかけを様々な国際会議を通じて行う方針だ。

 AIという「技術」があり「需要」があるから何でもやるのではなく、一定の「歯止め」は当然かける必要がある。市民社会の共通認識となるAI倫理の構築は、根気よく行うことが求められる。

 ヒト型AIが人権を持った未来社会を描いて、人工知能学会倫理委員会のAI ELSI賞を19年11月に受賞したSF漫画「AIの遺電子」(山田胡瓜作)では、登場人物が「AIの見えざる手による行動の管理を人々は暗黙の上で受け入れている」「人間は自ら進んでAIの家畜になってしまったのだろうか」と語る場面がある。

 そんな未来社会を招かないためには、どうしたらよいのか? 息の長い議論の過程では、メディアの役割を検討することも重要であり、学校現場で圧倒的に足りていないAI教育の充実も必要だ――と河島准教授は説く。「行政の責任」はもちろん重く、「アカデミアからの普及啓発の発信」なども含めた重層的な取り組みが必要だと河島氏の指摘は続く。

 AI技術は変化が著しい。AI倫理を考えるには、現在の到達点を常にフォローしながら、企業、人権、教育、社会、国家、私たち自身のありようを問い続ける姿勢が求められている。

注釈

注1 松尾豊「人工知能は人間を超えるか ディープランニングの先にあるもの」(角川EPUB選書)60~62頁
注2 西垣通・河島茂生「AI倫理」(中公新書ラクレ)219頁
注3 山本龍彦編著「AIと憲法」(日本経済新聞出版社)99~108頁

参考資料(前記3冊ほか)

河島茂生、久保田裕「AI×クリエイティビティ」高陵社書店
小塚壮一郎「AIの時代と法」岩波新書
江間有沙「AI社会の歩き方」化学同人
松本健太郎他「AIは人間の仕事を奪うのか」C&R研究所
青山学院大学シンギュラリティ研究所連続トークイベント=2019年11月30日「AI×クリエイティビティ」、12月13日「AI倫理」

プロフィル
佐藤 良明( さとう・よしあき
 調査研究本部主任研究員。

無断転載禁止
1029944 0 読売クオータリー 2020/02/03 10:00:00 2020/02/03 10:00:00 https://www.yomiuri.co.jp/media/2020/01/20200122-OYT8I50054-T.jpg?type=thumbnail

ピックアップ

読売新聞購読申し込み

アクセスランキング

読売IDのご登録でもっと便利に

一般会員登録はこちら(無料)
ページTOP
読売新聞社の運営するサイト
ヨミダス歴史館
ヨミドクター
The Japan News
発言小町
OTEKOMACHI
ささっとー
元気ニッポン!
未来貢献プロジェクト
YOMIURI BRAND STUDIO
美術展ナビ
教育ネットワーク
活字・文化プロジェクト
よみうり報知写真館
挑むKANSAI
読売新聞社からのお知らせ