つれづれ語り(AI社会と憲法)


『上越よみうり』に連載中のコラム、「田中弁護士のつれづれ語り」。

2019年10月3日付に掲載された第69回は、「AI社会と憲法」です。
加速度的に導入が進められているAIプロファイリングやスコアリングは、経済的合理性や効率性の点でメリットがある一方で、個人の尊重や民主主義などの憲法原理と抵触するおそれもあります。山本龍彦編著『AIと憲法』(日本経済新聞出版社)や各種報道などを読み学んだことをまとめました。コラムの文末にも記載した通り11月9日に山本教授の講演会が開催されますので、ぜひご参加ください。

20191002091411-0001

AI社会と憲法

意図せぬ個人情報の提供

私たちは、日々の生活のなかで、明確に意識することなく個人情報を提供している。

インターネットで検索し、サイトを閲覧し、ネット通販で買い物をし、スマホのアプリを使い、SNSで「いいね!」をクリックする。日常的にパソコンやスマホを使っている人は、こうした行為を通じて、1日あたり約250もの業者に個人情報を提供していることになるという。

AIプロファイリングによるプライバシー侵害

1つ1つの情報はそれのみでは個人を特定できないから、提供することに抵抗を覚えない。しかし、不用意に提供された複数の情報を組み合わせることで個人の特定が可能となる。ネット上にバラバラに存在する個人情報は、「データ・マネジメント・プラットフォーム」というシステムにより統合される。

集められた膨大な情報をAIにより処理・分析して、個人の趣味や思想、能力・特性などを推測するのが「プロファイリング」だ。デパートチェーンを営む法人が、顧客の購買履歴データに基づいて無断で妊娠の可能性をプロファイリングし、出産見込み時期にあわせてベビー用品のクーポン券を送付する。これはアメリカで実際に行われたことだ。妊娠の有無は高度に保護されるべき個人情報だが、法規制がなければプロファイリングによってプライバシーが侵害されることとなる訳だ。

スコアリングによる差別

また、プロファイリングに基づいて個人に点数をつける「スコアリング」も広がっている。

中国では、ネット通販大手「アリババ」系の信用情報機関「ゴマ信用」が個人の信用力を点数化した「スコア」が有名だ。このスコアが高ければ低金利で融資を受けられたり、敷金なしで不動産を賃借できたりするのに対し、スコアが低いとホテルの予約ができないなどの不利益を被ることもある。最近は、履歴書や婚活サイトなどでもスコアの記入を求められるほどに社会の隅々にまで浸透している。運用の仕方を誤れば差別や偏見が助長され、スコアの高低が人の一生を狂わせかねない危険がある。

国内でも「Jスコア」、「LINEスコア」、「ドコモスコアリング」、「ヤフースコア」等、各社が次々にスコアリングを導入している。現時点では、スコアの高いユーザーに特典を付与するなど、顧客囲い込みのための利用にとどまっているが、法規制がないままでは中国のようにならない保障はない。

正しいとは限らない

AIは無謬ではないし、プロファイリングは万能ではない。

AIは膨大なデータを解析することにより、ある属性と特性との間に相関関係を見出すから、元データに偏りがあれば分析結果にも歪みが生じることとなる。また、プロファイリングは、共通の属性を持つ集団の一般的傾向を示すものに過ぎない。取り扱うデータが増えれば増えるほど予測精度は高まるが、分析対象となった特定の個人が必ずその傾向に当てはまるとは言い切れない。

アメリカの一部の州では、被告人の再犯可能性に関するAIの予測・評価が、裁判官の量刑判断に用いられている。現段階では限定的な利用にとどまっているが、AIへの依存度が高まっていけば、被告人が誤った評価により不当な不利益を被るリスクが高まるし、公平な裁判を受ける権利を損なうことにもなりかねない。

憲法の視点で捉える

経済合理性や効率性に照らせばAIの効用は疑うべくもない。AIは今後も社会のあらゆる分野で活用されていくだろう。しかし、プライバシーが脅かされたり、差別が助長されたりするのは、見過ごすことができない重大な問題だ。

慶応義塾大学大学院の山本龍彦教授は、AIのリスクを憲法の視点から捉えて、「憲法と調和的なAI社会をいかにして築いていくのか」という問題提起をいち早く行っている。

産業革命期、経済発展とともに格差がもたらされたことを受けて、憲法に労働権や社会権の規定が盛り込まれた。山本教授は、憲法原理が産業の行き過ぎを立憲的に統制することで、産業の発展と人間性との調和が図られたと評する。AIを導入するにあたっても、憲法原理との調和を図る必要があるが、本格的に導入された後に規制を及ぼすことは難しいから導入途上にある今のうちに議論を深めておかなければならない。

新潟県弁護士会は、11月9日(土)14時~、新潟大学中央図書館ライブラリーホールにて、山本教授の講演会を開催する。新しい社会のあり方を展望する貴重な講演会をお見逃しなく。
20190906104217-0001