テクノロジーとライフスタイルの関係を問い直すカンファレンス「Innovative City Forum（ICF）」が今年も10月18日〜20日に開催された。かねてよりテクノロジーがわたしたちの生活に及ぼす影響や企業と市民のかかわりについて考える場を設けてきたNECは、本カンファレンスで「信用」をテーマにデータ経済の未来を問う3つのセッションを実施した。FinTech事業開発室長の岩田 太地がモデレーターとなり、メディア美学者・武邑 光裕や法学者・山本 龍彦、黒鳥社コンテンツディレクター・若林 恵ら多彩なゲストを招聘。いまわたしたちが直面しているデータと信用の未来について、縦横無尽に議論を繰り広げた。

　NECが信用やデータについて議論する場を設けるのは今回が初めてではない。欧州ではGDPR（一般データ保護規則）が施行され自己主権的なデータ管理が進み、他方で中国の芝麻信用（ジーマクレジット）など新たなデータ活用が進展するなかで、NECはいかに企業が市民と信頼を築きながらテクノロジーを活用できるのか模索し続けてきた。去る2018年9月には、フィンテックのグローバルカンファレンス「FIN/SUM」において「ファイナンシャル・インクルージョン」をキーワードとしたワークショップを開催。今回も登壇している武邑や若林とともに企業と社会、企業と個人の新たな関係性について議論を行なっている。

　今回のICFでは、NECによるセッションに先駆けてMITメディアラボ所長・伊藤 穰一や森美術館館長・南條 史生らが登壇し「Innovation for Happiness」をテーマに掲げたキックオフディスカッションを開催。そのためNECによるセッションにおいてもテクノロジーやデータ経済が形づくる「信用」とわたしたちの「幸福」の関係が問われることとなった。

スコアリングが孕む危険性

　最初に行なわれた若林と武邑によるセッションでは、まず武邑がGDPRが施行された背景ともいえる欧州の社会観や人間観について解説してゆきながら、現在わたしたちを取り囲んでいるデータ経済について論じた。武邑によれば、平成の30年間は個人データを資源とするデータドリブンな経済を席巻した時代だったという。「平成元年における企業の世界時価総額ランキングを見ると上位は日本の銀行が占めていますが、平成30年における同じランキングを見ると上位はすべて米国のテック企業。こうしたデータ資本主義に対する社会改革としてGDPRは進められたものなのです」

　さらに武邑はドイツの哲学者ユルゲン・ハーバーマスを引き、現代は「システムによる生活世界の植民地化」が起きている時代だと続ける。かつては政治や経済のようなシステムに干渉されないかたちで市民が生活する世界が存在していたが、現代は全域にシステムが侵食してしまっているのだ。事実、わたしたちの生活はいまやいくつかの巨大テック企業に支配されてしまっているといっていいだろう。

　こうした状況は、単に欧米および日本のみで起きているものではない。ビッグデータと人工知能（AI）の活用やプロファイリングについて論じてきた法学者・山本 龍彦によるレクチャーを中心として展開された次のセッションでは、いかにデータ経済がわたしたちの生活に侵食しているかを明らかにした。山本は中国の芝麻信用を中心としてさまざまな事例を紹介しながら、現在世界各国で行なわれているデータ活用がどんなリスクをはらむものなのか解説していく。

　たとえば中国では、Alibabaによる決済サービス「Alipay」やテンセントによる「WeChatPay」が圧倒的なシェアを誇っており、人々の決済データが少数の企業に集約されている。これらの企業が決済データをベースにさまざまなサービスを開発するなか、Alibabaが手がける信用スコアリングサービス「芝麻信用」はいまや中国の人々の性格や行動を変えるほど大きな影響力を有しているという。

　こうしたデータ活用によって人々がよりよいサービスを受けられるようになるのは確かだ。しかし、その裏には非常に大きなリスクがあるのだと山本は語る。「スコアの低い人々の行動が制限されることで、低スコアの人が集まる『バーチャルスラム』のような空間が形成される恐れがあります。場合によっては、親の職業や行動によって子どものスコアが下がることもある。そうなればある種『生まれ』によってスコアが規定されるわけで、古典的な差別が再生産されてしまう可能性もあるでしょう」

　巨大な組織による信用スコアリングに身を委ねることは、そこから安定や幸福を得ることと引き換えに自身の「自由」を差し出すことでもある。2018年5月に施行されたGDPRはこうしたトレードオフに欧州が警鐘を鳴らすためにつくられたものだったともいえよう。

　データを活用したビジネスに対する期待は近年ますます高まっているが、少しでも間違えればそれは新たな差別を生むことにもつながってしまう。山本によるレクチャーは、データ活用の裏に潜む危険性を暴き、いまわたしたちが考えるべき問題を整理するものとなった。

「銀行」の新たな可能性

　では、わたしたちはどのようにデータ活用と向き合うべきで、企業はいま何をすべきなのか。続くセッションでは三菱UFJ銀行の常務執行役員である林尚見を招き、聴講者も議論に加わることでより実践的な議論が繰り広げられた。

　まず林は、GAFAのようなテックジャイアントによるデータ活用はかつて大手銀行においても試みられたものであったことを明かす。「口座の情報を細かく分析し、銀行からお客様にご提案できないか挑戦していた時期があったんです。今のようにデータが注目されるより10数年前のことですが。ただ、自主規制が高まって銀行はブレーキを踏んでしまった。いまもまだブレーキを踏んでいる部分があるため、アクセルに踏み変えなければいけないのだと思っています」

　一方で、日本においても銀行によるスコアリングの取り組みが始まりつつあるのも事実だが、決済によるスコアリングについてはまだ慎重な態度をとっているのだと林は続ける。「中国では、決済サービスと監視カメラが結びつくことで空港で決済できない人が出てくるとか、移動が制限されることもある。本当にそんなことをやっていいのかとわれわれは問い続けているんです」

　山本は林の危機感に同調し、「日本の人々は楽観主義的に捉えているなと思います」と語る。いまはまだスコアリングによるメリットが強調されているが、サービスが進展していくとスコアリングがシビアになっていくことが予想される。シビアに査定されるようになって初めて人はデメリットに気がつくが、時すでに遅し。だからこそ、いまからこうしたかたちで議論を重ねていくことが重要なのだ。

　他方で、武邑によれば欧州では銀行による一元的な管理とは異なるかたちでデータの活用が進んでいるのだという。たとえばベルリン発のデジタルバンク「N26」は設立から4年で100万人のユーザーを獲得したことで話題を呼んでいるが、こうしたデジタルバンクでは単に企業がユーザーのデータを使うだけでなく、ユーザーが自身のデータを「運用」できるようになっている。「自らのデータを運用できるサービスがGDPR以降にたくさん現れてる。そのなかでどういったものがスタンダードになるのか欧州では注目されています」と武邑は語った。

　林が語る過去の取り組みやGDPR以降の欧州における事例からも明らかなように、銀行は決して「悪者」ではない。若林は英国におけるアンケートを紹介し、自分の財務状況について有用なアドバイスをもらえるなら自分の口座をモニタリングされてもいいと考える人が70%を占めていたことを明らかにする。「日本だと三菱や三井はそれ自体がブランドとなっていて信頼がありますし、銀行はこれから重要な役割をもつんじゃないかと思います」と若林が語るように、銀行はまだまだ可能性を秘めているといえるだろう。

フェアなアルゴリズムは可能か

　「スコアリングについて批判的な話をしましたが、米国ではマイノリティがスコアリングによってクレジットカードを手に入れられたという事例もありますし、結局は使い方の問題だとも言えます。いま日本に現れつつあるシステムは企業の利益をベースにしすぎているので、消費者の自己実現に資するシステムが構築できれば、日本独自の仕組みがつくれる可能性はあるでしょう」

　山本がそう語ると、セッションを聴講していた執筆家・尾原和啓が「国ごとに個人情報との向き合い方があるんです」と語り始める。「重要なのはアルゴリズムのフェアネスなのだと思います。英国のゾーパというP2Pファイナンス企業は、Uberと組んで優良ドライバーのための分散型投資を可能にするシステムをつくっている。こうしたかたちで、スコアリングを個人の機会が増える方向に活用することもできるのかなと思っています」

　フェアなアルゴリズムが実現すれば確かに自己実現が達成される可能性は増えるだろう。ただし、アルゴリズムの透明化が進めばそれを悪用するリスクも高まるのであり、議論はそう単純ではない。林も「与信モデルの過去の失敗事例を見ると、モデルを盗まれて悪用されるパターンが多い。結局コストをかけて厳しい本人確認を行なう必要が生じることも多く、ジレンマを感じます」と語り、システム構築が抱える困難を明らかにする。

　しばしば見過ごされてしまうが、データ活用やスコアリングにおいては企業の負担も決して無視できない。「情報銀行」のようなかたちでユーザーのデータを安全に保管するためには言うまでもなく膨大なコストがかかり、AmazonやMicrosoftのように海外のサービスを使えば今度は新たなリスクが生じてくる。

　「莫大なコストをかけたところでビジネスとしてペイラインにのるのかという議論は常にあります。どうマネタイズするかは預かり手として非常に重要」と林が語るように、企業が慈善事業を行なっているわけではない以上、なんらかのかたちでマネタイズしなければいけないのは事実。一定以上の利益を生み出すためには現在のように与信判断やマーケティングに使うしかないという見方もあるだろう。かといって運営を国家に任せると中国のような独占体制が生まれてしまう。武邑も「自由を得るためには自らに義務を課さなければいけないんです。米国のように軍事政権を望む若者が増え全体主義の欲求が強まる状況もあるなかで、自由と義務をどう背負うかが問われています」と語る。問題は非常に複雑なのだ。

まずは「コンセンサス」から

　かくしてセッションの議論は、スコアリングサービスのリスクを整理しながらオルタナティブな有り様を模索する方向に進んでいった。しかし、セッションを聴講していた弁護士・河崎健一郎は「そんな生易しい状況ではないのかもしれない」と危機感をあらわにする。

　「スコアリングに基づく差別はすでに始まっているし、今後も加速していく。データだけを分析したらある程度差別的な結果が出るのは避けられないでしょう。差別や平等権に基づいた介入を行なわないと、デジタルスラムの問題は解消されないのではないでしょうか」

　河崎による指摘を受け、山本は「アルゴリズムは差別の意図をもっていないので対処がより一層難しい」と答える。従来のように意図をもって差別の有無を判断できない以上、なんらかのかたちでアルゴリズムに介入する必要も生じつつあるといえよう。

　若林も河崎の指摘にうなずきながら「現状認識が一致していないのかもしれない」と語る。「日本的な有り様を模索する方向はもちろんあるけど、中国の人々は日本にどんどん入ってくるしGDPRも対岸の火事ではない。生易しいこと言ってる場合じゃないという河崎さんのような人もいるし、日本独自のことを考える前にグローバル対応をとることも考えないといけないのかもしれません」

　山本が警鐘を鳴らすように、現在ではスコアリングに対して楽観的な態度をとっている人々が多いのも事実。岩田も自身の経験を振り返り、「ホワイトボックス型ＡＩの提案を進めているんですがなかなか説明が難しくて。データ活用について留意すべき点についてコンセンサスがとれていないですよね。だからこそなぜこういった取り組みが重要なのか説明する必要があるのだと思います」と語る。

　「日本だと技術論ですべてが進んでいる気がするんです」と若林が語るとおり、日本ではデータ活用のメリット／デメリットについてきちんとコンセンサスがつくられないまま議論が進んでしまっているのかもしれない。楽観的に技術を捉えている人とすでに危機感を抱いている人が意識のすり合わせを行なわずに話したところで、まともな対話は生まれないだろう。

　「私自身ズレは感じています。スマートシティのような取り組みにはメリットもあるけど、リスクもある。メリットとデメリットをセットで議論しないといけないと思います」と山本は語る。抽象的なレベルでいえば武邑が語ったように「自由」と「義務」のバランスをとる必要があり、より具体的な部分を見ても安全なサービスを受けるために消費者がコストを負担する必要があるなどトレードオフが生じてくるのは間違いない。

　単に楽観的にデータ活用を捉えるのでもなく、一括りに中国のような専制システムを断罪するのでもなく。いまわたしたちがすべきなのは、メリットとデメリットをきちんと整理しながら「共通認識」をつくっていくことなのかもしれない。

PHOTOGRAPHS BY YURI MANABE
TEXT BY SHUNTA ISHIGAMI