AIがいたるところに浸透した社会に向けて、我々は何を準備しなければいけないのか。さまざまなAI技術が急速に進化を遂げ、世界中で大きな存在感を発揮しつつある昨今、私たちの社会はいよいよこの問題に直面しようとしている。AIをめぐる問題は、法規制や標準化、労働問題やプライバシーなど、技術的なものだけにとどまらない。NECでは2016年に東京大学と「フューチャーAI研究・教育戦略パートナーシップ協定」を締結し、この問題にいち早く取り組んできた。本協定は、未来ビジョン研究センターと共同でAIをめぐる倫理・法制度の検討を行うほか、工学系研究科とも連携して社会に広く受容されるAIを探求する文理融合型の産学連携プロジェクトだ。2021年3月には両部局の成果報告とともに、互いに議論を交わすWEBシンポジウム「AIと社会の共存 ―企業のリスクマネジメントと社会的受容―」が開催された。AIの提供者側はリスクを回避するためにどのようなルールを守るべきなのか。AIが広く社会に受容されるためには、どのようなサービスデザインが必要なのか――文理の枠を超えて活発な議論が交わされた。

AIのリスクと対応を考える

　研究報告は東京大学未来ビジョン研究センター特任講師 江間有沙氏の講演「AIサービス提供企業のリスクマネジメント」からスタートした。江間氏はリスクへの「気づき」の重要性を指摘する。

　「昨今のジェンダーをめぐる議論やBlack Lives Matter運動でも明らかなように、私たち人間にはたとえ自身が公平、公正であると思っていても実は実践できていなかったり、あるいは問題の存在を指摘されて初めて気づいたりするようなUnconscious Bias（無意識のバイアス）が存在します。グローバル化が進んだ現在、所属する国や地域、コミュニティから生じたバイアスによって、思いがけない問題が生じてしまうことがあることに注意が必要です。そしてこれは、AIにおいても例外ではありません。データの偏りによるバイアスや、人種によって画像認識に誤りが生じるなどのアルゴリズムにおけるバイアスも多数報告されています。そのため、まずはAIをめぐるさまざまな論点とリスクに気づくことが重要です。気づくことができれば、倫理的・法的な観点の多くは解決につながる可能性もあります。」

　では、どのような点に注意すればリスクに気づくことができるのか。江間氏はセキュリティやプライバシーといった従来のITから継続する観点だけでなく、Fairness（公平性）、Transparency（透明性）、Accountability（説明責任/答責性）をポイントとして提示したうえで、具体的な手法を提案した。

　「私たちが研究し、昨年からWEB上でも公開している『リスクチェーンモデル』は、システム、サービスプロバイダ、ユーザーという3つのレイヤーにおいてリスクシナリオを整理し、リスクをコントロールする方法を検討するフレームワークです。実現すべき価値や目的を列挙したうえで、各項目で発生し得るリスクと対応を考えて記載していきます。この度の共同研究でも、NECさんと3つの案件で実際に適用してまいりました。 たとえば不動産のレコメンデーションAIでは、「収益の拡大」という目的から想定した「客層やトレンドの変化」「戦略物件の取扱」「スコアの低い物件の滞留」というリスクを書き出し、システム開発、サービスプロバイダ、ユーザーのそれぞれがどのように対応するかを書き出していきました。こういう共同研究を通して、見えてきたこととしてNECもそうですが、日本の大企業の多くはB2B (Business to Business) であり、サプライチェーンが非常に長いという特徴があります。そのため、何か問題や事故が生じた際の責任の所在や対応が曖昧になってしまいがちです。だからこそ、各レイヤーにおけるリスクと対策を事前に可視化して各ステークホルダーの役割を明確に定義していくことに大きな意味があります。また、今回の研究を通じて、本モデルを関係者一同で作り上げていくプロセス自体にも非常に意味があると実感いたしました。議論するプロセスを通じて、各メンバーが自分たちが実現したい価値は何なのかということを再認識する場にもなるのです。」

　この報告を受け、東京大学大学院 工学系研究科 システム創成学専攻教授の大澤幸生氏は、AIを含むステークホルダーの間を情報やアクションが伝わっていくプロセスに目をつけるというのは非常に重要なポイントであると、特に「プロセス」への着目について同意を示した。

　「AIはただデータを与えれば自動的に解を与えてくれるものではありません。私たち人間自身が意思決定者としてどのようなデータが必要になるかを考え、振り返り、適宜修正していくサイクルを回していく必要があります。」

　AIを適切に運用するためには、人間の思考が不可欠だということを強調したうえで次の報告へつなげた。

社会の無意識をすくい上げる挑戦「Society5+i」

　大澤氏とともに研究を進める東京大学大学院 工学系研究科 システム創成学専攻　助教の早矢仕晃章氏は、大澤幸生教授が提唱した「Society5+i」という概念について、自身の研究内容に軸足を置いた視点で論を展開した。

　「現在も世界中でさまざまなAI技術の研究が進められていますが、その土台となるデータが私たちを取り巻く事象のほんの一部分でしかないことは意外と認識されていません。フィジカルな面でもメンタルな面でも、センシングされてデータ化されているものはごくわずかでしかないのです。そこで私たちは『Society5+i』という概念を提唱し、これまでデータ化されていない『未踏データ』の研究を2020年度からNECと共同で進めてきました。ここでいう『i』とは『imaginary』のことです。いわばデータ化されていない情報の虚部を収集し、潜在的な社会の要求の把握と問題解決を達成することをめざしています。」

　具体的な取り組みとして、マーケティング手法を応用した取り組みも紹介された。

　「今年度はMROC (Marketing Research Online Community) という手法を応用して、実際に未踏データの表出化に取り組みました。調査会社を通じて集めたモニターの方々にオンラインでコミュニケーションをとっていただき、そのテキストデータに変数クエストというツールを用いて変数を抽出するという試みです。本結果は、コロナ禍における人々の心情やその変化に加え、ユーザーがAIに求めるものを読み取るための貴重なデータになったと思います。今後はこうした拡張的なデータを収集するための方法論を確立し、広く社会に受容されるAIのデザインへ発展させていこうと考えています。」

　東京大学大学院 法学政治学研究科 教授の宍戸常寿氏は、この報告を受けて「果たして人間の思考を客観的にデータ化し得るのか」と質問を投げかけ、議論をつなぐ。

　「人間が本当に何を考えているか、どんな理由でどんな判断をしているかということは私たち自身もわからないことが多いのではないでしょうか。Society5+iをめざして人間の考えをデータ化する際には、一体どのような方法があるのか。新しい問題が出てくるのではないかと思います。また、未踏データを表出化する際には、人間の課題意識が先行しているという問題もあるのではないかと思います。たとえば先ほどのMROCの例で言えば、司会者の方のふるまいによって観測できるデータは変わってくるはずです。ここに先ほど江間先生がおっしゃたようなUnconscious Biasや公平性の問題も考えていけると良いかもしれません。」

人々がつながり、視野を広げることでリスクを回避

　未来ビジョン研究センターと工学研究科のそれぞれの報告とコメントを経て、後半はパネルディスカッションへ移行し、互いの議論が交わされた。

　司会を務めた東京大学未来ビジョン研究センター 副センター長 教授の城山英明氏は「互いのアプローチは異なるが、やろうとしていることは共通しているのではないか」と端緒を切った。

　「江間先生から出た『気づき』というキーワードは、大澤研究室の未踏データ表出化という話とも関連すると思います。また、大澤先生は『プロセス』という点を強調されましたが、江間先生がご提示されたリスクチェーンモデルは、まさに気づきのプロセスを設計していくというものであったと思います。抽象論で原則が並んでいるというものではなく、個々の具体的なコンテクストごとに役割やアクションが組み込まれていることが重要であると感じました。」

　江間氏は、おっしゃる通りだと頷いたうえで、気づきの難しさについて付言した。

　「気づきには、王道は無いと思います。独りで『エウレカ！』と気づくものもあるでしょうが、無意識のバイアスに気づくためには、さまざまなステークホルダーを巻き込んでいくことが重要です。また、ただ多様な意見があればいいというわけでもありません。近年では『参加の搾取』という言葉も生まれています。ただ頭数として多様な属性の人間を参加させればいいというわけではなく、意思決定主体に含んでいく必要があります。ダイバーシティ＆インクルージョンという言葉が社会にも広く浸透するようになりましたが、これはマジックワードではありません。多様性の実現とは、そもそも辛くしんどいものでもあります。非常に複雑な議論が必要になる。そのためにも、やはり社会改革・制度改革も含めて社会全体が連動していくべき問題だと考えています。」

　これに対して「人間は、自分の外にあるものに本当に気づかない」と同意を示すのは大澤氏だ。大澤氏は2000年初頭からデータをマップ化してビジネスチャンスを見つけ出す「チャンス発見学」を提唱してきた。

　「人間は、外に気づきを向けていくためには逆に内側を見なければならない生き物でもあると考えています。チャンス発見学では自身の認識バイアスを意識するメタ認知を重要視してきました。データをマップにして可視化すると同時に、そもそもなぜこのデータを使うのかということを考える。そのうえで、過去と現在、それから現在から未来に至るシナリオを考え、参加する人を広げ、視野を広げていくということをつづけてきました。この方向性はこれからも変わらず重要だと考えています。」

　本共同研究は、まだ途上ものに過ぎない。本シンポジウムに参加したNEC コーポレート技術戦略本部長の菅原弘人も「次のステージでは、実際のアクションにどのようにつなげていくかが重要になってくると思います。具体的なサービスのデザインにも期待しているところです。さらに共同研究を進め、また皆さんにフィードバックできる機会を持ちたい」と述べて会を締めた。