さまざまな分野で活用され、私たちの身近な存在になった技術の1つに顔認証技術がある。さらに利用を推進し、その価値を高めるには、技術の進化だけでなく、リスクや影響を把握し、対処しながら、適正に社会に実装することが重要となる。⼤阪⼤学 社会技術共創研究センター（ELSIセンター）とNECは、産学共創の共同研究を通じて、その方法を検討している。共同研究のメンバーに話を聞いた。

産学共創で顔認証技術の適正な社会実装を目指す

──大阪大学のELSIセンターとは、どのような組織でしょうか。

岸本氏：最近は大学にも基礎研究だけでなく、社会を変革するようなイノベーションが求められるようになっています。しかし、どんなに優れた技術、あるいは製品、サービスであっても、それがそのまま社会実装できるとは限りません。イノベーションを実現するには、その技術が、安全やプライバシーの問題を引き起こしたり、悪用されたりするリスクがないかを検討し、対策を講じなければなりません。

　そのような技術と社会の間にあるギャップを埋めるためのノウハウを、私たちは「社会技術」と呼び、科学技術と並ぶイノベーションの重要な柱と考えています。そして、社会技術分野の研究や実践に取り組んでいるのがELSIセンターです。当初は、医学部や工学部など、学内と連携することが多かったのですが、最近は一般企業とのプロジェクトにも積極的に取り組んでいます。NECとの共同研究もその1つです。

──大阪大学のELSIセンターとNECはどのような共同研究に取り組んでいるのでしょうか。

山田：顔認証技術に関する研究です。オフィスやイベント会場のセキュリティゲートや、空港でのスマートな手続きなど、社会のさまざまな場面で利用が広がっている顔認証技術ですが、高度な利便性や安全性といった価値を提供する一方で倫理的・法的・社会的課題、いわゆるELSI（Ethical, Legal and Social Issues）の懸念も指摘されています。顔認証技術の価値をさらに享受するには、それらの課題を抽出した上で対応策を検討していく必要があります。ELSIセンターとNECは、産学共創でその研究に取り組んでいます。

異なる視点を持ち寄ることが産学共創の意義

──顔認証技術には、どのようなELSIがあるのでしょうか。

岸本氏：日本では、あまり大きな話題になっていないため、ピンとこない人もいるかもしれませんが、海外では、既にさまざまな課題が顕在化しています。例えば、学習データが特定の人種に偏ってしまい、特定のグループに対する認証精度に問題があった。それが原因で警察が誤認逮捕をしてしまったとされる事例も報告されました。最近では、顔の表情から感情を読み取る「感情分析」について、議論が続いています。例えば、対象の人が罪を犯す確率はどれくらいかを算出するなど、技術的にはたくさんのことが可能ですが「できること」と「やっていいこと」は違います。

　日本も全く無風というわけではありません。以前、大阪駅と駅ビルの通路や広場で利用客をカメラで撮影し、人々の動線を把握する実験が計画されたのですが、不安の声が大きく中止されました。「映像は個人を特定できないよう処理する」と事前に発表されていましたが、それだけでは十分な配慮とはいえなかったということです。

山本：NECも、まさに「できること」と「やっていいこと」に向き合ってきました。例えば、多くの企業がデータ活用に取り組んでいますが、個人情報保護法に抵触しなければ、どんなデータを扱ってもよいわけではありません。

──そのようなELSIを抽出し、どのように対応するべきかを研究していくのですね。単独ではなく産学共創で研究をする意義についてお聞かせください。

山本：これまでもNECは、個人情報保護の枠組みをきっかけに外部の専門家と連携して、AIの社会受容性について議論を行ってきました。ELSIセンターとの共同研究によって、その議論をさらに前進させることができると考えています。

田中氏：私は共同研究をよりスムーズに行うために、現在、NECから大阪大学に出向しています。双方の立場を経験して、共同研究の意義を強く感じました。

　端的にいえば、NECは企業ですから「利益」からは離れられません。お客様である利用者の課題と求められている価値が検討の中心になりがちです。一方、大阪大学やELSIセンターは違います。中心にあるのは「社会」。利用者の周りにいる人たちに対しても同様に目を向け、社会に与える影響を検討します。その2つの異なる視点を持ち寄ることができることが産学共創の最大の意義です。

貴重な産学共創の機会を通じて課題を10の視点に整理

──具体的には、どのような研究を進めているのでしょうか。

田中氏：和歌山県白浜町でNECが実証中の南紀白浜IoT おもてなしサービス実証の「ウェルカムサービス」「笑顔写真撮影」「手ぶら決済・クーポン」の3つのサービスを選定し、「どんな問題が起こる可能性があるか」を考えて議論。ELSIの抽出を行いました。

　「ウェルカムサービス」は南紀白浜空港に設置されているサイネージ上にウェルカムメッセージを表示するサービス。「笑顔写真撮影」は、同じく南紀白浜空港にて表情から笑顔をスコア化して表示するサービス。そして「手ぶら決済・クーポン」は、顔認証で買い物の決済を行ったり、パーソナライズドされたクーポンを受け取ったりできるサービスです。手軽なものから決済という重要な処理まで、多様なサービスがそろっていることを評価して、選定しました。

岸本氏：既に何年もかけて実証実験が進んでいるわけですから、大きな課題は対応済みです。しかし、ELSIセンターのメンバーも交えて、さらに深い議論を行いました。例えば、利用者以外の人に目を向けて「サービスに対して、あまりよい印象を持っていないのは、どんな人か」「観光客ではなく、サービスの対象ではない現地の人は、どんな感想を持っていると考えられるか」などを検討。ELSIセンターのメンバーからは「そもそも『ウェルカム』という名前は本当にふさわしいか。日本の『おもてなし文化』を毀損していないか」という意見もありました。このように小さな気付き、些細なことに目を向けながら、社会的な影響を網羅することを目指しました。

　そして、議論の中で気持ち悪さを感じたら、今度はそれを言語化します。このプロセスがとても重要。「公平ではないから」といった通り一辺倒な言葉ではなく、できるかぎり具体的に、どう気持ち悪いかを書き出します。

山本：私たちもリスクや課題を具体的にとらえているつもりではいましたが、はっきりと言語化されていく様子を見て、非常に驚きを受けました。言語化できれば、多くの人と共有し、同じ認識を持つことができる。今回の共同研究の大きな成果の1つです。

岸本氏：NECは、私たちのやり方に驚いたようでしたが、私たちにとってもNECとの共同研究は発見の連続でした。私も含めて、倫理学、社会学、人類学など人文社会科学系の研究者にとって企業と共同研究を行う機会は、そう多くありません。企業で働いた経験がない私たちにとって、NECのような企業は、多くの社会技術を持つ集団。どういうプロセスや体制で意思決定や開発を行い、技術を社会実装しているのかを目の当たりにする貴重な機会となりました。

山田：新しい技術が登場すると、衰退していく技術もある。その影響を受ける可能性がある人たちに対して、どのようなケアを行うのかなど、NECにとっても自身のビジネスを振り返る機会になりました。

──言語化した研究成果をご紹介ください。

田中氏：抽出した課題を整理して、顔認証技術を活用するサービスを適切に社会実装するために事業開発で検討すべき10の視点としてまとめ「研究・イノベーション学会」でも発表しました。ただし、この10の視点は、いわば骨格。次のステップでは、実際に10の視点を実践していくため、ELSIに適したリスクアセスメントのフレームワークや事業開発の標準プロセスなどの研究に取り組みます。

1. ＜１０の視点＞
2. 視点１．顔認証技術を使う必要性があるか。
3. 視点２．取得するパーソナルデータは必要最小限であるか。
4. 視点３．取得するパーソナルデータの処理プロセスをプロバイダー事業者、サービス事業者およびステークホルダが把握しているか。
5. 視点４．サービスの精度や生じるかもしれない偏り(バイアス)を把握しているか。
6. 視点５．顔認証が誤った場合に利用者に大きな不利益が生じないように配慮されているか。
7. 視点６．顔認証技術を使えない人/使いたくない人を公平に扱う仕組みになっているか。
8. 視点７．利用者本人が納得してサービスを利用していると確信できるか。
9. 視点８．顔認証および他サービスとの連携により、意図しない影響が生じないか検討されたか。
10. 視点９．利用者および社会へのリスクと対応に関して、プロバイダー事業者とサービス事業者との対話が適切になされているか。
11. 視点１０．運用開始後の事後検証が想定されているか。そのような仕組みがあるか。

山本：開発から実際に社会に実装されて運用されるまでには、さまざまなプロセスがあります。各プロセスで、誰が利用しても同じ結果を得られるようなツールや仕組みを整備し、お客様の安心な顔認証技術の活用をサポートしていきたいですね。

山田：NECグループのPurposeは「NECは、安全・安心・公平・効率という社会価値を創造し、誰もが人間性を十分に発揮できる持続可能な社会の実現を目指します。」です。ツールや仕組みはNECのビジネスに役立てるだけでなく、広く社会に貢献することも重視しています。

岸本氏：現在のようにものすごいスピードで技術開発が進む社会では、公式な見解がでるより前に技術の方が進化してしまう。そうした中、研究者や企業は、自ら判断し、技術の適切な社会実装を実践していかなければなりません。ELSIを考慮できていなかったばかりに頓挫してしまった施策も少なくありません。10の視点は、顔認証技術だけでなくほかの技術にも応用できる内容です。先ほど述べたように前例の少ない人文社会科学系の研究者と企業との産学共創の価値を示す意味も込めてNECと共に研究をさらに進め、その成果を広く社会に還元していきます。