本企画は、AIやデジタル技術が進化する中で重要性を増す「デジタルエシックス」を、各業界の有識者との対話を通じて深く探究するシリーズです。AIによる判断の透明性や社会との信頼関係が問われる今、テクノロジーと経営をつなぐ“デジタルエシックス”の視点が、企業の持続的な成長に不可欠になりつつあります。今回は、信頼できるAIの実現に向けて、AIの安全性に関する評価や基準づくりを担う「AI Safety Institute（AISI）」所長の村上明子氏を迎え、NECフェローの今岡仁、そしてAIを活用した事業開発を行うNECの松本真和と共に議論を行います。企業はどのようにリスクと向き合い、判断の軸を持ちながらAI活用を前に進めていくべきか。技術者・制度設計・そしてビジネスの現場の視点からデジタルエシックスの実践的なあり方を探ります。

1.顧客に近づくほど見えてきた、技術の責任と意思決定の偏り

今岡：本日は、AIを安全・安心に活用できるよう、安全性に関する評価基準やガバナンスの策定を主導する「AI Safety Institute（AISI）」の村上さんと、AIのリスク設計やルール作り、そしてデジタルエシックスについて議論できればと思っております。

村上氏：村上と申します、よろしくお願いいたします。現在はSOMPOホールディングスでＣＤaＯ（Chief Data Officer）を務めながら、ＡＩＳＩの所長や政府・自治体のＡＩ戦略会議などの委員として、ＡＩセーフティについての議論や発信をしております。

今岡：元々は研究者としてキャリアをスタートされているのですよね。そこからAIセーフティやガバナンス分野へ携わるようになったきっかけは何だったのでしょうか？

村上氏：1999年に日本ＩＢＭに入社し、基礎研究所で自然言語処理やテキストマイニングなど、ＡＩに関わる研究をしていました。転機となったのは2016年で、ソフトウェアの製品開発に異動したタイミングです。私は長く基礎研究をしていたので、製品やそれを使うお客さまとは距離のある場所にいました。ですが開発に関わるようになりユーザー側に近い立場になったことで、初めて「自分たちの開発した技術が、お客さまにどのように見られるのか」を考える必要性を感じました。企業として世の中に出す製品・サービスの「責任」を考えた時、単純な性能の優劣だけでなく、デジタルエシックスの視点を持つことが非常に重要だと思ったのです。

　例えば、エンジニアの世界は男性が多いので、視点が男性に偏りがちです。ですがその視点だけで作られた製品を社会に出してしまうと、女性が不都合な扱いを受けてしまったり、そのふるまい自体が炎上してしまったりといった問題が発生します。私もずっと女性エンジニアとして、マイノリティの立場にいたので分かるのですが、それぞれの視点から見える世界は全然違うのでバイアスに気づくことが難しいのです。これは男女の例ですが、年齢、職業、国などたくさん見逃されているバイアスがあるはずです。そういった偏った視点を技術者側が認識しなければいけないと思っています。

今岡：業務がユーザー側に近づいたことで、技術者以外の視点が生まれたわけですね。現在は損保ジャパンにいらっしゃるとのことですが、その経緯についても教えていただけますか？

村上氏：2011年に東日本大震災が起こった際、自分の専門であるＩＴの力で何かお役に立てないかと考えました。エンジニアたちが集まり、ITを活用して災害復興や防災・減災を行うというボランティア活動を続ける中で、損保ジャパンからお誘いがありました。保険＝金融というイメージが強かったのですが、地震保険などで災害後の復興を支えるという使命を担っているのだと、代表や人事の方にお話しいただきまして。これもご縁だということで、2021年からDX推進に関わる形でジョインしました。

　最初は研究者としてキャリアをスタートして、その後は技術を活用した製品開発、そして現在は製品を使うユーザー側の企業にいます。私自身が様々な立場を経験したからこそ、提供できる視点もあるのではと思っています。

2.技術を守るために、技術者自身がデジタルエシックスを認識し、世間に発信する

今岡：私も顔認証技術の開発をしている中で、ベンチマークテストで世界第1位を取った時は嬉しかったのですが、いざ製品を世に出してみると性別や人種による偏りなど公平性が課題となり、デジタルエシックスの重要性を意識するようになりました。これも、技術者としての視点だけでは見えていなかったものでした。

村上氏：特に顔認証は日常的に触れる場面も多い技術である分、社会に与える影響も大きいのではないでしょうか。以前、技術者ではないユーザー側の方々と対話するワークショップに参加する機会があり、「AIのどんなところに不安を感じるのか」をテーマに議論したことがありました。その際に挙がったのが、「顔認証で取得された画像データが、どこに保存され、どのように使われているのか分からなくて怖い」という声です。私たち技術者は理解できる仕組みやシステムの裏側も、多くの方々には当然分かりません。その結果、「知らないうちに写真を撮られているのではないか」「データを悪用されたらどうなるのか」といった不安につながっているのだと感じました。

今岡：おっしゃる通りです。そして、技術が少しでも悪用された事例が出てきてしまうと、「その技術自体が悪いものだ」と捉えられてしまい、必要以上に規制が強まってしまうこともありますね。

村上氏：技術は本来、良いものでも悪いものでもなく、ニュートラルな存在です。問題が起きるとすれば、それは技術自体ではなく、使われ方や運用に原因があります。ですが、便利で役に立つ技術であっても、ごく一部で問題が起きるとその点ばかりが注目され、技術全体が否定的に受け取られてしまうことは少なくありません。顔認証技術や生成AIを巡る議論も、まさに同じ構図だと感じています。

今岡：だからこそ、技術者自身が前面に立ち、ユーザーの皆さまに安心して利用していただけるよう、技術の仕組みやリスクへの向き合い方を分かりやすい形で説明し、丁寧に発信していく責任がありますね。

村上氏：私も、AISIの所長としてお声がけいただいた当初は、「ガバナンスやAIセーフティは自分の専門領域ではないのに」と感じていました。ですが、AIがどのような仕組みで動いているのかを理解している技術者が関わらなければ、そもそもどこに危険があり、何を注意すべきなのかを正しく整理することができません。技術のことが分かる人間が旗振り役となり、誰もが理解できる言葉で説明しながら、安全性の考え方や基準を形にしていく。AISIでの活動を通じて、その必要性を強く実感しました。

　そして、もっと技術者自身が、自分の研究する技術や開発した製品に対する、デジタルエシックスに興味を持ってほしいと思います。先ほどの顔認証のお話でもありましたが、世の中の多くの人が触れる技術は、恐怖心や不信感を持たれてしまいやすいという実情があります。最近になってようやく「AIの安全性」に目が向けられ、研究分野としても確立しようとする動きが出ていますが、まだ「こういうことは、政治家や経営者がやることだろう」と考えている技術者も多くいます。ですが、それではいつまでも新しい技術がユーザーの皆さまに受け入れてもらえませんし、実態とずれた基準が作られてしまう可能性もあります。技術を研究し、開発し、利活用している私たち自身が、社会と対話しながらデジタルエシックスを一緒に考えていく必要があるのではないでしょうか。

3.上限と下限を定めることで、イノベーションは前進する

松本：私も事業開発責任者の観点から法人などのお客さまと向き合う立場にいるので、新しい技術が世に出た時の受け取られ方や社会への影響といったところに特に関心があります。

　そして、技術者自身がデジタルエシックスの視点を持ち、基準やルール作りに参加するべきというお話も、非常に興味深くお聞きしていました。現在、村上さんはAISIでAIセーフティやガバナンスを推進されていますが、技術者側の視点ではそういったルールは煩わしかったり、新たな挑戦のブレーキになってしまったりはしないのでしょうか？

村上氏：私は逆に、ある程度の秩序をもたらしてくれる基準がある方が、イノベーションのスピードが加速するのではないかと考えています。例えば、私は損保ジャパンでデータガバナンスを担当していますが、データの貯め方や設定の仕方といった基本のルールは私たちの部門が作っています。現場からは面倒だと思われることも多いですが、逆に秩序が無ければ混乱してしまいます。何もルールが無い中で一から考えるというのは、思っている以上に大変なことなのです。デジタルエシックスも同じで、一人で全てを考えるというのは大変じゃないですか。だとすると、「世間一般として、こういったことは守ろう」だとか、「このようなことはしない方が良い」という秩序がある方が、開発のスピードは上がっていくと思います。

　その秩序を考える上で大切なのは、「上と下のラインを定める」ことだと思っています。よく「AIの安全性を認証してください」と言われるのですが、日々進化するAIに対して100％の安全を保障することは困難です。だからこそ「ここから先は絶対やってはいけない」という下のライン・・・例えば、何が人権侵害や権利侵害に当たるのかなどを、分かりやすいように定めておく。そして上のラインというのは、事業者側がやりたいと思っていることに対して、「こうすれば実現しやすい」といった、後押しをするようなレギュレーションやガイドラインを用意しておくことです。この上下2つのラインがあれば、その間で自由に動いていけば良いというわけです。

　下のラインは、国や省庁が整備していく法律やガイドラインが中心になると思います。日本では、2025年6月にAI新法が公布され、一番下のベーシックな基準が定められました。そして上のラインは、私が所属するAISIのような組織や、民間企業などとの共創でラインを考えていく領域になると思います。

今岡：私たちがデジタルエシックスを発信した時にも、一部の方々からは「制約」と捉えられてしまうことがありました。ですが、秩序があることはアクセルにもなるし、安心して進むための道しるべにもなるという、ポジティブな考え方ですね。

村上氏：NECさんのようなITが本業の企業であれば、AIやデジタル技術の秩序を一から考えることも重要な社会的役割になるのかもしれません。ただ、多くの企業にとってのミッションはそこではないはずです。保険会社であれば、AIを使って保険をより良いものにすることですし、流通であれば、流通の仕組みをより良くしていくことが本質です。そういった皆さまの業界のミッションを達成するために、デジタルエシックスという秩序があれば、イノベーションが進んでいくのではないかと思います。

松本：今のお話を通じて、ガバナンスの必要性や重要性について理解が深まりました。一方で、ガイドラインに目を向けると、どうしても「事前にリスクを下げる」役割が中心になると思います。ただ、AIの不確実性や、一定の割合で起こり得るハルシネーションなどを考えると、100％リスクを回避できるガイドラインを目指すよりは、起きてしまった後にどう向き合うのか、という観点が重要になると思うのですが、その点についてはどのようにお考えでしょうか。

村上氏：おっしゃる通りで、私は災害時の対応と近しい状況だと思いました。天災は避けることができませんが、起こってしまった時のための訓練や、周囲の人たちとコンセンサスをとっておくことで、二次被害を最小限に抑えることができます。AIでも同じことで、AIが間違えてしまった時にどうするか、という体制を決めておく。企業としてAIを活用して製品・サービスを提供する場合は、BCP（事業継続計画）の観点からも、必要な準備だと思います。

　そして、一度決めたルールやガイドラインを、都度見直しをしていくことも重要です。AIをはじめとしたデジタル技術は日々進化を続けていますし、今は世界情勢や地政学上のリスクなども高まっていて、いつまでも変わらない普遍的な基準は一つもない状態です。アジャイル的に秩序を構築しながら、状況に応じて柔軟に見直していくことが、より幅広いリスクに対応する手段の一つだと考えています。

4.人はそれぞれ異なる物差しを持っている──その前提から始めるデジタルエシックス

今岡：最後にお聞きしたいのですが、村上さんはデジタルエシックスを具体的にどのようなステップで形成していけば良いと思いますか？冒頭で、ご自身が女性としてエンジニア集団の中ではマイノリティ側であったというお話もありましたが、異なる視点を持つ方々とデジタルエシックスをすり合わせていくためには、どのようなアプローチが必要でしょうか。

村上氏：私としては、デジタルもAIも関係なく、エシックスの基本は「人にされたら嫌なことを、やらせない」という単純な話だと思っています。例えば、プライバシー情報を勝手にばら撒くなんてことは、人がやったとしても当然問題になりますよね。だったらAIにもやらせてはいけない、ということです。難しく考えすぎずに、まずはそこを起点にするのが良いと思っています。

　そして一歩進んだ段階として、「嫌だと感じることは、人によって異なる」ということを考えていく必要があります。何が危険なのか、何が安全なのかという物差しは人によっても違いますし、業種・業界、そして国や地域によっても考え方が異なるので、ステークホルダーごとにそれぞれの物差しがあるはずです。そう考えると、全世界の人に共通するデジタルエシックスを形成することは、おそらく実現できないでしょう。

　けれど、人間はお互いを尊重することはできるはずです。まずは自分の物差しを定めて、相手とは何が違うのかということを丁寧に理解し、「ここは共通して守りましょう」「ここはお互いを尊重して、相手の領域に入る時には配慮しましょう」といった対話の中でデジタルエシックスを考えていくことが重要なのではないでしょうか。

今岡：AIやデジタル特有の難しい問題も起きていますし、考えることや配慮すべき点も増えています。ただ、デジタルエシックスだからといって特別視するのではなく、人と人との関係としてフラットに捉え、対話を重ねていくことが大切ですね。

村上氏：そのうえで「デジタルエシックス」の対話を考えると、技術者ではない方々のAIリテラシーを高めていく取り組みも欠かせないと感じています。BtoCやBtoBtoCの製品・サービスは、最終的に一般のユーザーが利用するものです。その方々のAIに対する理解が高まらなければ、建設的な対話は進みません。だからこそ、私たち技術者側が中心となって、社会に向けて発信していくことが重要だと思います。

今岡：まさに村上さんが現在、AISIで実践されていることですね。

村上氏：はい。AIの安全性に関する動画を制作したり、政府の方と対談をしたりと、分かりやすい形での情報発信を進めています。新しい技術が社会に受け入れられ、人々の暮らしを豊かにしていく。そんな未来を実現するためにも、技術者が中心となって、理解を促す主体的な情報発信をしていく責任があると考えています。

今岡：同じ技術者として、身が引き締まる思いです。対話を通じて、より良い技術の社会への浸透とデジタルエシックスについて、これからも考えていきたいと思います。本日はありがとうございました。

企画・制作・編集：
NEC BluStellar ブランドマーケティンググループ（鈴木章太郎、若山拓巳、権田麻実）