本企画は、AIやデジタル技術が進化する中で重要性を増す「デジタルエシックス」を、各業界の有識者との対話を通じて深く探究するシリーズです。AIによる判断の透明性や社会との信頼関係が問われるいま、テクノロジーと経営をつなぐ“エシックス”の視点が、企業の持続的な成長に不可欠になりつつあります。

　今回は、テクノロジーと社会・文化の融合を探求するメディアアーティストの落合陽一氏を迎え、AIやデジタル技術が社会に与える影響と、未来に向けたデジタルエシックスのあり方について議論します。大阪・関西万博での実践知を起点に、東洋的規範の現代的意義、AI時代に求められる責任設計、多様性と調和を重視した意思決定のあり方など、未来社会の持続的な成長に不可欠な視点を考察します。

1.デジタルネイチャーが拓くAI時代のデジタルエシックス設計

今岡：落合先生は、2025年の大阪・関西万博でプロデューサーとしてご活躍され、2027年に横浜で開催される国際園芸博覧会にも参画されることが発表されました。まずは大阪・関西万博での経験を通じて得られた知見についてお聞かせください。

落合氏：大阪・関西万博の「null²」では、鏡をモチーフに、身体と情報が重なり合う空間を設計しました。来場者が自身の姿をデジタルの存在として体験し、もう一つの自己と向き合う場をつくりたいと考えたのです。その際、生体認証を活用することで本人性を担保し、安心してデジタル空間に接続できる環境を整えました。

今岡：それは、来場者にとっての技術体験であると同時に、信頼を設計するための試みともいえますね。横浜で開催予定の国際園芸博覧会では、どのような点を重視されているのでしょうか。

落合氏：横浜の会場は森の中にあるので、自然とデジタルが溶け合う風景をつくりたいと考えています。私が提唱している「デジタルネイチャー」は、テクノロジーが自然のように振る舞い、人と環境が連続的につながる世界観です。デジタルを特別なものとして扱うのではなく、空気や光のように存在する状態を目指しています。

今岡：デジタル技術やAIの普及が急速に進む中で、落合先生がいま感じていらっしゃることや注目されている点があればお聞かせください。

落合氏：デジタル技術が生活や社会に深く浸透することで、私たちの体験や価値観も多様化しています。一方、テクノロジーが「道具」というより「自然」に近づいていくほど、悪用に特別な技術を必要としなくなっている感覚があります。例えば、危険物の製造手順のように、少し前なら専門知識が必要だったことも、いまはAIで手順を知り生成できてしまいます。

　だからこそ、サイバーセキュリティはより重要になります。ただ、じゃあ「そうしたAI技術の使い方まで教育できるのか」というと、正直わからない。誰も変化のスピードについていけていない部分があると思います。

今岡：企業においても、危険な情報の拡散など、コンプライアンスだけでは追いつかない課題が増えています。ただ、技術そのものが問題なのではなく、使い方をどう設計するかが問われていると思います。「何ができるか」だけでなく、「何をすべきか」を問い続ける行動原理として、デジタルエシックスの必要性が高まっていると感じています。

落合氏：まさにその通りです。従来の「ヒューマン・イン・ザ・ループ(AIの判断に人が途中で関与する設計)」では、現実のスピードに対応できない場合もあります。行動原理であるデジタルエシックスを設計段階から根付かせることが重要だと私も思います。また、ルールを作ることでそれに縛られて社会が前に進まなくなる状況を避けるためには、固定化ではなく状況に応じて見直せる設計が求められます。

　一つひとつ話し合い、納得した上で前に進む。そのためには、人と人との関係や対話を重視する東洋的な規範を共有することが必要だと思います。

2.対話と多様性が拓くデジタルエシックスのあり方

今岡：今お話しいただいた「東洋的な規範」については、私たちの書籍『デジタルエシックスで日本の変革を加速せよ』の帯文でも言及されていますが、もう少し詳しくご説明いただけますか？

落合氏：例えば日本の旅館では、客室に鍵をかけない場合でも、仲居さんの声かけなどを通じた宿と客の相互了解によって、プライバシーやセキュリティが保たれてきました。また、ミクロネシアの地域社会では、法制度だけでなく、地域住民の合意を重視しながら意思決定が行われるケースも見られます。このように、場や関係性の中で形成された合意を重んじる価値観は、東洋圏に見られる規範のあり方の一つです。

　西洋では、あらかじめ共通ルールを定め、それを広く統一的に適用することを重視する傾向があります。一方で、東洋的な規範は、固定されたルールに従うというよりも、人と人との関係や対話の中で形づくられていく行動原理だといえます。守るべき規則として固定するのではなく、相互理解を重ねながら状況に応じて更新していく価値観が重要です。

今岡：企業や組織では西洋的なルールをベースとした議論が中心になりがちですが、ルールの整備が追い付かないAIやデジタル技術の分野では、状況に応じて行動原理を更新していく東洋的な規範を取り入れていく必要があると思います。そういった場合、どのような対話の方法が望ましいと思われますか。

落合氏：各々が異なる倫理観や価値観を持つ中で規範を作るときは、どう対話していくかが非常に重要です。とことん話し合わないと真意は伝わりません。時間はかかるかもしれませんが、お互いの懸念点を話し合い続けるしかないと思います。

　その際には、一人ひとりの違いを認めあい、対話や納得感を重視し、杓子定規ではない設計をすることが必要です。

伊藤：同じ言葉を使っていても、人によって価値観がずれていることも多いですよね。そこを掘り下げていくような対話も必要なのではないかと感じます。

落合氏：そうした価値観のずれがあるからこそ、対話の必要性が高まっているのだと思います。

　例えば先日、私の会社で生成AIに関するアンケートを取ったところ、エンジニアの約4割が「作った感じがしなくて、楽しくない」と答えたのです。正直、便利な時代になってもそんな悩みが生まれるのかと驚きました。

　私自身は達成感がある側だったので、なぜ達成感がないのかを聞いたところ、「自分で手を動かして、できなかった問題が解ける、あの感覚がなくなった」という答えが返ってきて、なるほどと思いました。

　猫は追いかけて得た餌を食べるのと、もらった餌を食べるのでは、どちらも嬉しいけれど、犬は追いかけて得た餌の方が美味しいと感じると言われています。同じように、結果そのものに価値を感じる人もいれば、過程に価値を見出す人もいます。このような価値観の多様性を前提にしないと、デジタルエシックスの議論や企業の倫理設計も、噛み合わなくなると思います。

　また、対話の方法としては、主に三つの方法が考えられます。部署や地域ごとに独自の規範で運用する「棲み分け」、徹底的に話し合い相互理解を目指す「対話」、結論を決める「合議」です。簡単なのは棲み分けですが、重要なのは対話です。そして一番良くないのは、違いを隠してしまうことです。まずスタンスが違うことを理解し合うことが出発点になると思います。

今岡：AIが進化していく中では、規範づくりにAIを対話のサポート役として活用することも可能だと思いますが、AIを活用した規範の話し合いについてはどう思われますか。

落合氏：最近では「ブロードリスニング」と呼ばれる取り組みも注目されています。これはAIが、多様な意見を要約・集約し、議論を整理することで、意思決定をサポートするという取り組みです。AIが要約や情報を整理することで、議論の起点を明確にするという面では役立つかもしれません。

3.信頼とイノベーションを両立させるAI時代の責任設計

今岡：AIの社会実装が進む中で、責任の所在をどのように設計していくべきかということも、企業やリーダーにとって極めて重要なテーマです。この点について、落合先生のお考えをお聞かせください。

落合氏：信頼と責任は表裏一体の関係だと思います。責任を明確にすることで関係者から信頼を得られ、また信頼があるからこそ新たな責任が生じる場合もあります。しかし、AI活用における責任の所在は、利用者、開発者、あるいはAIの判断を信頼した関係者全員にあるのか、現時点では明確に定まっていません。また、技術が進歩したからといって、使う人であるユーザーがすべての責任を持てるかというと、そうではないと思います。だからこそ、人間にしかできない判断や役割は、責任範囲を切り分けて責任の分界点を設計することだと思います。

伊藤：例えば、AIシステムの運用においては、プロジェクトマネージャーが最終的な責任を負う場合とチーム全体で合意形成しながら進める場合など、担当者を明確にして個別に責任を持つ方式と、関係者全員で責任を共有する方式の二つが考えられると思います。

落合氏：アメリカなどでは責任範囲が明確に区切られますが、日本では関係者全員で納得できるように話し合いを重視する傾向があると思います。このような文化の違いも理解した上で、サービスレベルごとに責任の分界点を設計することが必要です。

伊藤：倫理は一つの正解があるものではなく、関係者それぞれが自分たちの状況に応じて納得できる倫理観を模索し、対話を重ねて合意形成していくプロセスが重要です。これが、信頼性の高いAI活用やイノベーション推進の鍵となると思います。

落合氏：おっしゃる通り、倫理と信頼と責任はすべて連動しています。倫理観がしっかりしている組織では、信頼関係が築かれやすく、その信頼が責任の所在を明確にする基盤となります。しかし、倫理観は文化ごとに異なります。キリスト教圏で成立したものが日本でそのまま成立するとは限りません。例えば、日本の法律体系は、ドイツやイギリスの法制度を参考にしながらも、日本独自の文化や社会構成を反映させて発展してきました。AIやロボティクスの導入に関しても、日本の社会や文化に根ざした、日本らしい独自の倫理設計を模索していっても良いのではないでしょうか。

4.未来を創るライフスタイル起点のデジタルエシックス

今岡：最後の議論になりますが、倫理や行動原理をどう育て、未来社会に適応させていくべきだと思われますか。

落合氏：テクノロジーを中心にして倫理や行動原理を定めるのではなく、まず人間のライフスタイルを起点にしてテクノロジーを考え、その中で直面する課題ごとに倫理や行動原理について考え続けていくことが大切だと思います。10年後、20年後、人間はどんな生活をし、どんな課題に直面するかを想像する力が重要です。例えば2035年になっても、美味しいコーヒーを飲むというライフスタイル自体は変わらないでしょう。しかし、そのライフスタイルの中で、決済手段や食材の管理方法はブロックチェーンや顔認証など、新しいテクノロジーに置き換わる可能性があります。

今岡：テクノロジーはすごいスピードで進化していますが、倫理の進化についてはどう思われますか。

落合氏：倫理がテクノロジーと同じように「進化している」とは、正直、言い切れないと感じます。むしろ、「倫理は進化しない」と言いたくなります。ただ、だからといって全く変わらないわけではなく、社会や文化の変化に応じて、多様化し、形を変えてきたと思います。例えば、かつては十分に議論されてこなかった多様性の尊重が、現代では重要な課題になっています。これは倫理が進歩したというより、社会の変化に合わせて倫理が扱うテーマや適用範囲が広がった結果だと思います。

伊藤：それは「変容している」とも言えるのではないでしょうか。新しい倫理が前より優れているということではなく、状況や価値観に応じて、倫理のあり方が変わっていくことが大事なのかなと感じました。

落合氏：まさにその通りだと思います。進化というよりは、多様化や変容と表現する方がしっくりきます。倫理の本質そのものは、ソクラテスやプラトンの時代から大きく変わっていないかもしれませんが、時代や社会の変化とともに、その姿や捉え方が変わり、多様な価値観を受け入れるようになっています。

　だからこそ重要なのは、倫理を固定的な規範として守ることではなく、変化する社会環境の中で問い続け、考え続ける姿勢だと思います。

今岡：テクノロジーは進化し、それに伴い倫理は多様化・変容していくということですね。そして、AIが選択肢を示す中では、納得感や調和がますます重要になってきますね。

落合氏：多様な価値観を受け止めて倫理をキュレーションするためには、納得感と調和をどうつくるかが今後ますます重要になると思います。A案、B案、C案、D案と、AIが複数の解決策を提示した場合でも、最終的にどれを選ぶかは関係者全員の納得感が重要です。たたき台となる案を基に対話し、関係者間で調和が取れる選択をすることが、今後ますます求められます。

今岡：企業やリーダーの立場でいうと、AIの提案を活用しつつも、最終的な意思決定やプロジェクトの方向性は、多様な関係者との対話を通じて納得感と調和を重視することが求められるということですね。

　また、個人の気持ちや嗜好性を考えながらデジタル技術に関する行動原理を考えることで、より多様な製品やサービスが生まれる可能性が広がりますね。

落合氏：そう思います。製品に多様性が生まれ、ライフスタイルにも多様性が生まれる。多様な人間を受け止め、対話をしながら倫理を育てていくことが、AI時代の未来社会には求められていると思います。

今岡：本日は貴重なお話をありがとうございました。多様な価値観や納得感、対話の重要性を改めて実感しました。AI時代の倫理と社会実装に向けて、引き続き考えていきたいと思います。

企画・制作・編集：NEC BluStellar ブランドマーケティンググループ（鈴木章太郎、若山拓巳、権田麻実）