2022年にOpenAIが生成AIチャットボット「ChatGPT」を公開して以降、世界的に生成AIの活用が広まっている。あらゆる産業が生成AIから影響を受けることは間違いないが、金融・保険業界も大きな変化が予想される業界のひとつだろう。

　2025年3月4〜7日に開催されたFintechのカンファレンス「FIN/SUM2025」でも生成AIは大きなトピックのひとつとなった。その中で、NECは3月6日に「デジタル・AI時代の金融・保険のビジネス変革と未来への挑戦　〜今、求められるリスク対応とガバナンスとは」と題し、大手保険会社の三井住友海上、金融スタートアップのFinatext、金融庁と立場の異なるプレイヤーが集まるパネルディスカッションを実施した。4名の議論からは、生成AIの可能性とリスクが浮かび上がった。

金融・保険ビジネスを揺るがす生成AIの台頭

　「保険業界は、生成AIの影響をとても大きく受ける業界です。私たちのビジネスは、お客さまとの情報の非対称性で成立します。これまでは、保険会社の方が多くの情報をもっているからリスクを分析できたわけですが、お客さま自身もAIでさまざまなデータを分析できるようになると、関係性が変わってしまうのです」

　そう語るのは、三井住友海上火災保険の常務執行役員を務める本山智之氏だ。従来のビジネスを支えてきた顧客との関係性の変化に対応すべく、同社は2023年5月に「AIインフィニティラボ」という組織を立ち上げ、生成AIの可能性とリスクを正しく把握・評価し必要な対策を講じた上で、スピーディに活用を進めていく取り組みを開始したという。最初に開発されたのは社内向けのセキュアなChatGPT環境「MS-Assistant」。膨大な保険マニュアルを取込み、保険商品に関する問い合わせにも回答可能になるなど機能アップデートを継続しており、社員の利用拡大が進んでいる。

　さらに、保険金支払い業務でも生成AIを活用。顧客との電話がリアルタイムでテキスト化され、自動で要約・記録されるシステムを構築している。これにより事務作業を大幅に削減。加えて、本システムではお客さまからの厳しい言葉を検知し担当者の上司に自動的に通知する「カスハラ対策」機能もあり、社員のエンゲージメント向上と顧客対応の質の改善を同時に実現している。

　同時に、金融スタートアップのFinatextは、金融システム開発が抱えてきた課題をデジタル技術と生成AIによって解決しようと試みている。

　「金融業界のシステム開発は時間的にも金銭的にも莫大なコストがかかることで知られています。私たちはより速くて安くて柔軟なインフラを構築すべく、現在は保険業界向けにSaaS型デジタル保険システム「Inspire」を提供しています」

　AI活用の具体例としてFinatextホールディングス代表取締役社長CEOを務める林氏が挙げたのは、保険代理店向けの「Finatext Advisory Assist for 保険代理店」だ。営業時の会話を自動録音し、コンプライアンス上問題となる発言を検知してハイライトする機能や、書類をアップロードすると画像認識してドラフトを自動作成する機能を備えている。

　AI活用について、林氏は「私たちとしては現時点ですべてがAIで全自動化するとは考えていないため、半自動化や人間をサポートするためのAI活用を検討しています」と語る。

大きなリスクとなりうる「ハルシネーション」

　二社の取り組みが示すように、企業の規模を問わず生成AIの活用が進んでいく一方で、生成AI固有のリスクが存在することも無視してはならない。金融庁の国際政策管理官、金子寿太郎氏は「ハルシネーション（幻覚）」と呼ばれる誤情報の出力が特に大きな問題だと指摘する。

　「たとえば人間なら知識が足りなければ『わかりません』と答えてくれますが、生成AIは断定的に回答を出力するので誤情報の特定が難しいとされます。現在は”Human in the Loop”と呼ばれるように人間が意思決定プロセスに関与する対応もとられていますが、結局専門家が逐一回答を検証することになると、当初の目的である効率化やコスト削減も進まなくなってしまう。加えて、AIモデルを提供するデベロッパーのなかにはハルシネーションの損害は免責としているケースもあり、ますますリスク対応は難しくなっています」

　とくに金融や保険といった領域では小さな誤情報が大きな問題につながってしまうことも大いにありうる。生成AIの活用を広げるだけでなく、並行してリスクへ対応することも必要不可欠だろう。NECのCorporate SVP兼金融ソリューション事業部門長を務める岩井孝夫は、NECがハルシネーションへの対応を進めていることを明かす。

　「私たちは昨年10月から利用者が生成AIの出力結果に含まれるハルシネーションを検知できるよう、回答の根拠を提示する機能を提供しています。また、NECではお客さま内での生成AI活用を後押しするため、NECグループにおける従来のAIに対するリスク対策の経験を活かし、 AI活用のポリシー策定や推進体制の構築、情報管理の整備も進めていますので、生成AI活用におけるリスク・ガバナンス面を十分に考慮した ルールメイキングのご支援もコンサルティングサービスとして提供を進めています」

　さらに岩井は「ある金融機関のお客さまから言われたのですが、生成AIは『正しく恐れて、正しく使う』ことが重要なのだと思います」と続ける。ハルシネーションが生じるからといって活用を諦めてしまえば、事業変革のチャンスを失うことにもなるだろう。だからこそ、単にリスクを警戒するのではなく、「正しく恐れる」ことが重要なのだ。

適切にリスクを評価し対応するガバナンスの重要性

　金子氏によれば、金融庁としてもハルシネーションのようなリスクに対して3つの対策を提唱しているという。

　「第一の対策は、そもそもハルシネーションを起こさせないこと。すでにRAG（検索拡張生成）のような手法を通じて情報の出所や判断の根拠を明らかにする対応を取り入れているデベロッパーの方々もいらっしゃいますし、ハルシネーションを起こさせないことが一番大事だと思います」

　しかし、上記の対策でハルシネーションを低減できても、撲滅することは難しい。そこで、第二の対策としてエンドユーザに誤情報が届かないよう管理する必要があると金子氏は続ける。Human in the Loopのような対応はコストもかかるが、最終消費者や一般の投資家の方々に提供するサービスには誤情報が入りこまないよう徹底すべきだと金子氏は語る。

　「もっとも、不幸が重なってエンドユーザの方々に誤情報が提示され、経済的な損失が生じてしまう可能性もあります。その場合は、第三の対策として保証を検討すべきだと考えています。たとえばAIハルシネーション損害保険のような保険サービスがありうるかもしれませんし、業界全体として保証のための資金を拠出しあうような仕組みづくりを検討していく可能性もあるでしょう」

　無論、このパネルディスッションに集まった企業の面々も、生成AIのリスクに組織的に対応するための方策を講じている。たとえば三井住友海上火災保険を含むMS&ADインシュアランスグループホールディングスでは、AIガバナンス会議を設置しているという。

　「まずは取締役や執行役員がAIの価値とリスクをしっかり認識する必要があるため、会議の場を設定しています。加えて、生成AIというとIT部門の問題だと考えられがちですが、コンプライアンスなども含めさまざまな分野に影響が及ぶものでもあります。ですから、各事業会社の各部門すべてがAIのリスクや活用について考えなければいけません」

　そう本山氏が語るように、生成AIとはもはや部門も職種も問わずあらゆるビジネスパーソンが向き合わなければいけないものでもあるのだろう。だからこそ人財育成も重要だと本山氏は続ける。

　「各現場で一人ひとりの社員がAIのリスクを認識しなければいけませんから、スキルがきちんと身につくような人財育成の仕組みもつくらなければいけません。私たちのAIガバナンス会議でも人財育成を徹底していきたいと考えています」

「AIに仕事が奪われる」のではなく、「AIを使える人に仕事が奪われる」時代に

　日々新たなモデルが登場し、サービスも高度化していく一方で、それらを活用する人間の思考や知識もアップデートしなければ生成AIのポテンシャルを引き出すことは難しいだろう。本山氏が「AIに仕事を奪われるのではなく、AIを使える人に仕事を奪われるのだと思います」と指摘する。企業が生成AIの活用を進めていくためには人財育成に取り組み全社的な学習環境の整備も必要だ。

　「AIを使うことが目的ではなく、AIを使って何を実現するかこそが重要なはずです。ただAIを活用しようとするのではなく、AIを使って自分たちの取り組んでいる仕事をどう変えるか考えられるようにするためにも、リスクや活用法を学ぶ必要があるでしょう」

　また、大企業が生成AIを活用するための準備が重要な一方で、スタートアップの世界ではよりドラスティックにビジネスが変わっていることもたしかだろう。林氏は「社員ひとりのユニコーン企業が生まれうる時代」が訪れていると語る。

　「AIで個人の生産性が急上昇する未来は確実に訪れますし、従来の組織のあり方に囚われないアンラーニングも重要になると考えています。その上で、私自身も含めエンジニアでなくてもサービス開発を行えるようになっていますし、他人から聞いたことをそのまま受け取るのではなく、自身のコンフォートゾーンを飛び出して積極的にAIを使うようなチャレンジ精神がこれからの人材には求められるはずです」

　本山氏や林氏の指摘を受け、岩井も「ExcelやPowerPointが使われだしたときのように、AIは新しいツールだと思いますから、やはり学習が必要不可欠になるでしょう」と頷く。NECとしても新しいツールの学習機会を広げるために、職種を問わず、さまざまな分野で高度なAI技術の知識を持つ専門家を育成しています。また、NEC社内でこれまで培ってきたDX人材育成のノウハウを集結し、「BluStellar Academy for AI」という学習プログラムを提供しており、すでに460社以上が利用しているという。利用企業の多さからも、企業の意識の変化が伺えるはずだ。

　「さまざまな産業のなかでも金融はとりわけ信用が求められます。信用を失えば金融サービスは成立しないでしょう。リスクの話もしましたが、金融庁としてはさらにDXを推し進めていきたいと考えていますから、教育活動を通じてリテラシーを高め、DXのサポートを進めていきたいですね。そのためにもリスクとイノベーションの適切なバランスを探っていかなければいけません」

　金子氏はそう語り、パネルディスカッションを締めくくった。生成AIの普及により、金融・保険業界は大きな変革のタイミングを迎えている。単なる効率化や自動化に留まらず、ビジネスモデルさえも大きく変わっていく可能性があるだろう。

　だからこそ、生成AIのリスクを正しく認識し、適切に活用するためのリテラシー教育が必要不可欠になる。いままさに訪れようとしている生成AI時代において重要なのは、ただ先端的なテクノロジーを取り入れる、技術を改善していくことだけでなく、人間の側が「学ぶ」姿勢を絶やさないことなのだろう。