サステナビリティ／DX（AI）が企業にもたらす機会と脅威 第3回：DXの先に求められるAIへの信頼と、それを担う人財

PwCあらた有限責任監査法人（以下、PwCあらた）は2021年11月25日、メディア関係者を対象とするセミナー「サステナビリティ／DX（AI）が企業にもたらす機会と脅威－2022年、東証市場再編やデジタルガバナンス・コード対応が本格化－」を開催しました。

当日の様子を振り返る連載の第3回は、PwCあらたのフィンテック＆イノベーション室長（Co-Lead）を務める宮村和谷と鈴木智佳子が、AI活用のリスクや、DX／AIにおける信頼を確保するためのガバナンスと人財、PwCあらたの取り組みなどを語ったセクション「DXの先に求められるAIへの信頼と、それを担う人財」の様子をお届けします。

鈴木：
2021年は、新型コロナウイルス感染症（COVID-19）がもたらした物理的・時間的制約を背景に、社会全体でデジタルトランスフォーメーション（DX）が加速しました。企業にとっては、政府が2020年に発表した「デジタルガバナンス・コード」や「DX認定制度」への対応を求められた年ともいえるでしょう。2022年は、さらに一歩踏み込んで「AIとデータの信頼性、ガバナンス」が問われる年になるとみています。

AIは今後、世界各国のGDPを押し上げるキーになると言われている反面、図表1のように「人の権利や尊厳、財産の棄損」を起こすリスクもあります。

例えば、インターネットの「レコメンデーションエンジン」にはAIが用いられているケースが多く、ユーザーの指向性に基づいたコンテンツを優先的かつ自動的に届けてくれます。ユーザーはニーズに合う情報を入手しやすい一方、自身の価値観と異なる情報にふれ難く、そうした情報の存在すら知り得ない状況に陥ることもあり得ます。レコメンデーションエンジンを活用した各種サービスが拡大していくと、世の中は「多様性」を失ってしまうリスクが想定されます。

その他には、AI導入時に設定したアルゴリズムが誤っていたことで、集計すべき財務・非財務の情報の識別を誤り、投資家やステークホルダーの意思決定がミスリードされるといったリスクも想定されます。実際、海外では金融商品の取引に係るアルゴリズムが間違っていたことから、訴訟問題に発展したケースも出ています。AIは今後あらゆる分野に導入されていくと思いますが、それぞれのシーンで多様かつ大きなメリットが期待される一方で、そのリスクに備える必要もあります。

宮村：
企業が「AIに関わる信頼」を構築するには、AI活用における「正と負のインパクト」を正しく理解し、その質と大きさに応じたガバナンスを行っていく必要があります。

このコンセプトを具現化したものが、経済産業省が2021年7月に公表した「AI原則実践のためのガバナンス・ガイドライン ver. 1.0（以下、ガイドライン）」であり、これは私が委員として参加している「AI原則の実践の在り方に関する検討会」およびガイドラインのワーキンググループが提示したものです。AIによるイノベーションと社会的メリットを不合理に阻害せず、ステークホルダーからの信頼を構築・維持しながら、AI活用を進めることが重要なのです。

今後DXによりあらゆる物事のデータ化が一層進み、サイバー空間（仮想空間）に蓄積したビッグデータをAIが解析してフィジカル空間（現実空間）にフィードバックする「Society 5.0」の世界に向けて、データやAIを用いたサービスが加速していくでしょう。企業はサービスの設計段階から「信頼・ガバナンスを担保する仕組み」を取り入れた上で、サービスを普及促進・拡大していく必要があります。私たちはこれを「Trust by design」と呼んでいます。この概念を図表2でご説明しましょう。

従来、企業の多くはサービスローンチを優先し、リスクコントロールについては後追いで検討するケースが少なくありませんでした。しかし、あらゆる物事がデータ化・デジタル化される世界においては、サービスのユースケースや設計に一度深刻な不具合が入り込んでしまった場合、AIやデジタルの特徴である「オートメーション（自動化）」「スケーラビリティ（拡張性）」が悪い方向に作用し、人がもたらすものより甚大なインパクトが生じるリスクが想定されます。したがって、サービスの企画・設計そのものにトラストを盛り込むこと、つまり「Trust by design」が非常に重要であると考えています。

あわせて、今後は「アジャイル・ガバナンス」という考え方も非常に重要になることを、図表3を用いて皆さんにお伝えしたいと思います。これは、ある課題について関係する全てのステークホルダー（マルチステークホルダー）とコミュニケーションを行いながら、継続的かつ高速に「環境リスク分析‐ゴール設定‐システムデザイン‐運用‐評価・改善」のサイクルを回転させていくガバナンスモデルであり、ガイドラインにも採用されています。

これまで、企業は法制度に則ってビジネスを展開することが前提でした。しかし、世の中の動きが速くなり、多様なサービスが次々とローンチされ、このスピードに法制度が追いついていない現状があります。そこで政府も政策効果の測定に関するデータを用いて事実・課題を把握し、合理的根拠や実態に即した政策の検討を始めました。これは「エビデンス・ベースト・ポリシー・メイキング（証拠に基づく政策立案）」と呼ばれており、まさにアジャイル型の政策立案につながるものとも言えるでしょう。

企業側もマーケットの環境変化を先読みし、一度構築したサービスやシステムをアジャイルに改良していかなければなりません。今後、法制度もアジャイルに改良されていく方向性の中で、企業には「アジャイルなガバナンス」が求められています。そして、各種ガバナンスを支える私たち監査法人は、これに応じて「アジャイルなアシュアランス」を提供していく必要があります。

激しい環境変化に応じたアジャイルな事業改良は、まさに企業の生き残りや企業価値の維持・向上に直結するため、その監視・評価・方向づけを行うガバナンスは、より一層重視されることになります。

鈴木：
図表4は、PwCあらたが考える「Beyond（未来）で求められるガバナンスとアシュアランス」です。久保田・田原がご説明した「今後、企業が取り組むESG情報開示」は右のサークル①非財務情報に関わるブローダーアシュアランス（以下、BAS）に、宮村の話は②Trust by designとEmbedded controlおよび③アジャイル・ガバナンスに係るもので、これが④ガバナンス・オブ・ガバナンスにつながっていきます。

ガバナンス・オブ・ガバナンスとは企業や法規制、インフラ、市場、社会規範などの個別機能に関わるガバナンスをとりまとめた「全体統括的なガバナンス」を指します。企業やサプライチェーンの価値を総合的に評価・判断する上で、今後期待・要求されていくものといえるでしょう。

PwCあらたは、企業のガバナンス・オブ・ガバナンスの構築についてもお手伝いさせていただきたいと考えています。ただ、これは簡単な業務ではなく、特にAIガバナンスの設計・運営・改良には高い専門知識を持つ多種多様な人財が必要です。私たちは、こうした人財を育成する社内研修にも当然力を入れています。私はアシュアランスのカルチャー変革とDXに関する人財育成も担当しており、DXの人財育成の取り組みに関しても、戦略的な投資を行っています。

図表5左のとおり、PwCあらたは監査で得た知識・ノウハウと、ステークホルダーの視点や独立性が要求される業務環境で培った客観的な視点を活かし、BAS業務を通じて、サステナビリティなどの非財務領域やDXによってアジャイルに構築・改良されていくさまざまな仕組みにおける信頼づくりに貢献しています。そして今度は、BAS業務で得た知見を監査業務に活かすという「循環サイクル」を構築しています。

このサイクルは、右の「PwCあらたの人財の4つの強み」が活きているからこそ円滑に回せていると考えます。私たちプロフェッショナルファームの強みは、人財および専門的知見です。PwCあらたは、この4つの強みを持った人財が集う多様性のある組織として、客観性と独立性をもって信頼の構築を実現していきます。

宮村：
AIはさまざまな領域で活用できることから、正負のインパクトは物理的、論理的、倫理的なものなどさまざまなケースが考えられます。インパクトを受けるステークホルダーの価値観も多岐にわたるため、AIガバナンスの設計・運用・改良には、実に多様な人財が必要です。私が参加している「AI原則の実践の在り方に関する検討会」でも「多様な専門性を持つ人財の育成が必要」との指摘がありました。

各領域におけるデータ＆AIガバナンスの在り方を今後検討・実現していくには、ステークホルダーの目線から各種インダストリーの制度・特徴、セキュリティ、クラウド、業務プロセス＆ルール、会計など、まさにあらゆるテーマのガバナンスを統合的に監視・評価・方向づけできる人財が必要です。

図表6のように、2021年は包括的データ戦略やガイドラインが公表され、デジタル庁が設立されました。2022年はAIガバナンスにも密接に関わる「Data Free Flow with Trust（DFFT）^*1」の実現に向けた動きも加速することが見込まれます。これらを受け、企業レベルでもAI倫理やAIガバナンスへの取り組みが本格的にスタートする年になるのではないかと考えています。

あわせて、ある1箇所におけるデータやAIの信頼性が損なわれた場合、関連しているシステムオブシステムズ全体に影響が伝播してしまう「システミックリスク」への対応も重要になるでしょう。こうした流れの中で、私たちは先程ご説明したBeyondで求められるガバナンスやアシュアランスに関するイノベーションの取り組みを一層加速していきます。

PwCあらたには、多様な人財が成長し、活躍していくフィールドがあります。私たちはBeyondに掲げた姿を目指し、ステークホルダーが社会やサプライチェーン、企業に期待する「DXを通じたさまざまな目的の実現」に向けてデータ＆AIガバナンスの分野に限らず、デジタルガバナンス全般の構築や改善、運営に貢献していきます。

最終回はこちら

＊AIガバナンスに関する議論については、最新の動向や解説、考察を掲載した以下のコラムもご参照ください。
AIガバナンスに関するコラム