AIの社会実装に向けて、ベストプラクティスを参考にAIガバナンスを実践する

2021-12-24

新型コロナウイルス感染症（COVID-19）の拡大など、世界情勢の不確実さが増すVUCA時代において、企業がビジネスにAI（人工知能）を活用する動きは年々広がっている。そこで重要になるのが、リスクを適切に制御した上でAI活用による効果を最大化するための「AIガバナンス」だ。日本企業が取り組むべきAIガバナンスのあり方について、経済産業省泉卓也氏、PwCコンサルティング合同会社藤川琢哉、PwCあらた有限責任監査法人宮村和谷が語り合った。

AI活用の活発化とともに、ガバナンスの重要性が高まっている

藤川：日本企業のAI活用は、COVID-19の流行によって一気に加速しました。PwC Japanグループ（以下、PwC Japan）が2020年12月に発表した「2021年AI予測（日本）」という調査によると、業務にAIを導入済みの企業は20年の27%から21年には43%まで増えています。

すでに日本企業によるAI活用はPoC（概念実証）段階から導入段階へと移っており、先進的に活用している企業では、AIガバナンスの整備もかなり進んでいるようです。

宮村：なぜAIガバナンスが求められるのかと言えば、AI活用によって多大なメリットが期待できる半面、自社のみならず、社会全体に大きなリスクをもたらし得る恐れがあるからです。

例えば、AIが誤作動を起こす、効率性が実現できずビジネスをスムーズに進めることができない、誤った予測によって経営判断そのものを誤らせてしまう、というのは企業にとって大きなリスクです。しかも、その影響は企業だけにとどまらず、活用するスケールが大きくなればなるほど、社会全体に甚大な負のインパクトをもたらしかねません。

泉氏：宮村さんが指摘されたように、AIの活用が進むと、企業や社会はメリットだけでなく、大きなリスクも抱える可能性があるのは否定できません。

ただし、リスクを抑制するためのガバナンスが必要とされるのは、何もAIだけに限った話ではありません。新しい技術が登場するたびに、「ガバナンスをどうすべきか」という議論は必ず生じるものです。

AIの場合、物理的なリスクだけではなく、可視化しにくいリスクを伴うこともあるため、どのようなガバナンスのあり方が望ましいのかということがイメージしにくいのです。例えば、自動運転もAI技術を活用していますが、自動車分野ではこれまで積み上げてきた安全規制の歴史があるため、ガバナンスのあり方についても比較的イメージしやすい側面があると思います。しかし、可視化しにくいリスクへの対応となると難しくなります。企業が慎重に対応しているにもかかわらず、意図していない差別的な出力結果が出てしまうという事例も知られています。

そのため、企業はステークホルダーにどのような影響を及ぼし得るのかということを想像しながら、さらにはステークホルダーにどのように説明していくべきかを考えながら、AIガバナンスを構築していく必要があると考えます。

経済産業省商務情報政策局情報政策企画調整官泉卓也氏

藤川：日本でAI活用を巡って問題化している事例を見ると、個人データを利用することに関するプライバシー侵害や倫理面での批判が多いです。泉さんが指摘されたように、可視化しにくいリスクにいかに対応するかということは、AIガバナンスを構築していく上で重要な課題でしょうね。

環境変化に応じてアジャイルにガバナンスを見直す必要

宮村：経済産業省は、日本企業におけるAIガバナンスのあり方を例示するものとして、「AI原則実践のためのガバナンス・ガイドライン ver. 1.0」（以下、AIガバナンス・ガイドライン）を策定されましたね。

私もガイドライン検討会の委員の一人として参加しましたが、最初から固定的な規制化をするのでなく、「アジャイル・ガバナンス」の実践を旨とするなど、日本オリジナルの仕組みがいくつも採り入れられている点が非常に画期的だと思います。

PwCあらた有限責任監査法人パートナー宮村和谷

泉氏：AIのリスクは業種や用途によって大きく異なるものです。それをone-size-fits-all（1つの枠に当てはめる）のルールでくくろうとすると、むしろAIを活用したイノベーションを阻害してしまう恐れがあります。AIガバナンス・ガイドラインでは、リスクを抑えるだけでなく、いかに革新や成長を促すかというバランスを考慮しています。

また、AIはこれまでの技術と違って変化が速いことも大きな特徴です。それに伴い、AI活用に関するリスクも、状況や環境変化に合わせて絶えず変化をしています。そのため、最初からルールを作り込んでしまっては対応が追いつきません。そこで、周辺環境の変化とともにルールを柔軟に見直していく「アジャイル・ガバナンス」の考え方を採り入れました。

AIガバナンス・ガイドラインでは、まず内外環境を分析してガバナンスのゴールを設定し、それを達成するための組織やルールを作り、運用のマネジメントと評価を行い、可能な限りAIガバナンスを外部に向けて説明する、というサイクルを回すことを提唱しています。

さらに、これらの運用実績を評価し、ゴールに照らし合わせてうまくいっていない場合には、マネジメントシステムやゴールそのものを見直すことが重要になります。このサイクルを高速に回転させ、社会の変化に対応しながら、より良いAIガバナンスを追求しようというのが「アジャイル・ガバナンス」の考え方です。

AIガバナンスへの取り組みを成長戦略につなげる

宮村：国の考え方として、イノベーションを阻害しないよう「アジャイル・ガバナンス」を指向するというのは、非常に工夫された独創性の高いアプローチです。

PwC JapanもAIの社会実装を進めるためには、経済産業省が提唱する「環境・リスク分析」「ゴール設定」「システムデザイン」「運用」「評価」「改善」といったサイクルをマルチステークホルダーで継続的かつ高速に回転させていく「アジャイル・ガバナンス」の実践が必要であると考えています。常にインパクトを意識して、自社や社会が受ける負のインパクトを最小限にするための方策を取り続けることが肝要です。

PwCコンサルティング合同会社パートナーデータアナリティクスリーダー藤川琢哉

AIシステム開発者・運用者のアジャイル・ガバナンス

泉氏：AIガバナンス・ガイドラインにはたくさんの仮想的実践例を盛り込んでいますが、依然として抽象的であるため、同ガイドラインに沿ったAIガバナンスを普及させるためには、同ガイドラインの具体的な実践例を提示していくことが重要になります。例えば、業界ごとの具体的なガイドラインやベストプラクティス（成功事例）の形成を支援できればと考えています。

藤川：AIガバナンスは、まだ方法論が確立されていないので難しいテーマだと思いますが、積極的に取り組むことは、企業の競争優位性の獲得にも結びつくはずです。また、ステークホルダーに自社のAIの活用内容や安全性を説明することで、AIの普及促進や顧客獲得にもつながると期待しています。

宮村：難しいと感じる企業は、まずはデータガバナンスから始めてみるのも一つかもしれません。AIとデータは切っても切れない関係ですし、データの安心・安全な管理運用を実践するだけでも、顧客の信頼はかなり担保されますからね。

泉氏：技術が今後さらに進歩すれば、AIも少しずつ汎用化が進み、どの程度のリスクなら許容できるかというバランスがつかめるようになるかもしれません。しかし、それを待ってAIの活用を先延ばしにすると、社会の変化に取り残されてしまう恐れもあります。

むしろガバナンスをしっかり利かせ、リスクを抑えながら、AIを活用して社会の変化に対応していく積極的な姿勢が求められているのではないでしょうか。

経営者の皆様には、ぜひAIのメリットとリスクを十分に理解した上で、AIガバナンスを利かせながら成長していく戦略を描いていただきたいですね。

※本稿は日経ビジネス電子版に2021年に掲載された記事を転載したものです。

※法人名、役職などは掲載当時のものです。