{{item.title}}
{{item.text}}
{{item.title}}
{{item.text}}
2021-07-28
経済産業省は、AIガバナンスに関する国内外の議論や動向を踏まえ、現時点で望ましいと考えられる日本のAIガバナンスの在るべき姿を、「我が国のAIガバナンスの在り方ver1.1」(以下、「報告書」)として取りまとめ、2021年7月9日に公表しました。また同日、報告書内で言及されていた「法的拘束力のない企業ガバナンス・ガイドライン」として、「AI原則実践のためのガバナンス・ガイドラインver1.0」(以下、「ガイドライン」)がパブリックコメントに付されました。
AIを利活用してイノベーションを促進しようとする企業は、ガイドラインをどのように活用すれば、自社のAIガバナンスを構築し、また向上させることができるのでしょうか。本コラムでは、ガイドラインの背景と概要を解説し、その意義を考察していきます。
なお、本コラムにおける意見・判断に関する記述は筆者の私見であり、所属組織の見解とは関係のない点をあらかじめお断りしておきます。
今回公表されたガイドラインは「法的拘束力のない分野横断的」なものとされています1。まずはこの点を、報告書内の議論を参照しながら読み解いていきましょう。
報告書では、2020年7月に経済産業省が公表した「GOVERNANCE INNOVATION:Society5.0の実現に向けた法とアーキテクチャのリ・デザイン」2のルール形成に関する議論を参照しています。すなわち、社会や技術の変化の速さや複雑さに法が追いつけない問題に対して、細かな行為義務を示すルールベースから、最終的に達成されるべき価値を示すゴールベースへの転換が求められているという議論です。
しかし、ゴールベースのルール形成においては、示されたゴールと企業などが取り組む手段との間に大きなギャップ(ガバナンスギャップ)が生まれてしまうデメリットも指摘されています。そのため、このデメリットを解消するために、ゴールと企業の取り組みを繋ぐガイドラインとなる「分野横断的で中間的なルール」が求められます。ただし、この「分野横断的で中間的なルール」に法的拘束力を付与してしまうと、ルールベースと同様に、イノベーションを阻害する可能性がある点に注意すべきと指摘されています。
報告書では、これらの議論から得られる示唆に加えて、産業界の意見、経済産業省の「AI原則の実践の在り方に関する検討会」での議論と企業ヒアリングの結果、さらに消費者の視点を考慮したうえで、日本にとって望ましいAIガバナンスとして、法的拘束力のない企業ガバナンス・ガイドラインの策定を提案し、今回のガイドラインの策定、公表に至っています。
ガイドラインの狙いは、AIの社会実装の促進に必要となる「人間中心のAI社会原則」(以下、「AI原則」)の実践を支援することにあります。AI原則は、2019年3月に統合イノベーション戦略会議が決定、公表したもので、そこでは(1)人間中心の原則、(2)教育・リテラシーの原則、(3)プライバシー確保の原則、(4)セキュリティ確保の原則、(5)公正競争確保の原則、(6)公平性、説明責任及び透明性の原則、(7)イノベーションの原則が掲げられています3。
先述のとおり、ガイドラインに法的拘束力はありません。しかし、同じく法的拘束力のないAI原則が社会で受容、尊重されているように、AIの開発や運用などに関わる企業などには、ガイドラインを参照するとともに、AI原則の実践に関する多様なステークホルダーとの共通認識の形成および共通理解の促進のための対話を通じ、自主的な取り組みを推進することが期待されています。
ガイドラインには「AI事業者が実施すべき行動目標を提示するとともに、それぞれの行動目標に対応する仮想的な実践例やAIガバナンス・ゴールとの乖離を評価するための実務的な対応例(以下、「乖離評価例」)」4も示されており、本編は「行動目標」「実践例」「コラム」、別添は「行動目標一覧」「乖離評価例」「アジャイル・ガバナンスの実践」から構成されています。
続いて、それぞれの構成要素を詳しく見ていきます。
AI事業者は、「AIシステム開発者」「AIシステム運用者」および「データ事業者」の役割主体に区分され、本ガイドラインの対象とされています。ガイドラインでは、それぞれの役割主体を以下のように定義しています5。
なお、1つのAI事業者が必ずしも1つの役割主体に区分されるとは限らず、複数の役割主体に区分されることも想定されています。
また、企業内の実施主体は「経営層」と「運営層」の2つの層が念頭に置かれており、これらの層を明確に区分することが困難な小規模事業者などにおいては、特定の個人や集合が両方の責務を負っていると理解されています。それぞれ、ガバナンス層とマネジメント層と考えると分かりやすいかと思います。
行動目標とは、「一般的かつ客観的な目標であり、社会に対して一定の負のインパクトを与えうるAIシステムの開発・運用等に関わる全てのAI事業者が実施すべきものである」とされています。負のインパクトとしては、意図しない公平性の棄損、安全性の問題が例示されています。また、企業などにはガイドラインで示された行動目標を機械的に適用するのではなく、負のインパクトのようなAI特有のリスクを踏まえ、自社のAIシステムを取り巻く環境やバリューチェーン全体を考慮したうえで、各行動目標を理解、活用することが期待されています。
仮想的な実践例は、その名のとおり、行動目標に対して仮想的に考えられた実践の具体例です。また、乖離評価例は、必要に応じ設定されたAIガバナンス・ゴールからの乖離を評価するための項目例であり、この乖離評価例の観点は、個々のAIプロダクトやサービス開発のプロジェクトが置かれている状況、設計全般、データ、モデル・システム、運用・モニタリングから構成されています。
仮想的な実践例および乖離評価例はあくまでも参考例であり、網羅的に記載されているものではありません。またこれらの例では、各企業などが置かれている個別具体的な状況までは考慮されておらず、特に乖離評価例については、「状況によっては不十分なこともあれば過剰なこともあり得る」と注意が促されています。そのため、これらの採否は企業などが自社のAIプロダクトやサービスの目的、特性、開発や運用方法などを踏まえたうえで自ら行う必要があるのはもちろんのこと、採用に際しても必要に応じ、修正や取捨選択が必要となる点は注意すべきでしょう。
最後はアジャイル・ガバナンスです。これは、2021年2月に経済産業省が公表し、パブリックコメントに付した「GOVERNANCE INNOVATION Ver.2:アジャイル・ガバナンスのデザインと実装に向けて」報告書(案)6(以下、「報告書(案)」)での議論を踏まえています。この議論においては、今後の社会におけるガバナンスの基本を「アジャイル・ガバナンス」としてその基本的な考え方を提示し、それに基づくコーポレートガバナンス、法規制、インフラストラクチャー、市場、社会規範といった、さまざまなガバナンスメカニズムの在り方が検討されており、AIガバナンスはこのアジャイル・ガバナンスのひとつの実践と位置付けることもできます。そのため、ガイドラインを読まれる際には、報告書と併せてこの報告書(案)を読むことが望まれます。
アジャイル・ガバナンスに関わる極めて重要かつ多岐にわたる議論を、単純化し過ぎだとの誹りを免れないかもしれませんが、本稿との関連のみを念頭に要約を試みると、基本的な考え方として、環境・リスク分析、ゴール設定、システムデザイン、運用、評価がアジャイル・ガバナンスの基本コンポーネントとされ、各サイクルをマルチステークホルダーで継続的かつ高速で回転させることが想定されています。そして、このガバナンスは社会のさまざまな層で重層的に実施されるものですが、企業はその中にあって中枢を担うものと位置付けられており、「『水平的』統治モデル(共同規制)の下で、ガバナンスの一翼を担う主体としての役割が期待され」7ています。報告書では、アジャイル・ガバナンスの議論で提示されたこの枠組みに沿って、マネジメント体制の整備とリスク管理のための行動目標を次のように整理しています。
ガイドラインの意義は大きく2つあると筆者は考えます。
まず、ガバナンスギャップを埋めるために法的拘束力のないAIガイドラインが提示されたことは、AIを利活用して自社のデジタルトランスフォーメーションを推進し、新たな価値創造を試みる企業などにとっては、自らの取り組みを顧みる際の具体的な指針となり、検討が不足している点の把握などに有用であると思われます。もちろん、乖離評価例などはあくまでも参考例であり、網羅的に記載されているものではないことや、自社の状況を鑑みて、その採否の検討が求められる点などには注意が必要です。しかし今回のガイドラインは、継続的な検討と必要に応じた改訂を前提とした「Living Document」であり、企業などを含むマルチステークホルダーの関与の下、共同で作り上げていくものだと思われます。その発端となる今回のガイドラインの公表は、AIがもたらす固有のリスクを社会的に受容可能な水準に管理しつつ、AIの利活用から得られる便益を最大化するためにも大きな意義があると考えます。
また、先述のとおり、AIガバナンスは企業レベルでのアジャイル・ガバナンスのひとつの実践として捉えることができるでしょう。日本が目指す「サイバー空間(仮想空間)とフィジカル空間(現実空間)を高度に融合させたシステムにより、経済発展と社会的課題の解決を両立する、人間中心の社会(Society)」8という未来社会の実現には、適切なガバナンスの確保が不可欠です。そして、複雑で変化の速いサイバーフィジカルシステム(以下、「CPS」)にあっては、リスクの統制が困難であるのみならず、ガバナンスが目指すべきゴールそのものも変化していきます。そこでアジャイル・ガバナンスが求められることになりますが、CPSのキーテクノロジーのひとつとして注目されるAIを対象として、その実践のためのガイドラインが公表されたことは、Society5.0と適切なガバナンスの実現のための大きな一歩と言えるでしょう。
本コラムでは、「AI原則実践のためのガバナンス・ガイドラインver1.0」が公表された背景と概要を解説し、その意義を考察してきました。続編では、具体的にいくつかの行動目標と乖離評価例を取り上げ、自社のAIガバナンスを構築・向上させる際に、どのようにガイドラインを活用し得るのかを検討していきます。
1「AI原則実践のためのガバナンス・ガイドラインver1.0(概要)」経済産業省
https://www.meti.go.jp/shingikai/mono_info_service/ai_shakai_jisso/pdf/20210709_7.pdf
2「GOVERNANCE INNOVATION:Society5.0の実現に向けた法とアーキテクチャのリ・デザイン」経済産業省
https://www.meti.go.jp/press/2020/07/20200713001/20200713001.html
3「人間中心のAI社会原則」統合イノベーション戦略推進会議(2019年3月29日)
https://www8.cao.go.jp/cstp/aigensoku.pdf
4「AI原則実践のためのガバナンス・ガイドラインver1.0」経済産業省 P.3
https://www.meti.go.jp/shingikai/mono_info_service/ai_shakai_jisso/pdf/20210709_6.pdf
5「AI原則実践のためのガバナンス・ガイドラインver1.0」経済産業省 P.5,6
https://www.meti.go.jp/shingikai/mono_info_service/ai_shakai_jisso/pdf/20210709_6.pdf
6「GOVERNANCE INNOVATION Ver.2:アジャイル・ガバナンスのデザインと実装に向けて」報告書(案)経済産業省
https://www.meti.go.jp/press/2020/02/20210219003/20210219003-1.pdf
7「GOVERNANCE INNOVATION Ver.2:アジャイル・ガバナンスのデザインと実装に向けて」報告書(案)経済産業省 P.55
https://www.meti.go.jp/press/2020/02/20210219003/20210219003-1.pdf
8「Society5.0とは」内閣府
https://www8.cao.go.jp/cstp/society5_0/