AIガバナンスに関するコラム：「AI原則実践のためのガバナンス・ガイドラインver1.0」―解説編

概要

ガイドラインの狙いは、AIの社会実装の促進に必要となる「人間中心のAI社会原則」（以下、「AI原則」）の実践を支援することにあります。AI原則は、2019年3月に統合イノベーション戦略会議が決定、公表したもので、そこでは（1）人間中心の原則、（2）教育・リテラシーの原則、（3）プライバシー確保の原則、（4）セキュリティ確保の原則、（5）公正競争確保の原則、（6）公平性、説明責任及び透明性の原則、（7）イノベーションの原則が掲げられています³。

先述のとおり、ガイドラインに法的拘束力はありません。しかし、同じく法的拘束力のないAI原則が社会で受容、尊重されているように、AIの開発や運用などに関わる企業などには、ガイドラインを参照するとともに、AI原則の実践に関する多様なステークホルダーとの共通認識の形成および共通理解の促進のための対話を通じ、自主的な取り組みを推進することが期待されています。

ガイドラインには「AI事業者が実施すべき行動目標を提示するとともに、それぞれの行動目標に対応する仮想的な実践例やAIガバナンス・ゴールとの乖離を評価するための実務的な対応例（以下、「乖離評価例」）」⁴も示されており、本編は「行動目標」「実践例」「コラム」、別添は「行動目標一覧」「乖離評価例」「アジャイル・ガバナンスの実践」から構成されています。

続いて、それぞれの構成要素を詳しく見ていきます。

「AI事業者」

AI事業者は、「AIシステム開発者」「AIシステム運用者」および「データ事業者」の役割主体に区分され、本ガイドラインの対象とされています。ガイドラインでは、それぞれの役割主体を以下のように定義しています⁵。

• AIシステム開発者：自身で運用／他者に提供するためのAIシステムを開発する者（AIシステムの性能維持等のために再学習を行う者も含む。）。
• AIシステム運用者：自身で利用／他者に利用させるためにAIシステムを運用する者（一例として、AIシステムの開発を依頼せず、AIシステムを単に調達して運用する者を含む。）であって、AIシステムの運用や性能維持等に一定の責任を負う者。AIシステムの法的な権利者と必ず一致するわけではないが、そのような場合が多いと考えられる。
• データ事業者：AIシステムの学習等のために、不特定多数からの収集したデータ、特定の者から取得したデータ、事業者が自ら用意したデータのいずれか又はそれらを組み合わせたデータ、あるいはそれらに加工を施したデータを他者に提供する者。

なお、1つのAI事業者が必ずしも1つの役割主体に区分されるとは限らず、複数の役割主体に区分されることも想定されています。

また、企業内の実施主体は「経営層」と「運営層」の2つの層が念頭に置かれており、これらの層を明確に区分することが困難な小規模事業者などにおいては、特定の個人や集合が両方の責務を負っていると理解されています。それぞれ、ガバナンス層とマネジメント層と考えると分かりやすいかと思います。

• 経営層：株主や株主以外の様々なステークホルダーに対する適切な情報開示やステークホルダーとの協働や対話を確保するとともに、健全な事業活動倫理を尊重するためのマネジメントシステムの確立のために運営層に大きな方向性を示すことを責務とする者又はその集合
• 運営層：経営層が示した方向性にしたがって健全な事業活動倫理を尊重するためのマネジメントシステムを設計し、運用し、環境・リスクの分析、ゴールの設定、マネジメントシステムの評価を実施ないし支援する者又はその集合。

「行動目標」

行動目標とは、「一般的かつ客観的な目標であり、社会に対して一定の負のインパクトを与えうるAIシステムの開発・運用等に関わる全てのAI事業者が実施すべきものである」とされています。負のインパクトとしては、意図しない公平性の棄損、安全性の問題が例示されています。また、企業などにはガイドラインで示された行動目標を機械的に適用するのではなく、負のインパクトのようなAI特有のリスクを踏まえ、自社のAIシステムを取り巻く環境やバリューチェーン全体を考慮したうえで、各行動目標を理解、活用することが期待されています。

「仮想的な実践例」および「乖離評価例」

仮想的な実践例は、その名のとおり、行動目標に対して仮想的に考えられた実践の具体例です。また、乖離評価例は、必要に応じ設定されたAIガバナンス・ゴールからの乖離を評価するための項目例であり、この乖離評価例の観点は、個々のAIプロダクトやサービス開発のプロジェクトが置かれている状況、設計全般、データ、モデル・システム、運用・モニタリングから構成されています。

仮想的な実践例および乖離評価例はあくまでも参考例であり、網羅的に記載されているものではありません。またこれらの例では、各企業などが置かれている個別具体的な状況までは考慮されておらず、特に乖離評価例については、「状況によっては不十分なこともあれば過剰なこともあり得る」と注意が促されています。そのため、これらの採否は企業などが自社のAIプロダクトやサービスの目的、特性、開発や運用方法などを踏まえたうえで自ら行う必要があるのはもちろんのこと、採用に際しても必要に応じ、修正や取捨選択が必要となる点は注意すべきでしょう。

「アジャイル・ガバナンス」

最後はアジャイル・ガバナンスです。これは、2021年2月に経済産業省が公表し、パブリックコメントに付した「GOVERNANCE INNOVATION Ver.2：アジャイル・ガバナンスのデザインと実装に向けて」報告書（案）⁶（以下、「報告書（案）」）での議論を踏まえています。この議論においては、今後の社会におけるガバナンスの基本を「アジャイル・ガバナンス」としてその基本的な考え方を提示し、それに基づくコーポレートガバナンス、法規制、インフラストラクチャー、市場、社会規範といった、さまざまなガバナンスメカニズムの在り方が検討されており、AIガバナンスはこのアジャイル・ガバナンスのひとつの実践と位置付けることもできます。そのため、ガイドラインを読まれる際には、報告書と併せてこの報告書（案）を読むことが望まれます。

アジャイル・ガバナンスに関わる極めて重要かつ多岐にわたる議論を、単純化し過ぎだとの誹りを免れないかもしれませんが、本稿との関連のみを念頭に要約を試みると、基本的な考え方として、環境・リスク分析、ゴール設定、システムデザイン、運用、評価がアジャイル・ガバナンスの基本コンポーネントとされ、各サイクルをマルチステークホルダーで継続的かつ高速で回転させることが想定されています。そして、このガバナンスは社会のさまざまな層で重層的に実施されるものですが、企業はその中にあって中枢を担うものと位置付けられており、「『水平的』統治モデル（共同規制）の下で、ガバナンスの一翼を担う主体としての役割が期待され」⁷ています。報告書では、アジャイル・ガバナンスの議論で提示されたこの枠組みに沿って、マネジメント体制の整備とリスク管理のための行動目標を次のように整理しています。