解説「我が国のAIガバナンスの在り方ver1.1」【前編】

概要

検討会がAIガバナンスの在り方を検討するにあたっては、2020年7月に経済産業省が公表した「GOVERNANCE INNOVATION：Society5.0の実現に向けた法とアーキテクチャのリ・デザイン」（以下、「ガバナンス・イノベーション」）を参考にしています。この中では、デジタル技術によって急激に変化する社会にあって、「イノベーションの促進」と「社会的価値の実現」を両立する新たなガバナンスモデルの必要性とその在り方が示されています⁵。そのため、報告書を読み解くにあたっては、併せてガバナンス・イノベーションを参照されることが望まれます。

報告書ではまず、AIガバナンスの設計に際してはリスクベース・アプローチが国際的にも広く共有されていること、その一方で具体的なリスク評価や分類は必ずしも共有されているとは言えないことが指摘されています。リスクベース・アプローチとは、AIが有するリスクの大きさに応じて規制の程度を対応させるという考え方です。また、リスクの評価や分類については、リスクの大きさに着目して区分する手法や、AIの用途に応じたリスク分類を試みる手法などが紹介されています。

その上で、ガバナンス・イノベーションで提示されたフレームワークを参考に、AIガバナンスの要素を次の4つに階層化しています。なお、各階層は相互に関連するものであり、AIガバナンスの設計には、国際的な議論との調和とともに階層間の協調が求められています。

1. 最終的に保護されるべき技術中立的なゴール

これは「人間中心のAI社会原則」などのAI原則を指しています。

2. ゴールを達成するための横断的で中間的なルール

1. 法的拘束力のないガイドライン等
   「解説アプローチ」として欧州AIハイレベル専門家グループによる「信頼できるAIのための倫理ガイドライン」、「融合アプローチ」としてシンガポールのモデルフレームワークをそれぞれ例示しています。
2. 法的拘束力のある横断的な規制
   2021年4月に欧州委員会が公表した、いわゆるAI規制案に言及しています。
3. 国際標準
   情報技術分野の標準化組織である「ISO/IEC JTC1」での議論の動向などを紹介しています。

3. 個別分野等にフォーカスしたルール

1. 特定の利用態様に対する規制
   遠隔生体認証と、AIの採用時利用への規制を取り上げています。
   
2. 特定の分野における規制
   自動運転やヘルスケアなどの分野における議論を例示しています。
3. 政府のAI利用に対する規制等
   英国での取り組みを中心に政府のAI利用に対する規制例を列挙しています。

4. モニタリング・エンフォースメント

本項目は、欧州で検討されているハイリスクAIに対する法的拘束力のある規制を課す考え方と、ガバナンス・イノベーションでの議論に基づく考え方を対比している点で特徴的です。

モニタリングに関しては、欧州では監視当局が事後的に監視できるよう十分な記録文書の確保を求める考え方が欧州委員会のAI白書で示されています。それに対して、ガバナンス・イノベーションにおける議論では、リアルタイムモニタリングを通じてゴールに則した対応を行っていることを企業などに説明させるとともに、ステークホルダーとの対話を通じて改善を促すアプローチを提唱しています。

また、エンフォースメントに関しては、ハイリスクと考えられるAIの利活用に規制を課す場合の法令順守の確保のための方法として、事前適合性評価が欧州委員会のAI白書で検討され、AI規則案にも含まれています。それに対して、ガバナンス・イノベーションでの議論では、事前適合性評価に対してある行為の結果、社会にもたらされた影響やリスクの程度を考慮して制裁を科せるような、企業などのインセンティブを考慮した環境整備を重視する考え方を提案しています。

後編はこちら