AI並びに人権、民主主義及び法の支配に関する欧州評議会枠組み条約

近時、日本を含む世界各国において、ESG/サステナビリティに関する議論が活発化する中、各国政府や関係諸機関において、ESG/サステナビリティに関連する法規制やソフト・ローの制定または制定の準備が急速に進められています。企業をはじめ様々なステークホルダーにおいてこのような法規制やソフト・ロー（さらにはソフト・ローに至らない議論の状況を含みます。）をタイムリーに把握し、理解しておくことは、サステナビリティ経営を実現するために必要不可欠であるといえます。当法人のESG/サステナビリティ関連法務ニュースレターでは、このようなサステナビリティ経営の実現に資するべく、ESG/サステナビリティに関連する最新の法務上のトピックスをタイムリーに取り上げ、その内容の要点を簡潔に説明して参ります。

今回は「AI並びに人権、民主主義及び法の支配に関する欧州評議会枠組み条約」についてご紹介します。

1. 概要

欧州評議会は、2024年5月17日、AI並びに人権、民主主義及び法の支配に関する欧州評議会枠組み条約^*1（以下「本条約」といいます。）を採択しました。本条約は、人工知能（AI）に関する人権保護など締約国の義務等を明記したAIを直接の対象とする初の国際条約となります^*2。

本条約は、AIに関する国際的なルール作りの今後の「枠組み」となり得る意義を有するものであり、本ニュースレターでは、その概要を紹介します。

2. 本条約制定の経緯

欧州評議会は、各種の機関及びAIに関するアドホック委員会（CAHAI）の活動を通じて、情報及びデジタル技術、特にアルゴリズム及びAIシステムの進歩の結果として、人類が直面する課題に対して、議論を進めてきました^*3。2022年5月、欧州評議会の閣僚委員会は、閣僚代理会合に対し、既存の法的枠組を踏まえ、適切な法的文書の起草を指示しました。これを受けて、2022年6月、閣僚代理会合は、CAHAIの活動を引き継ぐかたちで2022年4月に設置された、AIに関する委員会（CAI）に対して、①AIに関する一般原則、②イノベーション促進及び③非加盟国の参加を重視した上で、既存の法的枠組を踏まえた条約を起草するよう指示しました。CAIは、欧州評議会の46の加盟国に加えて、欧州連合及び11の欧州連合非加盟国（アルゼンチン、オーストラリア、カナダ、コスタリカ、バチカン（教皇庁）、イスラエル、日本、メキシコ、ペルー、アメリカ合衆国及びウルグアイ）等が参加する組織であり、欧州評議会のみならず、日本を含む多数の国が議論に参加したものです^*4。本条約は、このようなCAIの活動を通じて起草されたものです^*5。

3. 本条約の目的

本条約の目的は、AIシステムのライフサイクルにおける活動が、人権、民主主義及び法の支配と十分に整合することを確保することにあります（本条約^*61条1項）。

本条約は、人権、民主主義及び法の支配の保護及び促進に焦点を当てたものであり、AIシステムの経済的な側面を明示的に規制するものではありません。本条約は、全体として、AIシステムのライフサイクルにおける活動に関して、人権、民主主義及び法の支配の各領域において、締約国に適用される既存の国際的及び国内的な法的義務等に即したかたちで、共通の法的枠組みを提供することをねらいとするものです^*7。

4. 本条約の適用対象

(1) 適用される「AIシステム」の定義

本条約は、その適用対象とする「AIシステム」を、「明示的又は黙示的な目的のために、提供を受けたインプットから物理的又は仮想的な環境に影響を与え得るアウトプット（予測、コンテンツ、推奨又は決定など）を生成する法則を有する機械ベースのシステム」と定義しています（2条）。

このような「AIシステム」の定義は、2023年11月8日にOECDによって採択されたAIシステムの定義に基づいて規定されています^*8。かかる定義が採用された背景としては、OECD及びその専門家によって行われた定義の質が高いという理由だけでなく、AIシステムに関する国際的な協力を強化するとともに、関連する用語の調和を含めて世界レベルでのAIガバナンスの調和に向けた取組みを促進するという観点が挙げられています。また、このような統一された定義を用いることにより、締約国が、AIシステムに関連する事項について国内法制化を行う際においても、AIシステムに関する種々の側面を首尾一貫して規定することが可能になるという効果も期待されています^*9。

(2) 適用対象となるAIシステムのライフサイクルにおける活動

本条約は、(a)公的機関（その代理として活動する民間主体を含みます）によって行われるAIシステムのライフサイクルにおける活動を適用対象としています（3条1項（a））。

また、(b)上記(a)に含まれない範囲における民間主体によるAIシステムのライフサイクルにおける活動から生じるリスク及び影響についても、本条約の目的及び趣旨に沿った方法で対処をしなければならないとされています（3条1項（b））。なお、(b)の民間主体によるAIシステムの利用に関する義務の履行方法については、締約国は、条約の署名等の際に、①本条約の第二章から第六章までに規定する原則及び義務を民間の行為に適用する方法で履行するか、②3条1項(b)に規定する義務を履行するための他の適当な措置を採る方法により履行するかを選択することになります（3条1項（b））。

締約国は、自国の安全保障に関連するAIシステムのライフサイクルにおける活動については、本条約を適用することは求められません（3条2項）。また、人権、民主主義及び法の支配を妨げるおそれのある方法で行われる場合を除き、使用に供されていないAIシステムに関する研究等については、本条約は適用されません（3条3項）。さらに、国防に関する事項についても、本条約の対象とはされていません（3条4項）。

なお、本条約は、締約国に対して、必ずしも新たな法令の制定を義務付けるものではなく、締約国は、行政上その他の自主的な措置を含む他の適当な措置を通じて本条約上の義務を履行することができるものとされています^*10。

5. 本条約が定める一般的な義務

本条約の第二章は、AIシステムのライフサイクルに関して、締約国が実施しなければならない一般的な義務を定めています。その概要は以下のとおりです。

(1) 人権の保護

締約国は、その一般的な義務として、AIシステムのライフサイクルにおける活動が、人権を保護する義務と整合的であることを確保するための措置を採用し、又は維持することが求められます（4条）。

(2) 民主的プロセスの完全性と法の支配の尊重

締約国は、AIシステムが、権限の分立、司法の独立性の尊重及び司法へのアクセスの原則を含む、民主的な制度及びプロセスの完全性、独立性及び効率性を損なうために利用されないことを確保するための措置を採用し、又は維持しなければなりません（5条1項）。また、締約国は、AIシステムのライフサイクルにおける活動に関連して、自国の民主的プロセスを保護するための措置を採用し、又は維持することも求められます（5条2項）。

6. AIシステムのライフサイクルにおける活動に関する原則（一般的アプローチ）

本条約の第三章は、AIシステムのライフサイクルに関して締約国が実施すべき共通の原則を定めています（6条）。その概要は、以下のとおりです。

(1) 人間の尊厳及び個人の自律性

締約国は、AIシステムのライフサイクルに関連して、人間の尊厳及び個人の自律性を尊重するための措置を採用し、又は維持しなければなりません（7条）。

(2) 透明性及び監督

締約国は、AIシステムによって生成されたコンテンツの識別を含め、AIシステムのライフサイクルに関して、特定の状況とリスクに即した、適切な透明性と監督が実施されることを確保するための措置を採用し、又は維持しなければなりません（8条）。

(3) 説明責任及び責任

締約国は、AIシステムのライフサイクルにおける活動から生ずる人権、民主主義及び法の支配に対する負の影響について、説明責任及び責任を確保するための措置を採用し、又は維持しなければなりません（9条）。

(4) 平等及び差別の禁止の尊重

締約国は、AIシステムのライフサイクルにおける活動が、適用される国際法及び国内法の下で規定される、男女の平等を含む平等及び差別の禁止を尊重することを確保するための措置を採用し、又は維持しなければなりません（10条1項）。また、締約国は、自国の適用可能な国内及び国際的な人権に関する義務に従い、AIシステムのライフサイクルの範囲内の行為に関し、不平等を克服し、公正かつ衡平な結果を達成するためするための措置を採用し、維持しなければなりません（10条2項）。

(5) 個人データの保護

締約国は、AIシステムのライフサイクルにおける活動に関し、以下に掲げる事項を確保するための措置を採用し、又は維持しなければなりません。

(a) 個人のプライバシー及び個人データが、適用される国内外の法令、基準及び枠組みを通じたものを含めて、保護されること（11条a）

(b) 適用される国内法及び国際法上の義務に従って、個人に対して有効な保証及び保護の措置が講じられていること（11条b）

この規定は、個人データの保護が、デジタル社会におけるプライバシー及びその他の人権の保護に重要な役割を果たしていることを踏まえて、AIシステムのライフサイクルに関連して、個人データの保護に関する分野における国内外の法令、基準及び枠組みについての義務を規定するものです^*11。

(6) 信頼性

締約国は、必要に応じて、AIシステムの信頼性を促進するための措置を講じることが求められます。かかる措置には、AIシステムのライフサイクル全体を通じて、十分な質及び安全性を確保することが含まれ得ることとなります（12条）。この規定は、堅牢性、安全性、セキュリティ、正確性、パフォーマンス等のAIシステムの機能的な側面、並びにデータの質、正確性、完全性等の機能的な前提条件に関連して、AIシステムの信頼性を確保するための措置を確立することの重要性を強調するものです^*12。

(7) 安全なイノベーション

人権、民主主義、法の支配への負の影響を回避しながらイノベーションを促進する観点から、締約国は、必要に応じて、管轄当局の監督の下でAIシステムの開発、実験、試験のための管理された環境を確立することを可能にすることが求められます（13条）。

7. 救済に関する措置

締約国は、国際的な義務により求められ、自国の国内法制に整合する範囲内で、AIシステムのライフサイクルにおける活動から生ずる人権の侵害に対する利用可能で効果的な救済措置の利用を確保するための措置を採用し、又は維持することが求められます（14条）。

8. 監督

締約国は、本条約の義務の遵守を監視するための効果的な監督のメカニズムを確立することが求められます（26条）。

9. おわりに

本条約は2024年9月5日に署名が予定されており、各国の承認を経て発効します。日本も、本条約の起草を行ったCAIに参加していたことから、今後、締約国になることが想定されます。本条約は、欧州評議会の加盟国のみならず、多数の国を含む幅広い利害関係者が議論に参加した上で合意に達したものであり、今後のAIガバナンスに関するグローバル規模での対話を前進させるにあたっての枠組みとして機能し得るものであると考えられます。今後も、本条約を踏まえた各国における国内法制等の整備の進展等につき注視が必要です。

なお、EUにおいては、本条約とはそのスコープ等が異なるものの、AIシステム等の提供者等を対象としたArtificial Intelligent Act （以下「AI法」といいます。）が制定されています。AI法は、EU域内の企業のみならず、EU域内にてAIシステムや関連するサービスを提供している企業なども広く適用対象とするものとなっています。AI法に関する具体的な内容については、リスク＆ガバナンス法務ニュースレター（2024年7月）^*13をご参照ください。

*1本条約の本文については、＜https://rm.coe.int/1680afae3c＞を参照

*2 以上につき、欧州評議会ウェブサイト（https://www.coe.int/en/web/portal/-/council-of-europe-adopts-first-international-treaty-on-artificial-intelligence）参照

*3 Explanatory Report to the Council of Europe Framework Convention on Artificial Intelligence and Human Rights, Democracy and the Rule of Law （以下「Explanatory Report」といいます）(I- 1) (https://rm.coe.int/1680afae67) 参照

*4 前掲注(3)及び欧州評議会ウェブサイト（https://www.coe.int/en/web/portal/-/council-of-europe-adopts-first-international-treaty-on-artificial-intelligence）参照

*5 以上につき、前掲注(3)、前掲注(4)及び経済産業省資料（https://www.meti.go.jp/shingikai/mono_info_service/ai_shakai_jisso/pdf/2022_008_03_00.pdf）参照

*6 以下、条文を引用する場合、いずれも本条約の条文を指します。

*7 以上につき、Explanatory Report (I-5 )参照

*8 Explanatory Report (II- 23)及びOECEのウェブサイト（https://legalinstruments.oecd.org/en/instruments/OECD-LEGAL-0449）参照

*9 以上につき、Explanatory Report (II- 23)参照

*10 Explanatory Report (II - 29)参照

*11 Explanatory Report (III - 82)参照

*12 Explanatory Report (III – 85以下)参照

*13 https://www.pwc.com/jp/ja/knowledge/news/legal-news/legal-20240729-3.html