{{item.videoDuration}}
{{item.title}}
{{item.text}}
{{item.videoDuration}}
{{item.title}}
{{item.text}}
米国商務省の国立標準技術研究所（NIST）は2023年1月、AI技術のリスク管理のためのガイダンスである「AIリスクマネジメントフレームワーク」（AI RMF）を発表しました。日本の組織にとって非常に有益なドキュメントであるAI RMFについて解説します。
はじめに
米国政府は、AI規制についてソフトローによるガバナンスやエンフォースメントで対応を進めています。つまり、EUのハードローによる厳格な法規制とは異なり、ガイドラインなどによる緩やかな規制への誘導という戦略をとっています。
こうした考え方の下、米国商務省の国立標準技術研究所（NIST）は2023年1月、人工知能（AI）技術のリスク管理のためのガイダンスである「AIリスクマネジメントフレームワーク」（以下、「AI RMF」）1を発表しました。AI RMFは以下の点において、日本の組織にとっても非常に有益なドキュメントであると言えます。
- 米国政府や企業とAIに関連するビジネスを行う際、AIリスク管理の考え方を統一できる
- NISTサイバーセキュリティフレームワーク（CSF）2と類似した概念に基づくため、既存のセキュリティ管理業務と整合性を合わせやすい
- 生成AIに限らず、一般的なAIのリスク管理手法として活用できる
AI RMFの概要
AI RMFは、AIに関連するリスクを効果的に管理するためにNISTによって開発されたものであり、民間企業や公共機関との協力によって成り立っています。フレームワーク作成のプロセスでは、草案に対するパブリックコメントやワークショップなどが行われ、約1年半の時間をかけて合意形成されました。
AI RMFは2部構成であり、前半では「AIに関わるリスクの考え方」や「信頼できるAIシステムの特徴」、後半では「AIシステムのリスクに対処するための実務」が説明されています。主な読者対象は、AIシステムの設計、開発、展開、評価、利用を行う者であり、AIのライフサイクル全体にわたってリスク管理の取り組みを推進するAI関係者（AIアクター）です。
図表1に示したAIライフサイクル活動は、OECDのAIシステム分類フレームワークを基にしており、内側の円は主要なディメンション、外側の円はAIライフサイクルの段階をそれぞれ表しています。理想的には、組織は「Application Context（アプリケーションコンテキスト）」から着手し、「Data and Input（データと入力）」「AI Model（AIモデル）」「Tasks and output（タスクとアウトプット）」の流れでリスク管理することが推奨されています。また、それぞれの段階では、プロダクトマネージャー、AI設計者、テスト評価（TEVV）担当、コンプライアンス担当など、組織の異なるAIアクターが関与する必要があるとしています。
AI RMFは、一般的なシステムリスクとは異なり、「AIによってもたらされるリスクには独特な点がある」と指摘しています。例えば、「教師データによって予期しない結果が出力される」「不具合が発生した場合に検知や対応が困難である」「社会や人間の行動への影響が大きい」といったことが挙げられています。これらのリスクに対して、NISTは「AI RMFを活用することで、AIリスクを管理するプロセスを強化でき、社会への影響を組織が認識できるといった効果が期待できる」としています。
信頼できるAIシステムの特徴
AI RMFでは、AIの信頼性を向上させるアプローチとして、AIに関する負の要素（リスク）を軽減することを推奨しており、7つのリスクで構成される「信頼できるAIシステムの特徴」（図表2）を整理しています。これらの状態が確保できていることで、はじめて「信頼できるAIシステム」であると言えます。
- 有効性／信頼性
システムに不具合がなく、意図したとおりに動作している状態 - 安全性
人間の生命、健康、財産、環境が危険にさらされていない状態 - セキュリティと回復力
不正アクセスや外部からの攻撃に耐えられる状態、予期せぬ事態から回復できる状態 - 説明可能かつ解釈可能
AIシステムの動作の根底にあるメカニズムを言語化でき、アウトプットが解釈できる状態 - プライバシー保護
個人情報やプライバシーが保護されている状態 - 公平性（有害なバイアス管理）
偏見や差別といった問題が起きず、平等性や公平性に配慮されている状態 - 説明責任と透明性
AIのライフサイクルに応じた適切なレベルの情報へのアクセスを提供できる状態
組織内での活用方法
NISTサイバーセキュリティフレームワーク（CSF）と同じように、AI RMFには「コア」という概念が存在します。AI RMFコアでは、取るべき対応策を「統治（Govern）」「マップ（Map）」「測定（Measure）」「管理（Manage）」の4つに分類しています（図表3、4）。
組織内でAI RMFを利用するシーンとして、自組織のAIリスク管理の成熟度をアセスメント（評価）する際のフレームワークとしての活用が考えられます。AI RMFコアには、それぞれカテゴリーとサブカテゴリーが明記されており、各要件を満たしているのか評価することが可能です。また、一次的なアセスメントだけではなく、AIシステムのライフサイクルの各段階を通じて、継続的にリスク管理を行う際にも活用が可能です。
例えば、Govern 1.1の要件については、「NIST AI RMF Playbook」3を参照することで、詳細な要求事項が分かります。図表5のとおり、Govern1.1では、AIに関する法規制を把握し、対応状況を文書化することが求められています。このようなサブカテゴリーは全部で72個あり（2023年5月1日時点）、それぞれの対応状況を把握することで、不足しているリスク管理項目を明確にすることが可能になります。
まとめ
NISTの「AIリスクマネジメントフレームワーク」（AI RMF）は、一般的なAIのリスク管理手法に関するフレームワークであり、生成AIに関しても組織の成熟度を把握する上で有益です。また、NISTサイバーセキュリティフレームワーク（CSF）と類似した概念に基づくため、既存のセキュリティ管理業務と整合性を合わせやすいことが特徴です。
特に米国政府や企業とAIに関連するビジネスを行う企業にとっては、重要なフレームワークと言えるため、AIリスク管理に活用することが推奨されます。
1 NIST, 2023, AI RISK MANAGEMENT FRAMEWORK, 2023/5/1閲覧,
https://www.nist.gov/itl/ai-risk-management-framework
2 NIST, 2018, Cybersecurity Framework Version 1.1, 2023/5/1閲覧,
https://www.nist.gov/cyberframework
3 NIST 2023, AI RMF Playbook, 2023/5/1閲覧,
https://airc.nist.gov/AI_RMF_Knowledge_Base/Playbook
{{filterContent.facetedTitle}}
{{contentList.dataService.numberHits}} {{contentList.dataService.numberHits == 1 ? 'result' : 'results'}}
{{contentList.loadingText}}
{{contentList.loadingText}}
{{filterContent.facetedTitle}}
{{contentList.dataService.numberHits}} {{contentList.dataService.numberHits == 1 ? 'result' : 'results'}}
{{contentList.loadingText}}
