AIガバナンス用語集

■公理と設計思想＋α

公平／fairness

AIシステムにおいては設計思想の1つであり、「公正」「平等」「無差別」などともいわれます。
AIシステムの結果に影響を受ける人々を、その人種・性別・国籍・年齢・政治的信念・宗教などの多様なバックグラウンドを理由に不当に差別せず、全ての人々を公平に扱っている場合、「“実質的に”公平である」と言えます。

説明責任／accountability

AIシステムに対する社会からの期待であり、設計思想の1つです。
組織または個人が、AIシステムのライフサイクルを通じて、AIシステムの結果が得られる過程や意思決定のプロセスが適切に機能していることを、法律的および倫理的な観点から実証することを求める責任です。
実証方法としては、重要な意思決定に関する文書の公開、必要に応じた監査実施などが考えられます。

AI倫理／AI ethics

AI倫理は倫理学の研究分野の1つである応用倫理学の一例とみなされています。
AIシステムの企画・設計・開発・運用・展開によって、時間的なプレッシャーが発生している、または合理性の制限が生まれているなどの状況下において、個人または組織が何をする義務を有しているか（あるいは許容されているか）というモラルの総称です。

XAI（説明可能なAI）／explainable AI

AIシステムの設計思想の1つです。
AIシステムが高い説明可能性を有しており、AIシステムの結果に影響を受ける人々がAIシステムを理解し、適切に信頼し、効果的に管理できている場合、AIシステムは説明可能なAIであると言えます。

信頼できるAI／trustworthy AI

AIシステムの設計思想の1つです。
適用される法律や規制を確実に遵守し、倫理的な価値を尊重するとともに、その遵守を保証しており、技術的および社会的な観点から堅牢である場合、AIシステムは信頼できるAIであると言えます。
信頼できるAIは、AIシステムの信頼性だけでなく、ライフサイクルに関わる全てのプロセス、関係者の信頼性にも関わるものです。

AIガバナンス／AI governance

AI の利活用によって生じるリスクをステークホルダーにとって受容可能な水準で管理しつつ、そこからもたらされる正のインパクトを最大化することを目的とする、ステークホルダーによる技術的、組織的、及び社会的システムの設計及び運用。（経済産業省「我が国の AI ガバナンスの在り方」より）

プロファイリング／profiling

AIシステムの設計思想の1つです。
パーソナルデータとAIシステムを用いて、特定個人の趣味嗜好・能力・信頼性・知性・行動などを分析または予測することを指します。

自律型AI／autonomous AI

AIシステムの設計思想の1つです。
外部の影響を受けない行動またはタスク実行が可能な場合、自律型AIであると言えます。

人間中心のAI（HCAI）／Human-Centered AI

AIシステムの設計思想の1つです。
AIシステムの企画・設計・開発・運用・利用・監視の方法が、人間の価値や人権を中心にしている場合、人間中心のAIと言えます。
人間中心のAIは、自然環境や他の動物への配慮、将来の世代の繁栄に向けた持続可能なアプローチも含みます。

倫理的なAI／ethical AI

AIシステムの設計思想の1つです。
AIの開発・展開・利用において、倫理的な価値を尊重するとともに、その遵守を保証している場合、倫理的なAIであると言えます。

ヒューマン・イン・ザ・ループ（HITL）／Human-In-The-Loop

AIシステムの設計思想の1つです。
システムの意思決定サイクルに人間が介入する場合、ヒューマン・イン・ザ・ループであると言えます。
これには、特定の条件下でAIシステム利用しないという決定、システムによる決定を覆す判断なども含まれます。

ライフサイクル／lifecycle

AIライフサイクルには、「1．Strategy」（企業戦略、業界標準調査など）、 「2．Planning」（事業企画、ポートフォリオ管理など）、「3．Ecosystem」（体制構築、調達など）、「4．Development」（データ抽出、モデル開発など）、「5．Deployment」（モデル統合、展開など）、「6．Monitor & Report」（監視、運用など）の6つのフェーズが含まれます。これらのフェーズは、必ずしも連続的ではなく、反復的に行われることが多いです。

レッドチーム／red team

AIシステムに対して敵対的な攻撃を行うなどして、セキュリティ上の潜在的な脆弱性の検証を行うチームのことを指します。
AIシステムの体制とは独立して設置されます。

■特性の実現手段

SHAP／SHapley Additive exPlanations

説明可能性を確認する手段の1つです。
AIモデルから出力された予測結果に対して、シャープレイ値を用いて、各特徴量の重要度を割り当てる手法です。

LIME／Local Interpretable Model-agnostic Explainations

説明可能性を確認する手段の1つです。
AIモデルから出力された予測結果に対して、AIモデルを線形モデルに近似させ、各特徴量の重要度を割り当てる手法です。

CAM／Class Activation Map

説明可能性を確認する手段の1つです。
画像を入力とするAIモデルに対して、特徴量マップ（Feature Map）を用いて顕著性マップ（saliency map）を作成し、予想結果に対して重要度が高いピクセルを示す手法です。
当初は厳しい制約条件が存在しましたが、制約条件の緩和したGrad-CAM、Score-CAM、Group-CAM などが登場しています。

モデルカード／model card

大手グローバルIT企業が提唱した、透明性を確認する手段の1つです。
学習済みのAIモデルに付随する短いドキュメントで、モデルに関する情報（バイアスに関するさまざまな条件下でのベンチマーク評価結果、想定している使用方法、性能評価手順の詳細など）を提供します。

過学習／overfitting

バイアスを強めるため手段の1つで、「過剰適合」とも呼ばれます。
AIモデルが学習データに適合しすぎている状態を指し、新しいデータに対して、予測精度が著しく劣化することがあります。

信頼スコア／confidence score

信頼性を確認する手段の1つです。
信頼区間や出力が正しい確率を用いるなどして、予測の不確実性を定量化する手法です。
信頼スコアが低いことは、AIモデルが出力に自信がないことを意味します。

統計の均一性／stats/demo. parity

バイアスを評価する手段の1つです。
2つのグループから肯定的な結果が得られる可能性が同じであることを評価します。

等価オッズ／Equalized odds

バイアスを評価する手段の1つです。
2つのグループの真陽性と偽陽性の割合が同じであることを評価します。

機会（再現率）の平等／equal opportunity

バイアスを評価する手段の1つです。
2つのグループの真の陽性率は等しいことを評価します。

意識下の公平／fairness through awareness

バイアスを評価する手段の1つです。
ある特定のタスクに対して、類似する独立した2人の個人が、類似した結果を取得していることを評価します。

無意識下の公平／fairness through unawareness

バイアスを評価する手段の1つです。
ある特定のバイアスに関する情報が、明示的に利用されていない場合、AIシステムが公平であることを評価します。

本用語解説は2022年12月1日現在の法令等に基づいて作成されており、これ以降の改正等が反映されていない場合がありますのでご留意ください。また、本用語解説は概略的な内容を紹介する目的で作成されたもので、プロフェッショナルとしてのアドバイスは含まれていません。個別にプロフェッショナルからのアドバイスを受けることなく、本解説の情報を基に判断し行動されないようお願いいたします。