Responsible AI（責任あるAI）の構築に向けて：AIガバナンスの取り組みが進む背景

世界的に増加するAIインシデント

産業界におけるAIの活用は大きく進展しており、消費拡大と生産性向上の2つの側面でグローバル経済に大きく貢献する見込みとなっています。2030年までのAIの世界的なGDPへの影響は、15.7兆ドルになると予想されており、その内訳は消費拡大によるものが約60%、 生産性向上によるものが約40%程となる見込みです¹。特に米国・中国におけるAI活用によるGDPへのインパクトが大きく、日本においても、2030年までに実質GDPの約18.2%(132兆円、2016年比)の押し上げ効果が期待されています²。

一方、AIの社会実装が進む中で、AIリスクを起因とするインシデント事例が増加しています。近年、発生しているAIインシデントは、大きく6つに分類することができ、（1）人間中心（倫理）に関するリスク、（2）プライバシーに関するリスク、（3）レピュテーションリスク、（4）セキュリティリスク、（5）公平性のリスク、（6）説明責任／透明性に関するリスクがあります。これらのリスクがインシデントに発展した場合、企業のレピュテーションを低下させ、最悪の場合、サービス停止に追い込まれる可能性もあります。そのため、これからのデータサイエンティストは分析スキルだけではなく、倫理、透明性、説明性などのAIガバナンスの知見を身に着けることが必要です。特にジェンダーや人種については、実世界にこれまで存在していたバイアスがAIによって強化されないよう、細心の注意を払う必要があります。

例えば米国では、警察が容疑者特定のために利用している顔認識AIにおいて、特定の人種・性別に対して誤認率が高いことが発覚し、物議を醸しました。このインシデントは、①利用許諾が明確に取れていない学習データを利用したこと（プライバシーに関するリスク）、②学習データの偏り（黒人女性の学習データがそれ以外の人種よりも少ないなど）によりAIの出力にバイアスが生じたことでユーザーまたは第三者に不利益が発生したこと（人間中心（倫理）に関するリスク、公平性のリスク）、③インシデント発生後も差別疑惑に対して十分に説明を行わなかったこと（レピュテーションリスク、説明責任／透明性に関するリスク）が問題となっており、それぞれのリスクへの対応が不十分であったと言えます。またその他にもECサービスにおいて、不正にレビュー操作された書籍を推薦してしまうインシデントが発生しました。この事例は、不正なレビュー等により信憑性が低いまたは誤った情報が掲載されてしまうことによるサービス低下（レピュテーションリスク）、また信頼性が低い商品・サービスをレコメンドしてしまうことによるユーザーへの不利益発生（セキュリティリスク）が問題となっています。

本記事では、上記のリスクに対応するAIガバナンスの取り組みを説明するため、国際社会、米国、EUのAIリスクコントロールに関する規制の枠組み、また日本におけるAIガバナンスの検討・議論状況を紹介します。そして最後に企業が対処すべきリスクについて、6つのリスクのうち代表的な「公平性の確保」「プライバシーの確保」について事例をもとに説明します。

国内のAIリスクコントロールに向けたルール策定状況

日本でのAIガバナンスの検討は、2019年3月に内閣府が公表した「人間中心のAI社会原則」を基に、企業のイノベーションを阻害しないソフトローを中心に、中間的ルールの検討・策定が進んでいます。今後の課題としては、非拘束的なガイドラインを遵守するようなインセンティブの設計、政府へのAI利用に対するガイダンスの導入、他国のガバナンスとの調和、政策と標準の連携が指摘されていますが、これらの課題についても今後より具体的に議論・検討が進んでいくと考えられます。

「人間中心のAI社会原則」では、AI の適切で積極的な社会実装を推進するため、社会（特に、国などの立法・行政機関）が留意すべき7つの社会的枠組みに関する原則が定義されています。7つの原則は(1)人間中心の原則、(2)教育・リテラシーの原則、(3)プライバシー確保の原則、(4)セキュリティ確保の原則、(5)公正競争確保の原則、(6)公平性、説明責任および透明性の原則、(7)イノベーションの原則から構成されており、原則をもとに中間的ルールの整備が進んでいます。

中間的ルールについて、2021年7月、経済産業省は「我が国の AI ガバナンスの在り方 ver. 1.1」を公表しました。この報告書では、これまでの国内外の動向と先行研究を踏まえて、望ましいAIガバナンスとして4つの特徴が挙げられています。1つ目が「法的拘束力のない企業ガバナンス・ガイドライン」です。法的拘束力があるルールは企業のAI利活用を阻害する可能性があるため、リスクへの柔軟な対応を可能にする一定のガイダンスを提供することが重要となります。2つ目は、国際標準化への提案です。ISO/IEC JTC1 SC42にてAIの国際標準化が議論されていますが、本報告書ではISO/IEC JTC1 SC42国内委員会が日本政府と連携しながら、国際的な取り組みと調和する事の重要性について言及しています。3つ目は法的拘束力のある横断的な規制です。現段階では義務規定は特に定められていませんが、今後横断的な義務規定が議論される場合でも、リスクだけではなく潜在的な利益も加味したリスク評価を実施する必要があることが指摘されています。4つ目が個別分野等にフォーカスした規制です。規制を検討する際、情報技術の観点からではなく、業法を所管する組織が規制に関わる方が望ましい旨が言及されています。例えば、自動車分野においては自動運転に関する安全基準の策定など、これまでの規制に対する考え方を踏襲し、個別具体的に検討を進める必要があります。

PwCのAIガバナンス

国内外でAIの利活用が進む中、国際機関、各国政府におけるAIガバナンスの規制が制定され、日本においても内閣府が「人間中心のAI社会原則」を制定し、経済産業省が中間的ルールとなるガイドラインを制定しています。企業においても、AI活用の進むIT企業や規制が厳しい金融機関を中心にAIガバナンスの取り組みが本格化しています。

このような背景を踏まえ、PwCでは企業の収益改善・コスト削減等に貢献するAI活用推進だけではなく、「Responsible AI（責任あるAI）」の実現に向けた取り組みも同時に支援しています（図2）。

Responsible AIの導入支援では、AIのリスクコントロールの実現と、AIの投資効果の最大化を目的として、AIリスク診断、AIガイドライン・ポリシー構築、AIガバナンス態勢の構築、対策ツール導入、MLOps、人材育成等の支援を実施しています。

本記事で述べた通り、AIの社会実装が進む中で、これまでのルールではとらえきれない新たな課題が表出し、AI活用の専門家、情報技術、法学、倫理学、哲学等を巻き込んだ学際的な検討が国内外で進んでいます。この複合的な課題に対して、私たちがいかに社会や企業に貢献できるのか思慮することは非常に重要であると考えています。PwCは、「Responsible AI（責任あるAI）」の構築を通じた企業の競争優位性の確立、またAIガバナンスの高度化への支援を実施し、デジタル社会における信頼の構築に寄与してまいります。