デジタル化するビジネスにおいて考慮すべきプライバシーリスク管理（後編）

2020-08-26

本稿ではデジタル化する社会において存在するプライバシーに関するリスクと、プライバシーをテーマにした議論の動向、さらにはリスクを管理する上で有用なフレームワークを紹介します。後編では、AIネットワーク社会推進会議が公表した「AI利活用ガイドライン～AI利活用のためのプラクティカルリファレンス～」¹からプライバシーに関する原則および具体的方策を取り上げ、概観していきます。さらに、企業や組織がプライバシーリスク管理を実現する際に参考になると思われるフレームワークなどを紹介します。なお、各フレームワークなどの詳細については、本シリーズで法的観点と共に解説していきます。

「AI利活用ガイドライン」におけるプライバシーに関する原則

「AI利活用ガイドライン～AI利活用のためのプラクティカルリファレンス～」において、プライバシーの原則は「利用者及びデータ提供者は、AIシステム又はAIサービスの利活用において、他者又は自己のプライバシーが侵害されないよう配慮する」と定義されています。また、その前提として、日本においては個人情報保護法の遵守が必要であるとされています。その上で、主な論点が3つ提示され、次のように解説されています。

1. AIの利活用における最終利用者及び第三者のプライバシーの尊重

AIサービスプロバイダ及びビジネス利用者は、AIを利活用する際の社会的文脈や人々の合理的な期待を踏まえ、AIの利活用において最終利用者及び第三者のプライバシーを尊重する。
また、最終利用者及び第三者のプライバシーを侵害した場合に講ずるべき措置について、あらかじめ整理しておくことが期待される。
加えて、当該措置について、最終利用者及び第三者に対し、必要な情報提供を行うことが期待される。

2. パーソナルデータの収集・前処理・提供等におけるプライバシーの尊重

AIサービスプロバイダ、ビジネス利用者及びデータ提供者は、AIの学習等に用いられるパーソナルデータの収集・前処理・提供等において、また、それらを通じて生成された学習モデルの提供等において、最終利用者及び第三者のプライバシーを尊重する。

3. 自己等のプライバシー侵害への留意及びパーソナルデータ流出の防止

AIサービスプロバイダ、ビジネス利用者及びデータ提供者は、AIの判断により本人同意なくパーソナルデータが第三者に提供されることがないよう、同意が得られていないデータはシステム上第三者に提供できないこととするなど、適切な措置を講ずることが期待される。

（1）で言及されている「プライバシーを侵害した場合に講ずるべき措置」とは、どのような措置が想定されているのでしょうか。パーソナルデータを利用するさまざまなシーンでのプライバシーの尊重や流出の防止は当然のこととして、次の2つが例示されています²。

プライバシー侵害時に講ずるべき措置の例

最終利用者及び第三者のプライバシーを侵害する情報を誤って取得した場合における、当該情報の消去、AIのアルゴリズムの更新等
最終利用者及び第三者のプライバシーを侵害する情報を拡散した場合における、保存先への消去の依頼、AIのアルゴリズムの更新等

プライバシーを侵害された被害者の救済のためにも必要かつ重要な措置であることに異論はないと筆者は考えます。その一方、システム管理者などの立場からすると、当該情報の「消去」は実務上、とても大きな困難を伴うことも事実です。「消去」を当該情報の物理的な削除と想定すると、当該情報の消去によってシステム内でデータの不整合が発生し、最悪の場合、システムが停止する恐れがあるからです。また、バックアップデータなどを含めて当該情報を網羅的に洗い出し、「消去」するためには、相応の労力が必要になります。そのため、データ利活用を含むサービスや製品においては、データ主体の消去・訂正・開示請求に応じる場面を含めプライバシーに関わる情報を取り扱うあらゆる側面で適切な対応ができるよう、その設計段階から、プライバシー保護のために必要となる措置をあらかじめ考慮しておくプライバシー・バイ・デザインの考え方が、今後ますます重要になると考えられます。

プライバシーリスク管理のためのフレームワークなど

企業や組織がプライバシーリスクを適切に管理しながらデータを利活用するためには、具体的にどのような取り組みが求められるのでしょうか。多くの企業や組織では、従来の情報セキュリティや個人情報保護法などへのコンプライアンスを主管する部門が中心となり、情報システム部門といった関係部門と連携しながらプライバシーリスク管理を実施しているものと思われます。関係者間の利害や立場の違いを超えて、企業や組織として適切にプライバシーリスクを管理しデータの利活用を推進できるよう、参考になると思われるフレームワークなどを紹介して、本稿を締めくくります。なお、各フレームワークなどの詳細は、リンク先のインサイトをご参照ください。

■NISTプライバシーフレームワーク

NISTが2020年1月にVersion 1.0を公開したこのフレームワークは、プライバシー保護のために企業や組織が遵守すべきベースラインとして、次の3つを目的に策定されています。

製品やサービスなどの設計や開発において、プライバシー保護の合理的な説明責任を果たすこと
プライバシー保護活動の情報発信やコミュニケーションをしやすくすること
評価結果をもとに経営層、法務部門、IT部門などの間で、部門横断的なコラボレーションを実現できること

セキュリティ領域におけるデファクトスタンダードとなっている「NIST Cyber Security Framework」の姉妹版ということもあって、日本でも普及が想定されるフレームワークの1つです。

＜参照＞
「NISTプライバシーフレームワークを日本企業はどう活用するべきか‐部門横断的なコラボレーションの必要性」

■ISO/IEC 29100：2011（JIS X 9250：2017）プライバシーフレームワーク

この規格は情報通信技術（ICT）システムにおける個人識別可能情報（PII）の保護のためのフレームワークであり、企業や組織がICT環境におけるPIIに関連するプライバシー安全対策要件を定義するための一助となることを目的として，プライバシー安全対策要件の説明などを提供しています³。

また、2019年8月に発行されたISO/IEC27701：2019 Security techniques – Extension to ISO/IEC 27001 and ISO/IEC27002 for privacy information management – Requirements and guidelinesも本規格と整合して策定されていることから、既存のISMSに基づいてプライバシー情報マネジメントを確立したい企業や組織にとっては、本規格の理解が有用です。

プライバシーに関連する主な国際規格を図表2に示します。

■プライバシー・バイ・デザイン

製品やサービスの企画・設計段階から、プライバシーに関連する情報を取り扱うことが想定されるビジネスプロセス全般においてプライバシー保護の施策を事前的・予防的に組み込んでおこうというコンセプトで、次の7つの原則が示されています⁴。

このコンセプト自体は1990年代の半ばに提唱されたものですが、データの利活用に伴うプライバシー保護が企業や組織にとって喫緊の課題となりつつある今、あらためて注目されている考え方です。

プライバシー影響評価（Privacy Impact Assessment：PIA）

上述のプライバシー・バイ・デザインの考え方に基づき、製品やサービスの企画・設計段階でプライバシーへの影響を事前に分析・評価するリスク管理手法として、プライバシー影響評価が知られています。国際標準規格としては、ISO/IEC 29134：2017 Guidelines for privacy impact assessmentが2017年6月に発行されています。本規格は、プライバシー影響評価の実施プロセスとその報告書の構成と内容についてのガイドラインを提供しています。

企業や組織が製品やサービスの企画・設計段階でプライバシー影響評価を実施することで、プライバシーリスクを適切に管理することができるのはもちろんのこと、その実施や結果をステークホルダーに対して積極的に開示し、自らのプライバシー保護への取り組みに対する説明と対話を行うことで、ステークホルダーからの信頼を得るリスクコミュニケーションツールとして用いることも考えられます。

前編はこちら

¹AI利活用ガイドライン～AI利活用のためのプラクティカルリファレンス～ AIネットワーク社会推進会議令和元年8月9日［PDF 1,415KB］

²AI利活用原則の各論点に対する詳細 AIネットワーク社会推進会議令和元年8月9日［PDF 1,394KB］

³JIS X 9250：2017 情報技術―セキュリティ技術―プライバシーフレームワーク（プライバシー保護の枠組み及び原則）

Information technology -- Security techniques -- Privacy framework

⁴堀部政男、一般財団法人日本情報経済社会推進協会編（2012）プライバシー・バイ・デザインプライバシー情報を守るための世界的新潮流

デジタル化するビジネスにおいて考慮すべきプライバシーリスク管理（後編）ダウンロード

執筆者

大井哲也

TMI総合法律事務所／TMIプライバシー＆セキュリティコンサルティング株式会社パートナー弁護士

平岩久人

PwCあらた有限責任監査法人パートナー

森田成祐

PwCあらた有限責任監査法人ディレクター

積極的なデータ活用を見据えた『攻め』と『守り』のプライバシー ― TMI総合法律事務所／PwC

9 results

2020-11-05

「法の観点から見るプライバシー」デジタルトランスフォーメーションにおけるプライバシー・バイ・デザインの実装

DXとプライバシー保護を両立させる上で有用な「プライバシー・バイ・デザイン」の概念と、その実装方法を紹介します。

2020-10-14

「法の観点から見るプライバシー」医療ビッグデータの利活用の法的問題点 ― 匿名加工情報と学術研究の例外のユースケースを解説

実臨床から収集した膨大な医療情報である「医療ビッグデータ」の利活用にあたっては、個人情報保護と研究倫理に関するそれぞれのルールに留意する必要があります。「サービスベンダーによる医療情報の外部提供」と「大学病院との人工知能（AI）の共同研究」の2つの想定事例を取り上げて、データ利活用の観点から法的問題点を解説します。

2020-10-05

「法の観点から見るプライバシー」信用スコアリング事業の法的課題 ― 個人情報保護法、独占禁止法の交錯

個人を信用スコアで格付けするサービス「信用スコアリング事業」が、日本でも近年広がりつつあります。同時に、公正取引委員会が、デジタル・プラットフォーム事業者に対する競争法の執行を活発化する姿勢を見せています。信用スコアリング事業を展開するにあたって留意するべき、独占禁止法の観点からの法的課題を考察します。

2020-09-23

「法の観点から見るプライバシー」信用スコアリング事業を題材としたプロファイリングの法的課題 ― 個人情報保護、プライバシーの観点から

ビッグデータと人工知能（AI）を用いて個人の性向や属性などの推測を行う「プロファイリング」は、プライバシーの侵害につながる可能性があります。日本でも広がりつつある信用スコアリング事業を取り上げながら、日本における個人情報の取り扱いの法的課題について、個人情報保護法やプライバシーの観点から解説します。

AIおよびアナリティクス活用におけるプライバシーの論点

5 results

2020-11-06

「AIおよびアナリティクス活用におけるプライバシーの論点」ピープルアナリティクスで担保すべき透明性と公平性

人材マネジメントに「ピープルアナリティクス」を活用するケースが増えてきています。特に活用が期待される領域や活用事例、プライバシー上の懸念事項を紹介します。

2020-10-16

「AIおよびアナリティクス活用におけるプライバシーの論点」ユーザー行動履歴の活用における落とし穴

Society5.0を実現する上で、ユーザーのオンライン、オフラインの行動履歴に基づいてパーソナライズされた体験を提供することが鍵となります。この行動履歴を活用するにあたっての注意点を解説します。

2020-08-28

「AIおよびアナリティクス活用におけるプライバシーの論点」データマネタイズで実施すべき匿名化加工

企業におけるデジタルトランスフォーメーション（DX）の取り組みが加速するのに伴い、事業効率化・高度化に向けたデータ利活用が浸透してきています。本稿ではデータ利活用の新たな可能性としてのデータマネタイズ（データ外販）およびその課題に関して説明します。

2020-07-28

「AIおよびアナリティクス活用におけるプライバシーの論点」レコメンデーションで注意すべき「放っておいてもらえる権利」

ECサイトのレコメンデーションは、消費者の購買意欲を大いにかき立てるものになっています。レコメンデーションの進化とそれに伴う弊害、今こそ企業に求められるレコメンデーションの在り方を解説します。

デジタル化するビジネスにおいて考慮すべきプライバシーリスク管理（後編）