{{item.videoDuration}}
{{item.title}}
{{item.text}}
{{item.videoDuration}}
{{item.title}}
{{item.text}}
生成AIツールによって広がるAIガバナンスの新たな境界線
2023-04-25
要約
- 生成AIモデルの広範な利用によって生じる特定のリスクや悪影響に対処する規制案を想定しましょう。
- 開発者やプラットフォーム所有者は、現在では広く受け入れられるようになっている「責任あるAI」およびAIガバナンスの原則を適用できます。
- 商用ユーザーは、生成AIを用いて作り出した製品に関連する知的所有権についてポリシーを定めるなどして、生成AIを倫理的に使用しなければなりません。
課題
OpenAIが開発した「ChatGPT」や「DALL-E」などの新たな生成AIツールによって、ユーザーが日常的にAIを気軽に使用できるようになるなど、「AI利用の民主化」が進んでいます。
とりわけ、対話型生成AIの「ChatGPT」は、2022年11月の公開直後の5日間だけでも、100万人以上がログインし、その関心の高さがうかがえます。これらの生成AIツールに「何ができるのか」「どのようにコードが書けるのか」「作文が書けるか」などといったことを熱心に検証しているユーザーも多いのではないでしょうか。また、芸術の創作、設計図の作成、パッケージデザインのスケッチ、メタバースにおける仮想世界やアバターの作成、製造誤差のトラブルシューティングなど、高度なアウトプットの生成や、より良い結果を引き出すためのプロンプトを学習しているユーザーもいます。
生成AIが有益な結果をもたらすユースケースはさまざまですが、同時に悪用や悪影響を及ぼす可能性もあります。多くのユーザーがこの新しいツールを繰り返し利用する中で、マルウェアやフィッシングメールの作成、プロパガンダの拡散などにも利用できることが分かってきました。また、これらのツールは、事実ではない回答を真実らしく出力する場合があること、偽情報（デマ）キャンペーンによって形成された見方を強化する場合があることも明らかになりました。
生成AIがますます普及・浸透していくにつれて、それに伴うリスクを軽減するのは誰の責任かという問いからは避けられなくなるでしょう。
規制者の対応
現在、世界69カ国で800以上ものAI政策の立案が進められていますが、生成AIモデルに関するリスクをどの程度カバーできるのか、結論が出ていません。例えば、バイデン政権が発表した『AI権利章典』の青写真（Blueprint for an AI Bill of Rights）は、消費者と直接接点があるAIのリスクを組織や開発者が管理する上では役立ちますが、生成AIツール固有の特徴には対応していません。一方の欧州連合（EU）は、人工知能法（EU AI Act）により、生成AI（汎用目的AIシステムに含める）を規制する、具体的には生成AIの訓練に用いるデータを規制する意向を示しています。
現在、施行・提案されているAI規制は、いくつかの具体的なユースケース（データプライバシー、差別、監視など）と具体的な意思決定（雇用、融資、サイト上での推薦、公共事業契約など）を規制対象としており、その大半は、AIが人間および社会に及ぼす潜在的な悪影響を踏まえて制定されています。
これらのツールの新たな用途をユーザーが次々と見つけ続ける限り、新たなリスクも生まれてくるでしょう。生成AIに関連するリスクは前例がなく、今も増加し続けています。例えば、以下のようなものが考えられます。
- ディープフェイク
- フィッシングメールおよびソーシャルエンジニアリング
- マルウェアおよびランサムウェアのコード
- 盗作
- 著作権侵害
- （人を）傷つける、または、有害なコンテンツ
- 偽情報およびプロパガンダ
具体的な規制がなくても、現在、世界最大の生成AI開発者であるOpenAIなど一部の企業は、積極的にAIガバナンスを実行しています。例えば、ChatGPTが指示に対して差別的な回答を生成したとの報告をユーザーからを受け取ったとき、開発者は偏見を助長する返答を行わないよう直ちに対処します。また、OpenAIは、有害なコンテンツにタグ付けを行い、出力から類似の結果をフィルタリングするため、専用のチームを設けています。
今後の対応
機会を活用するとともに、リスクを管理するためには、次の3つのステークホルダーグループによるアクションが必要になるでしょう。
開発者およびクリエーター
- AIガバナンスの原則・手法を適用しましょう。
- 最大手のプラットフォーム所有者、Microsoft、Google、OpenAIの各社は、責任あるAI戦略を公表しています。
- Googleは、検索品質評価ガイドライン（search rater guidelines）を最近改定し、同社の検索ランキングシステムが「有益で的確な情報」を提供しているかどうかを評価するパラメータを、これまでの「E-A-T」（expertise：専門性、 authority：権威性、trustworthiness：信頼性）に「E」（experience：経験）を追加し、「E-E-A-T」としました。
- OpenAI、Microsoft、Google、DeepMindなどの企業は全て、AIガバナンス手法の確立のために研究時間と労力を注いでいます。
- 社内で堅固なAIガバナンス手法を確立するとともに、それを補完するため、インシデントやリスク事象が発生したら、その都度、迅速に繰り返し対応することを重視しましょう。例えば、OpenAIは、有害な出力をブロックするよう社内で努力しているだけでなく、ChatGPTのクラウドソーシングでのユースケースにおいて、有害な可能性がある指示に対しては回答しないようにしています。こうした取り組みを参考にしましょう。
- 生成AIの使い方に関して、ユーザーに十分な教育を提供します。これらの新しい生成AIツールは有益ですが、決して完全ではありません。生成AIがどのように機能するのか、全ての情報を個人および商用のユーザーに提供すべきです。
個人ユーザー
- 生成AIに対し、疑いの目を常に持つべきです。現在は、生成AIが作成したコンテンツと人間が作成したコンテンツの両方が併存していますが、どのようなコンテンツであっても、これまで以上に慎重に受け入れるべきです。生成AIツールを使用した際には、生成された情報を検証するために、追加調査を行う必要があるかもしれません。生成AIツールによって出力されたコンテンツについては、出典をできるだけ加えましょう。
- 自身の使い方に応じて、完全性・信頼性を保つ方法を学びましょう。生成モデルの回答には、信頼性という概念は組み込まれていません。モデルはその真偽に関わらず、できるだけ指示に沿った回答を作り出そうとします。
商用ユーザー
- 潜在的なリスクがあることを理解した上で、生成AIツールを倫理的に使用しましょう。また、責任あるAIの枠組みに基づいて、潜在的な欠点・短所を理解しましょう。
- 生成AIを用いて作り出した製品に関連する、知的所有権についてのポリシーを定めましょう。モデルによっては、参照した著作物群に含まれているコンテンツを「複製」することがあるため、ライセンス化されているコードを新しいソリューションとして「生成」するといった状況が生じる場合があります。著作権保護は重要な法的義務です。AIが生成したコンテンツやシステムおよび、それらを構築するために用いられたデータの不確かさが、創作物の所有権や使用権に影響を及ぼす可能性もあります。
- 他のAIも同様ですが、サードパーティのベンダーが生成AIの出力結果を利用している場合、あなたの会社も知らないうちに生成AIの出力結果を使用している可能性があります。自社のサードパーティガバナンスの体系やその強化について検討し、AIのクリエイティブな利用法について、さらなるガイダンスを提供してください。
この記事は、目まぐるしく変化し、テクノロジーに影響を与える政策・規制動向に関するPwCのインサイトを取りまとめた『The Next Move』（2023年1月号）が初出です。
*本コラムはPwC USのサイトの「Generative AI tools push new boundaries for responsible AI」を翻訳したものです。
{{filterContent.facetedTitle}}
{{contentList.dataService.numberHits}} {{contentList.dataService.numberHits == 1 ? 'result' : 'results'}}
{{contentList.loadingText}}
{{contentList.loadingText}}
{{filterContent.facetedTitle}}
{{contentList.dataService.numberHits}} {{contentList.dataService.numberHits == 1 ? 'result' : 'results'}}
{{contentList.loadingText}}
