{{item.videoDuration}}
{{item.title}}
{{item.text}}
{{item.videoDuration}}
{{item.title}}
{{item.text}}
対話型生成AI活用ガイドライン策定支援
対話型のAIチャットボット（対話型生成AI）は、ユーザのインプットに基づいてオリジナルの詩やエッセイ、コードなどを生成することができます。技術的な知見がなくても、アカウントを登録することなどにより、誰でも簡単に使い始めることができるのが特徴です。ビジネスで効果的に活用できる可能性が高く、多くの企業がその活用法について検討している最中ではありますが、一方でしっかりした管理体制を構築しなければ、大きなリスクが伴います。
PwCコンサルティングは、以下に示す5つのステップでリスクコントロールへの対応をしっかり行いつつ、企業で効果的に対話型生成AIの導入を支援します。
1. 利用者に与える影響の分析
PwCコンサルティングが提供を開始した対話型生成AI導入支援サービスの最初のステップでは、利用者に与える影響を分析します。対話型生成AIを導入することで利用者にどのようなリスクがもたらされるかを検討し、そのリスクが例えばEUのAI規制法が定める分類のうち、どのレベルに該当するかを分析します。リスクに応じた対応策を検討したり、導入を遅らせたりすることによるビジネスへの悪影響を最小限にとどめることが可能です。
2. データとモデルのリスク分析
2つ目のステップでは、対話型生成AIを導入することにより被る可能性のあるリスクを、「プロンプト」「AIモデル」「アウトプット」の3つの観点から分析します。
例えば、データセキュリティサービスのCyberhavenによると、従業員の3.1%が機密性の高いビジネスデータを対話型生成AIのインプットしているという調査結果*を公表しており、入力した機密情報が漏洩するリスクが高まってきています。同社の報告では、対話型生成AIへのデータ入力に関する実際の問題ケースなども挙げられており、企業においてリスク管理の重要性は増しています。誰でも使える対話型生成AIの活用に際しては、このように故意ではなくても、大きなインパクトを及ぼす事故が生じる可能性があります。また、リスク対応策であるセーフガードを回避するための攻撃方法が活用される可能性もあります。不適切な利用シーンをイメージし、対話型生成AIを利用する上での制限事項及び注意事項を定めます。
また、企業が宣言している倫理ポリシーがあれば、対話型AIが参照している倫理ポリシーなどと比較し、矛盾が発生していないかを確認します。結果によっては、公表しているポリシーの改訂をする必要があるかもしれません。
アウトプットにも真実でない情報や非倫理的な内容、また著作権を侵害する内容が含まれている可能性があるなどのリスクがあるため、想定されるリスクに対し、内容の精査を義務化するなど、具体的な施策案を含めた生成物の扱いについて検討いたします。
3. アウトプット取り扱いルール策定
対話型生成AIはオリジナルのアウトプットを生成できますが、生成物を活用する際は、著作権の有無、倫理性、正確性を確認するなど、取り扱いに際してのルールを定める必要があります。生成物を確認項目の必要性によってカテゴリ分けし、偽りの内容や倫理的に問題のある内容を発信しないよう、監視の網を徹底的に張る必要があります。
4. プロンプト作成ルールの策定
対話型生成AIに有益なアウトプットを生成させるためには、対話型AIの特性を理解したプロンプトのデザインが必要です。ユースケースに対応するシナリオを設計し、期待するアウトプットおよび想定するプロンプトを整理したうえで、期待するアウトプットと出力したくないアウトプットの双方を生み出すプロンプトの再現性を確認します。そして、再現性を有するプロンプトの構造を分析し、プロンプト作成時のルールを策定します。
5. 活用ガイドラインの展開
上記のステップで策定した内容に基づいて対話型生成AI活用ガイドラインを策定し、社内の利用者に展開します。展開後は、利用者からのフィードバックを反映したり、技術革新をはじめとする外部環境の急速な変化を取り入れたりするため、定期的に見直すことが必要です。
政府から明確なガイドが出ていないことに加え、インシデント発生時のインパクトの大きさを想像しにくいことから、リスク対策を検討しにくく、対話型生成AIの活用になかなか踏み切れない企業も多くあると考えられます。しかし、活用とリスク対策を並行して進めることで、対話型生成系AIの活用による大きな成果を手に入れることは十分可能です。また、リスク対策への躊躇から、対話型生成AI活用への対応が遅れてしまう可能性もあります。
PwCはデジタルガバナンス領域に注力する中で蓄積した知見や、AI活用の経験に基づき、対話型生成AIの特性を生かしながら早期の導入を支援します。お気軽にお問い合わせください。
*Report by Cyberhaven (updated in April, 2023)
https://www.cyberhaven.com/blog/4-2-of-workers-have-pasted-company-data-into-chatgpt/
{{filterContent.facetedTitle}}
{{contentList.dataService.numberHits}} {{contentList.dataService.numberHits == 1 ? 'result' : 'results'}}
{{contentList.loadingText}}
{{contentList.loadingText}}
