生成AIハルシネーションリスク管理支援サービス

サプライチェーンの一部に生成AIが登場するケースが増加しており、生成AIが誤ったアウトプットを出力するハルシネーションに対するリスクも顕在化しています。

PwC Japan有限責任監査法人では、生成AIによるハルシネーションリスクの低減を支援します。生成AIに大量のデータを処理させるケースにおいて、全てのアウトプットを人の目で精査することは難しいため、会計監査の方法論を応用することで、合理性の高いサンプリングやリパフォーマンス方針の策定を支援します。

生成AIハルシネーションリスク管理支援のアプローチ

生成AIハルシネーションリスク管理支援は以下のステップで実施します。リスクベースアプローチをもとにしたプロセスを繰り返すことにより、一時的な対応だけでなく、継続的にAIの信頼性を向上させるための管理態勢を構築します。

監査法人とAI説明責任の相性―リスクベースアプローチ

AIを信頼できるものとするためには、リスク管理プロセスの透明性を担保することや、コンプライアンスを遵守すること、最終アウトプットデータの信頼性を保つことなど、さまざまな要件の遵守が求められます。そして評価対象であるAIがモデルの性能向上や自己学習により継続的に変動するという要素も考慮しないといけません。

しかしながら、AIに関連する全てのデータ・出力を網羅的に検査・検証することは困難です。そこで、監査において一般的に活用されているリスクベースアプローチが鍵となります。「生成AIハルシネーションリスク管理支援のアプローチ」の図でもリスクに応じた対応を記載していますが、リスクベースアプローチは欧州AI規制法でも採用されており、近年その重要性があらためて注目されています。

また、PwC Japan有限責任監査法人は監査のみならず、各種規制への準拠にも対応しているため、業務プロセスおよびさまざまな要因を考慮したリスクベースアプローチと同時に、画一的な規制への準拠対応も得意としています。加えて、これらのリスク・規制対応において重要性の高い、第三者に客観的に説明するためのノウハウを有しています。

2024年7月に公開されたIPAの「AI利用時のセキュリティ脅威・リスク調査」では、「生成AIの利用、普及における課題」として「生成AIコンテンツのチェックにかかるコスト」が多く挙げられており、多くの企業が効率的かつ合理性の高い生成AIの検証に課題を持っていることがうかがえます。

なぜPwCが選ばれるのか―グローバルネットワークにおける複合的なサービス提供

PwCは強力なグローバルネットワークを有しており、AIトレンドの中心地である米国では特に強い存在感を示しています。また、複数国に拠点を持つグローバルクライアントの監査を行い、国境を越えた連携を実現している点もPwCが選ばれる理由の1つです。こうしたグローバルなネットワークと連携力は、複雑化するビジネス環境において大きな強みとなります。

加えて、PwC Japan有限責任監査法人のリスクアシュアランス部門は、IT監査とITアドバイザリーのメンバーを含めて構成されており、監査の方法論を応用した助言を得意とするプロフェッショナルが数多く在籍しています。また会計監査に加え、SOCレポートの発行（内部統制保証）、ISMAP（政府情報システムのためのセキュリティ評価制度）、個人情報保護などをはじめとするさまざまなアドバイザリーサービスを提供しています。

同部門以外にも、システム導入、デジタルトランスフォーメーション（DX）、戦略策定を行うコンサルティング部門、会計士や弁護士などの専門家集団と連携して業務を行っているため、今後AI対応を大規模展開する中での包括的な伴走が可能です。