生成AIの経理財務業務での活用③ 生成AIの課題と対応策

• 経理・財務実務への生成AI活用は、部分的に業務を任せる業務補助型から始まり、業務のすべてのタスクを一任する業務代替型へ進化していきます。
• 生成AIを業務で活用するにあたっては、4つの代表的な課題(①担当者間の情報リテラシーのばらつき、②ハルシネーションおよび情報鮮度と精度、③プライバシーと秘匿性、④業務の安定性と継続性)についての対策を検討する必要があります。
• 業務に生成AIを導入すると既存プロセスに大きな変更が生じるため、事前の準備とチェンジマネジメント活動が重要になるでしょう。

実務上の代表的な課題とその克服方法

では、前述した4つの課題の乗り越え方について解説します。

①担当者間の情報リテラシーのばらつき

[課題の概要]
生成AIとの対話において、利用者の情報リテラシー（有効な問い合わせの仕方）の格差によって、取得できるアプトプットの量と質が異なってきます。さらに、担当者が自身の問い合わせ方法の不備を認識せず生成AI側に問題があると思い込んだ場合には、的外れなアウトプットを継続的に受け取ってしまいます。この課題の原因としては、担当者への教育やバックアップ体制が不十分であるケースが多いと考えられます。

[対策]
生成AIを理解するための研修を定期的に実施するなど、利用者のマインドセットを整えていくことが重要です。例えば、生成AIにはクセがあり、得意な質問や不得意な質問がある点、問い合わせの作法がある点などを継続的に教育していくことが挙げられます。また、実務で有効に働いた問い合わせ方法を定常的に形式知化していくこと、それらを踏まえて部内ルールを策定すること、問い合わせ方法の公開までを業務プロセスにあらかじめ含めておくことなどが対応策として考えられます。

②ハルシネーションおよび情報鮮度と精度

[課題の概要]
生成AIには、事実と異なる情報をもっともらしくアウトプットする(ハルシネーション)という現象があります。また、事実であっても情報の鮮度や精度が低いアウトプットを提供してしまうこともあります。これは、生成AIの学習断面が古かったり、必要のない情報まで取り込んでしまったり、そもそも学習に用いたデータ自体が間違っていたりすることなどが原因です。財務・経理業務では、情報開示や法的要件に関連する申告書の作成プロセスにおいて、この問題に対処する必要があります。

[対策]
生成AIのシステム環境に対して、定常的に最新のデータを投入する、学習データの品質をチェックする、データ参照先を提示する機能を実装することなどが考えられます。一方、それらに十分に対応できたとしても、生成AIが出力する情報の事実確認は求められるため、業務の目的を理解した人間によるレビューは不可欠です。従って、生成AIのアウトプットの取り扱い方針、検算・内容精査の方法や手順、精度の閾値などのガイドラインを整備することが重要です。

③プライバシーと秘匿性

[課題の概要]
生成AIが、秘匿性の高い情報を使用し、倫理的な観点を欠いたアウトプットを提供してしまうことです。例えば、生成AIが給与や経費といったセンシティブな情報と従業員・詳細情報を自動的に関連付けたり、会社の契約情報などを引き出してしまったりすることです。経理・財務領域は他の業務領域との接点が多く、影響範囲が広範囲に及ぶ可能性があるため注意が必要です。

[対策]
生成AIのシステム設計段階で、担当者や業務プロセスごとに、生成AIが参照できる情報の範囲と深さを制御する仕組みや、アウトプット時に倫理性に欠ける内容や秘匿性が高い内容を除外する仕組みを構築する必要があります。また、担当者が生成AIを業務とは関係のない目的で利用しないようにシステムを監視し、研修を通じて意識を高めることも重要です。

④業務の安定性と継続性

[課題の概要]
知名度が高く、他社評価の高い基盤モデルを使用しているのにも関わらず、なぜか自社業務では期待していた程のアウトプットが得られないということがあります。また、「業務補助型」から「業務代替型」への進化に、連結された複数技術のメンテナンスが追いつかなくなり、モデル精度が劣化してしまうと、業務の継続性に問題が生じてしまいます。安定性・継続性が求められる経理・財務領域では、十分な対策を講じる必要があります。

[対策]
自社の業務目的(処理内容、対応地域・言語など)にあった基盤モデルを選択することが重要です。またタスクのパフォーマンスを見ながら、定期的にモデル精度を改善していきましょう。なお、生成AIの保守には、他事業部門やシステム部門も含めた共通の運用プロセス定義が必要なため、全社的な方針の検討と推進が必要となります。また生成AI使用時に問題が発生した場合に備え、生成AIを使用しないプロセスに切り替えるコンティンジェンシープランも準備しておきましょう。

以上、生成AIの活用における4つの課題の乗り越え方をまとめると図表3となります。

まとめ

経理・財務業務は、法令・コンプライアンスの遵守が非常に重要です。そのため、企業が生成AIを導入する際には、ハードルが高く感じられることもあるかもしれません。しかし、生成AIは企業に多くの利益をもたらす可能性があります。特に、経営の高度化においては大きな効果が期待できます。経理・財務スキルを持つ人材が既存業務から解放され、より付加価値の高いインサイトの発掘に集中することができるのです。

私たちPwCは、クライアント企業の経理・財務要員のパフォーマンスを最大化し、活躍の場を広げるために、生成AIを含むデジタル技術を活用したソリューションを引き続き提供してまいります。

シリーズ：データドリブン経営はこちら