{{item.videoDuration}}
{{item.title}}
{{item.text}}
{{item.videoDuration}}
{{item.title}}
{{item.text}}
本稿では、FS-ISAC（Financial Services Information Sharing and Analysis Center：金融サービス情報共有分析センター）でCISOを務めるJohn Denning（ジョン・デニング）氏が、金融サービスにおけるAIの活用とリスク管理のアプローチについて解説します。
本稿は2024年8月20日～10月31日にオンデマンド配信で開催した「グローバル金融サイバーカンファレンス」のセッションの1つを要約したものです。
登壇者
FS-ISAC CISO
John Denning（ジョン・デニング）氏
グローバル金融システムの防衛線―FS-ISACの役割と使命とは
最初にFS-ISACについて紹介しましょう。
FS-ISACはグローバルな金融システムのサイバーセキュリティとレジリエンスを強化することを目的とした、会員主導型の非営利組織です。主なミッションは、金融機関の間でサイバー脅威に関する情報をリアルタイムに共有・分析し、金融機関とその顧客をサイバー攻撃から守ることです。
FS-ISACには世界中の銀行、証券会社、保険会社など、さまざまな金融機関が会員として参加しており、サイバー攻撃の予防、検知、対応能力の向上を支援しています。また、業界全体のベストプラクティスの策定や、規制当局との連携も行っており、金融セクター全体のサイバーセキュリティ強化に貢献しています。その中で私は、サイバー脅威インテリジェンスと、その成果物の管理を担当しています。
先頃、FS-ISACでは金融セクターにおけるAIのリスクとそれに伴う脅威について、広範囲にわたる調査を行いました。その調査結果は、FS-ISACのリスクワーキンググループによって6冊のホワイトペーパーにまとめられ、2024年2月に公開されました。それが「Financial Services and AI: Leveraging the Advantages, Managing the Risks」です。今回はこれらの調査結果を基に、金融サービス分野におけるAI活用のリスクと利点を考察していきます。
ルーチンワークの効率化だけじゃない―AIは金融セクターの守護神となるか
金融セクターは現在、AI技術の革新的活用に向けた重要な転換点に立っています。グローバル市場分析、銀行業務の効率化、取引の自動化、クレジットカードの不正検知など、AIはすでに幅広い領域で活用されています。
これは決して目新しい現象ではありません。AIは効率性と競争力の向上を求める金融機関のニーズに応じて、段階的に進展してきました。私たち金融機関はより迅速かつ正確に業務を遂行し、顧客サービスを向上させるためにAIを積極的に採用しています。
例えば、AIを用いたモデルの学習と適応により、従来の金融プロセスや手続きを大幅に最適化できました。これにより従業員はルーチンワークから解放され、より高度な分析や戦略立案、顧客対応といった、人間の知恵と経験が必要とされる業務に注力できるようになっています。
AIの活用で特筆すべきは、その適用範囲が従来の業務効率化からセキュリティ強化にまで拡大していることです。サイバー攻撃の検知や防御、リスク管理などの分野で、AIの重要性は急速に高まっています。例えば、金融セクターの異常検知システムでは不正取引の即時検出、複雑な詐欺スキームの発見、さらには内部からの脅威の早期察知などに応用されており、AIの実力が存分に発揮されています。
AIの優位性は膨大なデータを高速で処理し、そこから意味のあるパターンを見いだす能力にあります。適切に訓練されたAIモデルは、人間の目では見逃してしまうような微細な異常や、複雑に絡み合った不正パターンを検出することができます。これにより、従来の規則ベースのシステムでは捉えきれなかった高度で巧妙な金融犯罪に対しても、効果的に対処することが可能になりました。
AIモデルを狙う新たな攻撃手法―「悪意のあるデータ」を混入
一方で、脅威アクター（サイバー攻撃者）も、金融機関と同じようにAI技術を活用し、攻撃プロセスや手法の最適化を図っています。特に懸念されるのは、脅威アクターが金融機関である私たちが活用しているAIの能力を悪用しようとしている点です。現在、AIを駆使した攻撃手口はますます巧妙になっています。
最近の傾向として、AIを使った高度な攻撃が以前より簡単に実行できるようになってきました。金融機関がAIを使って業務効率を上げているように、攻撃者たちもAIを使って攻撃の効率と威力を高めています。彼らは独自のデータでAIを学習させ、攻撃能力を向上させています。その結果、攻撃手法はより複雑で見破りにくいものになってきています。
これまでの金融ビジネスとそのプロセスは、業界外の人々にとって理解が難しいものでした。例えば、複雑な取引システムや独自の会計手法、厳格なコンプライアンス手順など、業界特有の仕組みが数多く存在していました。この複雑さと専門性が、意図せずして一種の「防御層」として機能し、外部からの不正アクセスや悪用を困難にしていました。
しかし、AIの登場によって、この暗黙の防御層が急速に崩れつつあります。脅威アクターは金融部門が利用するデータモデルの基となるデータの出所やアクセス方法を把握しています。彼らにとっては、もはやランサムウェアやマルウェアを使用する必要すらありません。データモデルそのものを破壊するだけで目的を達成できるのです。
例えば、脅威アクターは私たちが気づかないうちに、LLM（Large Language Model：大規模言語モデル）に不正なデータを混入させることができます。また、ネットワークに不正侵入し、情報を盗取する能力も持っています。さらに、私たちのデータアルゴリズムを改変したり、データそのものを変更したりする高度な技術も身につけています。加えて、セキュリティ制御を巧みに回避し、データセットに悪意のあるデータを混入させることも可能になっています。
これらの能力により、攻撃者はAIモデルを自分たちに有利なように操作し、その出力結果を歪めることができます。不正なデータを混入したり、アルゴリズムを改変したりすれば、AIモデルの判断や予測を誤らせることが可能になります。その結果、金融システムの信頼性と完全性に重大な脅威をもたらす可能性があります。
もう1つ、新たな課題があります。それは、私たちが「AIの安全な使用方法を完全に把握できていない」ことです。この状況下ではリスク管理が極めて重要となります。全てのリスクを特定し、適切なアラートを設定することは困難ですが、AIの進化に合わせてリスク管理手法も継続的に進化させていく必要があります。同時に、AIはセキュリティ分野においても多くの有用な活用事例をもたらしており、これらの機会を最大限に活用することが重要です。
AI時代の新たなセキュリティ要件―AIベンダーとデータも精査が必要に
さらに、AIの能力は、セキュリティベンダーに対する新たな要件となります。これに伴い、そのベンダーのサービスを利用する組織にとっても、新たなプロセスの導入が必要となるでしょう。
AIの活用ではそのメリットを最大化しつつ、リスクを最小化するバランスの取れたアプローチが求められます。例えば防御チームは、積極的なイベント管理や早期脆弱性検知といった目的のために、新しい対応手順ガイド（プレイブック）を作成する必要が出てくるかもしれません。AIの能力が金融セクター全体でより広く展開されるにつれて、これらの対応策を再評価する必要に迫られるでしょう。
既に金融セクターのITシステムは、コンピューティング能力の向上速度を示すムーアの法則の限界を超えつつあります。そのため、我々金融機関はセキュリティプロセスへのAI応用に関する議論を、可能な限り早い段階で開始する必要があります。
前述したとおり、私たちは不正に操作されたAIモデルが意思決定に悪影響を及ぼし、金融機関の評判を傷つける可能性があることを認識しています。また、どの分野でデューデリジェンスが必要になるかも理解しています。例えば、AIベンダーが自社のモデルのためにデータをどこから取得し、どのように評価しているかといったことは詳細に調査し、把握する必要があります。これにより、データがポイズニング（悪意のある改ざん）をされていないか、あるいは不適切なバイアスがかかっていないかをより正確に判断できます。私たちには顧客を守る責任があり、同時に自社システム内のデータも保護しなければなりません。
このAIがもたらす新たな脅威は、従来とは異なる脅威ベクトルです。近い将来、規制当局者から研究者、ベンダーに至るまで、金融機関がAIに関連するリスクにどのように対処しているかに強い関心を持つようになるでしょう。このような状況を研究し、対策を講じることは、金融サービスセクター全体のセキュリティチームにとって非常に大きな機会であり、同時に重要な責務でもあります。
AIの活用事例が増加している現状を踏まえると、金融機関はAIの基本的な原理について管理体制を整える必要があります。また、これは今後なるべく迅速に着手し、実装を完了させなければなりません。AI技術の急速な進歩とそれに伴うリスクの増大を考慮すると、この時間枠でも決して余裕があるとは言えません。
私たちはサイバーセキュリティインシデント発生時に取るべき法的手続きや対応手順について理解しています。しかし、AIに関連する問題が発生した場合はどうすべきでしょうか。そのようなインシデントをメディアや顧客にどのように説明すればよいのでしょうか。これらの問いに対する答えを見いだすことの緊急性は、今後ますます高まっていくでしょう。
AIリスク評価の羅針盤となる「Generative AI Vendor Risk Assessment Guide」
このような状況を踏まえ、FS-ISACでは会員の皆様と協力して、AIの利用と管理に関する主要な原則について検討しました。全ての細部にわたる検討には至っていませんが、最も重要なレベルにおいて、AIに関するデータセキュリティの根幹とそれを支える要素について議論を重ねました。
議論の焦点は多岐にわたりました。AIモデルの出力結果に対する責任の所在、詐欺やプライバシー侵害などの問題発生時の対応、そしてAIツールの公平性と信頼性の確保などが主要なテーマとなりました。これらの検討を通じて、金融セクターにおけるAI活用の明確な基準策定の必要性が浮き彫りになりました。その際、責任ある姿勢、倫理的な配慮、そして安全な運用の確保が不可欠であるという認識で一致しています。
しかし、ここで新たな課題が浮上します。それは、「AIを提供するサプライヤーやベンダーに対し、いかにして安全かつ責任ある行動を求めるか」という点です。AIソリューションの導入にあたっては、多くの金融機関が外部の専業ベンダーに委託するでしょう。その際、専業ベンダーのリスクをどのように評価し、解釈すればよいのでしょうか。また、彼らが提供する製品のリスクについてはどうでしょうか。
このような問題意識から、私たちは各金融機関のリスク選好度（リスクを取ることによって得られる効用の度合い）にかかわらず活用できる、オンボーディング時に使用するデューデリジェンスのガイドライン「Generative AI Vendor Risk Assessment Guide」を作成しました。
このガイドラインには包括的なアンケートが含まれています。このアンケートを用いることで、新たに導入しようとしているAIソリューションのベンダーに関連するリスクを明確に示すレポートを作成できます。
金融セクターとして、私たちはAIリスク管理を組織のDNAに組み込む必要があります。そして、ベンダー管理は金融機関内のリスク管理における非常に重要な構成要素です。私たちにはベンダーコミュニティに対し、私たちが求めるデューデリジェンスのレベルに達するための準備を促す責任があるのです。
早期準備が成功のカギに―AIリスク管理の5本柱
では、金融機関は具体的に何から着手すべきでしょうか。以下に私たちが考える「最初に取り組むべき項目」を挙げます。
- 内部方針の策定
- 組織のリスク選好度の明確化
- 守秘義務に関する要素の特定
- 組織内の各部署の役割と責任の明確化
- データアクセス権限の決定方法の確立
- データフローのマッピングと図式化
- 情報セキュリティチームによるモニタリングと検知の方法の確立
- AIシステムの精度を評価する基準の決定
これらの具体的な内容は、各組織のリスク選好度によって異なりますが、個々の項目について「自社としてどこまで許容するのか」を決定し、早い段階で意思決定をすることが重要です。これによりインシデントが発生しても、危機的状況に陥らず混乱を回避できるようになるでしょう。現時点では、これらの課題について熟考する時間がまだ残されています。しかし、おそらく1年後には、AIを利用した攻撃に関するニュースが日常的に報道されるようになるはずです。
AIがもたらすリスクへの対応は避けられません。私たちの目標は、AIを効率的かつ効果的に活用することです。そのためには、今のうちに難しい課題に取り組み、準備をする必要があります。この準備には、自組織の人材育成、プロセスの最適化、そして包括的な脅威管理計画の策定が含まれます。これらを体系的に整理することが成功のカギとなります。私たちは具体的に以下の項目が早期整備の対象として、極めて重要だと考えています。
- 適切な文書化（ドキュメンテーション）
- ガバナンスモデルの構築
- 倫理基準の設定
- 審査すべきステークホルダーの特定
- 監査人や検査官による審査方法の確立
AIツールをより効率的に活用することで、組織のレジリエンスが向上し、より効果的かつ迅速に自社を防御することが可能になります。AIの能力は日進月歩で進化しますが、その恩恵を受けるのは攻撃アクター同様です。彼らはビジネスとしてサイバー攻撃を行い、利用可能な全てのAIツールを駆使してくるでしょう。したがって、私たちは敵対者よりも迅速に、より巧みにAIを適用し、継続的に改善していく必要があります。
以上で私の講演は終了です。ありがとうございました。
{{filterContent.facetedTitle}}
{{contentList.dataService.numberHits}} {{contentList.dataService.numberHits == 1 ? 'result' : 'results'}}
{{contentList.loadingText}}
{{contentList.loadingText}}
{{filterContent.facetedTitle}}
{{contentList.dataService.numberHits}} {{contentList.dataService.numberHits == 1 ? 'result' : 'results'}}
{{contentList.loadingText}}
