中国AIガバナンスの次の焦点：AIエージェントの「規範的応用」と企業対応

2 AIエージェント（智能体）の概念

「AIエージェント実施意見」では、AIエージェント（智能体）を、自律的な知覚、記憶、意思決定、対話、実行能力を備えた知能システムであり、AI製品・サービスの重要な形態と定義しています。一般にAIエージェントまたはインテリジェントエージェントに相当する概念と考えられます。

従来の生成AIが主にユーザーからの入力に対してテキスト、画像、音声、コードなどを生成することに重点を置いていたのに対し、AIエージェントはユーザーの目的に応じてタスクを分解し、必要な情報を取得したうえで外部ツールや業務システムを利用しながら複数ステップの処理を実行し得る点に特徴があります。

実務上、AIエージェントは単にコンテンツを「生成するAI」にとどまらず、目的達成のために一定の処理を「実行するAI」として捉えることができます。そのため、企業のガバナンスにおいては、出力内容の管理だけでなく、AIにどのような権限を与え、どの範囲まで実行を認めるのかという行動管理が重要です。

3 「AIエージェント実施意見」から読み取れる主な論点

前述の政策動向をふまえると、「AIエージェント実施意見」は、中国の「人工知能＋」政策を支える重要な要素としてAIエージェントの応用促進とリスク管理を整理する文書といえるでしょう。同文書は、AIエージェントを単なる技術トレンドとしてではなく、人工知能製品・サービスの重要な形態として捉えています。

同文書では、企業実務に関連する論点として、特に以下の点が重要と考えられます。

以上のように、「AIエージェント実施意見」はAIエージェントの利用を抑制するものではなく、活用促進とリスク管理を一体として進める方向性を示す政策です。企業にとっては、AIエージェントの利便性だけでなく、利用目的、対象業務、処理データ、付与する権限、関係者の責任分担をあらかじめ整理することが重要となります。

4 民間企業にも実務上の影響が及び得る

「AIエージェント実施意見」は、AIエージェントの開発、提供、利用全般を視野に入れた包括的な政策文書です。

したがって、中国国内でAIエージェントを提供する事業者はもちろん、中国拠点においてAIエージェントを業務利用する企業、中国のユーザーや顧客にAI機能を提供する日本企業も、実務上の影響を受ける可能性があります。

特に、以下のような企業は留意が必要です。

• 中国国内向けにAIエージェントサービスを提供する企業
• 生成AI・チャットボット・業務自動化ツールにエージェント機能を組み込む企業
• 中国拠点でAIエージェントを社内業務に利用する企業
• 中国の個人情報、顧客情報をAIで処理する企業
• 中国企業とAI関連サービスを共同開発・提供する企業
• 中国国内のデータを外部AIモデル、クラウド、APIに送信・連携する企業

中国では、サイバーセキュリティ法、データ安全法、個人情報保護法に加え、アルゴリズム推薦、ディープシンセシス、生成AIサービスに関する規制が整備されています。AIエージェントの導入にあたっては、「AIエージェント実施意見」だけでなく、これら既存規制との関係を整理することが重要です。

また、上記の政策動向は、AIエージェント対応を単なるコンプライアンス上の課題にとどめず、中国におけるAI実装・事業機会の観点からも捉える必要があることを示しています。特に、「人工知能＋製造」、「国家データインフラ」および「模数共振（AIモデルとデータを連携させ、産業応用を促進する考え方）」といった政策は、製造業、データ活用、業務自動化、産業向けAIサービスと密接に関係します。そのため、中国で事業を展開する日本企業は、規制適合性を確認するだけでなく、自社の中国事業においてAIエージェントをどの業務・サービスに活用できるかを検討することも重要です。

5 AIエージェント導入・提供時の実務対応ポイント

ポイント1：権限管理と実行範囲の明確化

AIエージェントは、外部ツールや社内システムにアクセスし、ユーザーに代わって操作を実行する場合があります。そのため、どのデータにアクセスできるのか、どの操作を自動実行できるのか、どの段階で人間の承認を必要とするのかを明確に定めることが求められます。

特に、メール送信、契約書作成、発注、決済、顧客対応、データベース更新など、企業活動に直接影響を与える操作については、最小権限の原則、人間による確認、操作ログの保存が不可欠です。

ポイント2：データ・個人情報保護

AIエージェントは、社内文書、顧客情報、従業員情報、営業秘密などを処理する可能性があります。入力データが外部モデルや第三者サービスに送信される場合、個人情報保護、データ安全、越境移転の観点から慎重な確認が必要です。

特に中国では、重要データや個人情報の越境移転に関する規制が存在するため、中国国内データをAIエージェントに処理させる場合には、データの所在、送信先、保存期間、再学習利用の有無を確認する必要があります。

ポイント3：コンテンツの安全管理

AIエージェントがユーザーに代わって情報を生成・発信する場合、違法・有害情報、虚偽情報、差別的表現などを生成・拡散するリスクがあります。

中国向けサービスでは、生成AI規制やコンテンツ管理に関する要求をふまえ、出力内容のフィルタリング、禁止事項の設定、ユーザー通報窓口、問題発生時の削除・停止措置を整備することが必要です。

ポイント4：サイバーセキュリティ対策

AIエージェント固有のリスクとして、プロンプトインジェクションやツール悪用があります。例えば、AIエージェントが読み込むウェブページ、メール、文書に悪意ある指示が含まれている場合、本来実行すべきでない操作を行ったり、機密情報を外部に送信したりする事態が想定されます。

従来型のサイバーセキュリティ対策に加え、AIエージェント特有の脅威シナリオを前提としたテスト、監視、ガードレール設計が求められます。

ポイント5：説明責任とトレーサビリティ

AIエージェントがどの入力に基づき、どのような判断を行い、どのツールを利用し、どの操作を実行したのかを記録できなければ、問題発生時の原因究明や責任分担が困難になります。

企業は、プロンプト、参照データ、出力結果、ツール実行履歴、承認履歴、エラー履歴を適切に保存し、監査可能な体制を整備することが望まれます。