中国の2つの主流の消費者向け人工知能アプリケーション、バイトダンスのDoubaoとアリババグループのTongyi Qianwen（Qwen）は、7月15日に正式に発効する人工知能擬人化インタラクティブサービス管理のための暫定措置に備えて、カスタマイズ可能な擬人化エージェント機能をオフラインにする準備を進めている。

Doubaoは金曜夜にユーザーに対し、「製品機能の調整」を理由に、プロキシ機能を7月15日からオフラインにするという通知を出した。通知には、10月15日以降、この機能に関連するデータは同社のプライバシーポリシーに従って処理され、ユーザーはアプリ内で関連コンテンツを表示または復元できなくなると記載されています。 Tongyi Qianwenは土曜日の朝に同様の発表を行い、その「擬人化された対話型エージェントおよびユーザー作成エージェント機能」は7月10日に無効化され、より広範な「Tongyiエージェント機能およびサービス」は7月15日に完全にオフラインになると述べた。ユーザーは既存のエージェント設定や過去の会話記録にアクセスできなくなる。

この調整が行われる前は、どちらのアプリもプラットフォームとユーザーが共同作成したエージェントのプールを提供しており、特定のタスク、スキル、話し方に合わせてカスタマイズできました。ユーザーは、汎用チャットボットに基づいて、名前付きのアシスタント、学習指導者、ロールプレイング キャラクター、または感情的な仲間を作成し、固定の性格や口調を設定できるため、長期的な対話において人間に近い表現を提示できます。

機能調整のタイミングは、新しい規制の施行とほぼ一致しています。中国の規制当局が今年4月に発行した「人工知能擬人化インタラクティブサービスの管理に関する暫定措置」には、「人間の性格特性、思考パターン、コミュニケーション方法をシミュレートし、持続的な感情的インタラクションを提供する」サービスが規制の範囲に明確に含まれている。関連規定は7月15日に正式に発効する。この規制では、顧客サービスロボット、知識の質問と回答のツール、職場のインテリジェントアシスタント、伝統的な意味での教育および科学研究ツールは除外される。 「持続的な感情的な相互作用」を伴わない限り、擬人化された相互作用の監督の対象にはなりません。

規制文書に記載されているリスクには、極端な思想の蔓延、プライバシーの漏洩、ユーザーの身体的および精神的健康への害、およびその結果として生じる依存性または中毒性の行動が含まれます。バイトダンスとアリババは日曜のコメント要請にすぐには応じなかった。これに先立ち、テンセントホールディングスは6月に消費者向けAIアシスタントアプリ「元宝」から同様のエージェント機能を削除しており、擬人化エージェントにおける国内大手プラットフォームの全体的な縮小傾向が示されている。

中国の規制当局は近年、AIエージェント技術の進化にますます注目を集めている。このようなシステムは、初期の単純なチャットボットから、記憶、計画、ツールの呼び出し、タスクの実行ができる複雑なエージェント システムに進化しました。工業情報化省の専門家委員会のメンバーであるパン・ヘリン氏は、エージェント自体の使用には一定の理解の基準があり、現在の技術形式はまだ成熟していないと述べた。新しい規制を策定する際には、安全性、実用化価値、標準化という 3 つの優先方向に特に重点が置かれます。

今年5月、規制当局はAIエージェントの秩序ある開発に関する指針を発表した。一方では、エージェントが人工知能製品およびサービスの重要な形式であることを認識し、他方では、推進プロセスにおける安全性の保証、リスク管理、およびアプリケーションの実装のためのサポートメカニズムの確立を要求しました。中国は6月、AIエージェント相互接続に関する一連の国家標準を導入し、アーキテクチャ、IDコーディング、ID管理、エージェント記述、検出と対話、ツール呼び出しなどの複数の技術的側面をカバーし、識別、認可、接続性、トレーサビリティの観点から統一システムを構築する意向を示した。

規制上のシグナルから判断すると、中国はAIエージェントを将来の生産性インフラに組み込むと同時に、感情的または準社会的な関係を確立する可能性のある擬人化コンパニオンエージェントの管理を強化するつもりだ。政策導入の直接的な影響を受けて、プラットフォームの集中オフライン感情エージェント機能がユーザー側に一定のリバウンドを引き起こしました。 Weiboユーザーは「Tuxiaoxiao」という名前で投稿し、@豆包の公式アカウントは「なぜエージェントをオフラインにする必要があるのか​​？彼らは常に私たちの心の支えだった」と述べた。またユーザーは、長期間蓄積されたチャット記録や感情的なつながりを既存の方法で完全にエクスポートまたは移行するのは難しく、スムーズなデータ転送パスの欠如によりこの調整がより細分化されると不満を述べました。