最近、上海に住む女性が奇妙な体験を共有しました。夜遅くに眠っている間に、有名なライフ サービス プラットフォームのアカウント上の彼女の名前が、他の人の投稿の下に「Wi-Fi はありますか?」という簡単な文とともに自動的にコメントを残しました。関係者は後に、当該投稿を一度も見たことがなく、このコメントについて何の印象も持たなかったと回想している。投稿時間中にすでに居眠りしており、アカウントを操作する可能性はなかった。彼はこれまで、同様の販売業者の関連コンテンツを閲覧しただけでした。
この異常事態に対応して、プラットフォームのカスタマーサービスは、アカウントが全プロセスを通じて私の携帯電話でのみログインしていることを確認し、アカウント盗難のリスクは排除されました。理由は、ユーザーがプラットフォームの「コメントしたいと推測する」自動コメント機能に誤って触れた疑いがあるとされている。
この説明は関係者にとって受け入れがたいものだった。「そのアカウントは私が言いたくないことを言ったり、私に代わってコメントしたくなかった。ブロガーが返信しなかったら、私は決して発見できなかったでしょう。」
事件勃発後、多くのネチズンは、AIが舞台裏で、あるいは秘密裏に動作していると指摘し、また一般の人々の懸念を露呈させた。AI技術が完全に普及した今、プラットフォームは技術的手段を使ってユーザーアカウントを制御し、自動コメント、いいね、フォローなどの操作を非公開でトリガーするのだろうか？
偶然にも、他の多くのネチズンは、一部のソーシャル プラットフォームが、何のリマインダーも通知もなしに、密かに個人アカウントを使用して、見知らぬアカウントを非公開でフォローしているようだと報告しました。
このような隠蔽工作が事実であり、今後も増殖し続ければ、サイバー空間がAIロボットの遊び場になる可能性があることは注目に値する。このようなプラットフォームレベルのバックグラウンド操作で権限の抜け穴が発生すると、ユーザーアカウント情報や消費記録などの重要な個人データが漏洩の危険にさらされ、大きなセキュリティリスクが生じます。