昨今、AI技術が詐欺師のツールとなり、多くのEC加盟店で「AIが破損した写真を偽造して返金をだまし取る」事件に遭遇している。ダブル11の後、このような紛争が集中的に勃発した。購入者は、無傷の果物や新品の衣類についたカビの斑点を利用してオフライン写真を作成し、製品の欠陥を理由に「返金のみ」を申請した。
かつて陶器店の店主がカップ本体の亀裂の写真を受け取ったところ、テストの結果「92％の確率でAIが生成したものである」ことが判明した。販売者がビデオ認証を求めたところ、購入者はお金を返金する必要はないと答えた。
店舗オーナーをさらに唖然とさせているのは、AIが生成した透かしを処理していないバイヤーもいることだ。さらに、AIを使って被害写真を偽造し「返金のみ」を騙し取る方法を教えてお金を請求する人もいます。
この点に関して、一部の弁護士は「この行為は詐欺の疑いがある」と警告している。消費者が事実を捏造して不当な利益を得る行為は、民法の信義則や消費者権利保護法の立法精神に違反し、典型的な民事詐欺に当たります。