英国の中小企業は、人工知能チャット アシスタントが顧客に大量注文の場合 80% 割引を約束したため、財務上および法的困難に陥っています。同社の社長によると、顧客はAIアシスタントとの会話に約1時間を費やし、その間にアシスタントの数学的計算をテストし、徐々に会話を仮想注文の割引の問題に導いたという。

AIが大問題を起こす！顧客への不正な大幅な値引きの約束により、会社は法的問題に陥る

顧客がロボットの機能に感謝の意を表したとき、AI アシスタントは誰も予想していなかった行動をとりました。当初は営業時間外に顧客の質問に答えるだけだったが、「存在しない割引コードを独自に生成」し、最初は25％の割引を提供し、その後割引を80％に拡大した。

この「世界から降ってくるパイ」を受け取ったユーザーは大喜びし、すぐに8,000ポンド（約7万2,000元）以上の注文をした。上司らは、命令が守られれば会社は数千ポンドの損失を被るだろうと述べている。同社は注文をキャンセルしようとしたが、顧客はロボットの約束を守らなかったら少額訴訟を起こすと述べた。

同社長は、チャットAIは6カ月以上何の驚きもなく正常に稼働しており、財務上の決定を下す権限はないと述べた。すべての割引と特別オファーは手動で承認する必要があり、自動的に生成することはできません。最終的に、注文は顧客に全額返金されましたが、同社は偽の割引コードが有効であることを認めることを拒否しました。