ある男性がAIに母親の埋葬日を選ぶように依頼した。葬儀後、彼の親戚が交通事故で重傷を負い、訴訟を起こすことにした。

要約:

9 月 15 日、浙江省嘉興ニュースメディアセンターのコラム「暁信物語」によると、今年 4 月 17 日に石さんの母親が亡くなりました。彼の家族は彼女をいつ埋葬するか話し合っていた。彼は人工知能「Doubao」というソフトウェアのことを思い出し、そのソフトウェアが彼に4月19日を勧めた。

すべての準備が整った後、石さんはもう一度「豆包」に尋ねて、19日が適切な日ではないことを確認しましたが、変更するのは非常に面倒です。このため石氏は激怒し、「豆宝」を作ったソフトウェア会社を訴えた。

報道によると、施氏の出身地は江蘇省朔陽市で、現在は嘉山市に住んでいるという。今年4月17日、施さんの母親が急病で亡くなった。石さんの家族には5人の兄弟姉妹がいます。家族は母親の葬儀について一緒に話し合った。最優先事項は埋葬日を決めることでした。

さん。 Shi氏は記者団に対し、「私は豆宝をもっと信頼しています。私は常に豆宝に依存しており、豆宝はすべてを知っていると考えています。そして私は豆宝にいつ埋葬されるのか尋ねました。豆宝は4月19日と言いました。それは理にかなっていると思うので、私はそれを信じます。」

ソフトウェアの Q&A 記録によると、当時施氏が質問した後、「豆宝」は最も信頼できる推奨日は 4 月 19 日であると答えました。

しばらくして、石さんは再び尋ねました、「埋葬に適した時間は何時ですか?」 「豆宝」は7時から9時までと答えましたが、今回の答えは前回とは少し異なりました。 「豆宝」は回答の中で、4月19日は適切な日ではないと述べた。

さん。司は一瞬混乱した。何度か尋ねたが、「豆宝」が出した答えは、19日は不適切だというものだった。この時点で、親戚や友人はすでに日付を変更するには遅すぎると伝えていました。結局、施さんは母親の葬儀をしなければならなかった。

葬儀が終わってから間もなく、自宅の親戚が交通事故に遭い、重傷を負いました。彼らは施氏の取り決めについて不満を述べた。

さん。 Shiさんは「Doubao」ソフトの会社に苦情を申し立てたが返答がなかったため、相手方を訴えることにした。 「Doubao」は石氏の告訴状作成にも協力し、訴訟の可能性を示唆し、起訴の手順を示した。

「Doubao」ソフトウェアのユーザー契約には、「Doubao」ソフトウェアおよびサービスによって生成されるコンテンツは参照のみを目的としており、専門的なアドバイスを意図したものではないことが示されています。重大な影響を伴う状況については、関連する専門家に相談することをお勧めします。行動または不作為の根拠として使用すべきではありません。出力内容に基づく判断やそれに基づくその後の関連操作の結果と責任は利用者が負うものとします。

記者は、嘉善県人民法院がこの事件に関する審問を開始したことを知りました。

弁護士は、シー氏が訴追を通じて自分の権利を守るのは難しいと考えている。石氏が権利保護を求めて訴訟を起こしたい場合は、AIソフトウェアを提供したサービスプロバイダーが不法行為を行ったことを証明する必要がある。まず相手に過失があるはずです。また、相手方の過失と施さんが実際に受けた損害との間には因果関係がなければなりません。これを証明するのは非常に困難です。 AIが間違った答えを提供するだけであれば、これでは明らかに不十分です。

「AI が人を騙す」というニュースがよく見られます。 6月18日、長沙市の52歳の張さんは自宅で突然めまいを感じた。彼は習慣的に携帯電話の電源を入れ、AI を使って関連する症状や治療法を検索していました。 3日経っても症状は改善せず、むしろ悪化した。家族はすぐに患者を医師の診察を受けさせ、状況は好転した。医師らは、AI診療は主に患者が入力した情報の分析に依存していると警告している。文章の説明だけで症状の重症度を判断することは難しく、専門の医師による対面診察に代わることはできません。

偶然ではありません。 6月5日、南京市の市民が地域で採れたキノコを識別するためにお手玉を使って写真を撮り、危うく食中毒を引き起こしそうになった。さらに、寧波出身の57歳のマスター・ヤンさんは、週末に登山中にAIによって深山に「誘導」され、道に迷い閉じ込められてしまいました。男性は疲れ果てており、救助を求めたところ消防士に救出された。大学受験生はAIを利用してボランティアの記入を行ったが、捏造された専門規定や前年の得点ランキングによってバイアスがかかっていた。農家はAIにどのような農薬を使用すればよいかを尋ね、数百エーカーのゴマ畑が一夜にして枯れました...これらの事件は表面的にはナンセンスに満ちていますが、その背後にはAIをどのように正しく見て使用するべきかという深刻な問題があります。

以前、Douyin Group の担当者は、AI はまだ開発段階にあり、Doubao も個人の安全などの大きな問題を抱えながら認識精度を継続的に向上させていると答えました。 AI の回答を参考として使用し、害を及ぼさないように複数の当事者間で議論を求めることをお勧めします。

The Paper はかつて次のようにコメントしました: AI の力は、断片化された大量のネットワーク情報を非常に短時間で検索し、それをつなぎ合わせて「そのようなもの」という答えを導き出す能力にあります。しかし、そこから得られる答えは「絶対的で正しく信頼できる真実」ではなく、「最も真実に近い文章」です。深山の複雑な道が分からず、簡単な説明だけでは診断もできず、農作物薬の注意点も分からず、ましてや分かったふりをして虚偽の情報を捏造することもある。

テクノロジーが強力であればあるほど、より多くの人が起きていなければなりません。 AI は、情報を検索したり、アイデアを整理したり、リストを作成したりするための補助ツールとして使用できますが、決して万能薬ではなく、ましてや人々の思考や意思決定に代わる「マスターキー」になることはありません。

特に、旅行の安全、身体の健康、大学受験の志望など、一度の間違いが逆転につながる重大な問題に関しては、AI への信頼を無制限かつ無条件の依存にまで高めることはできず、私たちは生活の常識や問題解決のための権威あるルートを放棄する必要があります。古代人は「本を信じるよりは本を持たないほうが良い」と言いました。今日、私たちはおそらくこう言うべきでしょう：AI を信じるよりも AI を持たないほうがマシです。