要約:
医師のアドバイスを求めることに加えて、アウトドア登山は明らかに「AI を盲目的に信じてはいけない」分野の 1 つです。最近、若い登山者数人が米国カリフォルニア州シスキュー郡のシャスタ山（シャスタ山）に登った際、グーグルのAIチャットロボット「ジェミニ」への過度の依存が原因で、危うく大惨事を引き起こしそうになった。 AI は当初、旅が完了するまでに 8 時間しかかからないと予測していましたが、最終的には山の頂上に到達するまでに 2 倍の時間がかかり、全員が深刻なトラブルに見舞われました。
参加した 3 人の登山者は、この旅行の準備のために主に Google Gemini、YouTube、ハイキング アプリケーション AllTrails を参考にしたと述べました。 AI に頼ってルートを計画するだけでなく、チャットボットに食料や飲料水の持参を提案させることもできました。当時のジェミニのアドバイスは、脂肪は「消化に時間がかかりすぎる」ため、予想される8時間の登山に備えて、脂肪ではなく単糖類や炭水化物を携行することだった。このアドバイスを聞いた後、チームメンバーは、この「比較的短い」登山に対処するのに十分だと考えられる、非常に限られた量の水と必需品だけを準備しました。
8 月 29 日、3 人の登山者はクリア クリークの源流近くにベース キャンプを設置しました。サンフランシスコ・クロニクル紙（SFGate）によると、この地域ではキャンプは実際に禁止されている。翌日の午前3時、三人は正式にキャンプを解散し、登山に出発した。しかし、実際の難易度はAIの予想をはるかに上回っていた。午後7時までではありませんでした。 8月30日、16時間の困難な旅を経て、ついに頂上に到着した。この時点ですでに現地推奨の帰還ラインである正午12時を大幅に超えていた。
頂上に到達した後、状況は悪化しました。 AllTrails のナビゲーション ルートを表示するために使用していた携帯電話は完全にバッテリーが切れてシャットダウンしました。夜がふけると、チームメンバーの一人がヘッドライトの電力を節約するために暗闇の中で手探りで前進していました。残念なことに、彼は高度約11,500フィート（約3,500メートル）のところで転倒し、膝を負傷しました。食料と水が枯渇し、夜に必要な防寒着や避難設備が不足しているのを見て、パニックに陥った登山者たちはついに911に助けを求めた。
当時、山岳地帯では強風が吹いていたため、救助ヘリコプターは懸垂下降と吊り上げに2度失敗した。 8月31日午前9時30分になってやっと森林パトロール隊員が連絡を取り、閉じ込められた3人を徒歩で救出することに成功した。その後、これらの怯えた若者たちはパトロール警官の尋問に対し、「私たちは人工知能に頼りすぎているのに、自分自身の批判的思考を無視している」と認めた。
最近では、AI チャットボットのアドバイスに盲目的に従うことでマイナスの結果が生じることは珍しくありません。以前、ある農家が除草と害虫駆除に関してチャットボットの指導に従い、それが直接の原因となって 25 エーカーの作物が枯死しました。 ChatGPTの食事アドバイスに従ったために、19世紀の珍しい精神障害に苦しんだ人もいた。また、19 歳の若者は、ChatGPT に個別の投薬アドバイスを求めたとされており、ChatGPT は致死性の薬物の組み合わせを推奨し、最終的にクライアントの死につながり、OpenAI に対する訴訟を引き起こした。
コメント