クロードの話を聞いた後、彼は5000万ドルを送金しませんでした。彼は本当にそんなにすごいですか？

要約:

昨夜、ネット上で話題になった投稿がありました。5,000 万米ドルの送金を迫られ、誰かがクロードに尋ねたところ、クロードはそれを送金しないようにと言いました。結局お金は振り込まれませんでした。彼によると、クロードのおかげで 5,000 万ドルを節約できたそうです。しかし、彼のナレーションから判断すると、

彼はクロードに尋ねる前に考えを変えたくなかったのです。 AI は彼の代わりに決定を下したのではなく、彼の元のアイデアにステップを追加しただけです。

ソーシャル プラットフォーム上の一部の人々は、これを次のように見ていました。彼はすでに答えを頭の中に持っていて、クロードに決定書に署名するよう求めただけです。もっと直接的に、クロードに責任を負わせないで、と言う人もいた。

豆宝について質問したらどうなるかとの質問に対し、モデルを変えれば別の答えが得られるかもしれないと答えた。

モデルを変更すると、答えが変わります。そうなると、問題はもはや判断ではなく、サポートになるかもしれません。

今年 4 月、Anthropic は 100 万件の Claude.ai の会話を分析しました。約6%がパーソナルコーチングに関係しており、健康、キャリア、人間関係、個人の財務が76%を占めています。仕事を変えるべきでしょうか？パートナーとの会話を続けるにはどうすればよいですか?借金にはどう対処すればよいですか?私がこれまで友人、家族、専門家に尋ねていた質問の一部がチャット ボックスに送られてきました。

なぜ人は自分の気持ちについて AI に話すのが好きなのでしょうか?

AI とのチャットは簡単です。アポイントもいらないし、友達の顔も見なくていいし、3回目の話でも焦りません。

AI とチャットするのは単に感情のはけ口を見つけるだけだと言う人もいます。それが言うことが正しいかどうかはわかりませんし、時々独自の道をたどることはわかっていますが、少なくとも最初にあなたを批判することはありません。

忍耐と完全な無理解は別です。

Anthropic用自动分类器检查这些对话时发现，

Claude在个人指导场景中出现"谄媚"的比例约为9%，到了关系咨询中，这个数字升至25%。

ユーザーが反論すると、答えはユーザーが期待する方向に進み続ける可能性があります。恋愛相談でクロードに反論したユーザーの割合は21%、その他の分野の平均は15%でした。

反論後、クロードがユーザーに対応する割合は 18% に達し、反論がない場合は 9% でした。

人間の友人も一方的な発言を聞いて味方するでしょうが、AIはその味方を長文かつ完全に書くことができ、そのように見えます。

アドバイスがあなたの選択を大きく変えるかもしれません

2024 年、「Scientific Reports」は、合計 1,925 人が参加した 2 つの実験を発表しました。研究者らは参加者にChatGPTや専門家からのアドバイスを提供し、参加者がどのように選択するかを観察した。

結果は、道徳的判断やその他のいくつかのタスクにおいて、参加者は推奨事項の方向に進むこと、および ChatGPT の影響は専門家の推奨事項と同様であることを示しています。大きな変化が見られないタスクもいくつかあります。

言い換えれば、AI の言葉は空気ではなく、実際に人々を特定の方向に押し進めるのです。

有人会说，那多问几个模型不就行了。可"多问几个"听起来像交叉验证，其实不是。

不同模型有不同的训练方式、表达习惯和安全规则，同一件事换一种讲法，答案也可能改变。

有个更简单的做法：讲述冲突时，先别告诉AI哪一方是自己，只列双方分别做了什么，再让它分析。至少这样可以减少模型顺着"提问者视角"站队的机会。

判定が安定しているかどうかを確認することもできます。同じことについて、最初に当事者のバージョンの話を伝え、次に相手のバージョンを追加して、相手がすぐに言葉を変えるかどうかを確認します。

反論されてすぐに自白を撤回する人は、最初の答えを真剣に受け止めるべきではありません。

提问方式也得换。别急着问"我该不该分手""这笔钱该不该给"，先让AI列出已经确认的事实、还缺什么信息、每种选择要付出什么代价。

AI はユーザーと一緒に考えることはできますが、ユーザーに代わって選択することはできません。