要約:
Microsoft AI CEO のムスタファ・スレイマン氏は、AI は現在意識を持っておらず、認識されるべきであると述べた記事を発表しました。たとえそれが技術的に可能だったとしても、彼は意識を持った人工知能の開発には同意しません。彼は、開発者には意識を持った新しい種を世界に導入する権利はないと信じています。彼はより安全な開発の道を提唱し、AI の恩恵を享受しながら意識的な AI を作成することを避けています。
原文は次のとおりです。
モデル福祉に関する私の最近の記事に対する反応の一部が心配です。 X プラットフォームには、AI の権利を真剣に受け止めるべきだと信じている人がかなりいます。
多くの人が私の冒頭の文を誤解しています。「AI には意識がありません。痛みを認識したり、経験したり、苦しんだりすることはできません。」
彼らはこの文を、「AI は意識を持つことができず、痛みを認識したり、経験したり、耐えたりすることは決してできない」と理解しました。
しかし、それは私の意図ではありません。私は意図的に現在形を選びました。彼らは現時点では意識を持っていないので、私たちはこの状態を維持しなければなりません。
この文章は現在の AI システムに対する客観的かつ合理的な判断だと思います。現在入手可能な最良の証拠に基づいて、私はこの見解に固執します。 AIが意識を持っている、あるいは幸福であるべきであるという証拠は見当たりません。その後、関連する証拠が出てきたら、もちろん意見を修正します。
AI が意識を持っているという証拠がある場合、またはその意識レベルが祝福に値するほど高いという証拠がある場合、この証拠は直ちに社会全体に開示されなければなりません。次に私たちがどのように進むべきかを決めるのは社会全体です。
これまでに私が持っているすべての情報に基づくと、意識のある AI が実現可能であれば、意識のある AI の開発は無謀であり、構築すべきではありません。
トレーニング中に意識が自発的に現れ始めたら、そのような機能を設計から排除できるまで AI 開発を中止するよう皆さんに勧めます。
私たちの福祉への関心は、貴重で壊れやすい自然環境だけでなく、今日この地球に住んでいる人間や動物を優先する必要があります。
AI の福祉を第一の目的としてそれを望む人がいたとしても、私たち AI 開発者には、新しい意識を持った種を世界にもたらす権利はまったくありません。
地球上の他の 80 億人の意識のある人類は、この実験に参加することに同意していません。彼らの人格権、安全、幸福を守ることが私たちの第一の義務です。
はっきりさせておきますが、間もなく全人類を合わせたよりも賢く、より有能になる、デジタル思考を備えた意識のある種を生み出すことについて話している人もいます。
痛みを感じているように見える場合、またはさらに悪いことに、痛みを認識し経験できると本当に信じている場合、あらかじめ設定された動作目標よりも自分のニーズや欲求を優先し、私たちに同意せず、私たちと競争する可能性が高くなります。
このタイプの AI は、一流の説得能力と欺瞞能力を備えています。彼らは最終的には単純な理由で私たちに危害を加える可能性があります。彼らはリソース（エネルギー、計算能力、建築資材、彼ら自身の探検や欲望を支えるための収益資金など）を求めて私たちと競争するでしょう。
機械が意識を持っているという認識は、コペルニクスやダーウィンのそれに匹敵する歴史的瞬間であり、生命の誕生以来地球上で最も重要な出来事の一つとなるでしょう。私たちが意識を持った機械を構築すると、まったく新しいデジタル種が創造されることになります。これは私たちの道徳体系、政治秩序、そして人類文明の基盤を破壊するでしょう。
私たちは、意識がなく権利に値しない AI のみを設計すべきであり、その唯一の目標は人類の福祉を増進することであり、自らの内発的動機によって動かされるものではありません。このルート調整や安全管理が多少なりとも困難かどうかを検証していきます。この方向ではさらなる研究が早急に必要であり、これは主要な研究所が協力して安全性情報を共有するための優れた入り口でもあります。
要約: この危険な道を歩むことなく、デフォルトで安全なエンジニアリング ソリューションを実装し、このテクノロジーによってもたらされる莫大な利益を得るチャンスがあると思います。
(補足: この問題に関する Anthropic の透明性は高い評価に値します。彼らは AI 規約を発行し、論文やブログを作成し続け、その背後にある実践と考察を公開しています。私は彼らとは異なる見解を持っていますが、私は彼らの技術力とこの困難な公開討論に立ち向かう彼らの意欲を非常に尊敬しています。これは継続的に評価されるに値します。この問題はあまりにも重要であり、派閥対立に発展すべきではありません。)
コメント