要約:
OpenAI CEO のサム アルトマン氏は、自身が作成に協力した悪夢のような人工知能製品に深く悩まされているようで、安らかに眠るのが難しいことさえあるようです。東部時間午前0時57分頃、アルトマン氏はXプラットフォームに次のように投稿した。「人工知能の開発には、避けなければならない悲惨な傾向が2つあります。まず、私たちは人工知能の将来を制御できなくなる可能性があります。これは容認できません。私たちは断固として人類の側におり、人工知能は常に人々に奉仕しなければなりません。そのためには、連携したテクノロジーとセキュリティ手法の開発速度を確保し、モデル機能の反復の先を行く必要があります。」
彼は続けて次のように書いています。「2 番目のリスクは、世界における権力の集中です。特定の人物または特定の企業が非常に強力な人工知能を習得し、独自の世界観をすべての人に押し付けると、その結果は非常にディストピアになるでしょう。上記の 2 つの大きな脅威を回避するには、狭い中道を歩む必要があります。たとえば、特定の国が過剰な権力を掌握したり、特定の研究所が過剰な発言権を持ったりすることは、すべてそのようなリスクです。」
わずか 2 日間で、Anthropic の CEO であるダリオ・アモデイとアルトマン、AI 業界の 2 人の巨人は、彼らが率いるこの強力なテクノロジーについて次々と警告を発し、トップの研究開発チームを加速させました。
アモデイ氏は土曜日の個人ブログで次のように述べた。「関連するリスクに完全に対応するには、過去数か月で、より慎重に行動する必要があるとますます確信するようになりました。リスクを防ぐためにリソースを投資するだけでなく、AI 機能の反復速度を制御し、リスクの予防と制御に追いつく時間を残す必要もあります。人工知能モデルの機能向上のペースを減速する必要があります。テクノロジー全体は今後も急速な発展を維持し、開発に費やした時間を有効に活用しなければなりません」利益を得る。」
アモデイがメッセージを投稿した後、ウルトラマンはすぐに自分の意見を表明し、競合他社の見解に同意しました。
このコメントは、2 人の AI 研究者が最先端の高度な AI モデルの危険性について懸念を表明した後に出されたものです。
先週初め、ジェイコブ・コクソンはAnthropicからの脱退を発表した。同氏は、Anthropic も OpenAI も、高性能人工知能システムの開発において正当な責任を負っていないと述べた。
その後、Anthropic 社のアライメント科学責任者、エヴァン ハービンジャー氏がコクソン氏の投稿に返信し、元従業員の気持ちを支持しました。同氏は、このテクノロジーが「全人類の絶滅を引き起こす」可能性は10％以上あると信じている。
トランプ大統領は日曜日、そのような安全保障上の懸念を否定した。同氏は、「われわれは人工知能の分野で中国をリードしている。われわれは世界で最も技術的に進んだ国であり、率直に言って、この優位性を維持したいと願っている。人工知能の競争に勝った者が未来を勝ち取ることになるからだ。」
上記の懸念の影響を受け、市場では AI 技術の開発が障害に遭遇するのではないかとの懸念があり、月曜日には AI セクターの主要株が圧力にさらされました。サンディスクは市場前取引で５％下落し、エヌビディアは市場前取引で３％下落した。
Yorkville Ives の創設パートナー、Dan Ives 氏は Yahoo Finance に次のように語った。「ダリオ氏の記事と週末の業界議論が月曜の始まりには一時的な下落を引き起こすと思いますが、市場はすぐに反発するでしょう。業界におけるこのような世論の嵐にもかかわらず、今後 5 年間で 5 兆ドルの AI 投資という全体的な状況は大きく変わらないことが、投資家にはすぐに明らかになるでしょう。」
コメント