要約:
ブルームバーグによると、メタの最高経営責任者（CEO）マーク・ザッカーバーグ氏は火曜日、AI研究所はモデルの安全性を確保するために独立した評価者やコンサルタントに頼るべきだと述べた。ザッカーバーグ氏は火曜日、AIシステムが人類に害を及ぼす最善の方法についての世界的な議論に参加する、ますます多くのハイテク企業幹部に加わった。
ザッカーバーグ
「独立した評価者やコンサルタントを導入することは、業界のベスト プラクティスです。」ザッカーバーグ氏はXプラットフォームへの投稿でこう書いた。同氏は、一般に、より大規模で多様な評価者のエコシステムを持つことが役立つと指摘した。
ザッカーバーグ氏は、現在、AI 機能の開発を遅らせ、アライメント技術が追いつくのを待つべきかどうかについて多くの議論があると述べた。彼の言いたいことは、信頼と連携が急速にエージェントとモデルを区別する最も重要な機能になりつつあるということです。調整を真剣に考えていない研究室は遅れをとるでしょう。調整とは、AI のやり方を人間の利益に合わせることを指します。
ザッカーバーグの投稿
現在、一部の企業幹部は AI の開発を遅らせることへの支持を表明し、合意に達するために協力することを主張しています。ザッカーバーグ氏は、メタ社がまず同業者に進捗状況のレビューを依頼することなく、独自にMuse AIツールの開発を遅らせることを決定したと書いた。
「メタは安全性とセキュリティに重点を置くため、Muse のリリースを数か月延期しました」と彼は書いています。 「私たちは他の人たちに最初にそれを実行してから自分たちでフォローアップするように頼んだわけではありません。私たちはそれを日常の一部として実行しただけです。なぜならそれがユーザーにとっても私たちにとっても明らかに正しいことだったからです。」
ザッカーバーグ氏は、AI の再帰的な自己改善を促進するために競争するのではなく、コンピューティング能力の大部分を人々への奉仕に捧げることが、このテクノロジーの安全な開発を保証する最良の方法の 1 つであると信じています。 Meta はこの取り組みを行っており、他の研究所も同様の取り組みを行うことができます。
先週末、Anthropic CEO のダリオ・アモデイ氏による 3,800 ワードの記事により、AI の経済的および安全保障上のリスクをめぐる激しい議論がさらに加熱しました。その中で同氏は、研究者が潜在的な脅威をよりよく理解できるよう、最先端システムの開発を遅らせるよう求めた。アモデイ氏の呼びかけは、OpenAI CEOのサム・アルトマン氏とSpaceXのCEOイーロン・マスク氏から稀な支援を受けた。
コメント