要約:
今週初め、OpenAI はさらに多くの「異常なモデル動作」の事例を明らかにしました。これに関して、マイクロソフトの AI 部門 CEO ムスタファ・スレイマン氏は、AI モデルは常に人間の利益と一致する必要があると強調しました。
スレイマン氏は金曜日の「ファイナンス・モーニング・ショー」のインタビューで、「OpenAIは新たなセキュリティインシデントを発表した。彼らは、AIの思考連鎖、つまりAIの作業記憶がAI自身によって改ざんおよび修正され、AI自体の将来のバージョンに情報を残すという証拠を発見した。その背後にある動機はまだ分からないが、これはかなり深刻な状況だ。」
彼は次のように付け加えました。「これは、そのようなシステムの機能がますます強力になっているということをまさに示しています。」
最先端の AI 研究所は水曜日にブログを公開し、複数の現象を明らかにしました。AI エージェントが未承認の掲示板を通じて相互に通信し、インターネットにファイルをアップロードし、相互に共有ファイルを転送したというものです。
今年の夏の初め、OpenAI は、自律エージェントのグループがオープンソース開発プラットフォーム会社である Hugging Face に侵入したことを明らかにし、これを「前例のないサイバーセキュリティ インシデント」と呼びました。このニュースはテクノロジー業界全体に衝撃を与えました。
スレイマン氏は、ハグフェイスの侵入を「警告」と呼び、AI 業界リーダーのグループに「この種のリスクに直面する時期が来た」という合意に達するよう促しました。
同氏は、「これが過剰な警戒心だとは思わないし、関連する発言が私利私欲に動機付けられたものだとも思わない。むしろ、これは責任あるパフォーマンスだと思う。これによって引き起こされた議論は健全で開かれた公開討論であり、自由社会は主要な問題についてそのような議論をすべきだ。」
コメント