要約:
ブルームバーグによると、9 月 23 日、AI の先駆者であるリー・フェイフェイ氏は、独立機関や公共部門による AI の監督を強化するよう求めました。彼女は、ますます強力になる AI システムのセキュリティ評価を、これらのシステムを開発している企業に完全に任せるべきではないと考えています。
リー・フェイフェイ
スタンフォード大学の教授でワールド ラボの共同創設者であるリー フェイフェイ氏は火曜日、AI 企業の内部研究者は個々のモデルの機能と安全性を評価できるが、これは政府、業界、学術機関が共同開発した広範な標準に取って代わることはできないと述べた。
「私は、独立した機関や学界などの公共部門によってベンチマークが設定されることが非常に重要であると今でも信じています。同時に、産業界と政府も責任を共有する必要があります。」リー・フェイフェイ氏はブルームバーグテレビのインタビューで語った。
AI システムの機能が向上し続けるにつれて、その潜在的なリスクに対する懸念も高まっています。シリコンバレーの一部の指導者は、テクノロジーの発展が速すぎて、最終的には人間の制御を超えてしまう可能性があると警告している。ここ数週間、Anthropic CEOのDario Amodei氏とOpenAI CEOのSam Altman氏はともに、最先端モデルの開発を遅らせるよう呼びかけている。両氏は水曜日の国連安全保障理事会でAIの安全性について話し合う予定だ。
リー・フェイフェイ氏は、AI がもたらす可能性のある実存的リスクは、最終的には人間がこのテクノロジーをどのように開発、管理、使用するかを選択するかどうかに依存すると述べました。同氏は、この原則は電気や蒸気エンジンから現代の交通機関に至るまで、AI以外のテクノロジーにも当てはまると述べた。人間社会はまた、テクノロジーがもたらす恩恵と個人の安全との間のバランスを見つける必要があります。
人類は「テクノロジーの力を自由に使える」と彼女は指摘しました。 「私たちはコントロールしなければなりません。AIはAIに関するものではなく、人間に関するものです。それは私たちの共通および個人の尊厳と自律性に関するものであり、私たちの責任でもあります。」リー・フェイフェイ氏は語った。
リー・フェイフェイ氏のコメントは、政策立案者や AI 業界のリーダーの間でますます白熱する議論に新たな声を加えています。議論の中心は、テクノロジーの最も極端なリスクについての警告をどの程度真剣に受け止めるべきかということだ。火曜日初め、ドナルド・トランプ米大統領はニューヨークでの国連総会での演説で、AIの実存的脅威についての懸念を「でっち上げ」と一蹴し、全速力で技術開発を続ける必要性を強調した。
Li Feifei 氏は、AI システムの動作に関する議論は、現在の AI ブームを牽引しているいわゆる最先端のモデルを超えていると述べました。彼女が設立した会社 World Labs は、3 次元環境を生成および再構築できる、いわゆる「ワールド モデル」を開発しています。同氏は、この技術をロボットの訓練と評価に使用でき、デザイン、医療、その他の業界での応用が可能になる可能性があると述べた。
これらのシステムが現実世界のアプリケーションに移行するにつれ、業界は、ますます強力になる AI をどのように評価し、期待どおりに動作しているかどうかを判断する方法という同じ基本的な問題に直面していると彼女は言いました。
コメント