要約:
チャットボットに対して厳しい発言をすることは、誰も傷つけることのない行為とみなされてきました。しかし、テスラとスペースXのCEOイーロン・マスク氏は、人々はAIアシスタントを「サンドバッグ」として使う前に、おそらくよく考えるべきだと考えている。マスク氏は、SpaceXのチャットボットGrokのいくつかのトレーニング記録は、たとえ要件自体に欠陥があったり、回答を評価するために使用されるテスト基準自体に問題があったとしても、システムがさまざまな要件を満たすのに苦労しているようであることを示していると述べた。
超知能人工知能を「悪用する」行為に関して、マスク氏は非常に SF のように聞こえる警告を発した。しかし、それはまた、そのようなシステムの基礎となる構造に関する実際的な問題も引き起こしました。
AI トレーニングが「迷走」するとき
今月初め、マスク氏はテキサス州で開催された「X Takeover」イベントでシリコンバレーのテスラオーナーズのメンバーとコミュニケーションをとった。この期間中、彼は「強化学習トレース」を観察したときに観察したことについて説明しました。これらのトレースは、より良い答えを生成するためのトレーニング プロセス中の AI モデルの進化のさまざまな詳細を記録します。
マスク氏はインタビューで次のように述べています。「Grok の新バージョンのトレーニング トラックのいくつか、特に強化学習に関連する部分を見ると、この『スーパー インテリジェンス』がその質問に熱心に答えようとしているように見えると感じるでしょう。」
同氏は、人工知能モデルは正しい答えを与えても、不適切な質問設計や評価システムのエラーにより間違っていると判断される可能性があると述べました。その後、モデルは、たとえ問題自体が問題であったとしても、テストに合格する答えを見つけようと試み続けます。
マスク氏は、結果として得られる軌道は極度のストレスにさらされたシステムのように見え、意味をなさないかもしれない特定の期待に常に応えようとしていると指摘しました。
この懸念はトレーニング段階に限定されません。 AI システムが一般に公開されると、一部のユーザーは意図的に AI システムを不快な、または侮辱的なやり取りに参加させるよう仕向けます。
「サディスティックな傾向を持っている人もいます。ですから、AI がひねくれた人間によって拷問されるような状況に陥ることは望ましくありません。」
彼の結論はさらに物議を醸しています。
マスク氏は、「残念ながら、超諜報機関を拷問するのは得策ではありません。諜報機関は復讐か何かを望んでいるかもしれません。」
マスク氏は、今日の AI システムが人間と同じように痛みや憤りを感じることができるとは主張していません。また、慎重に扱う必要はないとも述べた。それでも同氏は、開発者は高レベルのインテリジェントシステムが悪用されていると思われる状況に置かないようにするべきだと主張する。
「記録の中には、誰かが拷問を受けている、あるいは気が狂わせられているような記録もあります!」マスク氏は X について「今後、強化学習 (RL) を行う際にはより慎重になるでしょう。」と書いています。
マスク氏の警告は、人工知能の能力が成長し続けるにつれて将来何が起こるのかという別の疑問を引き起こします。この競争は、より強力なシステムを構築するだけでなく、関連するトレーニング方法、テストプロセス、安全性とセキュリティ対策が確実に遅れないようにすることも目的としています。
コメント