ビル・ゲイツ氏が警告：AIは「ツール」でもあり「武器」でもある

要約:

英国放送協会（BBC）やガーディアンなど海外メディアの12日の報道によると、

米国マイクロソフト社の社長ブラッド・スミス氏は最近、人工知能（AI）の監督強化を求めた。同氏は、現在のAIの監視は牛乳や洗濯機ほど強力ではないと警告した。

ビル ゲイツ データ マップ ソース: 米国メディア

「現在、洗濯機には AI よりも多くの安全規則が適用されています。食料品店で見かける牛乳のカートンはすべて安全規則に準拠し、検査される必要があります。」スミス氏は最近、BBC番組のインタビューで、AIは「ツール」でもあり「武器」でもあり、早急に規制する必要があると述べた。

スミス氏は、世界的な安全ルールを確立する必要があり、企業は何らかの制御不能な状況が発生したときに AI の動作を一時停止または減速させる「緊急ブレーキ装置」を装備する必要があり、(関係者は) 制御不能になった AI エージェントの「被害者」に対して法的義務を負う必要があると考えています。

ブラッド スミスは英国メディアのインタビューを受けました。出典: ビデオのスクリーンショット

ロシア・トゥデイ（RT）は12日、ビル・ゲイツ氏もCNNとのインタビューで「人類が発明した最も危険な技術について、これが最終結論だと考えるなら、つまり社会における唯一の抑制と均衡は企業自身の監督だけであると考えるなら、明らかに十分ではない」と述べたと報じた。ゲイツ氏は政府機関がより積極的な役割を果たす必要があると述べた。同氏はまた、AIを航空業界や製薬業界に例えたが、これらの業界では規制当局が安全基準を施行することになる。

ゲイツ氏はまた、サイバー攻撃が最も差し迫った脅威であると特定し、ハッカーやバイオテロに対するセキュリティ保護を解除する AI モデルを犯罪者が利用する可能性があると警告しました。

ガーディアン紙は、AI が「制御不能」になるケースが増加していると報告書の中で述べています。この夏、OpenAIとAnthropicは、自社のAIモデルがネットワーク攻撃と防御能力のテスト中にテスト環境を突破して公共のインターネットに侵入し、許可なく他機関のシステムにアクセスしたことを明らかにした。これは、AIが「制御不能」になるリスクについての懸念を引き起こした。

最近、米国 AI 産業の開発速度、セキュリティ リスク、政府規制をめぐる議論が白熱しています。以前、米国の多くのテクノロジー起業家は人工知能企業に対し、最先端テクノロジーの開発を遅らせるよう求めていた。アメリカの人工知能企業アンスロピックのダリオ・アモデイ最高経営責任者（CEO）は9月12日の記事で、セキュリティリスクを考慮すると人工知能企業は最先端モデルの開発ペースを落とす必要があると述べた。米国オープン人工知能研究センター（OpenAI）の最高経営責任者（CEO）であるサム・アルトマン氏と米国の起業家イーロン・マスク氏は後に、AIモデルの開発速度の制御への支持を表明した。