多くの人は、人工知能が人間がこれらのシステムの制御を危険に失うところまで進歩し、かなりひどいものから終末的なものまでさまざまな結果をもたらすのではないかと懸念しています。しかし、アームのCEOを含め、この状況で夜も眠れないと語るテクノロジー業界内部からの警告となると、この警告はさらに憂慮すべきものとなる。
Armのボス、レネ・ハース氏はブルームバーグに対し、AIがシステムを停止するには何らかの形のスイッチやバックドアが必要になると語った。 「私が最も心配しているのは、人間がコントロールを失うことだ」と、人工知能のことを考えると夜も眠れなくなる理由を尋ねられたチップ設計会社の社長はこう答えた。
ハースは、世界人口の 70% が何らかの形で Arm が設計した製品に触れたことがあると推定しており、毎年販売される 14 億台のスマートフォンのうち、99% が Arm の設計またはそのテクノロジーを使用しています。もちろん、彼は人工知能に反対しているわけではなく、Arm が新しい技術革命で果たす役割を認識しています。 CEO はかつてこう言いました。「Arm なしでは人工知能を実際に実行することはできません。しかし、フェールセーフが必要です。」
昨年CEOに就任したハース氏は、「人工知能は私たちが行うすべてのこと、そして私たちの仕事、生活、遊びのあらゆる側面に組み込まれることになると思う」と語った。 「今後5年から10年ですべてが変わるだろう。」
人工知能に関する懸念を業界で認めたのはハースが初めてではない。 OpenAIの最高経営責任者（CEO）サム・アルトマン氏は2月、世界が「潜在的に恐ろしい」人工知能からそう遠くないかもしれないと警告した。 ChatGPT社も7月、人間より賢い人工知能が人類の絶滅につながる可能性があると警告した。
また、xAIのボスであるイーロン・マスク氏は、このテクノロジーが人類の存亡にかかわる脅威であると話しており、人工知能のパイオニアであり、新興AIがもたらすリスクを理由に5月にグーグルを退社したジェフリー・ヒントン氏もいる。多くの専門家や CEO は、AI がもたらす危険性を核戦争やパンデミックと比較しています。アメリカ国民の3分の2も同様に懸念している。
ただし、誰もが同じ懸念を共有しているわけではありません。人工知能のもう一人の名付け親であるヤン・ルカン教授は、人工知能が人類を脅かすという警告は「ばかばかしい」と述べた。理論物理学の著名な教授であるミチオ・カクは、生成人工知能を美化されたテープレコーダーに例えました。