要約:
Apple は火曜日の年次財務報告書の中で、「予期せぬ、または予測不可能な方法」で行動できる AI エージェントが、同社を訴訟にさらしたり評判を傷つけたりすることで、同社のビジネスに脅威をもたらす可能性があると述べた。 Appleの申請書にある新たなリスク要因は、シリコンバレーの最も重要な企業にとって急速に注目を集めるAIエージェントの破壊的な可能性を示している。
「特に、人工知能エージェントやその他のテクノロジーは、コードの実行または変更、通信の送信、トランザクションの完了のために、場合によってはアクセスできない内部または外部のシステムと対話するなどのアクションを自律的に実行できます」と Apple は申請書に書いています。
同社は、エージェントが「指示、指示、許可されていない行動を取るなど、予期せぬ、または予測不可能な方法で行動する可能性がある」と付け加えた。
今年初め、OpenAI は Dots をリリースし、Meta は Muse をリリースしました。どちらの AI エージェントも高度な AI モデルを使用してタスクを自律的に完了します。新しいメッセージが到着したときにユーザーに電子メールを送信したり、警告を送信したりすることもできます。
Apple がこの情報を開示する前、Hugging Face 事件など、制御不能になった AI エージェントがサンドボックス環境から侵入してサードパーティの Web サイトを攻撃する事件が数多く発生していました。この事件は、ワシントン D.C. や世界中の政策立案者の注目を改めて高めました。
さらに、エージェントが人間と同じ方法でコンピュータを使用できるため、アマゾンや JP モルガン チェースなどの大企業は、戦略的またはセキュリティ上の理由から、エージェントによるサービスへのアクセスに関するポリシーの策定を余儀なくされています。
先月、Apple は、PC にインストールされている AI エージェントの「そのようなアクセスに関連するリスク」を軽減するために、Mac の「フル ディスク アクセス」の調整を発表しました。
「サードパーティの人工知能エージェントやその他のテクノロジーを監督および制御する同社の能力は制限される可能性がある」と Apple は提出書類の中で警告した。
Apple には現在、インテリジェント エージェント AI がありません。しかし、新CEOのジョン・ターナス氏は月曜日の決算会見でAIエージェントについて質問された際、同社にはSiriの機能を拡張する「本当の余地」があると述べた。
「エージェントの機能という点では、これらはユーザーにとって有望なツールであると考えています」と Ternus 氏は述べています。 「私たちは、ユーザーがどのようなアクセスを許可しているのかを確実に把握したいだけです。セキュリティとプライバシーを保護する方法でそれを行うようにしたいと考えています。」
コメント