Meta は Muse の新しいメカニズムの内部テストにさらされています: アウトソーシングされた担当者が AI 呼び出しを手動で置き換えます

要約:

内部のメタ投稿によると、同社は新しいパーソナル AI アシスタント Muse の「人間の家政婦」メカニズムをテスト中です。Muse はユーザーの知らないうちに電話通話を人間にアウトソーシングし、コールセンターの担当者が AI の代わりに通話を完了する可能性があります。

Muse は「手動ハウスキーパー」機能をテストしています

発売から 2 週間で、Muse は米国のアプリケーション ダウンロード リストで確実にトップとなり、米国市場で即座に人気を博しました。この AI アシスタントは、ユーザーに代わってメールの送信、買い物、旅行の予約などのタスクを自律的に実行できます。

つい最近、Meta は Muse の呼び出し機能を開始したばかりです。通話機能の助けを借りて、Muse ユーザーは AI に米国の販売業者に電話するよう指示でき、AI は相手と通信して、ヘアカットの予約、店舗の在庫の確認、複数のサービスプロバイダーからの見積もりの​​取得などの用事を完了します。

しかし先週、メタ社は「人間の家政婦」の内部テストについて従業員に通知しました。

Muse の通話機能が複雑なシナリオに遭遇した場合、通話はユーザーの知らないうちに会社の請負業者に転送され、コールセンターの担当者が通話を完了する可能性があります。

メタ スーパー インテリジェンス研究所の副所長は、人間の通話の成功率を 95% ～ 98% まで高めることができることがいくつかのテストで示されており、これは純粋な AI の通話の成功率よりも高いと述べました。

しかし、社内の投稿によると、一部の従業員が通話への手動介入について

プライバシー上の懸念

ある従業員は社内投稿で次のように書いています。「なぜこの機能にリスクを負う価値があると考えるのか、私には理解できません。必要なのは、不必要な情報が人間のオペレーターに漏洩するバグだけです。」

別の従業員も、人種差別の事件について具体的に言及しました。彼はかつてミューズに、料金交渉のためにネットワーク ケーブル TV 事業者に電話するよう依頼しましたが、通話記録には、外注スタッフが電話中に人種差別的な発言をしたことが示されていました。

この点に関して、メタスーパーインテリジェンス研究所の副社長は、十分な通知なしに外部委託担当者に電話をかけさせたのは「間違い」だったと認め、同社はその機能を一時的にロールバックしたと述べた。

彼女はまた、通話中に人種的発言を報告した従業員に謝罪し、関与したアウトソーシング担当者は将来的にメタプロジェクトに参加しないことを約束した。

「人工知能」を「人工知能」のふりをするために使用しますか?

Muse によるこのテストは、テクノロジー業界における珍しいことではない運営を外の世界に垣間見せます。テクノロジー企業は、いわゆる「自律型 AI」の宣伝公約を果たすために、舞台裏で人力に依存している可能性があります。

これは、10 年前にメタによって行われた実験を思い出させます。当時まだ「Facebook」と呼ばれていたMetaは、M in Messengerと呼ばれるデジタルアシスタントをテストしていた。その後のメディア報道では、アシスタントのタスクの約 70% が実際には手動で完了したと推定されています。

Muse の「人工執事」ソリューションについて尋ねられたとき、Meta の広報担当者は、従業員からのフィードバックは「全体的に非常に好意的」であり、このテストの目的は「正式リリース前にセキュリティとプライバシー保護メカニズムを実装し、機能を最適化するためのフィードバックを収集する」ことであると述べました。

Meta の広報担当者、ダニエル・ロバーツ氏は次のように述べています。「私たちは販売業者と協力して、この潜在的な通話機能の最適化を続けています。準備が整い、条件が完全に伝達されるまで、正式に開始されることはありません。」

市場情報機関 Sensor Tower のデータによると、Meta の Muse は発売以来 250 万回以上ダウンロードされています。

この製品のリリース以来、Meta の株価は 20% 以上急騰し、市場価値は 2,000 億ドル以上増加しました。月曜日の取引終了時点で、７カ月以上ぶりの高値を記録した。しかし火曜日には株価は０．６％下落した。