Amazonが人工知能チャットボット「Q」をリリースしてから3日後、一部の従業員は精度とプライバシーへの懸念に警鐘を鳴らしている。 Platformer が入手した漏洩文書によると、Q は「重度の幻覚に悩まされ、AWS データセンターの場所、社内割引プログラム、未リリース機能などの機密データを漏洩」していました。ある従業員はこのインシデントを「sev2」とラベル付けしました。これは、エンジニアが夜間に呼び出され、問題を解決するために週末に働くよう求められるほど深刻であることを意味します。
Q の初期の苦境は、人工知能を活用するためのツールやインフラストラクチャの構築競争において、マイクロソフト、グーグル、その他のハイテク企業がアマゾンを追い越しつつあるという認識にアマゾンが取り組んでいるときにもたらされた。今年9月、アマゾンは人工知能スタートアップのアンスロピックに40億ドルを投資すると発表した。火曜日、アマゾン ウェブ サービス（アマゾン ウェブ サービス）の年次開発者会議で、Amazon は Q をリリースしました。これは、同社が今週リリースした一連の新しい人工知能の取り組みの中でおそらく最も注目を集めたものです。
アマゾンは声明の中で、従業員の話し合いの重要性を軽視した。
「一部の従業員は内部チャネルやチケット発行システムを通じてフィードバックを共有しているが、これはAmazonの標準的な慣行だ。このフィードバックではセキュリティ上の問題は特定されなかった。我々は受け取ったすべてのフィードバックに感謝しており、プレビュー製品から一般提供に移行する際にQを調整し続ける」と広報担当者は述べた。
Q は無料プレビューとして利用できるようになりました。 Amazon幹部らは今週壇上で、当初はAWSに関する開発者の質問に答えたり、ソースコードを編集したり、出典を引用したりできるようになると述べた。 MicrosoftやGoogleの同様のツールと競合することになるが、少なくとも当初は価格は競合製品よりも低くなるだろう。
Q の立ち上げにあたり、Amazon 幹部は ChatGPT のような消費者向けツールよりも安全であると宣伝しました。
アマゾン ウェブ サービスの最高経営責任者（CEO）アダム・セリプスキー氏はニューヨーク・タイムズに対し、「セキュリティーとプライバシー上の懸念から、企業はこれらの人工知能アシスタントを使用することを禁止されている」と語った。この点に関して、ニューヨーク・タイムズ紙は、「Amazonが構築したQは、消費者向けチャットボットよりも安全でプライバシーが高い」と報じた。
Q の幻覚と不正確な回答に関する内部文書には、「Amazon Q は幻覚を起こし、有害または不適切な回答を返す可能性があります。たとえば、Amazon Q は古いセキュリティ情報を返し、顧客アカウントを危険にさらす可能性があります。文書で概説されているリスクは大規模な言語モデルに典型的なものであり、そのすべてが少なくとも一部の場合、不正確または不適切な回答を返します。」と述べています。