要約:
米国フロリダ州リー郡の 30 歳の女性が、テキストメッセージによる暴力脅迫の疑いで逮捕されました。警察によると、ボニータスプリングス在住のカーリー・ミシェル・ヘラーさんは、アンスロピック社が所有するチャットボット「クロード」での会話の中で、リー郡保安官事務所に対する銃撃予告を書き込んだという。 Anthropic のセキュリティ システムは関連コンテンツにフラグを立て、手動で確認して法執行機関に通知します。ヘラーさんは捜査員に対し、クロードを「日記」として使っていたと語った。
地元メディアが引用した逮捕報道によると、ヘラーさんは9月26日早朝の会話の中で、「今、誰かを撃つために保安官事務所に行くつもりだ」と書いた。翌日の早朝、彼女はその日に新しい銃を手に入れたと述べ、「これが最後のチャンスだ、もうたくさんだ」と書いた。通報を受けた警察はボニータ・スプリングスのディーン・ストリートにある彼女の住居に警察官を派遣し、そこで彼女は無事に拘留され、その後リー郡保安官事務所情報部による捜査が行われた。彼女は現在、書面による暴力脅迫の罪で1件起訴されているが、まだ有罪判決を受けていない。
フロリダ州法では、他人が閲覧できる書面または電子記録による、殺害、身体的危害、銃乱射、テロ行為の脅迫は、第 2 級重罪となる可能性があると規定しています。しかし、この事件における対話が法の適用条件を満たしているかどうか、また検察官が犯罪の構成を証明できるかどうかは、依然として司法手続きによって判断されなければならない。地元の法律アナリストらは、検察官が関連文言を直接の脅迫と解釈する可能性があると指摘したが、この事件には議論がないわけではなく、言論の自由の境界にも関わる。
Anthropic の公式ポリシーでは、差し迫った身体的危害や死につながる可能性のある緊急事態が存在し、情報をタイムリーに提供することで危険を回避できると同社が判断した場合、通常の法的手続きを経ずにユーザー情報を政府に開示する可能性があると述べています。同社は以前、Claude がオンラインになった後、自動検出システムと手動レビューを使用して有害なコンテンツを発見し、使用ポリシーを適用すると公言していました。この事件では、警察の報告プロセスは、まずシステムが事件をマークし、次に手動で確認してから法執行機関に連絡するというものでした。
この事件により、チャットボットのプライバシーの境界についての懸念が再び高まりました。ユーザーがチャット ウィンドウをプライベートな日記として扱うことは、コンテンツがユーザーのみに表示されることを意味するわけではありません。プラットフォームはセキュリティ ポリシーに従って会話を確認し、緊急時には法執行機関に情報を提供することもあります。 Microsoft の画像エディター Copilot に関する最近のレポートでは、人間のレビュー担当者がユーザーのプロンプトの言葉、アップロードされた写真、生成された結果を見る可能性があるが、関連するレビューは主に出力品質を評価するために使用されると指摘しています。
TechSpot はまた、OpenAI とその CEO のサム アルトマンがカナダのブリティッシュ コロンビア州で起きた銃乱射事件をめぐって訴訟を起こされていることにも言及しました。訴訟では、同社は事件を防ぐための措置を講じることができた可能性があると主張した。フロリダ州は以前、2025年のフロリダ州立大学銃乱射事件に関連した傷害でOpenAIとアルトマンを訴えていた。これらの訴訟告訴はいずれも裁判所の責任認定に相当するものではなく、ユーザーの安全、プライバシー、実生活での危害防止の観点からAI企業が直面する法的論争を浮き彫りにしている。
コメント