要約:
404 Media が発表したレポートによると、OpenAI 内では Project Lily と呼ばれるプロジェクトが進行中です。OpenAI は何百人もの外部委託のプロンプト ワード レビュアーを雇い、実際のユーザーと ChatGPT の間の会話を手動で読み取り、応答の質を向上させています。
プライバシー フィルターはありますが、完全ではありません:
通常の状況では、プロンプト ワード レビュー担当者はユーザー名を見ることができず、会話はまずプライバシー フィルターを通してフィルタリングされ、個人情報が削除されます。ただし、OpenAI は、フィルタリング メカニズムによって個人情報が見逃される可能性があり、短い会話は特に問題が発生しやすいことも認めています。
レビュー インターフェイスには通常、ユーザーの記憶の概要も表示されます。記憶概要は、ユーザーの過去の質問、興味、状況などを要約します。場合によっては、記憶を通じてユーザーの位置を推測することもできます。監査人は多くの場合、会話全体を文脈とともに確認します。
査読者は主に回答を採点します。
その仕事は機械的で反復的なもので、時給は 50 ドル以上だったと報告されています。査読者の主な仕事は、事実を確認することではなく、回答を採点することです。たとえば、レビュー担当者は、モデルによって与えられた回答が適切かどうか、明らかな AI 風味があるかどうか、説教行為はないか、表現の乱用はないか、お世辞行為はないか、モデルが人生経験のある人間としてモデルを書くかどうかを判断する必要があります。
モデルによって与えられた回答に事実上の誤りが含まれているかどうかについては、監査人の仕事ではありません。結局のところ、監査人は百科事典ではなく、すべてのイベントの完全な真実を知ることはできません。そのため、ユーザーがモデルによって提供された回答に事実上の誤りが含まれていることは通常のことです。
デフォルトで有効になっている改良されたモデルがデータ共有の鍵となります:
ChatGPT の無料バージョン、Plus バージョン、Pro バージョンではすべて、デフォルトでチャットを使用して製品を改善できます。この機能を有効にすると、ユーザーのチャット内容が製品改善のために OpenAI に許可されます。リリープランにおける外部監査員による会話内容のチェックは、データ利用の一つに過ぎません。データは当然、モデルのトレーニングの継続など、他の目的にも使用されます。
多くのユーザーは、ChatGPT を一時的な相談相手として使用し、家族、健康、さらにはプライベートな事柄について話し合っています。一部のレビュー担当者は、多くのユーザーは自分の会話が現実の人に読まれる可能性があることを知らない可能性があるため、これが恐ろしいことなのかどうか考えてくださいと述べています。
コメント