OpenAIは、ChatGPTに課題の作成を依頼することで学生の不正行為を発見できる可能性のあるツールを開発した――しかし、ウォール・ストリート・ジャーナルは、同社がそのようなツールを実際にリリースするかどうか議論していると報じた。 OpenAIの広報担当者は声明の中で、同社がデイリーニュースの報道に記載されているテキスト透かしの手法に取り組んでいることを確認したが、「含まれる複雑さと、OpenAIを超えた広範なエコシステムに与える可能性のある影響」を理由に「思慮深いアプローチ」をとっていると述べた。
「我々が開発しているテキスト透かし手法は技術的には有望だが、代替手法を検討している一方で、悪意のある行為者による回避の容易さや、英語を話さない人々などのグループに不当な影響を与える可能性など、重要なリスクを検討している」と広報担当者は述べた。
これは、AI によって生成されたテキストを検出するためのこれまでのほとんどの取り組みとは異なるアプローチになりますが、ほとんど効果がありませんでした。 OpenAIは昨年、「精度が低い」という理由で以前の人工知能テキスト検出器を停止したことさえある。
テキスト透かしに関して、OpenAI は他社のモデルではなく、ChatGPT 内のテキストの検出のみに焦点を当てます。この目的を達成するために、OpenAI は ChatGPT がテキストを選択する方法に若干の変更を加え、テキスト内に目に見えない透かしを作成し、それが別のツールによって検出されるようにします。
このレポートの公開後、OpenAI は 5 月にブログ投稿も更新し、人工知能によって生成されたコンテンツの検出に関する研究を紹介しました。このアップデートでは、テキスト透かしは「言い換えなどの局所的な改ざんに対しては非常に正確で効果的である」ことが証明されているが、「翻訳システムの使用、別の生成モデルによる言い換え、または各単語の間に特殊文字を挿入してからその文字を削除することをモデルに要求するなど、グローバル化した改ざんに対しては耐性が低い」ことが証明されていると述べている。
その結果、この方法は「悪用者にとって簡単に回避できる」とOpenAIは書いている。 OpenAIのアップデートはまた、非英語話者に関する広報担当者の指摘を反映しており、テキストの透かしは「英語を母国語としない人にとって有用な執筆ツールとしてのAIの利用を傷つける」可能性があると主張した。
もっと詳しく知る：
https://openai.com/index/ Understanding-the-source-of-what-we-see-and-hear-online/