要約:
WIRED によると、人工知能が生成するコンテンツの普及に伴い、出版業界では「小説は人間によって書かれたのかどうか」をめぐる論争が広がっているという。ホラー小説の内容の約78％がAIによって生成された可能性があることが判明し、その後出版社が出版計画を撤回した後、ますます多くの作家が心配し始めた。たとえ作品が完全に自分で作成したものであっても、その文体からAIの使用を疑われ、ボイコットや評判の低下に直面する可能性さえある。
今年 3 月、ホラー小説「シャイ ガール」がこの論争の焦点になりました。ソーシャルメディア上では、この本が主にAIによって生成されたのではないかという疑念の声が多く上がっている。その後、出版社のアシェット・ブック・グループは米国での小説の出版計画を中止し、英国市場での流通を停止した。
AI 検出会社 Pangram は、
本のテキストの約 78% が AI によって生成されたと主張しています
。しかし、小説作家のミア・バラード氏は、AIを使って執筆することを否定している。彼女は、編集者が同本の自費出版版にAIを利用した変更を加えたと述べ、法的措置を求めていると述べた。『Wired』は、この事件の後、出版業界でも同様の告発が行われ始めたと指摘した。ある作家は短編小説賞を受賞した後に尋問を受けており、また別の作家は、犯罪小説が出版社から数百万ドルのオファーを受けた後、AI執筆論争に巻き込まれている。両名とも容疑を否認している。
著者がさらに心配しているのは、作品が完全に人間によって作成されたことを証明する一般的に受け入れられている方法が現在存在しないことです。
ベストセラー作家のアンドレア・バーツは、「シャイ・ガール」事件が起きた後、それが作家に対する「魔女狩り」を引き起こすかもしれないとすぐに気づいたと『Wired』に語った。
「AI の使用に関しては誰でも告発できます。」
疑惑が浮上すれば、たとえ確固たる証拠がなくても、損害が発生している可能性があると彼女は述べた。バルツ氏自身も、Anthropic に対する著作権訴訟の主任原告の 1 人です。この訴訟では、Anthropic が AI モデルをトレーニングするために海賊版 Web サイトから著作権で保護された書籍を大量にダウンロードしたと非難されています。 Anthropic は昨年、
15 億ドル
を支払うことに同意しました 和解に達する。AI ライティングに関する疑念がますます一般的になっていることに直面して、テクノロジー企業のグループは、作品の作成プロセスを証明するために特別に設計されたソフトウェアを発売し始めました。
Workings、Blindproof、Wintertext、Human Ink、ObraVera などのツールは、作者の入力プロセスや文書の変更履歴を記録できるほか、暗号化されたハッシュやタイムスタンプなどのテクノロジーを使用して著作物のデジタル「フィンガープリント」を生成し、作者が質問されたときに創作記録を提供できるようにすることもできると主張しています。
ただし、これらのツールでは、作品に AI が使用されていないことを真に証明することはできません。
Pangram の共同創設者兼 CEO の Max Spero 氏は、たとえソフトウェアがタイピングプロセスを完全に記録できたとしても、ユーザーは AI が生成したコンテンツをそのまま入力したり、自動タイピング プログラムの助けを借りて執筆プロセスを偽装したりすることができると指摘しました。
さらに、ライターは複雑な方法で創作することがよくあります。複数のドキュメントを切り替えたり、下書きを繰り返し修正したり、携帯電話で音声メモを録音したりする場合があります。これらのプロセスを単一のソフトウェアで完全に記録することは困難です。
ObraVera の開発者らはまた、その技術により特定のテキストがいつ登録され、誰が送信したかを証明できるが、そのテキストが AI によって生成されたかどうかを独自に確認することはできないことを認めました。
AI 検出ツール自体にも議論の余地があります。
Pangram は、クリエイティブ ライティングの分野における自社ツールの誤検知率はわずか
0.01%
だと主張しています。 。しかし、作家組合の最高責任者メアリー・ラーセンバーガー氏は、人々が自分の手書きの作品をテストのために提出したものの、AIによって生成されたものであると判断されたという複数の事例を同協会が聞いていると述べた。ラクセンバーグ氏は、作家に人間の作家であるという追加の証拠の提出を求めること自体が不当な負担であると考えています。同氏は、協会は作家にそのようなツールの使用を強制することを支持していないことを強調し、作家に対し、AIの使用について同業者を安易に非難しないようにと注意を促した。
出版業界の専門家ジェーン・フリードマンは、出版社や文芸代理店が追加料金を必要としたり時間のかかる著者認証システムを全面的に受け入れる可能性は低いと指摘しています。たとえ統一基準が定められたとしても、認証資料の偽造や改ざんを避けることは困難です。
この不信感が作品の市場評価に影響を与えています。
バルツ氏は、自分の作品が「AI が書いたかのように読める」という理由だけで、書評ウェブサイト Goodreads で作家が多くの悪い評価を受けていると聞いたことを明らかにしました。読者の中には、2022年以降に出版された作品はAI生成コンテンツとの混入が心配で読みたくないという声もあった。
皮肉なことに、2027 年に出版予定のバルツの新しい小説「アカウントの削除」は、たまたま生成 AI に基づいています。彼女は著書の中で、大規模な言語モデルの表現を意図的に模倣して、架空の AI チャット記録やマーケティング コピーを作成しました。
今、彼女は、意図的に AI を模倣するこれらの言葉が自分自身を疑うのではないかと心配し始めています。
「コンテンツが AI ライティングであると判断された場合はどうすればよいですか?」
バルツさんは言った。「Wired」は、AI ライティング ツールと検出技術の継続的な開発により、出版業界は解決が難しい問題に直面していると指摘しました。
機械が人間の文章を模倣するのがますます上手になり、人間の言葉が機械によって誤って判断される可能性があるとき、作家は自分の作品が自分の手によるものであることをどうやって証明できるのでしょうか。
コメント