『侍女の物語』や『盲目の暗殺者』の著者であるカナダ人作家マーガレット・アトウッド氏は、最近ポルトガルのポルトで開催されたバベル文学文化祭で生成人工知能（AI）について語り、このテクノロジーに満足していないと認めた。現場でのインタビューで、アトウッド氏は AI チャットボットを使用した唯一の経験を思い出しました。彼女は、Anthropic のクロードを使用して英国の刑事ドラマ「ブラウン神父」に関する情報を照会しようとしましたが、相手が間違った結論を出していたことがわかり、現在の大規模な言語モデルの信頼性に疑問を抱くようになりました。
アトウッド氏は、クロード氏が質問に答えた際、明らかに「でっち上げ」ていたと述べた。彼女は、これはシステムが「意図的に嘘をついている」からではなく、それが大量のテキストで訓練された大規模な言語モデルにすぎず、人間の真の理解能力が欠けているからだと指摘した。彼女の説明によると、クロードは多数のテレビレビューや映画レビューから情報を「略奪してつなぎ合わせた」ようでしたが、通常、レビューはプロットの結末を直接明らかにしておらず、そのことがモデルを「ブラウン神父」の重要なプロットポイントに関するトレーニングコーパスによって「誤解」させました。
アトウッド氏はAIツールそのものを批判するだけでなく、そのようなテクノロジーに中毒になる人々に対しても不満を表明している。彼女は、こうしたユーザーを「日和見主義者」と呼んでおり、彼らは個人的にコンテンツを検証したり作成したりするために必要な時間とエネルギーを投資するのではなく、AI の助けを借りて「近道」をしたり、検出されない方法で「不正行為」をしようとしていると考えています。彼女の見解では、テクノロジー自体は人間の判断や責任に取って代わることはできません。コンテンツ制作が未検証の機械に完全に委ねられた場合、リスクは最終的には人間自身が負うことになります。
アトウッド氏は、現在の大規模言語モデルは公開されたネットワーク資料とクロールされたテキストデータに大きく依存していると強調した。この情報は古い、偏っている、または間違っている可能性があります。したがって、彼女は、一般のユーザーとそれを商業目的で使用する機関の両方が、機械によって生成された結果を「最終的な権威」と見なすべきではなく、手動によるレビューと事実確認を行う必要があることを思い出させました。同氏は、多くの企業がAIをビジネスプロセスに統合しているが、たとえ効率を向上させるためであっても、これらのシステムは間違いを犯すものであり、出力の品質は入力データの信頼性と完全性に大きく依存するという現実を受け入れる必要があると指摘した。
生成 AI の根本的な問題に関して、アトウッド氏は自身のアプローチを「ガベージ イン、ガベージ アウト」というシンプルなテクノロジーで要約しています。彼女は、トレーニング データ自体に欠陥があるか、フィルタリングされていないインターネット コンテンツで構成されている場合、モデルの構造がどれほど複雑でパラメータの規模が膨大であっても、誤差とバイアスの問題を根本的に解決することはできないと考えています。彼女にとって、それは単にテクノロジーの信頼性に関する問題ではなく、創造性、独創性、そして人間の作家の役割についてのより広範な反映です。
会話の最後に、アトウッド氏は聴衆に対し、機械はロボットのような完璧なパフォーマンスを発揮するものではなく、ましてや道徳や経験を備えた人間ではなく、文章を読んで再構成するための単なるツールにすぎないことを改めて思い出させた。彼女は、創造、批評、知識生産の分野において、人々はテクノロジーによって約束された「便利さ」の背後で真実と正確さの追求が犠牲にならないように警戒心と責任感を維持する必要があると主張しています。