ユーザーデータに依存して収益を上げている多くの企業が、なぜ人工知能に弱いように見えるのでしょうか? Signal の社長であるメレディス・ウィテカー氏に尋ねれば、それは単に「人工知能が監視技術であるから」だと答えるでしょう。

TechCrunchDisrupt2023の壇上に上がったWhittaker氏は、AIはビッグデータとほぼ切り離せないものであり、消費者重視ではないが同様に著名なエンタープライズ企業や防衛企業であるG​​oogleやMetaのような企業が長年にわたって取り組んできたターゲット業界であるという見解を述べた。

「それには監視ビジネスモデルが必要です。これは、1990年代後半以来見られてきた監視広告の成長の激化です。AIは監視ビジネスモデルを強化し、拡大する方法だと思います。」と彼女は言いました。 「ベン図は円です。人工知能の使用も監視の一種ですよね？疑似科学的な感情認識装置が取り付けられた顔認識カメラの前を通り過ぎると、善悪にかかわらず、『あなたは幸せだ、あなたは悲しい、あなたは性格が悪い、あなたは嘘つきだ、など』というあなたに関するデータが生成されます。」これらは最終的には、私たちに対して権力を持っている人々、つまり私たちの雇用主、政府、国境警備などに販売され、リソースや機会へのアクセスを決定する判断や予測を行うための監視システムです。」

皮肉なことに、これらのシステムを支えるデータは、多くの場合、そのデータの対象となる作業者自身によって整理され、注釈が付けられていると彼女は指摘します (AI データセットを組み立てるプロセスで必要なステップです)。

「データに関する根本的な真実を知らせるレベルでは、人間の労働なしにこれらのシステムを作る方法はありません。人間のフィードバックによる強化学習ですが、これもまた、不安定な人間の労働をサニタイズする技術にすぎません」と彼女は説明した。 「何千人もの労働者は低賃金ですが、全体的にコストは高く、これらのシステムを構築するには他に方法はありません。それ以外に方法はありません。ある意味、私たちが見ているのはオズの魔法使いの現象です。カーテンを引くと、そこにはそれほど多くの知性が存在しません。」

ただし、すべての AI および機械学習システムが同様に搾取的であるわけではありません。 Signalが自社のアプリや開発作業でAIツールやプロセスを使用しているかどうか尋ねると、同アプリには「小型デバイスのモックアップがあるが、私たちが開発したのではなく、メディア編集ツールセットの顔ぼかし機能の一部として既製品を使用した。実際にはそれほど優れているわけではない...しかし、群衆の写真から顔を検出してぼかし、ソーシャルメディアで写真を共有するときに人々の個人的な生体認証データがClearviewなどに公開されないようにするのに役立つ」と認めた。

「しかし、問題は…そうです、これは人工知能の素晴らしい利用法です。私がステージ上で吐き出しているネガティブな要素をすべて打ち消すことができるだけではないでしょうか？」彼女は付け加えた。 「もちろん、これが顔認識の唯一の市場であれば…しかし、はっきりさせておきます。顔認識技術の開発と導入のプロセスには費用がかかり、経済的インセンティブによってこれが唯一の用途になることは決してありません。」