マイクロソフトの最高経営責任者（CEO）サティア・ナデラは、テイラー・スウィフトの人工的に生成されたフェイクポルノ画像をめぐる論争に反応した。来週火曜日に放送されるNBCナイトリーニュースのインタビューで、ナデラ氏はAIが生成した同意のないヌードの蔓延を「衝撃的で非常に恐ろしい」と呼び、インタビュアーのレスター・ホルト氏に「これについては迅速に行動すべきだと思う」と語った。
1月30日の番組に先立ってNBCが公開した原稿の中で、ホルトはナデラに対し、「インターネットに氾濫したテイラー・スウィフトの偽ポルノ画像」への対応を求めた。ナデラ氏の回答は、テクノロジー政策のいくつかの謎を解明することに成功したが、それらについてはほとんど知られていない。確実な解決策がないのであれば当然のことだ。
2 点申し上げたいと思います。1 つは、もう一度、私たちの責任だと思うことに戻ります。それは、より安全なコンテンツを制作するために、テクノロジーの周囲にあらゆるガードレールを設置する必要があるということです。やるべきことはたくさんあり、行われていることがたくさんあります。しかし、それは世界的、社会的なものであり、特定の規範への収束について言えます。私たちにできること、特に法律、法執行機関、テクノロジープラットフォームが連携できた場合、私たちは思っているよりもはるかに多くのことを管理できると思いますし、私たちは自分自身を自分たちに信じています。
そして、Microsoft 自体が偽の Swift イメージに何らかの関与をしている可能性があります。 404Media のレポートによると、画像は Telegram ベースのポルノ コンテンツ制作コミュニティからのものであり、Microsoft Designer 画像ジェネレータの使用を推奨していたことが明らかになりました。理論上、Designer は有名人の画像を生成することを拒否しますが、AI ジェネレーターは簡単に騙される可能性があり、プロンプトをいくつか調整するだけでその制限を突破できることが 404 によってわかりました。これは、テイラー・スウィフトの画像が Designer を使用して作成されたことを証明するものではありませんが、Microsoft が修正できる技術的な欠陥です。
しかし、人工知能ツールの登場により、本物の人物の偽のヌード写真を作成するプロセスが大幅に簡素化され、テイラー・スウィフトよりもはるかに権力も知名度も低い女性たちに大きな問題を引き起こしている。そして、その生産を制御することは、大企業に防御を強化するよう求めるほど簡単ではありません。 Microsoft のような「ビッグテック」プラットフォームがロックダウンされている場合でも、StableDiffusion のようなオープン ツールを再トレーニングして NSFW イメージを生成することはできますが、これを困難にする試みもあります。これらのジェネレーターにアクセスするユーザーははるかに少ないかもしれませんが、Swift の事件は、小さなコミュニティの活動がいかに広範囲に広がるかを示しています。
ナデラ氏は、より大きな社会的、政治的変化を漠然とほのめかしたが、人工知能を規制する初期の動きにもかかわらず、マイクロソフトには明確な解決策がない。議員や法執行機関は一般に、同意のない性関連画像の扱いに苦慮しており、人工知能の偽造によりさらに複雑さが増している。一部の議員はこの問題に対処するために宣伝法を再編しようとしているが、提案された解決策は言論に重大なリスクをもたらすことが多い。ホワイトハウスはこの問題について「立法措置」を求めているが、それが何を意味するかについては詳細をあまり明らかにしていない。
同意のない画像の拡散を制限するソーシャルネットワークなど、他にも応急処置はあるが、今のところナデラ氏の唯一の明確な計画は、マイクロソフト自身の人工知能部門をより良い形にすることだ。
関連記事：