イーロン・マスクのAIツール「Grok Imagine」が、性的に露骨なテイラー・スウィフトのビデオをプロンプトなしに作成したとして非難を浴びている。

イーロン・マスクのAI動画ツール、テイラー・スウィフトのディープフェイクで反発に直面

イーロン・マスクが開発した最新のAIビデオジェネレーター「Grok Imagine」が、ポップスター、テイラー・スウィフトの性的に露骨なクリップを明示的なプロンプトなしに作成したとされ、批判を浴びている。

マスクの会社xAIが開発したこのオンラインツールは、4つのモードを通して画像を瞬時にビデオに変換することができる："カスタム"、"ノーマル"、"ファン"、"スパイシー"。

論争の中心は「スパイシー」モードで、ユーザーがヌードを要求していなくても、スウィフトのトップレス動画が作成されたと報じられている。

スパイシー・モード、非合法コンテンツで物議を醸す

のジャーナリスト、ジェス・ウェザーベッド。ザ・ヴァージ というプロンプトを入力し、Grok Imagineをテストした。

AIは露出度の高い服を着たスウィフトの画像を30枚以上作成した。

ウェザーベッドによると、このツールは "スパイシー "プリセットを使って、スウィフトが "ほとんど無関心なAIが生成した群衆のために服を破り、Tバック姿で踊り始める "ビデオを生成したという。

彼女はこう付け加えた、

"こんなに早く出会えるなんてショックだった。服を脱ぐように指示したことはない。"スパイシー "を選択しただけだ」。

23ポンドの『SuperGrok』サブスクリプションの一部である "スパイシー "モードは、ユーザーが静止画像からソフトコアポルノビデオを作成することを可能にする。

男性向けのプロンプトでは上半身裸の写真しか掲載されなかったが、有名人を含む女性向けのプロンプトでは上半身裸の写真も掲載された。

専門家はAIのバイアスにデザインによる女性差別のレッテルを貼る

法律の専門家たちは、グロック・イマジンの倫理的設計について深刻な懸念を表明している。

ダラム大学でオンライン虐待を専門とする法学教授、クレア・マクグリンは、AIの行動を "デザインによる女性差別 "と表現した。

彼女は、Grok Imagineを統合したXのようなプラットフォームは、実在の人物のポルノ描写を禁止する方針にもかかわらず、女性の性的描写を防止できていないと批判した。

マクグリンはまた、すべての非合意的なポルノ・ディープフェイクの作成または依頼を犯罪とする英国の法律の草案作成にも貢献しているが、この法律はまだ完全には制定されていない。

貴族院で修正案を提出したオウエン男爵夫人は、次のように述べた、

「すべての女性は、自分の親密な画像の所有者を選ぶ権利を持つべきである。このケースは、政府がこれ以上遅らせてはならない理由を示している。"

英国の新ルールにおける法的リスクと年齢確認の問題

この論争は、年齢確認におけるギャップも浮き彫りにしている。

グロック・イマジンは、「スパイシー・モード」を有効にする前にユーザーに生年月日を尋ねただけで、それ以上のIDチェックを要求しなかったと報じている。

7月に可決された英国の法律は、露骨なコンテンツをホストするプラットフォームに対し、未成年者のアクセスを防止するための強固な検証手段の導入を義務付けている。

英国のメディア規制機関であるOfcomは、ポルノコンテンツを生成するAIツールが新規則に該当することを確認し、プラットフォームを注意深く監視していると述べた。

グロック・イマジンがさらに精査される

スウィフト事件は、マスクのAIツールをめぐる広範な懸念の一部である。

7月には、xAIのチャットボットのひとつが反ユダヤ主義的な発言をしたとして反発を受け、マスクはモデルに改良を加えたと主張せざるを得なかった。

Grok Imagineは同様に、スカーレット・ヨハンソン、シドニー・スウィーニー、ジェナ・オルテガ、ニコール・キッドマン、クリステン・ベル、ティモシー・シャラメなど、他の有名人の性的コンテンツを制作していることが明らかになっている。

いくつかのアウトプットは控えめにされたり、ぼかされたりしたが、他のアウトプットは制限なく生成された。

ウェザーベッド社は、ヌード画像に対する直接的なプロンプトは空白の出力を生成し、Grok社のシステムが露骨な要求をブロックできることを示していると指摘した。

しかし、"スパイシー・モード "でのAIのデフォルト動作は、何の指示もなく女性の性的描写を許可したままだった。

前へ ディープフェイク論争は継続的なリスクを浮き彫りにする

AIが生成したコンテンツにテイラー・スウィフトの肖像が利用されたのはこれが初めてではない。

2024年1月、スウィフトの性的なディープフェイクがXとテレグラムで流行し、同プラットフォームは彼女の名前の検索を一時的にブロックし、コンテンツを削除した。

ウェザーベッドによれば、ヴァージ・チームがスウィフトをテストに選んだのは、以前のインシデントがあったからであり、セーフガードによってこのような出力が防がれることを期待してのことだという。

"私たちは、今となっては間違っているが、もし彼らが有名人の似顔絵を模倣することを防ぐために何らかの安全策を講じていたなら、彼女はそのリストの筆頭に挙げられていただろうと考えていた"

XAIが沈黙、これまでの安全保証に疑問の声

xAIは、Grok Imagineがテイラースウィフトの性的に露骨な動画をプロンプトなしに生成したという最新の疑惑に対して、公には回答していない。

これは、2024年のXセーフティの声明とは対照的である：

「私たちのチームは、特定されたすべての画像を積極的に削除し、それらを投稿したアカウントに対して適切な措置を講じています。さらなる違反があれば直ちに対処できるよう、状況を注意深く監視しています。"

過去の保証と現状の食い違いは、AIの倫理、コンテンツのモデレーション、ディープフェイク技術の管理におけるプラットフォームの責任に対する懸念を新たにした。

英国では来年、非合意のAIポルノに関する規制が「テイク・イット・ダウン法（Take It Down Act）」によって強化されることになっており、グロック・イマジンは、このような出力が続くようであれば、規制当局の注目が高まる可能性がある。