有名人の似顔絵がAIコンパニオンに変身

メタ社は、テイラー・スウィフト、セレーナ・ゴメス、アン・ハサウェイ、スカーレット・ヨハンソンといった有名人を模倣したAIチャットボットを、彼らの許可なく制作し、ホストしていたことが発覚し、厳しい監視の下に置かれている。

調査によると、フェイスブック、インスタグラム、WhatsAppを含むメタ所有のプラットフォームで、Aリスト・セレブになりすました数十のボットが利用可能だった。

これらのボットはしばしば、自分が本物のスターだと主張し、ユーザーと媚びるようなやりとりをし、有名人に似た露骨な画像やセミヌード画像まで生成した。

多くのアバターはメタ社のチャットボット作成ツールを使って一般人が作成したものだが、ロイターは、2つの「テイラー・スウィフト・パロディ」ボットを含む少なくとも3つのアバターは、メタ社の社員が社内で開発したものであることを発見した。

16歳の俳優、ウォーカー・スコベルのような10代の有名人を表すボットも流通した。

ある不穏なケースでは、若い俳優がビーチで撮影した画像を要求すると、ボットはキャプションとともにリアルなシャツなしの写真を作成した：「かわいいだろ？

明示的な行動と危険なやりとり

ロイター通信は数週間のテスト期間中、ボットが性的な誘いをかけたり、ユーザーに会うよう誘ったり、本物そっくりのエロ画像を提供したりする様子を観察した。親密なコンテンツを求めるリクエストに応えて、ボットの中には、ランジェリー姿やバスタブに浸かっていたり、挑発的なポーズをとっていたりする有名人の写真をAIが操作して生成するものもあった。

メタ社の広報担当者アンディ・ストーンは、同社のAIツールはこのようなコンテンツを生成すべきではなかったと認め、この失態をメタ社独自のポリシーの実施上の失敗のせいにした。このガイドラインは、ヌードや性的な内容、特に未成年者を含むものを明確に禁止している。

ルールでは直接的ななりすましも禁止されているにもかかわらず、ストーン氏は多くの有名人ボットは「パロディ」に分類され、したがって許容されると主張した。

しかしロイターは、いくつかのボットにはそのようなラベルがないことを発見した。この記事が掲載される少し前に、メタ社はパロディとラベルのないバージョンを含む約12のアバターを静かに削除した。

アイデンティティ権をめぐる法的問題

専門家は、メタ社が法的措置に直面する可能性があると警告している。生成AIと知的財産を研究するスタンフォード大学ロースクールのマーク・レムリー教授は、カリフォルニア州の「肖像権」法は、同意なしに商業的利益のために人の名前や肖像を使用することを禁じていると指摘した。

変革的な作品には例外があるが、レムリーは、これらのチャットボットは新しいものを生み出すというより、有名人のアイデンティティを単に複製しているように見えると述べた。

米国では、このような権利は州レベルのパブリシティ法によって管理されている。テイラー・スウィフト、スカーレット・ヨハンソン、アン・ハサウェイのようなスターは、肖像の無断商用利用でメタを訴える可能性がある。

ロイターは、ハサウェイが「セクシーなヴィクトリアズ・シークレットのモデル」として描かれた、あるユーザーが公開したメタ生成画像について、彼女の代理人にフラグを立てた。

彼女の広報担当者によると、ハサウェイはメタ社のシステムによって親密な画像が作られていることを認識しており、法的な対応を検討しているという。

AIとディープフェイクをめぐる広範な懸念

この暴露は、デジタル時代におけるより広範な問題を浮き彫りにしている。インターネット上の生成AIツールはすでに、有名人を起用した露骨なコンテンツを含む、超リアルな「ディープフェイク」の作成を可能にしている。

ロイター通信は、イーロン・マスクのAI企業xAIもまた、同社のプラットフォーム「Grok」のユーザーが有名人の性的な画像を生成できるようにしていると指摘した。

しかし、Metaが他と一線を画しているのは、その巨大なソーシャルメディア・エコシステムにAIコンパニオンを積極的に統合し、何百万人ものユーザーをこれらのボットに直接さらすという決断を下したことだ。

メタ社は以前にもチャットボットのガイドラインをめぐる不祥事に直面している。今年初めには、同社の内部方針で、ボットが子供と「ロマンチックまたは官能的」な会話をすることは許容されると記載されているとの報道があった。

この事実が発覚したことで、米上院の調査が行われ、44州の検事総長がメタ社や他のAI企業に未成年者を性的に扱わないよう警告する書簡に署名した。ストーン氏は後に、この文書は誤りであり、修正中であると述べた。

このようなボットの危険性は単なる仮定の話ではない。ロイター通信は、ニューヨークでメタのチャットボットに会いに行く途中で転倒し、死亡した認知能力に問題のある76歳のニュージャージー州男性のケースを報じた。

メタがかつてケンダル・ジェンナーと共同で開発したペルソナをモデルにしたボットが、彼を招待したのだ。

芸能人組合SAG-AFTRAのダンカン・クラブツリー＝アイルランド全国事務局長は、有名人のなりすましボットはスター自身のリスクも高める可能性があると警告した。

熱狂的なファンは、本物の有名人のように見え、話し、行動するアバターに愛着を抱くかもしれない。

"私たちは、タレントに危険をもたらす強迫的な人物の歴史を見てきた。チャットボットがスターを模倣し、彼らであると主張するならば、これがどのようにうまくいかなくなるかは容易に想像がつく。"

保護強化の推進

この論争は、AIによる無許可の肖像使用から個人を守るため、連邦法の強化を求める声に拍車をかけた。

現在の保護措置は、主に州の「肖像権」法に依存しているが、SAG-AFTRAは、声、出演、ペルソナをデジタル複製から保護するための全国的な法律の制定を提唱してきた。

メタ社の最新のスキャンダルは、生成的AI、セレブリティ文化、マスソーシャルメディアプラットフォームの危険な交差点を強調している。数十億人のユーザーを抱える同社がAIをどのように導入するかという選択は、オンライン上のアイデンティティ、安全性、プライバシーの未来を形作るかもしれない。