メタ監督委員会、ロナウド・ナザーリオのディープフェイクに対応しなかった同社を非難

メタ ブラジルの伝説的サッカー選手、ロナウド・ナザリオがオンラインゲームを宣伝する動画をAIが操作したフェイスブックの投稿を、監督委員会が削除するよう命じた。

理事会は、この投稿がメタ社の詐欺とスパムに関するコミュニティ基準に違反していると裁定し、同社が欺瞞的なビデオにアクセスし続けることを許可したことを批判した。

について監督委員会は声明の中で次のように述べている。 木曜日：

「この投稿を削除することは、詐欺とスパムに関するMetaのコミュニティ基準に合致している。Metaはまた、広告のために有名人の画像を使用することを禁止しているため、そのコンテンツを拒否するべきだった。"

メタのコンテンツモデレーションを監督する独立機関として、監督委員会 には、取締りの決定を支持したり覆したり、拘束力のある勧告を出したりする権限があり、メタはそれに応じなければならない。

2020年に設立されたこの組織は、メタの執行措置に関する透明性と説明責任を高めることを目的としている。

このケースは次のことを強調している。AIが生成するメディアへの懸念の高まり 個人を偽って描写するもので、詐欺、詐欺、誤報に悪用されることが多い。

ビデオでは、ロナウド・ナザーリオのシンクロ率の低いナレーションが、アプリを通じて「プリンコ」と呼ばれるゲームをするよう視聴者に促し、ユーザーが一般的なブラジルの仕事よりも多くの収入を得られると偽っていた。

この投稿は、フラグが立てられる前に60万ビューを超えた。

報告にもかかわらず、メタ社はその削除を優先せず、コンテンツはネット上に残っていた。

ユーザーがメタ社に不服を申し立てたところ、またしてもタイムリーな人的審査が行われなかったため、ユーザーはこの問題を監督委員会にエスカレートさせることにした。

ディープフェイク技術の台頭が懸念を呼ぶ

メタは、有名人の管理をめぐって度重なる批判にさらされてきた。ディープフェイク。

先月、女優のジェイミー・リー・カーティスが、彼女の肖像を使ったAIによる広告がインスタグラムに掲載されたことを受け、マーク・ザッカーバーグCEOに公然と異議を申し立てたばかりだ。

メタは広告を無効にしたが、元の投稿はそのまま残した。

監視委員会は、このようなコンテンツを削除する権限を持つのはメタ社内の専門チームだけであり、一貫性のない執行という広範な問題を浮き彫りにしていると指摘した。

取締役会は、メタ社に対し、不正行為防止ポリシーをより厳格に、サービス全体に均一に適用するよう求めた。

この精査は、ディープフェイクの悪用に対抗するための立法措置が強化されるなかでのことだ。

5月のことだ、ドナルド・トランプ大統領は超党派の「テイク・イット・ダウン法」に署名した、 プラットフォームに対し、合意のない親密なAI生成画像を48時間以内に削除するよう求める。

この法律は、有名人や未成年者をターゲットにしたディープフェイクポルノや画像ベースの虐待の急増に対処するものである。

注目に値する、トランプ自身も最近、ディープフェイクのバイラルにさらされた。 ディープフェイク技術がいかに真実と誤報の境界線に挑戦し続けているかを示す一例である。

急速に進化するこの脅威に対応するために、プラットフォームや議員たちはどのような準備をしているのだろうか？