메타 감독위원회, 호날두 나자리오 딥페이크에 대응하지 않은 회사들에 대한 경고

메타 의 감독 위원회는 브라질 축구의 전설인 호나우두 나자리오가 온라인 게임을 홍보하는 AI 조작 동영상이 포함된 페이스북 게시물을 삭제하도록 명령했습니다.

위원회는 해당 게시물이 사기 및 스팸에 대한 메타의 커뮤니티 기준을 위반했다고 판결하며, 사기성 동영상이 계속 액세스 가능하도록 허용한 회사를 비판했습니다.

그리고감독위원회는 성명에서 다음과 같이 말했습니다. 목요일:

"해당 게시물을 삭제한 것은 사기 및 스팸에 관한 메타의 커뮤니티 표준에 부합하는 조치입니다. 또한 메타는 유명인의 이미지를 사용하여 사람들이 광고에 참여하도록 미끼로 삼는 것을 금지하는 운영원칙에 따라 해당 콘텐츠를 광고용으로 거부했어야 합니다."

메타에서 콘텐츠 검토를 감독하는 독립 기관입니다,감독 위원회 는 게시 중단 결정을 유지하거나 번복할 수 있는 권한이 있으며 메타가 반드시 응답해야 하는 구속력 있는 권장 사항을 발행할 수 있습니다.

2020년에 설립된 이 기구는 메타의 집행 조치에 대한 투명성과 책임성을 높이는 것을 목표로 합니다.

이 사례는 다음과 같은 점을 강조합니다.AI 생성 미디어에 대한 우려 증가 사기, 사기 및 잘못된 정보에 악용되는 개인을 허위로 묘사하는 경우가 많습니다.

이 영상에서 호나우두 나자리오의 목소리가 제대로 동기화되지 않은 채 시청자들에게 앱을 통해 플링코라는 게임을 플레이하면 일반적인 브라질의 직업보다 더 많은 돈을 벌 수 있다고 거짓으로 주장하며 시청자들을 독려했습니다.

이 게시물은 신고되기 전까지 60만 회 이상의 조회수를 기록했습니다.

신고에도 불구하고 메타는 해당 콘텐츠의 삭제 우선순위를 정하지 않았고, 해당 콘텐츠는 온라인에 그대로 남아있었습니다.

사용자가 메타에 이의를 제기했을 때, 메타는 또다시 적시에 인적 검토를 받지 못했고, 사용자는 이 문제를 감독위원회에 에스컬레이션했습니다.

딥페이크 기술의 부상으로 인한 우려의 목소리

메타는 유명인 관리에 대한 반복적인 비판에 직면해 왔습니다.딥페이크.

지난달, 배우 제이미 리 커티스는 자신의 닮은꼴로 제작된 AI 광고가 플랫폼에 등장한 후 인스타그램에서 마크 저커버그 CEO에게 공개적으로 도전장을 내밀었습니다.

메타가 광고를 비활성화하는 동안 원본 게시물은 그대로 유지되었습니다.

감독위원회는 메타 내 전문 팀만이 이러한 콘텐츠를 삭제할 권한을 가지고 있으며, 이는 일관성 없는 집행이라는 더 광범위한 문제를 지적했습니다.

위원회는 메타의 서비스 전반에 걸쳐 사기 방지 정책을 보다 엄격하고 일관되게 적용할 것을 촉구했습니다.

이러한 조사는 딥페이크 남용을 방지하기 위한 입법적 노력이 강화되고 있는 가운데 이루어졌습니다.

5월에,도널드 트럼프 대통령은 초당적인 테이크 잇 다운 법안에 서명했습니다, 플랫폼은 48시간 이내에 합의되지 않은 사적인 AI 생성 이미지를 삭제해야 합니다.

이 법은 유명인과 미성년자를 대상으로 한 딥페이크 포르노와 이미지 기반 학대의 급증에 대응하기 위한 것입니다.

특히트럼프 자신도 최근 바이러스성 딥페이크의 대상이 되었습니다. 는 미국 남부 국경을 지키기 위해 공룡을 옹호하는 모습을 그린 작품으로, 딥페이크 기술이 진실과 허위 정보의 경계에 계속 도전하고 있음을 보여주는 예시입니다.

플랫폼과 의원들은 빠르게 진화하는 이 위협에 대응하기 위해 얼마나 준비되어 있을까요?