사이버 범죄자들은 점점 더 인공 지능(AI) 도구를 활용하여 유명인을 그럴듯하게 표현하는 딥페이크 제작에 나서고 있어 우려스러운 추세입니다.

이들은 이러한 유사성을 악용하여 팬들을 속여 돈과 암호화폐를 빼앗아 가기도 합니다.

최근 보고서에 따르면, 이러한 사기성 콘텐츠의 발생 건수는 작년에만 무려 87%나 급증한 것으로 나타났습니다.

이 문제는 유튜브의 유명인사인 미스터 비스트(Mr Beast)가 자신의 많은 팬들과 공유하면서 수면 위로 떠올랐습니다.X(이전의 트위터) 2,400만 명 이상의 팔로워가 이러한 사기의 희생양이 되었다고 밝혔습니다.

팟캐스트 진행자이자 과학 커뮤니케이터, 포커 챔피언인 리브 보리가 답했습니다:

"그들은 그렇지 않으며 민주주의도 마찬가지입니다.

딥페이크란 무엇인가요?

딥페이크는 동영상이나 이미지의 디지털 변장과 같습니다.

누군가의 얼굴이나 음성을 다른 사람과 바꿀 수 있는 컴퓨터 프로그램을 사용하여 실제처럼 보이는 가짜 동영상이나 사진을 만듭니다.

사람들은 종종 동영상에서 유명 배우의 몸에 자신의 얼굴을 붙이는 등 재미로 딥페이크를 사용하지만, 누군가가 실제로 하지 않은 말이나 행동을 한 것처럼 보이게 하여 다른 사람을 속이거나 속이는 데에도 딥페이크가 사용될 수 있습니다.

간단히 말해서 딥페이크는 누군가가 실제로 하지 않은 행동이나 말을 하는 것처럼 보이게 하는 디지털 속임수입니다.

딥페이크의 표적이 된 불행한 유명인은 누구인가요?

AI로 생성된 딥페이크의 등장으로 글로벌 리더, 정책 입안자, 법 집행기관이 리브와 같은 개인이 표현한 우려를 반영하며 광범위한 우려를 불러일으켰습니다.

본명이 제임스 도날드슨인 미스터 비스트의 사례는 온라인 사기나 캠페인에 자신의 초상을 무단으로 도용당한 유명인의 최근 사례일 뿐입니다.

지난 주말, 배우 톰 행크스는 인스타그램을 통해 자신의 동의 없이 아카데미 수상 경력이 있는 배우의 AI 생성 버전을 사용해 치과 보험을 홍보하는 사기성 캠페인에 대해 팬들에게 경고했습니다.

그는 최근 유명 배우가 등장하는 AI 제작 동영상이 치과 보험을 홍보하는 뜻밖의 맥락에서 등장한 것에 대해 언급했습니다:

"조심하세요! 저를 AI 버전으로 등장시켜 치과 보험을 홍보하는 동영상이 있습니다. 저는 아무 관련이 없습니다.

이와 비슷한 시기에 고 로빈 윌리엄스의 딸인 젤다 윌리엄스가 인스타그램에 올린 게시물은 AI 복제를 통해 아버지의 목소리가 상업 콘텐츠에 악용되는 것을 비난했습니다.

또한 테일러 스위프트, 나탈리 포트만, 엠마 왓슨과 같은 유명 여성 배우를 딥페이크 포르노에 악용하여 더욱 선정적인 관심사를 충족시키는 놀라운 추세도 있습니다.

톰 크루즈가 이 문제를 공개적으로 언급하지는 않았지만, 지난해 톰 크루즈가 등장하는 바이럴 AI 딥페이크가 소셜 미디어에 유포된 바 있습니다.

특히 배우만이 AI 조작의 유일한 대상이 아닙니다.

지난 8월, 가수 셀레나 고메즈는 인스타그램에 게시된 오디오 AI 딥페이크의 중심에 서게 되었는데, 이 딥페이크에는 위켄드의 '스타보이' 리믹스를 노래하는 아티스트의 모습이 조작된 것으로 나타났습니다;

이러한 사례는 AI가 생성한 딥페이크가 다양한 영역에서 개인에게 미치는 영향과 그로 인한 문제가 점점 더 커지고 있음을 잘 보여줍니다.