HYBE에서 K팝 스타를 노린 딥페이크 범죄로 8명이 체포되었습니다.
한국 경찰이 방탄소년단, 뉴진스, 르세라핌, 세븐틴 등 글로벌 아티스트의 소속사인 K팝의 강자 하이브 소속 아티스트를 노린 딥페이크 영상을 제작하고 유포한 혐의로 8명을 체포했습니다.
체포된 6명은 텔레그램 채팅방과 소셜 미디어 플랫폼을 통해 조작된 콘텐츠를 제작하고 유포한 혐의를 받고 있습니다.
팬들의 신고와 하이브의 지원으로 경찰의 단속에 힘을 실어주다
이번 체포는 지난 2월 25일에 체결한 공식 파트너십에 따라 HYBE와 경기북부지방경찰청(NGPPA)이 수개월간 협력한 결과입니다.
이 계약에는 소속 아티스트와 관련된 AI 생성 딥페이크에 대응하기 위한 구체적인 조치가 명시되어 있습니다.
인공지능 딥페이크 대응을 위한 업무협약 체결식에 참석한 하이브의 정진수 최고법률책임자(오른쪽)와 김호승 경찰청 사이버안전국장(왼쪽)이 기념촬영을 하고 있습니다.
경찰이 용의자를 신속하게 추적하는 데 도움이 된 HYBE가 직접 제공한 정보도 수사의 중요한 부분입니다.
HYBE는 또한 이번 사건에 기여한 팬층을 높이 평가했습니다.
이를 통해"아티스트 권리 침해 신고" 웹사이트 - 2024년 9월 출시 - 아티스트의 명예를 훼손하는 조작된 게시물에 대해 팬들이 경고를 보냈습니다.
팬들은 이러한 지속적인 위협에 대응하기 위해 마련된 'protect.hybecorp.com'을 통해 신고함으로써 아이돌을 보호하는 데 도움을 줄 수 있습니다.
한 방탄소년단 팬은 X에서 다른 팬들을 격려하며 글을 올렸습니다,
"아미 여러분, Hybe 포털에서 실제 문제를 계속 신고해 주세요... 저희를 잘 돌봐주고 있고 저희가 돕고 있습니다! 특히 이러한 딥페이크 범죄는 반드시 막아야 합니다!"
HYBE는 이러한 팁이 범죄 행위를 탐지하고 막는 데 "중요한 역할을 했다"고 말했습니다.
AI 가짜 동영상이 급증하는 가운데 피해자들이 목소리를 내기 위해 고군분투하다
유명 인사가 등장하는 딥페이크 동영상은 한국 엔터테인먼트 업계에서 점점 더 큰 문제가 되고 있습니다.
법 집행 기관에 따르면 이 문제는 특히 연예인들에게 시급한 문제인데, 연예인들은 종종 나서기를 꺼려하기 때문입니다.
2023년 보고서에 따르면 딥페이크 포르노 피해자의 94%가 K팝 아티스트인 것으로 나타났습니다.
르 세라핌의 사쿠라 원본 사진을 딥페이크 기술을 사용하여 디지털 방식으로 변경하여 가짜 누드 이미지를 만들었습니다.
김호승 NGPPA 대표는 이렇게 말했습니다,
"이러한 범죄를 스스로 신고하기 어려운 유명인의 취약점을 악용하는 딥페이크 범죄가 증가하고 있습니다."
그는 다음과 같이 덧붙이며 범죄자를 식별하고 기소하기 위한 지속적인 노력을 약속했습니다,
"딥페이크는 피해자의 일상을 파괴할 수 있는 심각한 범죄 유형이며, 공인을 대상으로 한 범죄도 예외는 아닙니다."
HYBE, 딥페이크 위반자에 대한 무관용 정책 선언
하이비의 이재상 대표는 이러한 범죄에 대한 강력한 법적 대응을 다짐하며, 합의 없는 회사의 방침을 재확인했습니다.
이재상, HYBE 대표
리가 말했습니다,
"하이비는 아티스트의 초상권과 명예를 침해하는 범죄에 대해 무관용 원칙과 합의 불가를 바탕으로 단호하게 대응할 것입니다."
또한 법 집행 기관과 지속적으로 협력하고 회사의 아티스트 보호 시스템을 강화하겠다고 약속했습니다.
가짜 동영상 유포 혐의로 20명 이상 체포되면서 더 큰 노력 필요
8명의 용의자들은 특히 HYBE 아티스트를 표적으로 삼았지만, 경찰은 텔레그램을 통한 음란 딥페이크 콘텐츠 유포와 관련하여 총 23명이 체포된 것으로 확인했습니다.
이 중 13명이 현재 구금되어 있습니다.
피의자 대부분은 10대와 20대가 90% 이상을 차지할 정도로 젊고 안정적인 일자리를 갖지 못한 것으로 알려졌습니다.
K팝 업계, AI로 인한 괴롭힘에 맞서 단결하다
HYBE의 단속은 케이팝계 전반의 우려를 반영합니다.
JYP, YG, 큐브 엔터테인먼트와 같은 대형 엔터테인먼트 기업들도 소속 아티스트에 대한 딥페이크 위협에 대응하기 위한 이니셔티브를 시작했습니다.
한편, HYBE가 소유한 레이블 ADOR은 최근 걸그룹 뉴진스를 합성 미디어 공격을 포함한 온라인 괴롭힘으로부터 보호하기 위해 법적 조치를 확대하고 있다고 밝혔습니다.
미국 의원들, 업계 지원으로 딥페이크 규제 추진
한국을 넘어 미국 의원들도 초당적으로 승인되지 않은 AI 생성 콘텐츠에 대응하기 위한 법안인 '가짜 콘텐츠 방지법(NO FAKES Act)'을 다시 발의했습니다.
이번 주에는 기술 리더와 음악 업계 경영진 모두의 지지를 받았습니다.
워싱턴 행사에는 이전에 상원에서 증언한 바 있는 워너 뮤직 그룹의 CEO 로버트 킨클을 비롯해 레코딩 아카데미의 CEO 하비 메이슨 주니어, 유튜브의 비비안 루잇, RIAA의 미치 글레이저 대표 등이 참석했습니다.
또한 뇌졸중 후 AI를 사용하여 목소리를 되찾은 것으로 유명한 컨트리 가수 랜디 트래비스도 참석했습니다.