한국, 2024년 AI 생성 딥페이크에 의한 디지털 성범죄 피해자 10,000명 이상 보고

한국의 디지털 성범죄, AI 악용 증가로 급증하다

2024년에는 1만 명이 넘는 사람들이 한국의 디지털 성범죄 피해자 지원 센터에 도움을 요청하는 등 디지털 성범죄와 관련된 사건이 놀라울 정도로 증가하고 있습니다.

이는 2018년 센터 설립 이후 가장 많은 피해자 수를 기록한 것으로, 딥페이크 포르노와 같은 음란물 제작에 인공지능(AI)이 악용된 것이 주요 원인으로 분석됩니다.

딥페이크 콘텐츠로 인한 사례의 급격한 증가

한국 여성가족부의 보고서에서 가장 우려되는 추세는 AI로 생성된 딥페이크와 관련된 사례가 급격히 증가하고 있다는 점입니다.

이러한 사고 건수는 2023년 423건에서 2024년 1,384건으로 227% 급증했습니다.

피해자의 대부분은 30세 미만이었으며, 청소년이나 청년층이 많았습니다.

딥페이크 및 불법 촬영으로 인한 디지털 성범죄 발생 건수를 보여주는 표. (출처: 경향신문)

교육부는 미성년자를 대상으로 한 딥페이크 등 불온한 합성 콘텐츠를 제작할 수 있는 AI 도구의 접근성이 높아지는 것에 대해 우려를 표명했습니다.

교육부 관계자는 이 신기술의 위험성에 대해 언급했습니다,

"청소년은 소셜 미디어와 디지털 플랫폼을 자주 사용하기 때문에 특히 취약합니다."

젊은 피해자가 사건의 대부분을 차지합니다.

특히 10대 청소년과 20대가 이러한 디지털 성범죄의 주요 표적이 되고 있습니다.

20대의 피해자가 50.9%를 차지했으며 10대의 피해자는 27.8%를 차지했습니다.

이러한 피해자 인구 통계의 변화는 우려스러운데, 많은 젊은이들이 소셜 미디어 플랫폼과 메시징 앱을 통해 학대를 경험하기 때문입니다.

당국은 과소 보고가 상당수 존재하기 때문에 실제 청소년 피해자 수는 더 많을 것으로 보고 있습니다.

이러한 우려에도 불구하고 이 수치는 청소년들이 디지털 성 착취에 점점 더 취약해지고 있다는 분명한 추세를 보여줍니다.

불법 촬영 및 콘텐츠 유통의 폭발적 증가

딥페이크 외에도 불법 촬영 및 콘텐츠 배포 문제는 계속 확대되고 있습니다.

불법 촬영 건수는 2023년 2,927건에서 2024년 4,182건으로 42.8% 증가하여 우려할 만한 증가율을 보였습니다.

2024년에는 총 30만 건 이상의 불법 콘텐츠가 삭제되었으며, 이는 전년 대비 22.3% 증가한 수치입니다.

이러한 노력에도 불구하고 이러한 자료를 호스팅하는 불법 웹사이트의 대부분은 해외에 기반을 두고 있어 이 문제를 해결하려는 당국에 상당한 어려움을 안겨주고 있습니다.

출처: 출처: ABC 뉴스

센터, 수천 명의 피해자에게 중요한 지원 제공

디지털 성범죄 피해자 지원을 전담하는 정부 기관인 중앙디지털성범죄피해자지원센터(일명 DSC 또는 디성센터)는 지난해 10,305명의 피해자에게 332,000건 이상의 서비스를 제공했습니다.

지난 7년간 피해자에게 제공된 지원 개요 이미지. (출처: 연합뉴스)

도움을 요청하는 피해자 수와 제공된 서비스 모두 전년 대비 14.7% 증가한 수치입니다.

총 지원 피해자 수는 14.7% 증가했습니다. 2023년에는 36.5%가 지속적 피해자, 63.5%가 신규 피해자였습니다. 2024년에는 36.9%가 지속 피해자, 63.1%가 신규 피해자였습니다. (출처: 연합뉴스)

피해자들은 상담, 콘텐츠 삭제 지원, 법률 및 의료 지원 의뢰 등 다양한 형태로 지원을 받았습니다.

가장 많이 보고된 문제는 음란물 배포, 불법 촬영, 배포 위협에 대한 불안감이었습니다.

도움을 요청한 사람 중 72.1%가 여성, 27.9%가 남성으로, 이번 위기에서 여성이 피해자의 대부분을 차지했습니다.

78.8%가 30세 미만이었으며, 피해자의 절반가량이 20대에 해당했습니다. (출처: daum.net)

정부, 디지털 성범죄 방지 노력 강화 계획

한국 정부는 증가하는 디지털 성범죄 문제를 해결하기 위해 피해자 지원을 강화하고 예방 조치를 강화하는 계획을 발표했습니다.

정부는 어린이와 청소년을 대상으로 한 교육 콘텐츠를 제공하여 디지털 플랫폼과 AI로 인한 학대의 위험성에 대한 인식을 높이는 것을 목표로 하고 있습니다.

서울 한국여성인권진흥센터 외부에 디지털 성범죄 피해자를 위한 도움과 딥페이크 악용 예방 정보를 제공하는 포스터가 전시되어 있습니다.

또한 여성가족부는 피해자가 24시간 지원 서비스를 이용할 수 있도록 DSC의 예산과 인력을 확충하겠다고 약속했습니다.

신영숙 차관은 다음과 같이 강조했습니다,

앞으로도 디지털 성범죄 피해자를 적극적으로 지원할 수 있는 방안을 지속적으로 모색하겠습니다."라고 밝혔습니다;

취약한 개인에 대한 위협 증가를 부추기는 AI 도구

AI 기술이 계속 발전함에 따라 합성 미디어와 디지털 남용으로 인한 위험은 더욱 커질 것으로 보입니다.

노골적인 가짜 콘텐츠를 제작할 수 있는 도구의 사용이 증가함에 따라 당국은 이러한 범죄의 표적이 되고 있는 미성년자, 특히 10세 미만의 아동에게 미치는 영향에 대해 우려하고 있습니다.

한국 정부는 유해 콘텐츠의 확산을 막기 위해 플랫폼 사업자와 긴밀히 협력하고 규제를 강화할 것을 약속했습니다.

9월 6일 서울에서 활동가들이 '딥페이크 성범죄 조장하는 인터넷 플랫폼 규제하라'는 현수막을 들고 불법 딥페이크 콘텐츠에 대한 정부의 조치를 촉구하는 집회를 열었습니다. (출처: AP 통신)

신보라 여성인권진흥원장은 다음과 같이 언급했습니다,

"일원화된 기능을 안정적으로 정착시키고 피해자 지원 서비스의 질을 높여 디지털 성범죄 피해자에게 보다 신속하고 효과적인 지원을 제공할 수 있도록 노력할 것"이라고 말했습니다.

디지털 성범죄에 맞서기 위한 정부의 지속적인 노력은 증가하는 AI 기반 착취의 위협으로부터 취약한 개인, 특히 젊은 세대를 보호해야 한다는 시급한 필요성을 반영합니다.