영국, 아동의 성적인 콘텐츠를 생성하는 AI 누드화 앱 금지 촉구

아동 위원, 성적인 이미지를 생성하는 AI 앱 금지 촉구

사진을 조작하여 아동의 성적으로 노골적인 이미지를 만들어내는 AI 기술이 점점 더 쉽게 접근할 수 있게 되면서 영국에서 우려를 불러일으키고 있습니다.

실제 사진을 보정하여 나체로 보이게 하는 '누드화' 앱은 현재 소셜 미디어와 검색 플랫폼에서 널리 사용되고 있습니다.

이 앱이 너무 널리 퍼져 어린이, 특히 여자아이들이 표적이 될까 봐 온라인 습관을 조절하고 있습니다.

AI 조작으로부터 어린이를 보호하기 위한 긴급 조치 필요

영국의 아동 위원인 레이첼 드 수자(Dame Rachel de Souza)는 이러한 기술의 위험성에 대해 경각심을 불러일으켰습니다.

최근 보고서에서 그녀는 이러한 인공지능 도구가 젊은 여성과 소녀들을 불균형적으로 표적으로 삼고 있으며, 특히 여성의 신체를 변형하도록 설계된 앱이 많다는 점을 강조했습니다.

댐 레이첼이 공유했습니다,

"아이들은 이 기술을 사용할 수 있다는 것 자체가 무섭다고 말하곤 합니다. 낯선 사람, 같은 반 친구, 심지어 친구까지 스마트폰을 이용해 나체 이미지를 만들어 자신을 조종할 수 있다는 두려움에 떨고 있습니다."

앱 스토어와 검색 엔진과 같은 플랫폼에서 이러한 도구가 널리 사용됨에 따라 어린이의 안전과 복지에 대한 우려가 커지고 있습니다.

댐 레이첼에 따르면, 기술의 급속한 발전은 압도적이지만 이로 인한 잠재적 피해를 제어할 수 있는 명확한 해결책은 보이지 않는다고 합니다.

그녀는 강조했습니다,

"우리는 이러한 맞춤형 AI 앱이 아이들의 삶을 이렇게 위험하게 지배하는 것을 가만히 앉아서 지켜볼 수 없습니다."라고 말합니다;

영국 정부는 AI로 생성된 성적 학대 자료와 싸우기 위해 충분히 노력하고 있나요?

인공지능으로 생성된 아동 성적 학대물(CSAM)의 제작과 공유에 대처하기 위한 법적 노력이 계속되고 있지만, 비평가들은 이러한 조치가 충분하지 않다고 주장합니다.

현행법상 노골적인 딥페이크 이미지를 공유하거나 공유하겠다고 협박하는 행위는 불법이며, 이러한 목적으로 설계된 AI 도구를 만들거나 배포하는 행위는 형사 범죄에 해당합니다.

하지만 댐 레이첼은 노출 앱에 대한 전면적인 금지가 필요하다고 생각합니다.

그녀는 생성형 AI 도구 개발자에게 아동에 대한 위험을 식별하고 완화하기 위한 법적 의무를 부과하고, 인터넷에서 노골적인 콘텐츠를 삭제하는 시스템을 강화할 것을 촉구했습니다.

정부 대변인에 따르면 영국은 이미 이 문제를 해결하기 위한 조치를 취했다고 합니다.

이들은 플랫폼이 CSAM을 삭제하지 않으면 막대한 벌금을 물어야 하는 온라인 안전법을 지적했습니다.

또한 2025년 초에는 아동과 관련된 음란물을 생성할 수 있는 AI 도구의 소지, 제작, 배포를 범죄로 처벌하는 새로운 법률이 도입되었습니다.

AI로 인한 악용의 영향력 확대

딥페이크를 생성하는 AI 도구의 등장으로 이미 우려스러운 결과가 초래되고 있습니다.

인터넷 감시 재단(IWF)의 데이터에 따르면 2023년에 51건에 불과했던 아동 성학대 신고 건수가 2024년에는 245건으로 무려 380% 증가한 것으로 나타났습니다.

IWF의 임시 최고 경영자인 데릭 레이-힐은 다음과 같이 언급했습니다,

"우리는 이러한 앱이 학교에서 악용되고 있으며, 이미지가 빠르게 통제 불능 상태가 된다는 것을 알고 있습니다."라고 말합니다;

아동 위원회의 설문조사에 참여한 한 16세 소녀는 AI 조작에 대한 두려움을 다음과 같이 말했습니다,

논란이 불거지기 전부터 저는 이미 이 기술이 어떤 용도로 쓰일지 알 수 있었고, 좋은 일은 아닐 거라는 것을 알 수 있었습니다. 저는 이미 이 기술이 악용될 것이라는 것을 알 수 있었습니다."라고 말했습니다;

AI 악용 방지를 위한 정부의 역할

정부는 AI가 생성한 CSAM을 범죄화하고 유해한 콘텐츠를 호스팅하는 플랫폼에 책임을 묻는 새로운 법률을 통해 추가 조치를 약속했습니다.

하지만 레이첼 드 수자는 더 강력한 조치가 필요하다고 주장합니다.

그녀는 정부가 딥페이크 성폭력을 여성과 소녀에 대한 폭력의 한 형태로 인식하고 AI 도구로 인한 위험에 보다 효과적으로 대처할 것을 촉구했습니다.

이러한 도전에 직면한 것은 영국만이 아닙니다.

다음과 같은 다른 국가대한민국 는 AI 기술의 급속한 발전과 이로 인해 취약한 계층에 미치는 위험에 대해서도 고민하고 있습니다.

그러나 영국은 최근 AI로 인한 학대와 관련된 특정 범죄를 도입하는 등 적극적인 자세로 문제 해결의 선두주자로 자리매김하고 있습니다.

AI가 계속 발전함에 따라 온라인에서 어린이의 안전을 보장하는 것이 점점 더 큰 관심사로 떠오르고 있습니다.

일부 법적 진전에도 불구하고 아동 위원회의 나체 노출 앱 전면 금지 추진은 이러한 유해한 기술로부터 취약한 개인을 보호하기 위한 더 강력한 보호 장치가 지속적으로 필요하다는 점을 강조합니다.