韓国、2024年に1万人を超えるデジタル性犯罪被害者を報告 AIが生成したディープフェイクが後押し

韓国でデジタル性犯罪が急増、AIの悪用が増加

2024年、1万人以上が韓国のデジタル性犯罪被害者支援センターに助けを求めた。

これは、人工知能（AI）がディープフェイク・ポルノのような露骨なコンテンツを作成する際に悪用されたことが主な原因であり、2018年のセンター設立以来、被害者数が最多となった。

ディープフェイク・コンテンツで訴訟件数が急増

韓国の男女平等家族省が報告書で強調した最も懸念すべき傾向は、AIが生成したディープフェイクに関わる事件の激増である。

その件数は2023年の423件から2024年には1,384件へと227％も急増した。

被害者の多くは30歳未満で、ティーンエイジャーや若年層が多かった。

ディープフェイクや違法撮影によるデジタル性犯罪の件数を示す表。(出典：京郷新聞）

同省は、未成年者をターゲットにしたディープフェイクを含む、不穏な合成コンテンツを生成できるAIツールへのアクセスが増加していることに懸念を表明した。

同省関係者は、この新技術がもたらすリスクについてこう指摘する、

「ソーシャルメディアやデジタル・プラットフォームを頻繁に利用するティーンエイジャーは、特に被害を受けやすい。

若い被害者が事件の大半を占める

若者、特に10代と20代が、こうしたデジタル性犯罪の格好の標的になっている。

20代の被害者が50.9％を占め、10代は27.8％だった。

これらの若者の多くがソーシャルメディア・プラットフォームやメッセージング・アプリを通じて虐待を経験しているからだ。

当局は、ティーンエイジャーの実際の被害者数は、かなりの数の過少申告があるため、もっと多い可能性があると考えている。

このような懸念にもかかわらず、この数字は明確な傾向を示している。

違法撮影とコンテンツ配信の爆発的成長

ディープフェイクにとどまらず、不正な撮影やコンテンツ配信の問題はエスカレートし続けている。

違法撮影の件数は、2023年の2,927件から2024年には4,182件に増加し、42.8％の増加を示した。

2024年には合計で30万以上の違法コンテンツが削除され、前年比22.3％増となった。

こうした努力にもかかわらず、こうした資料をホストしている不正なウェブサイトのほとんどは海外に拠点を置いており、この問題に立ち向かおうとする当局にとって大きな課題となっている。

ソースABCニュース

センターが数千人の被災者に重要な支援を提供

中央デジタル性犯罪被害者支援センター（DSCまたはディソンセンターとも呼ばれる）は、デジタル性犯罪の被害者を支援するための重要な政府機関であり、昨年は10,305人の被害者に332,000件以上のサービスを提供した。

過去7年間の被害者支援の概要イメージ。(出典：聯合ニュース）

助けを求める被害者の数も、提供されるサービスも増加し、前年度より14.7％増加した。

支援された被害者の総数は14.7％増加した。2023年には、36.5％が継続被害者、63.5％が新規被害者であった。2024年には36.9％が継続被害者、63.1％が新規被害者だった。(ソース：聯合ニュース)

被害者は、カウンセリング、コンテンツ削除の支援、法的・医療的支援の紹介など、さまざまな形で支援を受けた。

最も多く報告された問題は、露骨な内容の配信への不安、違法撮影、配信への脅迫であった。

支援を求めた人のうち、72.1％が女性、27.9％が男性で、今回の危機では女性が被害者の大半を占めている。

78.8％が30歳未満で、被害者の約半数が20代だった。（出典：daum.net）

政府はデジタル性犯罪への取り組みを強化する計画

拡大するデジタル性犯罪の問題に対処するため、韓国当局は被害者への支援を強化し、予防措置を強化する計画をまとめた。

政府は、デジタル・プラットフォームやAIが生み出す虐待に関連するリスクに対する意識を高めるため、児童や青少年を対象とした教育コンテンツを提供することを目指している。

デジタル性犯罪被害者への支援とディープフェイク防止に関する情報を提供するポスターが、ソウルの韓国女性人権向上センターの外に掲示されている。

さらに、男女共同参画・家族省は、被害者が24時間体制で支援サービスを受けられるよう、DSCの予算と人員を拡大することを約束した。

シン・ヨンスク副大臣はこう強調した、

デジタル性犯罪の被害者を積極的に支援する方策を継続的に模索していく；

脆弱な個人への脅威を増大させるAIツール

AI技術が進化し続けるにつれ、合成メディアやデジタル虐待がもたらすリスクはエスカレートしていくだろう。

露骨な偽コンテンツを作成できるツールの利用可能性が高まるなか、当局は、こうした犯罪のターゲットになりつつある未成年者、特に10歳未満への影響を懸念している。

韓国政府は、プラットフォーム事業者と緊密に協力し、有害コンテンツの拡散を抑制するための規制を強化すると約束した。

9月6日、ソウルの活動家たちは、違法なディープフェイク・コンテンツに対する政府の措置を要求する集会を開き、「ディープフェイク性犯罪を助長するインターネット・プラットフォームを規制せよ」と書かれた横断幕を掲げた。(出典：AP通信）

女性人権推進機構のシン・ボラ代表はこう指摘する、

"一元化された機能を安定的に確立し、被害者支援サービスの質を向上させることで、デジタル性犯罪の被害者に対し、より迅速かつ効果的な支援を提供できるよう取り組んでいく"

デジタル性犯罪撲滅に向けた政府の継続的な取り組みは、脆弱な個人、特に若い世代をAIによる搾取の脅威から守る緊急の必要性を反映している。