英国、児童の性的コンテンツを作成するAIヌーディフィケーションアプリの禁止を要請

児童委員、性的画像を作成するAIアプリの禁止を求める

写真を加工して児童の性的画像を作成するAI技術がますます利用しやすくなっており、英国で懸念の声が上がっている。

このようなヌード化アプリは、実際の写真を加工して個人の裸を見せるもので、ソーシャルメディアや検索プラットフォームで広く利用できるようになった。

アプリがあまりに普及したため、子どもたち、特に女児は標的になることを恐れて、ネット上での習慣を見直すようになっている。

AI操作から子どもたちを守るための緊急行動が必要

英国の児童委員であるレイチェル・デ・スーザ女史は、こうした技術がもたらすリスクについて警鐘を鳴らしている。

最近の報告書で彼女は、こうしたAIツールが若い女性や少女を不当にターゲットにしていることを強調した。

デイム・レイチェルはこう語った、

「子どもたちは、この技術が利用できること、ましてや利用されること自体に怯えていると私に言った。見知らぬ人、同級生、あるいは友人など、誰もがスマートフォンを使って裸の画像を作り、自分を操ることができるのではないかと恐れている。

アプリストアや検索エンジンのようなプラットフォームでこれらのツールが広く利用できるようになったことで、子どもたちの安全と幸福について大きな懸念が持たれている。

レイチェル女史によれば、テクノロジーの急速な進化は圧倒的であり、それが引き起こす潜在的な害をコントロールするための明確な解決策は見えていないという。

彼女は強調した、

このようなオーダーメイドのAIアプリが、子どもたちの生活を脅かす危険な存在となることを、私たちは黙って見過ごすわけにはいかない；

英国政府はAIが生成した性的虐待資料と戦うために十分なことをしているか？

AIが作成した児童性的虐待資料（CSAM）の作成と共有に取り組むための法的努力が続けられているにもかかわらず、批評家たちは、その対策は十分に進んでいないと主張している。

現在の法律では、露骨なディープフェイク画像を共有したり、共有するよう脅したりすることは違法であり、この目的で設計されたAIツールを作成したり配布したりすることに関する刑事犯罪も存在する。

しかし、レイチェル女史はヌーディフィケーションアプリの完全禁止が必要だと考えている。

彼女は、生成AIツールの開発者に対し、子どもへのリスクを特定し軽減する法的義務を求め、インターネットから露骨なコンテンツを削除するシステムを強化するよう促している。

政府の報道官によれば、英国はすでにこの問題に対処するための措置を講じているという。

彼らは、プラットフォームに対してCSAMを削除しなければ高額の罰金を科すことを義務付けているオンライン安全法を指摘した。

さらに、2025年初めには、児童が関与する性的に露骨な素材を生成できるAIツールの所持、作成、配布を犯罪とする新しい法律が導入された。

拡大するAIによる虐待の影響

ディープフェイクを生成するAIツールの台頭は、すでに憂慮すべき結果を招いている。

インターネット・ウォッチ・ファンデーション（IWF）のデータによると、AIが作成した児童性的虐待の報告件数は、2023年にはわずか51件であったのに対し、2024年には245件と、380％という驚異的な増加を見せている。

IWFの暫定最高責任者であるデレク・レイ＝ヒルは、次のように述べた、

これらのアプリが学校で悪用されていることは知っています；

児童委員による調査に参加したある16歳の少女は、AI操作への恐怖をこう語った、

論争が起こる前から、それが何に使われるかはわかっていた。技術的な驚異が悪用されるのは目に見えていた；

AIの悪用撲滅における政府の役割

政府は、AIが生成したCSAMを犯罪として取り締まり、有害なコンテンツをホスティングしたプラットフォームの責任を問う新たな法律を制定し、さらなる対策を約束した。

しかし、レイチェル・デ・スーザ女史は、より強力な対策が必要だと主張している。

彼女は政府に対し、ディープフェイクによる性的虐待を女性と少女に対する暴力の一形態として認識し、AIツールがもたらすリスクにもっと効果的に対処するよう求めた。

この課題に直面しているのは英国だけではない。

他の国々韓国 もまた、AI技術の急速な発展と、それが社会的弱者にもたらす危険と闘っている。

しかし、AIが生み出す虐待に関連する特定の犯罪を最近導入するなど、英国の積極的な姿勢は、問題への対応におけるリーダー的な位置づけとなっている。

AIが進化し続けるなか、オンライン上の子どもたちの安全を確保することは、依然として関心が高まっている。

法的には一定の前進が見られたものの、ヌーディフィケーションアプリの全面禁止を求める児童委員会の動きは、このような有害なテクノロジーに対する脆弱な個人に対するより強力な保護措置の継続的な必要性を浮き彫りにしている。