المملكة المتحدة تحث على حظر تطبيقات الذكاء الاصطناعي التي تنتج محتوى جنسيًا للأطفال

مفوضة شؤون الأطفال تدعو إلى حظر تطبيقات الذكاء الاصطناعي التي تنتج صورًا جنسية

أصبحت تقنية الذكاء الاصطناعي التي تتلاعب بالصور لإنشاء صور جنسية صريحة للأطفال متاحة بشكل متزايد، مما أثار القلق في المملكة المتحدة.

أصبحت تطبيقات "التعري"، التي تقوم بتغيير الصور الحقيقية لجعل الأفراد يبدون عراة، متاحة الآن على نطاق واسع على وسائل التواصل الاجتماعي ومنصات البحث.

أصبحت التطبيقات منتشرة على نطاق واسع لدرجة أن الأطفال، وخاصة الفتيات، أصبحوا الآن يغيرون عاداتهم عبر الإنترنت خوفًا من أن يصبحوا أهدافًا.

هناك حاجة إلى اتخاذ إجراءات عاجلة لحماية الأطفال من التلاعب بالذكاء الاصطناعي

أعربت السيدة راشيل دي سوزا، مفوضة شؤون الأطفال في المملكة المتحدة، عن قلقها إزاء المخاطر التي تشكلها هذه التقنيات.

وفي تقريرها الأخير، سلطت الضوء على كيفية استهداف أدوات الذكاء الاصطناعي هذه بشكل غير متناسب للنساء والفتيات الشابات، حيث تم تصميم العديد من التطبيقات لتغيير أجساد الإناث على وجه التحديد.

شاركت السيدة راشيل،

أخبرني الأطفال أنهم يخشون مجرد فكرة توفر هذه التقنية، ناهيك عن استخدامها. يخشون أن يتمكن أي شخص - سواء كان غريبًا أو زميلًا في الدراسة أو حتى صديقًا - من استخدام هاتف ذكي للتلاعب بهم عن طريق إنشاء صورة عارية.

وقد أثار التوفر الواسع النطاق لهذه الأدوات على منصات مثل متاجر التطبيقات ومحركات البحث قلقاً كبيراً بشأن سلامة الأطفال ورفاهتهم.

وبحسب السيدة راشيل، فإن التطور السريع للتكنولوجيا أمر مذهل، ولا يوجد حل واضح في الأفق للسيطرة على الضرر المحتمل الذي تسببه.

وأكدت،

"لا يمكننا أن نجلس مكتوفي الأيدي ونسمح لتطبيقات الذكاء الاصطناعي المصممة خصيصًا أن يكون لها مثل هذا التأثير الخطير على حياة الأطفال".

هل تبذل حكومة المملكة المتحدة جهودًا كافية لمكافحة مواد الاعتداء الجنسي التي يتم إنشاؤها بواسطة الذكاء الاصطناعي؟

على الرغم من الجهود القانونية المستمرة لمعالجة إنشاء ومشاركة مواد الاعتداء الجنسي على الأطفال التي يتم إنشاؤها بواسطة الذكاء الاصطناعي، يزعم المنتقدون أن هذه الإجراءات لا تذهب إلى حد كافٍ.

وبموجب القوانين الحالية، يعد مشاركة أو التهديد بمشاركة صور مزيفة صريحة أمرًا غير قانوني، وهناك جرائم جنائية تتعلق بإنشاء أو توزيع أدوات الذكاء الاصطناعي المصممة لهذا الغرض.

ومع ذلك، تعتقد السيدة راشيل أن الحظر الكامل على تطبيقات التعري أمر ضروري.

ودعت إلى فرض التزامات قانونية على مطوري أدوات الذكاء الاصطناعي لتحديد المخاطر التي يتعرض لها الأطفال وتخفيفها، وحثت على وضع أنظمة أقوى لإزالة المحتوى الصريح من الإنترنت.

وقال متحدث باسم الحكومة إن المملكة المتحدة اتخذت بالفعل خطوات لمعالجة هذه القضية.

وأشاروا إلى قانون السلامة عبر الإنترنت، الذي يلزم المنصات بإزالة مواد الاعتداء الجنسي أو مواجهة غرامات باهظة.

بالإضافة إلى ذلك، تم تقديم قوانين جديدة في وقت سابق من عام 2025 لتجريم حيازة وإنشاء وتوزيع أدوات الذكاء الاصطناعي التي يمكنها توليد مواد جنسية صريحة تتعلق بالأطفال.

التأثير المتزايد للإساءة الناتجة عن الذكاء الاصطناعي

لقد أدى ظهور أدوات الذكاء الاصطناعي التي تولد مقاطع فيديو مزيفة بالفعل إلى عواقب مثيرة للقلق.

كشفت بيانات من مؤسسة مراقبة الإنترنت (IWF) عن زيادة مذهلة بنسبة 380% في تقارير الاعتداء الجنسي على الأطفال التي تم إنشاؤها بواسطة الذكاء الاصطناعي، مع تسجيل 245 حالة في عام 2024 مقارنة بـ 51 حالة فقط في عام 2023.

وأشار ديريك راي هيل، الرئيس التنفيذي المؤقت للاتحاد الدولي لرفع الأثقال،

"نحن نعلم أن هذه التطبيقات تتعرض للإساءة في المدارس، وأن الصور تخرج عن نطاق السيطرة بسرعة."

شاركت فتاة تبلغ من العمر 16 عامًا، والتي شاركت في استطلاع أجرته مفوضية الأطفال، في مخاوفها من التلاعب بالذكاء الاصطناعي قائلة،

حتى قبل أن يُثار أي جدل، كنتُ أعرف بالفعل ما سيُستخدم فيه، ولن يكون شيئًا جيدًا. كنتُ أعرف بالفعل أنه سيكون معجزة تكنولوجية ستُساء استغلالها.

دور الحكومة في مكافحة إساءة استخدام الذكاء الاصطناعي

ووعدت الحكومة باتخاذ المزيد من الإجراءات، من خلال سن قوانين جديدة لتجريم المواد الإباحية التي يتم إنتاجها بواسطة الذكاء الاصطناعي ومحاسبة المنصات التي تستضيف محتوى ضارًا.

ومع ذلك، تصر السيدة راشيل دي سوزا على أن هناك حاجة إلى اتخاذ تدابير أقوى.

ودعت الحكومة إلى الاعتراف بالانتهاكات الجنسية المزيفة باعتبارها شكلاً من أشكال العنف ضد النساء والفتيات، ومعالجة المخاطر التي تشكلها أدوات الذكاء الاصطناعي بشكل أكثر فعالية.

والمملكة المتحدة ليست وحدها في مواجهة هذا التحدي.

دول أخرى مثلكوريا الجنوبية كما أنهم يتصارعون مع التطور السريع لتقنيات الذكاء الاصطناعي والمخاطر التي تشكلها على الفئات السكانية الضعيفة.

ومع ذلك، فإن الموقف الاستباقي للمملكة المتحدة، بما في ذلك إدخال جرائم محددة مؤخرًا تتعلق بالإساءة الناتجة عن الذكاء الاصطناعي، يضعها في مكانة رائدة في معالجة المشكلة.

مع استمرار تطور الذكاء الاصطناعي، يظل ضمان سلامة الأطفال عبر الإنترنت مصدر قلق متزايد.

وعلى الرغم من بعض التقدم القانوني، فإن سعي مفوضية الأطفال إلى فرض حظر كامل على تطبيقات التعري يسلط الضوء على الحاجة المستمرة إلى ضمانات أقوى للأفراد المعرضين للخطر ضد هذه التقنيات الضارة.