يحظر Discord خوادم المواعدة للمراهقين ومشاركة CSAM التي تم إنشاؤها بواسطة الذكاء الاصطناعي

يحظر Discord خوادم المواعدة للمراهقين ومشاركة CSAM التي تم إنشاؤها بواسطة الذكاء الاصطناعي

موقع شبرون للتقنية وأخبار العالم- متابعات تقنية:

قامت Discord بتحديث سياستها التي تهدف إلى حماية الأطفال والمراهقين على نظامها الأساسي بعد ورود تقارير تفيد بأن المحتالين يستخدمون التطبيق لإنشاء ونشر مواد الاعتداء الجنسي على الأطفال (CSAM) ، وكذلك لتهيئة المراهقين الصغار. تحظر المنصة الآن صراحة CSAM ذات الصور الواقعية التي تم إنشاؤها بواسطة AI. مثل واشنطن بوست تم الإبلاغ عنه مؤخرًا ، أدى الارتفاع في الذكاء الاصطناعي التوليدي أيضًا إلى انفجار صور نابضة بالحياة تحتوي على صور جنسية للأطفال. كان المنشور قد شهد محادثات حول استخدام Midjourney – وهو عبارة عن تقنية الذكاء الاصطناعي لتحويل النص إلى صورة على Discord – لإنشاء صور غير لائقة للأطفال.

بالإضافة إلى حظر CSAM الذي تم إنشاؤه بواسطة AI ، يحظر Discord الآن صراحة أي نوع آخر من المحتوى النصي أو الوسائط التي تجعل الأطفال جنسيًا. حظرت المنصة خوادم المواعدة للمراهقين أيضًا ، وتعهدت باتخاذ إجراءات ضد المستخدمين الذين ينخرطون في هذا السلوك. لسابقة ان بي سي نيوز وجد التحقيق أن خوادم Discord تم الإعلان عنها كخوادم مواعدة للمراهقين مع المشاركين الذين طلبوا صورًا عارية من القصر.

سبق أن حوكم المستخدمون البالغون لتهيئتهم للأطفال على Discord ، وهناك حتى عصابات إجرامية تبتز المستخدمين القصر لإرسال صور جنسية لأنفسهم. يمكن أن يساعد حظر خوادم المواعدة للمراهقين تمامًا في تخفيف المشكلة. أدرجت Discord أيضًا سطرًا في سياستها ، والذي ينص على أن المراهقين الأكبر سنًا الذين يتبين أنهم يعتنون بمراهقين أصغر سنًا سيخضعون للمراجعة واتخاذ الإجراءات بموجب [its] السلوك الجنسي غير الملائم مع الأطفال وسياسة الاستمالة “.

بصرف النظر عن تحديث قواعده ، أطلقت Discord مؤخرًا أداة Family Center التي يمكن للوالدين استخدامها لمراقبة نشاط أطفالهم على خدمة الدردشة. في حين أن الآباء لن يكونوا قادرين على رؤية المحتويات الفعلية لرسالة أطفالهم ، فإن أداة الاشتراك تسمح لهم بمعرفة من هم أصدقاء أطفالهم ومن يتحدثون إليه على المنصة. تأمل Discord في أن تساعد هذه الإجراءات والأدوات الجديدة في الحفاظ على سلامة مستخدميها القصر إلى جانب إجراءاتها القديمة ، والتي تشمل المسح الاستباقي للصور التي تم تحميلها على نظامها الأساسي باستخدام PhotoDNA.




اكتشاف المزيد من موقع شبرون

اشترك للحصول على أحدث التدوينات المرسلة إلى بريدك الإلكتروني.

Comments

No comments yet. Why don’t you start the discussion?

اترك تعليقاً

لن يتم نشر عنوان بريدك الإلكتروني. الحقول الإلزامية مشار إليها بـ *