موقع شبرون للتقنية وأخبار العالم- متابعات تقنية:
حظر Twitch “لا شيء ، إلى الأبد” ، تيار Seinfeld الذي تم إنشاؤه بواسطة الذكاء الاصطناعي ، لمدة 14 يومًا على الأقل بعد انفجار رهاب المتحولين جنسيا والمثليين. إنه أحدث مثال على “الكراهية للداخل ، الكراهية” عندما يتم تدريب روبوتات الدردشة بالذكاء الاصطناعي على محتوى مسيء دون الإشراف الكافي.
يحب سينفيلد، “لا شيء ، للأبد” تدور بين مشاهد الوقوف والمشاهد في شقة الممثل الكوميدي (يُدعى “Larry Feinberg” في نسخة AI). كما ذكرت لأول مرة من قبل نائب، خلال واحدة من الأعمال الاحتياطية المكتوبة حديثًا عن طريق الذكاء الاصطناعي ، اقترح نظير سينفيلد أن كونك متحولًا جنسيًا هو مرض عقلي. فيما بدا وكأنه وعي بهجوم المادة ، أضاف الممثل الكوميدي لمنظمة العفو الدولية بسرعة ، “لكن لا أحد يضحك ، لذلك سأتوقف. شكرا لخروجك الليلة. أراك المرة القادمة. أين ذهب الجميع؟ ”
على الرغم من أن Twitch لم يؤكد أن “النكتة” كانت سبب الحظر ، فقد تمت إزالة البث بعد وقت قصير من بث المقطع الإشكالي. يلقي منشئو البرنامج باللوم على التشدق المؤذي على تغيير النموذج الذي ترك دون قصد الدفق دون أدوات الإشراف.
كتب أحد الموظفين على Discord: “في وقت سابق الليلة ، بدأنا نعاني من انقطاع الخدمة باستخدام نموذج GPT-3 Davinci الخاص بـ OpenAI ، مما تسبب في إظهار العرض لسلوكيات خاطئة (ربما تكون قد رأيت غرفًا فارغة تتنقل عبرها)”. “أوبن إيه آي لديها نموذج أقل تعقيدًا ، كوري ، والذي كان سلف دافينشي. عندما بدأ davinci بالفشل ، انتقلنا إلى Curie لمحاولة استمرار العرض دون أي توقف. كان التبديل إلى كوري هو ما أدى إلى إنشاء نص غير مناسب. نحن نستفيد من أدوات الإشراف على محتوى OpenAI ، والتي نجحت حتى الآن مع نموذج Davinci ، ولكنها لم تنجح مع Curie. لقد تمكنا من تحديد السبب الجذري لمشكلتنا مع نموذج دافينشي ، ولن نستخدم كوري كبديل في المستقبل. نأمل أن يلقي هذا القليل من الضوء على كيفية حدوث ذلك “.
تويتش
قام الفريق بالتفصيل في منشور آخر على Discord (عبر الحافة). “اعتقدنا خطأً أننا كنا نستفيد من نظام تعديل المحتوى الخاص بـ OpenAI لنماذج إنشاء النصوص الخاصة بهم. نحن نعمل الآن على تنفيذ واجهة برمجة تطبيقات تعديل المحتوى الخاصة بـ OpenAI (وهي أداة يمكننا استخدامها للتحقق من أمان المحتوى) قبل أن نبدأ البث المباشر مرة أخرى ، والتحقق من أنظمة الإشراف على المحتوى الثانوية باعتبارها نسخًا زائدة. “
على الرغم من أن الفريق يبدو اعتذاريًا حقًا ، مشددًا على أن التشدق المتعصب كان خطأ تقنيًا لا يمثل وجهات نظرهم ، إلا أنه يكرر أهمية الاعتدال المتسق في الذكاء الاصطناعي. قد تتذكر روبوت الدردشة الخاص بـ Microsoft على Twitter ، والذي استمر حوالي 16 ساعة فقط بعد أن علّمه المستخدمون كيفية إلقاء نظريات المؤامرة والآراء العنصرية والملاحظات المعادية للمرأة. ثم كان هناك الروبوت الذي تم تدريبه بالكامل على 4chan ، والذي اتضح تمامًا كما كنت تتوقع. سواء أكان “لا شيء ، للأبد” يعود أم لا ، في المرة القادمة التي يواجه فيها فريق من المطورين خيارًا بين التوقف غير المتوقع والتأكد من وجود هذه الفلاتر ، اختر الخيار الأخير.
يتم اختيار جميع المنتجات التي أوصت بها Engadget بواسطة فريق التحرير لدينا ، بشكل مستقل عن شركتنا الأم. تتضمن بعض قصصنا روابط تابعة. إذا اشتريت شيئًا من خلال أحد هذه الروابط ، فقد نربح عمولة تابعة. جميع الأسعار صحيحة وقت النشر.
