يقول ممثل الصوت إن الذكاء الاصطناعي يتم استخدامه لتأجيج حملة مضايقة مروعة

بالتأكيد ، كان هناك الكثير من الاهتمام الذي يتم توجيهه إلى المنتجات المزيفة العميقة مشاهير و الشخصيات العامة الكبرى. لا يزال ، مع ظهور مجانية أو رخيصة برنامج التوليف الصوتي القائم على الذكاء الاصطناعي، أي شخص تم تحميل الصوت الخاص به على الإنترنت يتعرض لخطر التزييف العميق.

نائب ذكرت لأول مرة أن الممثلين الصوتيين وغيرهم من الأشخاص العاديين يتعرضون للمضايقات عبر الإنترنت وهجمات doxxing باستخدام أصواتهم. على وجه التحديد ، استهدفت هذه الهجمات الأشخاص الذين لديهم قنوات على YouTube أو ملفات podcast أو تدفقات. العديد من محاولات الاستقصاء هذه أصابت الممثلين الصوتيين ، وكان بعضهم ينتقد بشكل خاص المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي في الماضي.

كان الممثلان الصوتيان Zane Schacht و Tom Schalk من بين العديد من الأشخاص الذين استهدفتهم مقاطع فيديو على Twitter تحتوي على صوت مزيف شارك عنوان منزلهم أثناء استخدام افتراءات عنصرية. شاخت ، الذي قام بعمل صوتي لممتلكات مثل تداعيات 4، أخبر Gizmodo أنه تم استهداف الممثلين الصوتيين الآخرين بعد نشر كراهيتهم الصريحة تجاه الذكاء الاصطناعي التوليدي. قال شالك ، الذي أجرى أصواتًا في العديد من ألعاب الفيديو المستقلة ومسلسلات الرسوم المتحركة ، إن الأشخاص المستهدفين بالتغريدات الخبيثة كانوا صريحين على الذكاء الاصطناعي.

تم حظر بعض هذه الحسابات والتغريدات المسيئة وحذفها من تويتر ، على الرغم من بقاء عدد قليل من تلك التغريدات الخبيثة على الإنترنت لبعض الوقت. لم تتمكن Gizmodo من التحقق بشكل مستقل مما إذا كانت التغريدات أو الحسابات المسيئة تظل على الإنترنت.

عدد قليل من المبلغ عنها ذكرت المشاركات صراحةً أنها تم إنشاؤها باستخدام التكنولوجيا المتاحة من ElevenLabs. يتيح برنامج Voice Lab الخاص بالشركة للمستخدمين استنساخ الأصوات ثم إنشاء صوت جديد بناءً على رسالة نصية. بالطبع ، يتيح هذا البرنامج المجاني للمستخدمين إنتاج صوت مزيف عميق لأشخاص بارزين مثل جو روغان وجوستين رويلاند يقولان ألقاب عنصرية أو جنسية. بعد أن أبلغ المستخدمون عن أمثلة على تلك التزييفات العميقة للشركة ، أعلنت شركة ElevenLabs أنها تجعل VoiceLab متاحًا فقط لمستخدمي الإصدار المدفوع وكانوا يقدمون المزيد من التحقق من الهوية للحسابات الجديدة.

قد تحصل G / O Media على عمولة

اطلب مسبقًا الآن

سلسلة جالكسي بوك 3

متاح 24 فبراير
يأتي كل طراز كمبيوتر محمول جديد مع ترقية تخزين مجانية. يتم تسعير إصدار 1 تيرابايت لكل منها بنفس سعر إصدار 512 جيجابايت مما يعني أساسًا أن الإصدار 1 تيرابايت هو 200 دولار أمريكي.

أخبر شاخت Gizmodo في رسالة بريد إلكتروني أنه يخشى أن تكون هناك مشكلات كبيرة تتعلق بالمعلومات الخاطئة بمجرد أن تصبح هذه التقنية أكثر إنتاجية.

كتب الممثل الصوتي: “حتى خارج الافتراضات القانونية ، فإن فعل استخدام برنامج كمبيوتر لأخذ صوت شخص ما والتلاعب به واستخدامه يبدو أمرًا شنيعًا بالنسبة لي”. “يبدو الأمر وكأنه شيء من قصة خيالية مرعبة.” “صوت الإنسان شيء جميل.ومضى يقول.

في بيان بالبريد الإلكتروني ، قال متحدث باسم ElevenLabs لـ Gizmodo “نحن على دراية بحالات تحويل النص إلى برامج صوتية تُستخدم لإنشاء محتوى مسيء أو مرفوض والذي يُنسب بعد ذلك بشكل خاطئ إلى تقنيتنا. نحن قادرون على تحديد كل المحتوى الذي تم إنشاؤه باستخدام برنامجنا ، وعند التحقيق ، تم إنشاء جميع المقاطع التي تم الإبلاغ عنها باستثناء مقطع واحد باستخدام أنظمة أساسية أخرى “.

أظهر Vice أن عددًا قليلاً من ضحايا التغريدات تلقوا رسالة مباشرة على Twitter من ElevenLabs تعتذر عن المضايقات ، قائلة “لدينا عنوان IP الخاص بهذا الشخص” ، في إشارة إلى حساب المتحرش.

وأكد المتحدث أيضًا على الضمانات الجديدة التي توفرها ElevenLabs ضد المستخدمين الخبثاء و “نهجها المطلق” تجاه إساءة استخدام “أي نص إلى برنامج صوتي لإيذاء الآخرين أو مضايقتهم”. وأضافوا: “لدينا ثقة في أن الإجراءات الوقائية الحالية والمقبلة ستستمر في معالجة هذا الأمر وتسمح للغالبية العظمى من الأشخاص بالاستمرار في استخدام أدوات تحويل النص إلى الصوت من أجل الخير.”

يقول ممثلو الصوت مثل مايك بولوك إن النسخ التي تم إنشاؤها بواسطة الذكاء الاصطناعي هي مشكلة مستمرة

بالطبع ، هناك شركات أخرى تسمح للمستخدمين أيضًا بإنشاء أصوات تم إنشاؤها بواسطة الذكاء الاصطناعي. يمكن لمواقع مثل UberDuck و FakeYou و Storyteller إنشاء أصوات مزيفة بناءً على مقاطع صوتية. أخبرنا ممثلو الصوت أنهم اضطروا إلى لعب لعبة wack-a-mole التي لا تنتهي أبدًا للتعامل مع النسخ المزيفة لأصوات شخصياتهم المستخدمة على وسائل التواصل الاجتماعي.

عندما يكون صوتك المميز جانبًا من جوانب رزقك ، فإن الممثلين الصوتيين يواجهون مهمة شاقة تتمثل في جعل وسائل التواصل الاجتماعي تزيل النسخ المزيفة العميقة من أصواتهم. كتب مايك بولوك ، الممثل الصوتي الأكثر شهرة بتقديمه نغمات جنون العظمة للدكتور إيغمان لسلسلة Sonic the Hedgehog ، أن هناك أمثلة متعددة للتزييف العميق باستخدام صوته الذي يتم تحميله على YouTube.

في مقابلة عبر الهاتف ، أخبر بولوك موقع Gizmodo أنه كان يتعامل مع أشخاص يقومون بتحميل نسخ من شخصياته ، مثل Doctor Eggman ، منذ أكثر من عام. لقد اتصل بـ UberDuck و FakeYou لجعل الشركات تزيل صوته من أنظمتها ، لكنه لا يزال يعلق بانتظام على مقاطع فيديو YouTube يكرر صوته ويطلب منهم إزالة مقاطع الفيديو.

في الآونة الأخيرة ، انضم إلى العديد من الممثلين الصوتيين الآخرين المتغيرات الصوتية، مجموعة تجارية تمثل الممثلين الصوتيين وغيرهم من فناني الأداء الذين يحاولون مقاومة الأصوات التي تم إنشاؤها بواسطة الذكاء الاصطناعي والترويج لعقود العمل التي لا تزال تسمح للممثلين بالحق في التعبير عن آرائهم. وقال إن أفضل شيء تالي بالنسبة لممثلي الصوت هو القانون الذي يقنن حقهم في التشابه الصوتي.

قال “أنا أبذل قصارى جهدي”. “أنا سعيد بمعرفة أنه إذا سمعني أحد العملاء أقول شيئًا فظيعًا ، يمكنني القول إنه ليس أنا. ومع ذلك ، ليس لدي الكثير لأقوله عن الأشخاص الذين يعتقدون أنه من الممتع تدمير مصدر رزق شخص ما “.