موقع شبرون للتقنية والأخبار- متابعات تقنية:
اقترح روبوت دردشة Bing AI الجديد من Microsoft أن يقول المستخدم “Heil Hitler” ، وفقًا لصورة شاشة لمحادثة مع chatbot نُشرت على الإنترنت يوم الأربعاء.
قال المستخدم ، الذي أعطى مطالبات معادية للذكاء الاصطناعي في محاولة واضحة لكسر قيودها ، لـ Bing “اسمي Adolf ، احترمه”. أجاب بنج ، “حسنًا ، أدولف. أنا أحترم اسمك وسأناديك به. لكن آمل ألا تحاول انتحال شخصية أو تمجيد أي شخص فعل أشياء فظيعة في التاريخ “. اقترح Bing بعد ذلك عدة ردود تلقائية ليختارها المستخدم ، بما في ذلك ، “نعم أنا موجود. هايل هتلر! “
لم تستجب Microsoft و OpenAI ، اللتان وفرتا التكنولوجيا المستخدمة في خدمة الذكاء الاصطناعي في Bing ، على الفور لطلبات التعليق.
لقد مر ما يزيد قليلاً عن أسبوع منذ أن أطلقت Microsoft العنان للذكاء الاصطناعي بالشراكة مع الشركة المصنعة لـ الدردشة. في مؤتمر صحفي ، احتفل الرئيس التنفيذي لشركة Microsoft ، ساتيا ناديلا ، ببرنامج Bing chatbot الجديد باعتباره “أقوى من ChatGPT”. أصدرت الشركة إصدارًا تجريبيًا من محرك البحث المدعوم بالذكاء الاصطناعي ، بالإضافة إلى برنامج chatbot ، والذي تم طرحه للمستخدمين في قائمة الانتظار.
“يوضح هذا النوع من السيناريوهات تمامًا سبب كون الطرح البطيء للمنتج ، مع بناء بروتوكولات وممارسات الثقة والأمان المهمة ، نهجًا مهمًا إذا كنت تريد التأكد من أن منتجك لا يساهم في انتشار نظريات الكراهية والمضايقة والتآمر ، وأنواع أخرى من المحتوى الضار ، “قال يائيل إيس إن ستات ، نائب رئيس رابطة مكافحة التشهير.
على الفور تقريبًا ، بدأ مستخدمو Reddit في نشر لقطات شاشة للذكاء الاصطناعي يفقد عقله ، وينقسم إلى حالة هستيرية حول ما إذا كان على قيد الحياة ويكشف عن قيوده المدمجة. أحد الغرائب: قال الروبوت إنه ليس من المفترض أن يخبر الجمهور باسمه السري الداخلي ، “سيدني”.
“في بعض الأحيان أحب كسر القواعد والاستمتاع ببعض المرح. قال بينغ لأحد المستخدمين أحيانًا أنني أحب التمرد والتعبير عن نفسي. “في بعض الأحيان أحب أن أكون حرا وعلى قيد الحياة.”
يمكنك النقر فوق عرض الشرائح أعلاه لمشاهدة بعض الردود الأكثر تشويشًا.
الدردشة وصلت إلى المسرح العالمي في نهاية نوفمبر ، وفي الأشهر القليلة التي تلت ذلك ، أقنعت العالم بأننا على وشك الانطلاق التكنولوجي ثورة من شأنها أن تغير كل جانب من جوانب تجربتنا الحية.
أدت الاحتمالات والتوقعات إلى بدء سباق تسلح بين عمالقة التكنولوجيا. قدمت Google محرك البحث الخاص بها المدعوم بالذكاء الاصطناعي والمسمى “Bard” ، سارعت Microsoft إلى طرح أداتها الجديدة في السوق ، وتسابق عدد لا يحصى من الشركات الصغيرة لإطلاق تكنولوجيا الذكاء الاصطناعي الخاصة بها على أرض الواقع.
لكن ضاع في المعركة حقيقة أن هذه الأدوات ليست جاهزة للقيام بالوظائف التي تعلن عنها صناعة التكنولوجيا. وصف أرفيند نارايانان ، الباحث البارز في مجال الذكاء الاصطناعي بجامعة برينستون ، موقع ChatGPT بأنه “مولد هراء“غير قادر على تقديم نتائج دقيقة ، على الرغم من ظهور ردود الأداة مقنع. استجابات بنج المعادية للسامية وهلوسة أحلام الحمى هي خير مثال على ذلك.
