رائد الذكاء الاصطناعي جيفري هينتون غير مقتنع بأن الذكاء الاصطناعي الجيد سينتصر على الذكاء الاصطناعي السيئ
موقع شبرون للتقنية وأخبار العالم- متابعات تقنية:
أصبح البروفيسور في جامعة تورنتو ، جيفري هينتون ، الذي يُطلق عليه غالبًا “” لأبحاثه الرائدة حول الشبكات العصبية ، مراقبًا غير رسمي للصناعة. لقد توقف عن العمل في Google هذا الربيع لينتقد بحرية المجال الذي ساعد في ريادته. لقد رأى الارتفاع الأخير في أنظمة الذكاء الاصطناعي التوليدية مثل وعلامات على تسارع غير منضبط وخطير في التنمية. في هذه الأثناء ، يبدو أن Google كانت تتخلى عن ضبط النفس السابق حيث كانت تطارد المنافسين بمنتجات مثلها.
في مؤتمر الاصطدام هذا الأسبوع في تورونتو ، وسع هينتون مخاوفه. بينما كانت الشركات تروج للذكاء الاصطناعي كحل لكل شيء من إبرام عقد إيجار إلى شحن البضائع ، كان هينتون يدق ناقوس الخطر. إنه غير مقتنع بأن الذكاء الاصطناعي الجيد سيخرج منتصرًا على التنوع السيئ ، ويعتقد أن التبني الأخلاقي للذكاء الاصطناعي قد يكون له تكلفة باهظة.
تهديد للبشرية
تصوير جون فينجاس / إنجادجيت
أكد هينتون أن الذكاء الاصطناعي جيد مثل الأشخاص الذين صنعوه ، وأن التكنولوجيا السيئة لا يزال بإمكانها الفوز. وأوضح: “لست مقتنعًا بأن الذكاء الاصطناعي الجيد الذي يحاول إيقاف الأمور السيئة يمكنني التحكم فيه”. قد يكون من الصعب إيقاف المجمع الصناعي العسكري عن الإنتاج ، على سبيل المثال ، كما يقول – فقد “تحب” الشركات والجيوش الحروب حيث يكون الضحايا عبارة عن آلات يمكن استبدالها بسهولة. وبينما يعتقد هينتون أن النماذج اللغوية الكبيرة (الذكاء الاصطناعي المدربة التي تنتج نصًا شبيهًا بالبشر) يمكن أن تؤدي إلى زيادات هائلة في الإنتاجية ، إلا أنه يشعر بالقلق من أن الطبقة الحاكمة قد تستغل هذا ببساطة لإثراء نفسها ، مما يؤدي إلى توسيع فجوة الثروة الكبيرة بالفعل. قال هينتون إن ذلك “سيجعل الأغنياء أكثر ثراءً والفقير أكثر فقراً”.
كرر هينتون أيضًا وجهة نظره التي حظيت بتغطية إعلامية كبيرة بأن الذكاء الاصطناعي يمكن أن يحققه للبشرية. إذا أصبح الذكاء الاصطناعي أكثر ذكاءً من البشر ، فليس هناك ما يضمن بقاء الناس في موقع المسؤولية. قال هينتون: “نحن في ورطة” إذا قررت منظمة العفو الدولية أن السيطرة ضرورية لتحقيق أهدافها. بالنسبة له ، التهديدات “ليست مجرد خيال علمي”. يجب أن تؤخذ على محمل الجد. إنه قلق من أن المجتمع لن يكبح جماح الروبوتات القاتلة إلا بعد أن تتاح له الفرصة لمعرفة “مدى فظاعتها”.
وأضاف هينتون أن هناك الكثير من المشاكل القائمة. يجادل بأن هذه المشكلات لا تزال قائمة ، حيث يمكن أن تؤدي بيانات تدريب الذكاء الاصطناعي المنحرفة إلى نتائج غير عادلة. الخوارزميات بالمثل تخلق التي تعزز المعلومات الخاطئة وقضايا الصحة العقلية. يقلق هينتون أيضًا من نشر الذكاء الاصطناعي للمعلومات الخاطئة خارج تلك الغرف. إنه غير متأكد مما إذا كان من الممكن اكتشاف كل ادعاء كاذب ، على الرغم من أنه “من المهم وضع علامة على كل شيء مزيف على أنه مزيف”.
هذا لا يعني أن هينتون يائس من تأثير الذكاء الاصطناعي ، على الرغم من أنه يحذر من أن الاستخدامات الصحية للتكنولوجيا قد تأتي بثمن باهظ. قد يضطر البشر إلى إجراء “عمل تجريبي” لفهم كيف يمكن للذكاء الاصطناعي أن يخطئ ، ولمنعه من انتزاع السيطرة. وأضاف أنه بالفعل “ممكن” لتصحيح التحيزات. قد يضع الذكاء الاصطناعي للنموذج اللغوي الكبير حداً لغرف الصدى ، لكن هينتون يرى أن التغييرات في سياسات الشركة مهمة بشكل خاص.
لم يلطخ الأستاذ الكلمات في إجابته على الأسئلة المتعلقة بفقدان الأشخاص لوظائفهم من خلال الأتمتة. إنه يشعر أن هناك حاجة إلى “الاشتراكية” لمعالجة عدم المساواة ، وأن بإمكان الناس التحوط ضد البطالة من خلال تولي وظائف يمكن أن تتغير مع الزمن ، مثل السباكة (ولا ، فهو لا يمزح). على نحو فعال ، قد يتعين على المجتمع إجراء تغييرات واسعة للتكيف مع الذكاء الاصطناعي.
الصناعة لا تزال متفائلة
تصوير جون فينجاس / إنجادجيت
كانت المحادثات السابقة في Collision أكثر تفاؤلاً. قال كولن مردوخ ، رئيس أعمال Google DeepMind ، في مناقشة مختلفة إن الذكاء الاصطناعي كان يحل بعض أصعب التحديات في العالم. ليس هناك الكثير من الخلاف على هذه الجبهة – تعمل DeepMind على الفهرسة ، ومكافحة البكتيريا المقاومة للمضادات الحيوية وحتى تسريع العمل عليها. لقد تصور “ذكاءً عامًا اصطناعيًا” يمكنه حل مشكلات متعددة ، وأشار إلى منتجات Google كمثال. مفيد لوصف الصور ، ولكن التقنية الأساسية تجعل YouTube Short قابلة للبحث أيضًا. ذهب مردوخ إلى حد وصف الأشهر الستة إلى الاثني عشر الماضية بأنها “لحظة مضيئة” للذكاء الاصطناعي والتي أطلقت العنان لإمكانياتها.
يوافق كبير علماء Roblox ، مورجان ماكجوير ، إلى حد كبير على ذلك. وهو يعتقد أن منصة اللعبة “أغلقت الفجوة” بين المبدعين الجدد والمحاربين القدامى ، مما يسهل كتابة التعليمات البرمجية وإنشاء مواد داخل اللعبة. حتى أن Roblox تطلق نموذجًا مفتوح المصدر للذكاء الاصطناعي ، StarCoder ، تأمل أن يساعد الآخرين من خلال تسهيل الوصول إلى نماذج اللغة الكبيرة. بينما أقر McGuire في إحدى المناقشات بالتحديات في توسيع نطاق المحتوى وتعديله ، فإنه يعتقد أن لديه إمكانيات “غير محدودة” بفضل مجموعته الإبداعية.
أعرب كل من مردوخ وماكغواير عن بعض نفس مخاوف هينتون ، لكن لهجتهما كانت أقل إثارة للقلق. شدد مردوخ على أن شركة DeepMind تريد ذكاء اصطناعي “آمنًا وأخلاقيًا وشاملًا” ، وأشار إلى استشارات الخبراء والاستثمارات التعليمية كدليل. يصر المدير التنفيذي على أنه منفتح على التنظيم ، ولكن فقط طالما يسمح “باختراقات مذهلة”. بدوره ، قال ماكغواير إن شركة Roblox أطلقت دائمًا أدوات الذكاء الاصطناعي التوليدية مع الإشراف على المحتوى ، واعتمدت على مجموعات بيانات متنوعة وتمارس الشفافية.
بعض الأمل في المستقبل
تصوير جون فينجاس / إنجادجيت
على الرغم من العناوين الرئيسية التي تلخص تعليقاته الأخيرة ، إلا أن حماس هينتون العام للذكاء الاصطناعي لم يضعف بعد تركه لشركة Google. إذا لم يكن قد استقال ، فقد كان متأكدًا من أنه سيعمل على نماذج متعددة الوسائط للذكاء الاصطناعي حيث تساعد الرؤية واللغة والإشارات الأخرى في اتخاذ القرارات. قال “الأطفال الصغار لا يتعلمون فقط من اللغة وحدها” ، مشيرًا إلى أن الآلات يمكنها أن تفعل الشيء نفسه. وبقدر قلقه من مخاطر الذكاء الاصطناعي ، فإنه يعتقد أنه يمكن في النهاية أن يفعل أي شيء يمكن للإنسان ، وقد أظهر بالفعل “أجزاء صغيرة من التفكير”. يمكن لـ GPT-4 تكييف نفسها لحل الألغاز الأكثر صعوبة ، على سبيل المثال.
يقر هينتون بأن حديثه عن الاصطدام لم يذكر الكثير عن الاستخدامات الجيدة للذكاء الاصطناعي ، مثل مكافحة تغير المناخ. من المحتمل أن يكون تقدم تقنية الذكاء الاصطناعي أمرًا صحيًا ، حتى لو كان لا يزال من المهم القلق بشأن الآثار المترتبة. واعترف هينتون بحرية أن حماسه لم يضعف على الرغم من المشاكل الأخلاقية والأخلاقية التي تلوح في الأفق. قال: “أنا أحب هذه الأشياء”. “كيف لا تحب صنع الأشياء الذكية؟”
