يتفوق الإنسان بشكل مقنع على الذكاء الاصطناعي في Go بمساعدة روبوت

تغلب لاعب Go هاو قوي على نظام ذكاء اصطناعي عالي التصنيف بعد استغلال نقطة ضعف اكتشفها جهاز كمبيوتر ثان ، فاينانشيال تايمز تم الإبلاغ عنه. من خلال استغلال الخلل ، هزم اللاعب الأمريكي Kellin Pelrine نظام KataGo بشكل حاسم ، وفاز في 14 من 15 مباراة دون الحاجة إلى مزيد من المساعدة من الكمبيوتر. إنه فوز Go نادر للبشر منذ انتصار AlphaGo لعام 2016 الذي ساعد في تمهيد الطريق للجنون الحالي للذكاء الاصطناعي. كما يُظهر أنه حتى أنظمة الذكاء الاصطناعي الأكثر تقدمًا يمكن أن تحتوي على نقاط عمياء صارخة.

كان انتصار بيلرين ممكنًا بفضل شركة أبحاث تدعى FAR AI ، والتي طورت برنامجًا لفحص KataGo بحثًا عن نقاط الضعف. بعد لعب أكثر من مليون لعبة ، تمكنت من العثور على نقطة ضعف يمكن أن يستغلها لاعب هاو لائق. قالت بيلرين إنها “ليست تافهة تمامًا ولكنها ليست صعبة للغاية” للتعلم. استخدم نفس الطريقة للتغلب على Leela Zero ، أحد أفضل Go AI.

وإليك كيفية عملها: الهدف هو إنشاء “حلقة” كبيرة من الأحجار لتطويق مجموعة الخصم ، ثم تشتيت انتباه الكمبيوتر عن طريق القيام بحركات في مناطق أخرى من اللوحة. حتى عندما كانت مجموعتها محاصرة تقريبًا ، فشل الكمبيوتر في ملاحظة الاستراتيجية. قالت بيلرين: “كإنسان ، سيكون من السهل جدًا اكتشافها” ، لأن الأحجار المحيطة تبرز بوضوح على السبورة.

يوضح الخلل أن أنظمة الذكاء الاصطناعي لا يمكنها حقًا “التفكير” فيما يتجاوز تدريبها ، لذلك غالبًا ما تقوم بأشياء تبدو غبية بشكل لا يصدق بالنسبة للبشر. لقد رأينا أشياء مماثلة مع روبوتات الدردشة مثل تلك التي يستخدمها محرك بحث Bing من Microsoft. في حين أنه كان جيدًا في المهام المتكررة مثل الخروج بخط سير رحلة ، إلا أنه قدم أيضًا معلومات غير صحيحة ، ووبخ المستخدمين لإضاعة وقتهم وحتى أظهر سلوكًا “غير متقطع” – على الأرجح بسبب النماذج التي تم التدريب عليها.

إن Lightvector (مطور KataGo) يدرك بالتأكيد المشكلة التي يستغلها اللاعبون منذ عدة أشهر. في منشور على GitHub ، قال إنه يعمل على إصلاح مجموعة متنوعة من أنواع الهجمات التي تستخدم الثغرة.