مع ازدهار الذكاء الاصطناعي ، فإن الحد من مخاطر الأنظمة الخوارزمية أمر لا بد منه ، كما يقول موجز جديد لـ ACM

قد يكون الذكاء الاصطناعي مزدهرًا ، لكن موجزًا ​​جديدًا من مجلس سياسة التكنولوجيا العالمي التابع لجمعية آلات الحوسبة (ACM) ، والذي ينشر غدًا ، يشير إلى أن انتشار الأنظمة الخوارزمية في كل مكان “يخلق مخاطر جدية لا تتم معالجتها بشكل كافٍ”.

وفقًا لموجز ACM ، الذي تقول المنظمة إنه الأول في سلسلة الأنظمة والثقة ، فإن الأنظمة الخوارزمية الآمنة تمامًا غير ممكنة. ومع ذلك ، يمكن اتخاذ خطوات قابلة للتحقيق لجعلها أكثر أمانًا ويجب أن تكون أولوية عالية في مجال البحث والسياسة للحكومات وجميع أصحاب المصلحة.

الاستنتاجات الرئيسية للموجز:

• لتعزيز أنظمة خوارزمية أكثر أمانًا ، هناك حاجة إلى البحث حول كل من أساليب تطوير البرامج التي تتمحور حول الإنسان والتقنية ، والاختبار المحسّن ، ومسارات التدقيق ، وآليات المراقبة ، فضلاً عن التدريب والحوكمة.
• يتطلب بناء ثقافات السلامة التنظيمية قيادة إدارية ، والتركيز في التوظيف والتدريب ، واعتماد الممارسات المتعلقة بالسلامة ، والاهتمام المستمر.
• آليات الرقابة الداخلية والمستقلة التي تركز على الإنسان ، سواء داخل الحكومة أو المنظمات ، ضرورية لتعزيز أنظمة خوارزمية أكثر أمانًا.

تحتاج أنظمة الذكاء الاصطناعي إلى ضمانات ومراجعة صارمة

عالم الكمبيوتر بن شنايدرمان ، أستاذ فخري بجامعة ماريلاند ومؤلف الذكاء الاصطناعي المرتكز على الإنسان، كان المؤلف الرئيسي للموجز ، وهو الأحدث في سلسلة من النشرات الفنية القصيرة حول التأثير والآثار السياسية لتطورات تقنية معينة.

في حين أن الأنظمة الخوارزمية – التي تتجاوز تكنولوجيا الذكاء الاصطناعي والتعلم الآلي وتتضمن الأشخاص والمؤسسات والهياكل الإدارية – قد حسنت عددًا هائلاً من المنتجات والعمليات ، أشار إلى أن الأنظمة غير الآمنة يمكن أن تسبب ضررًا عميقًا (فكر في السيارات ذاتية القيادة أو التعرف على الوجه).

وأوضح أن الحكومات وأصحاب المصلحة بحاجة إلى تحديد الأولويات وتنفيذ الضمانات بنفس الطريقة التي يجب أن يمر بها المنتج الغذائي الجديد أو المستحضرات الصيدلانية بعملية مراجعة صارمة قبل إتاحتها للجمهور.

مقارنة الذكاء الاصطناعي بنموذج الطيران المدني

قارن شنايدرمان إنشاء أنظمة خوارزمية أكثر أمانًا بالطيران المدني – الذي لا يزال ينطوي على مخاطر ولكن من المسلم به عمومًا أنه آمن.

“هذا ما نريده للذكاء الاصطناعي” ، أوضح في مقابلة مع VentureBeat. “من الصعب القيام بذلك. يستغرق بعض الوقت للوصول إلى هناك. يتطلب الأمر جهدًا وتركيزًا على الموارد ، ولكن هذا ما سيجعل شركات الأشخاص قادرة على المنافسة ويجعلها دائمة. خلاف ذلك ، سوف يستسلموا لفشل من المحتمل أن يهدد وجودهم “.

وأضاف أن الجهد المبذول نحو أنظمة خوارزمية أكثر أمانًا هو تحول من التركيز على أخلاقيات الذكاء الاصطناعي.

“الأخلاق جيدة ، كلنا نريدها كأساس جيد ، لكن التحول نحو ما نفعله؟” هو قال. “كيف نجعل هذه الأشياء عملية؟”

هذا مهم بشكل خاص عند التعامل مع تطبيقات الذكاء الاصطناعي التي ليست خفيفة الوزن – أي القرارات التبعية مثل التجارة المالية ، والمسائل القانونية والتوظيف والطرد ، وكذلك التطبيقات الطبية أو النقل أو العسكرية الحرجة للحياة.

قال شنايدرمان: “نريد تجنب حادثة تشيرنوبيل للذكاء الاصطناعي ، أو جزيرة ثري مايل للذكاء الاصطناعي”. يجب أن ترتفع درجة الجهد الذي نبذله لتحقيق الأمان مع تزايد المخاطر “.

تطوير ثقافة السلامة التنظيمية

وفقًا لموجز ACM ، تحتاج المؤسسات إلى تطوير “ثقافة أمان تشمل هندسة العوامل البشرية” – أي كيفية عمل الأنظمة في الممارسة الفعلية ، مع وجود البشر في الضوابط – والتي يجب “نسجها” في تصميم النظام الخوارزمي.

أشار الموجز أيضًا إلى أن الأساليب التي أثبتت فعاليتها في مجال الأمن السيبراني – بما في ذلك اختبارات “الفريق الأحمر” العدائية التي يحاول فيها المستخدمون الخبراء كسر النظام ، وتقديم “مكافآت الأخطاء” للمستخدمين الذين يبلغون عن عمليات حذف وأخطاء يمكن أن تؤدي إلى إخفاقات كبيرة – يمكن أن يكون مفيدًا في صنع أنظمة خوارزمية أكثر أمانًا.

تعمل العديد من الحكومات بالفعل على هذه القضايا ، مثل مخطط الولايات المتحدة لقانون حقوق الذكاء الاصطناعي وقانون الاتحاد الأوروبي للذكاء الاصطناعي. وأكد شنايدرمان أن هذه الجهود يمكن أن توفر ميزة تنافسية للشركات التجارية.

قال: “هذه ليست مجرد أشياء جيدة للرجل”. “هذا قرار عمل جيد بالنسبة لك وقرار جيد بالنسبة لك للاستثمار في فكرة السلامة والمفهوم الأكبر لثقافة السلامة.”