الذكاء الاصطناعي والخطأ البشري: الأسباب الجذرية واستراتيجيات التخفيف

اترك أي تصورات مسبقة قد تكون لديك حول الذكاء الاصطناعي عند الباب. إذا تمكنت من تجاوز الصورة المستقبلية التي تبنيها الوسائط حول الذكاء الاصطناعي ، يمكنك العثور على قيمة عمل حقيقية: نماذج التعلم الآلي (ML) التي تحل مشاكل العمل في العالم الحقيقي.

بدءًا من الأمن السيبراني والحوكمة والامتثال والمحاسبة إلى تجاوز الركود وإدارة البيانات والمواهب وأعباء العمل ، فإن الذكاء الاصطناعي موجود لتبقى. أهدافها الرئيسية هي الأتمتة وخفة الحركة والسرعة. تعد قيود الأداء البشري وتأثير الخطأ البشري بلا شك من أهم محركات الابتكار في مجال الذكاء الاصطناعي.

ذكرت تحقيقات Verizon في خرق البيانات لعام 2022 أن 82 ٪ من 23000 حادث إلكتروني عالمي تم تحليلها كانت ناجمة عن أخطاء بشرية. ولكن بينما يسارع محللو البيانات وحتى حلول إدارة البرامج الحديثة في إلقاء اللوم على البشر في الأخطاء والحوادث ، هناك المزيد من التعقيدات على المحك.

ما هي الأخطاء البشرية بالضبط ولماذا تحدث؟ الجواب على هذا السؤال أمر حيوي. إن فهم الأسباب الجذرية للأخطاء البشرية هو كيفية عمل أطر عمل الذكاء الاصطناعي وإدارة المخاطر لتقليل الاضطرابات.

كيف يمكن أن يساعد الذكاء الاصطناعي في الضغط على الزر الأيمن

زلة ، زلة ، اختلاط. من لم يضغط على الزر الخطأ عند القيام بمهمة متكررة ، حتى لو كان يتمتع بمهارات عالية؟ الأخطاء غير المقصودة شائعة في مجموعة واسعة من الصناعات. تحدث في البيئات التي تكون فيها الإجراءات والعمليات راسخة ومؤتمتة.

يعد قياس الأثر الاقتصادي والاجتماعي العالمي للخطأ البشري على جميع الصناعات مهمة شبه مستحيلة. لكن يمكننا أن نتخيل بسرعة المخاطر الشديدة التي تنطوي عليها عندما ، على سبيل المثال ، نتأمل في عواقب الخطأ البشري في قطاعات مثل الرعاية الصحية ، حيث تكون الحياة على المحك. حتى تشيرنوبيل – أحد أخطر الحوادث النووية في التاريخ الحديث – بدأت بخطأ بشري ، تلاه خطة معيبة لإدارة المخاطر.

>> لا تفوّت إصدارنا الخاص: السعي وراء السكينة: تطبيق الذكاء الاصطناعي على نطاق واسع. <<

يمكن أن تؤدي الأخطاء البشرية غير المقصودة إلى إبطاء الأداء وتعطيل عمليات الإنتاج العادية وحتى تؤدي إلى الإصابات والوفاة. رداً على ذلك ، تُستخدم المنصات الصناعية الذكية القائمة على الذكاء الاصطناعي للكشف عن المخالفات في أنظمة الإنتاج والتوزيع والإبلاغ عنها قبل حدوثها.

كيف تعمل هذه المنصات؟ في الثورة الصناعية الرابعة ، كانت الأتمتة مدعومة بشبكة من أجهزة إنترنت الأشياء الصناعية التي تنقل البيانات باستمرار إلى بوابة حافة ، والتي بدورها تقوم بتحميلها إلى السحابة. في السحابة ، تقوم أنظمة الذكاء الاصطناعي بتحليل البيانات من أجل التصور السريع والوقاية من المخاطر والتحليل التنبئي.

يمكن لأنظمة الذكاء الاصطناعي هذه “التعلم” وتحسين الأداء عن طريق إزالة الثغرات أثناء “إصلاح” الأسباب الجذرية التي تؤدي إلى الأخطاء البشرية.

من ناحية أخرى ، تحدث الأخطاء أيضًا عندما يتعرض العمال لظروف مرهقة ويعانون من الإرهاق. يقول مسؤول الصحة والسلامة التنفيذي (HSE) ، المنظم الوطني البريطاني للصحة والسلامة في مكان العمل: “يمكن للجميع ارتكاب أخطاء بغض النظر عن مدى جودة تدريبهم وتحفيزهم”.

كيف يتم بناء نماذج التعلم الآلي لتخفيف التأثيرات على القوى العاملة

لا تؤثر الأخطاء البشرية غير المقصودة على الشركات فقط. وجد تقرير حديث صادر عن شركة BMC Health Services Research أن الأخطاء الدوائية تؤثر بشكل مباشر على المرضى ، وتؤثر بشكل كبير على طاقم الرعاية الصحية المعنيين.

تضيف دراسة BMC أن هذه الأخطاء دفعت كبار المهنيين الصحيين للتشكيك في كفاءتهم. الذنب والخوف ولوم الذات وإيذاء الذات والضيق الأخلاقي والوصمة المرتبطة بالأخطاء البشرية تطارد العاملين في مجال الرعاية الصحية.

ولكن كيف تُبنى تطبيقات الذكاء الاصطناعي لتقليل الأخطاء؟ عندما يتم استدعاء علماء البيانات لبناء نماذج ML يمكنها التنبؤ بالأخطاء والاضطرابات والحوادث ، فسوف يتعمقون في الحوادث في تاريخ الشركة ويبحثون عن الأنماط. على سبيل المثال ، قد ينظرون في البيانات التي تكشف أن خط المصنع يعاني من ارتفاع في الطاقة ، أو المعدات التي لا تتم صيانتها جيدًا أو العمال الذين يعملون لساعات طويلة جدًا.

يمكن لنماذج ML استخدام هذه البيانات الهامة ، ومن خلال الخوارزميات ، توقع الأخطاء البشرية قبل حدوثها. يمكن أيضًا أن تأتي النماذج الأكثر تقدمًا بحلول مبتكرة.

فهم أخطاء اتخاذ القرار والتكلفة الحقيقية

فئة أخرى من الأخطاء هي تلك التي ترتكب بنية حسنة. عندما يواجه البشر شيئًا جديدًا ، فإنهم يميلون إلى التراجع عن مهاراتهم وتدريبهم المعروفين. غالبًا ما يؤدي وضع افتراضات في بيئات جديدة إلى خطأ بشري ، حتى عندما يعتقد الشخص أنه يفعل الشيء الصحيح.

على سبيل المثال ، أثناء توفير مزايا لا حصر لها للشركات ، أجبرت الهجرة السحابية العالمية فرق تكنولوجيا المعلومات على التكيف أو الموت. أدى سباق التحول الرقمي إلى العديد من التكوينات الخاطئة في السحابة.

كشف تقرير IBM “تكلفة خرق البيانات 2022” ، بعنوان “سباق مليون دولار للكشف والرد” ، أنه بعد التصيد الاحتيالي وسرقة بيانات الاعتماد (المتعلقة أيضًا بالخطأ البشري) ، شكلت أخطاء التهيئة السحابية 15٪ من جميع الخروقات. كان متوسط ​​تكلفة انتهاكات التهيئة السحابية المذهلة 4.14 مليون دولار لكل حادثة. بلغ إجمالي الفجوات المعرفية المتعلقة بنشر برمجيات الطرف الثالث ونقاط ضعفها 13٪ من جميع الانتهاكات.

إن الإشراف على بيانات الاعتماد السحابية ، والتهيئة الخاطئة للسحابة ، ونقص الامتثال وتكامل الحوكمة ، وعدم القدرة على تنفيذ ممارسات الأمان الأكثر تقدمًا ، كان لها عواقب وخيمة على الشركات. تحدث هذه الأخطاء ليس لأن العاملين في مجال تكنولوجيا المعلومات تصرفوا بخبث ولكن لأنهم يفتقرون إلى المهارات اللازمة.

كيف يمهد كبار بائعي السحابة الطريق

كيف يمكن للذكاء الاصطناعي تقليل الخطأ البشري في السحابة؟ يتمتع جميع موردي السحابة الكبار ، من Google Cloud Platform (GCP) إلى Amazon Web Services (AWS) و Microsoft Azure Cloud ، بميزات AI مدمجة يمكنها دمج الامتثال وتكامله تلقائيًا ؛ التحقق من أخطاء التكوين والشبكة وأخطاء الاعتماد ؛ وتحديد أخطاء البيانات الشائعة.

يمكن لحلول الذكاء الاصطناعي هذه أيضًا إدارة الرؤية والتحليلات لتمكين التحديد والتحقيق بشكل أسرع لحل المشكلات بشكل أسرع. تتحقق ميزات بيانات Cloud AI من أخطاء التنسيق والبيانات المكررة أو غير الدقيقة وعدم التناسق والتفردات الأخرى. علاوة على ذلك ، يمكنهم مسح البيانات الضخمة الضخمة في ثوانٍ ، الأمر الذي سيستغرق يدويًا ساعات أو حتى أيام.

وهم التحيز والتردد: يتحول التمويل إلى التعلم الآلي

هل سبق لك أن لاحظت أنه عندما تفكر في طراز سيارة معين ترغب في شرائه ، تراه في كل مكان؟ يوضح LightHouse أن هذا يُعرف باسم وهم التردد أو ظاهرة بادر ماينهوف.

لقد أثبت العلماء أن الدماغ البشري يخدعنا من خلال آلية تسمى التحيز التأكيدي – الميل إلى البحث فقط عن المعلومات التي تدعم موقفنا أو فكرتنا. ترتبط أشكال التحيز الأخرى بالتصورات الثقافية ، بينما لا تزال أشكال أخرى أكثر خطورة وتتجاوز الخطوط الأخلاقية والقانونية ، وتفي بتعريف التمييز.

يوضح آرون كلاين من برنامج بروكينغز للدراسات الاقتصادية أن الذكاء الاصطناعي يمثل فرصة لتقليل أخطاء التحيز في التمويل وتحويل الطريقة التي تخصص بها الصناعة الائتمان والمخاطر. يقول كلاين إن الذكاء الاصطناعي لديه القدرة على إنشاء بديل لنظام التقارير الائتمانية والتسجيل التقليدي الذي يساعد على إدامة التحيز الحالي. ومع ذلك ، لم يتم تصميم نماذج ML وتصنيعها وتدريبها في الفراغ. يمكن أن يؤدي إهمال تضمين الأخلاق والإنصاف والشفافية في نماذج ML إلى تطبيقات ذكاء اصطناعي متحيزة.

إزالة التحيز من صناعة التمويل – “حيث الائتمان ذو الجودة الرديئة (أسعار الفائدة المرتفعة ، الرسوم [and] مصائد الديون التعسفية) والمخاوف بشأن استخدام الكثير من مصادر البيانات … يمكن أن تختبئ كوكلاء للتمييز غير القانوني “، كما يشرح كلاين – يمكن القيام به من خلال تدريب خوارزميات الذكاء الاصطناعي وتزويدها بالمجموعة الصحيحة من البيانات.

إدارة الخطأ البشري: أطر تقييم المخاطر والذكاء الاصطناعي

من الانحرافات في القواعد واللوائح والعمليات المحددة إلى عدم الامتثال والتحايل والاختصارات والحلول البديلة: سيستمر حدوث الأخطاء البشرية والانتهاكات.

الخبر السار هو أن الأخطاء يمكن التنبؤ بها. في حين أن نماذج الذكاء الاصطناعي والتعلم الآلي يمكن أن تساعد في تقليلها إلى الحد الأدنى ، يجب على الشركات إشراك العاملين في تصميم المهام والإجراءات وبناء أطر شاملة لتقييم المخاطر تعمل على إدارة الخطأ البشري بشكل أفضل.

إن التعامل مع المشغلين على أنهم موهبة فوق طاقة البشر ومفرطون في العمل ، ووضع افتراضات جامحة حول موظفيك ، بافتراض أن موظفيك سيتبعون دائمًا الإجراءات بغض النظر عن السبب ، ونقص ظروف العمل المناسبة وحالات الفشل الأخرى ، هي جذور الأخطاء البشرية وأصولها. لا يجب وضع مسؤولية تقليل الحوادث على تطبيق الذكاء الاصطناعي الحديث. يجب أن يكون على أكتاف كبار صانعي القرار وليس على عاتق العاملين في الطابق الأرضي أو الخط الأمامي.

تساعد إدارة المخاطر والذكاء الاصطناعي الأطباء في تشخيص وعلاج المرضى بشكل أفضل ؛ الحد من الحوادث والاضطرابات في المصانع والصناعات الذكية ؛ تحويل سلاسل التوريد والتمويل ؛ وتعزيز الأمن السيبراني. يمكن للذكاء الاصطناعي أن يتجاوز كل خطأ فردي. يمكنه تحديد السبب الجذري بشكل بارد وغير عاطفي ، والتنبؤ بدقة ، واقتراح الحلول. ومع ذلك ، فإن الأمر يتطلب أكثر من مجرد الذكاء الاصطناعي. إن التحول العميق في الطريقة التي ندرك بها الأخطاء البشرية هو الخطوة الأولى في الرحلة.

تايلور هيرسوم هو المؤسس والرئيس التنفيذي لشركة Eden Data.