"منطق الآلة في اتخاذ القرارات المصيرية"
من سلسلة #فتح_البلاك_بوكس بواسطة الباحثه سماء قزاز @SamaTG
عادةً ما تكون نماذج #التعلم_العميق والتعلم الآلي "نماذج #بلاك_بوكس" مما قد يفسر تجنّب الحكومات الانخراط التام في تفعيل تنبؤات التعلم الآلي لاتخاذ القرارت بالغة الأهمية.
من سلسلة #فتح_البلاك_بوكس بواسطة الباحثه سماء قزاز @SamaTG
عادةً ما تكون نماذج #التعلم_العميق والتعلم الآلي "نماذج #بلاك_بوكس" مما قد يفسر تجنّب الحكومات الانخراط التام في تفعيل تنبؤات التعلم الآلي لاتخاذ القرارت بالغة الأهمية.
عندما يوصف نموذج التعلم الآلي بالـ #بلاك_بوكس فهو أي نموذج يستقبل البيانات المدخلة ويقوم بتحليلها وتنفيذ المهمة الموكلة له دون توفير الأسباب المنطقية للقرارات المتخذة (بالرغم من كون القرار موفّق في كثير من الأحيان).
@SamaTG
@SamaTG
يحتاج البشر عادةً -قبل فهم القرار وتنفيذه- إلى التعمق في فهم أسباب القرار؛ وهي كبوة أغلب نماذج التعلم العميق تحديداً. قد لا نحتاج لفهم أسباب تصنيف الآلة لصورة اللبوة كنمر ولكننا بالتأكيد نحتاج فهم أسباب قرار الآلة بصرف الدواء "س" للمريض أواختيار المتقدّم "ص" للتوظيف.
@SamaTG
@SamaTG
استبدال القضاة في المحاكم أو الأطباء الشرعيين في فحص الجثث بآلة تتولى إتمام المهمة قد ينهي -نظريّاً- مشكلة الزلل البشري والتحيز الجائر ولكن المشكلة المستحدثة هي صعوبة فهم أسباب الآلة في اتخاذ القرار. لِمَ يصعب فهم "نوايا" الآلة؟
@SamaTG
@SamaTG
خلافاً للمنطق البشري في تحليل المشكلات والتوصّل للحل فإن الآلة تستقبل معطيات المشكلة وتقوم بتحليلها باعتبارها بيانات رقمية ومعادلات رياضية بحتة، دون فهم حقيقي لمعنى كل من تلك المعطيات وبالتالي فإن الآلة تفشل في توفير شرح منطقي -بمنطق بشري- للقرار المتخذ.
@SamaTG
@SamaTG
بسبب افتقار القرار الآلي للتعليل فإنه يصعب تباعاً استشعار "التحيز الآلي" وهو انحياز القرارت التي تتخذها الآلة تجاه -سواءً في صف أو ضد- أحد فئات العينة.
فيظهر التحيز الآلي لعدة أسباب مثل:
1. جودة عيّنة التدريب
2. جودة القرارات البشرية السابقة
@SamaTG
فيظهر التحيز الآلي لعدة أسباب مثل:
1. جودة عيّنة التدريب
2. جودة القرارات البشرية السابقة
@SamaTG
أولاً، تكون جودة عيّنة التدريب سبب في التحيز في اتخاذ القرارات حينما لا تكون العينة شاملة ومتوازنة في تمثيل جميع الأطراف.
@SamaTG
@SamaTG
فعلى سبيل المثيل وُجد في أحد الأبحاث في الولايات المتحدة أن إسناد مهمة "قرار إطلاق السراح المشروط" للآلة ينتج عنه قرارات متحيزة ضد العرق الأفريقي بسبب تحيّز عينة التدريب وامتلائها ببيانات ذوي العرق الأفريقي الذين لم يسمح لهم باطلاق السراح المشروط سابقاً.
@SamaTG
@SamaTG
ثانياً، كون الآلة تعتمد بشكل كبير على القرارات البشرية السابقة في فهم المشكلة وحلها فإن الآلة عادةً ما ترث التحيز البشري في اتخاذ القرارات.
@SamaTG
@SamaTG
يتجلّى ذلك في مثال التوظيف في الشركات التقنية حيث نجد التحيّز لتوظيف الذكور يورّث للآلة حتى وإن لم يتم تضمين جنس المتقدّم عند توفير البيانات للنموذج. لذلك يرى البعض أن "الهدف" يجب ألا يكون بناء آلة تحاكي الطبيعة البشرية، بل آلة تتجاوز الزلل البشري بحيث تكون مكمّل لطبيعة البشر.
لكل جواد كبوة، وفي حال فشلت قرارات الآلة في يوم ما -وهو ما سيحصل بطبيعة الحال- فإنه من المهم وجود تفسير يساعد في فهم مسببات المشكلة المخبئة بداخل الصندوق الأسود.
@SamaTG
@SamaTG
جاري تحميل الاقتراحات...