تعمل أيه لو ذاكرت لإمتحان واجتهدت عشان تجيب درجة حلوة عشان تخش جامعة احلامك وبعدين قالولك معلش مفيش امتحان بسبب كورونا هنستخدم الذكاء الاصطناعي في توقع نتيجة امتحانك بناءا على مستواك، ولقيت نفسك .. سقطت في الامتحان! ده شبه اللي حصل في بريطانيا السنة اللي فاتت. تعالوا نعرف القصة!
بريطانيا شهدت السنة اللي فاتت في عدة برامج استخدام الذكاء الاصطناعي في تحديد مستوى الطلاب بناءا على درجاتهم السابقة بدلا من اجراء الامتحانات. في أحد تلك البرامج التعليمية الشهيرة عالميا، عدد كبير من الطلاب لاحظوا ان درجاتهم أقل من المتوسط بتاعهم الطبيعي
wired.com
wired.com
الذكاء الاصطناعي بيتدرب على توقع النتائج بناءا على الـ Training Data اللي هندربه عليها، كل ما البيانات اللي بتخشله كانت بتعبر عن الحقيقة بعوامل دقيقة Parameters، كل ما كان الـ Model قادر على توقع النتيجة بدقة أكبر. تصميم الـ Model وأسلوب جمع البيانات Data points بيأثر في النتيجة.
اللي حصل أن الـ AI لو متدرب على بيانات من مدارس مختلفة في مناطق مختلفة وكانت نتيجة المتوقعة داخل فيها اداء المدرسة بشكل عام في السنين الماضية، على حسب المنطقة كمان، فطلاب المدارس الخاصة الغالية كانوا أعلى من المدارس اللي في مناطق فقيرة فيما يعرف بالـ Algorithmic Bias. طب ليه؟
المدرسة الخاصة فيها عدد طلاب أقل وبالتالي عدد الData Points أقل، ابنك في فصل فيه 10 لو 8 منهم جايبين A وابنك مستواه C أصلا الـ AI ممكن يرفعه لـ B. لو انت في مدرسة حكومية فقيرة الفصل فيه عدد أكبر ومستواك A والباقي مستواه C، ممكن الـ AI ينزلك لـ B حتى مع اعتبار نتائجك الفردية
الـ Algorithmic Bias التحيز الخوارزمي هو قصور في اداء الذكاء الاصطناعي بسبب عوامل كثيرة أهمها هو أن في الآخر الإنسان هو اللي بيصمم مدخلات وبيختبر مخرجات أي نظام للـ AI وده ممكن يسبب تحديات أخلاقية Ethical.
news.sky.com
news.sky.com
المدخل الأول للتحيز الخوارزمي هو ما يعرف بتأطير المشكلة Framing يعني اسلوب وضع اطار للمشكلة اللي عايزين نحلها. التأطير ده بيحصل عن طريق الإنسان لأنه هو اللي فاهم السياق Context فلو الإنسان نفسه متحيز لأسباب مختلفة أو عنده قصور في فهم كل المتغيرات،الذكاء الاصطناعي هيطلع متحيز برضه
وختاما في رأيي، نقدر نقول أن الذكاء الاصطناعي مهما وصل من تقدم فهو في الآخر لا يمكن الحكم عليه بأنه الأدق أو الأفضل لأنه مصمم في إطار الفهم البشري القاصر في حد ذاته. وإن كان نقدر نقدر نراقب تحيزه ونحاول نصحح من التحيز ده بس عشان نعمل كده لازم أحنا أصلا كبشر نكون مستعدين لده.
جاري تحميل الاقتراحات...