سنحت لي الفرصة بمتابعة لقاء بعنوان: لماذا يعتبر التوقف المؤقت لتطوير الذكاء الاصطناعي لمدة 6 أشهر فكرة سيئة
بين اثنين من كبار علماء المجال:
- Andrew Ng
- Yann LeCun
في هذا الثريد 🧵 بناقش معكم أبرز هذه النقاط في هذا اللقاء الرائع✨ :
بين اثنين من كبار علماء المجال:
- Andrew Ng
- Yann LeCun
في هذا الثريد 🧵 بناقش معكم أبرز هذه النقاط في هذا اللقاء الرائع✨ :
في الآونة الأخيرة سمعنا مقترح ودعوة من مجموعة من خبراء الذكاء الاصطناعي والمديرين التنفيذيين في الصناعة على رأسهم Elun Musk إلى التوقف لمدة ستة أشهر في تطوير أنظمة أقوى من GPT-4 التي تم إطلاقه حديثًا من OpenAI ، في رسالة مفتوحة تشير إلى المخاطر المحتملة على المجتمع.
بدأ النقاش باستعراض الفوائد الكبيرة لتطبيقات الذكاء الاصطناعي التي تطورت بشكل كبير خلال العقود الثلاثة الأخيرة خصوصا في السنوات القليلة كالأنظمة التوليدية Generative AI و من ضمنها ChatGPT ، تقنيات توليد الصور وغيرها
بالاضافة إلى المخاوف المحيطة بهذه الأنظمة المتقدمة كالانحياز وعدم المساواة ، الاستبدال الآلي للبشر تركيز القوة لدى جهة معينة
وغيرها من المخاوف الاقتصادية والاجتماعية إضافة إلى مايتعلق بالمخاطر التخمينية كوصولنا لذكاء اصطناعي عام GAI :
وهو ذكاء افترض علماء وصولنا إليه ...
وغيرها من المخاوف الاقتصادية والاجتماعية إضافة إلى مايتعلق بالمخاطر التخمينية كوصولنا لذكاء اصطناعي عام GAI :
وهو ذكاء افترض علماء وصولنا إليه ...
عند تطور الذكاء الاصطناعي بشكل يقارب ويتحدى الذكاء الانساني كالروبوتات القاتلة والمتمردة التي نشاهدها في الأفلام ( للعلم اليوم لازلنا في طور الذكاء الاصطناعي الضيق Narrow AI ) بالرغم من هذا التقدم الكبير في المجال
يبدأ Yann : بالحديث عن رأيه في مقترح التوقف المذكور أعلاه حيث أشار بأنه موجة جديدة من الظلامية Obscurantism وأنه علينا التركيز على تنظيم المنتجات بدلًا من إيقاف البحث العلمي والتطوير في المجال وأن هذا التوقف لن يفيد إلا في عملية تأخير حصولنا على المزيد من المعرفة لا أكثر
والحصول على أنظمة أفضل وأكثر أمنًا .
يعيد Andrew حديثه عن المخاوف والأخطار و التطورات التي حققها المجال في عدة قطاعات كالتعليم والصحة والتي تم ذكرها أعلاه و يوافق على رأي Yann في مسألة أن التوقف سيساهم في إبطاء حصولنا على أنظمة ذات قيمة وفائدة للبشر.
يعيد Andrew حديثه عن المخاوف والأخطار و التطورات التي حققها المجال في عدة قطاعات كالتعليم والصحة والتي تم ذكرها أعلاه و يوافق على رأي Yann في مسألة أن التوقف سيساهم في إبطاء حصولنا على أنظمة ذات قيمة وفائدة للبشر.
يستعرض Yann أن معظم هذه التخوفات متعلقة بوصولنا إلى ذكاء اصطناعي عام قادر على إقصاء الجنس البشر ولكن
أشار كليهما أن الذكاء الاصطناعي العام يحتاج المزيد من الوقت للوصول إليه و يعتقد أنه لن يتم ذلك من خلال جعل النماذج اللغوية الضخمة LLMs أكبر كـChatGPT و Bard.
أشار كليهما أن الذكاء الاصطناعي العام يحتاج المزيد من الوقت للوصول إليه و يعتقد أنه لن يتم ذلك من خلال جعل النماذج اللغوية الضخمة LLMs أكبر كـChatGPT و Bard.
أشار Yann إلى نقطة افترضها بشكل استنكاري استفزتني جدًا : )
نحن أذكياء جدًا لتطوير أنظمة خارقة الذكاء لكن لسنا أذكياء بنفس القدر لتصميم أهداف جيدة متسقة مع القيم الإنسانية لهذه الأنظمة !
يركزان على مسألة اللوائح التنظيمية لهذه المنتجات بدلًا من ايقاف البحث والتطوير !
نحن أذكياء جدًا لتطوير أنظمة خارقة الذكاء لكن لسنا أذكياء بنفس القدر لتصميم أهداف جيدة متسقة مع القيم الإنسانية لهذه الأنظمة !
يركزان على مسألة اللوائح التنظيمية لهذه المنتجات بدلًا من ايقاف البحث والتطوير !
برأيي الشخصي 👀 نحتاج خبراء بكلا المجالين (نوعي الذكاء هنا مختلفين تمامًا ) :
نحتاج خبراء لديهم ذكاء منطقي رياضي للتطوير والبحث و خبراء لديهم ذكاء تشريعي يفهمون السياسات والقيم الإنسانية بشكل متميز لتنظيم المنتجات وحوكمتها نادرًا ما تجد شخص يجمع مابين الاثنين !
نحتاج خبراء لديهم ذكاء منطقي رياضي للتطوير والبحث و خبراء لديهم ذكاء تشريعي يفهمون السياسات والقيم الإنسانية بشكل متميز لتنظيم المنتجات وحوكمتها نادرًا ما تجد شخص يجمع مابين الاثنين !
كل من Andrew و Yann عبرا عن معارضتهما للهبات المتعلقة بالذكاء الاصطناعي AI Hypes
حيث قالAndrew أن المجتمع والناس في كثير من الأحيان يسيء تقدير وتقييم هذه التقنيات على هيئة هبات فعلى سبيل المثال أخطأت حين كنت متفائلاً للغاية بشأن السيارات ذاتية القيادة وكذلك الأمر اليوم نسمع
حيث قالAndrew أن المجتمع والناس في كثير من الأحيان يسيء تقدير وتقييم هذه التقنيات على هيئة هبات فعلى سبيل المثال أخطأت حين كنت متفائلاً للغاية بشأن السيارات ذاتية القيادة وكذلك الأمر اليوم نسمع
العديد من الهبات على أن الذكاء الاصطناعي قد يحاول الهرب أو التمرد.
يضيف Yann تعليقًا على هذه النقطة : لسنا قريبين على الإطلاق من الذكاء المقارب للمستوى البشري وأن النماذج تنتج هراء في بعض الأحيان ، ربما لأنه تم تدريبه بالكامل أو إلى حد كبير على نصوص فقط.
يضيف Yann تعليقًا على هذه النقطة : لسنا قريبين على الإطلاق من الذكاء المقارب للمستوى البشري وأن النماذج تنتج هراء في بعض الأحيان ، ربما لأنه تم تدريبه بالكامل أو إلى حد كبير على نصوص فقط.
ويضيف أيضًا أننا موجهون جدًا لغويًأ حيث نعتبر أي كيان يتحدث بطلاقة على أنه نظام ذكي وهذا الأمر غير صحيح !
جميلة العبارة : )
جميلة العبارة : )
يعلق Andrew أننا حققنا تقدمًا رائعا هذه السنة في تطوير أنظمة الذكاء الاصطناعي ولو استمر العمل بهذا الشكل ربما قد نصل بغضون 30 إلى 50 عامًا إلى ذكاء مقارب للبشر
ويضيفYann أنه من الواضح لسنا قريبين حتى الآن من الذكاء الاصطناعي العام حيث أننا لا نملك حتى الآن سيارات ذاتية القيادة بالمستوى الخامس L5 AV. (جميع أعمال السائق مؤتمتة بنسبة 100 %) فلا داعي لكل هذا القلق !
أشار Yann إلى نقطة جميلة جدًا هنا أن المشاكل التي تتعامل معها الآلة وتظهر تفوقًأ بها على الجنس البشري كلعب الشطرنج قد تكون بسيطة بالنسبة لها والعكس صحيح بعض المهام التي يقوم البشر بها بعمر 10 سنوات كتنظيف الطاولة و ملئ غسالة الصحون هي مسائل شديدة التعقيد على الآلة
فلا يجب الربط بين تفوق الآلات بأجزاء معينة من الذكاء البشري وقدرتها على مجاراة الذكاء البشري العام في شتى المجالات !
أشار Andrew أن مسألة التوقف عن تطوير الذكاء الاصطناعي لا تعد قابلة للتنفيذ حيث أن التنافس بين المختبرات حول العالم و الدول هو في أوجه من حيث الوصول إلى أنظمة
أشار Andrew أن مسألة التوقف عن تطوير الذكاء الاصطناعي لا تعد قابلة للتنفيذ حيث أن التنافس بين المختبرات حول العالم و الدول هو في أوجه من حيث الوصول إلى أنظمة
ذات فائدة كبيرة وأن الحكومات لن توافق على تمرير هكذا قرارات تحد من تقدم التقنيات في بلادها !
يشدد Yann و Andrew مرارًا على مسألة التفريق بين :
- المنتجات Products
- البحث و التطوير Research & Development
يشدد Yann و Andrew مرارًا على مسألة التفريق بين :
- المنتجات Products
- البحث و التطوير Research & Development
ويضيف Yann أنه حتى لو تم تقييد البحث و التطوير فإن المجتمع والناس لن تتوقف عن البحث والتطوير بأنفسها عن هذه التقنيات المفيدة لها وقد أثبت التاريخ هذه المسألة مرارًا في محاولات تقييد السلطات التشريعية أو الدينية مثل هذه المسائل وآثاره السلبية على التقدم والنهضة.
يقول Andrew : لا أرى أي تهديد واقعي لمحاولة إنفلات الذكاء الاصطناعي في الوقت الراهن حيث بشكل خاطئ يتم الربط بينه وبين مسألة كتسرب أو هروب إحدى الفيروسات أو الأمراض المعدية من المختبرات البحثية والتسبب في جائحة عالمية.
يعلق Yann أننا نحن البشر لدينا نزعة للسيطرة على الأمور وأي أمر قد يهدد أو يهيمن على حياتنا، ويؤكد على أن الأمر أو التهديد غير واقعي كما أشار Andrew
محاولة "السيطرة على الهيمنة"
محاولة "السيطرة على الهيمنة"
يناقش Andrew المسائل المتعلقة بالتقنية وأنه على مدار العقدين الماضيين كانت الأمور مبشرة والمجتمع راض بشكل كبير لكن في الآونة الأخيرة وتحديدا الخمس سنوات الماضية تعالت الأصوات بشأن خطر هذه التقنيات كـالمسائل المتعلقة بوسائل التواصل مثل المشاعر السلبية أو خطابات الكراهية والخصوصية
فالبرغم من المخاطر تقدم هذه التقنيات اليوم خدمات جليلة للجنس البشري
يعلق Yann أنه لا يشارك في عمل السياسة الوصفية ولكن هذا التقدم في الذكاء الاصطناعي يصلح الكثير من مشكلات الشبكات الاجتماعية ، مثل إزالة خطاب الكراهية وأن الذكاء الاصطناعي جزء من الحل وليس المشكلة.
يعلق Yann أنه لا يشارك في عمل السياسة الوصفية ولكن هذا التقدم في الذكاء الاصطناعي يصلح الكثير من مشكلات الشبكات الاجتماعية ، مثل إزالة خطاب الكراهية وأن الذكاء الاصطناعي جزء من الحل وليس المشكلة.
يضيف Andrew أن الكثير من المنتجات و التقنيات لا تكون متقنة أو كامة من المرة الأولى وإنما تحتاج إلى وقت لكي تنضج ويتم احتوائها بشكل جيد والتقليل من أخطارها
اختتم اللقاء بالإجابة عن بعض الأسئلة أبرزها :
كيف يتم التوفيق بين معارضة بعض العلماء الكبار مثل yoshua bengio للتوقف مع آخرين مثل Yann للاستمرار في التطوير والبحث :
يعلق Yann : كل عالم له دوافعه الخاصة ورؤيته الخاصة البعض يرى أن هذه الأنظمة سيئة في جوهرها والبعض الآخر يرى العكس
كيف يتم التوفيق بين معارضة بعض العلماء الكبار مثل yoshua bengio للتوقف مع آخرين مثل Yann للاستمرار في التطوير والبحث :
يعلق Yann : كل عالم له دوافعه الخاصة ورؤيته الخاصة البعض يرى أن هذه الأنظمة سيئة في جوهرها والبعض الآخر يرى العكس
ولكن على سبيل المثال أتفق جدًا مع Yoshua في مسألة جعل الأبحاث مفتوحة المصدر وغير محاطة بهذا القدر من السرية
عندما سئل عما إذا كان سيتم استبدال المهندسين ما الذي يجب أن يفعله الطلاب في المستقبل :
شجع كل من Andrew و Yann الطلاب على بناء هذا الفضاء والدخول إليه. يقول بأن الذكاء الاصطناعي لم يتم إحلاله بدلاًا من المهندسين وما زلنا نفتقد الكثير في أنظمة الـ AI مثل التفكير والتخطيط.
شجع كل من Andrew و Yann الطلاب على بناء هذا الفضاء والدخول إليه. يقول بأن الذكاء الاصطناعي لم يتم إحلاله بدلاًا من المهندسين وما زلنا نفتقد الكثير في أنظمة الـ AI مثل التفكير والتخطيط.
جاري تحميل الاقتراحات...