وصلني هذا السؤال:
هل استطاع الصينيون خداع #الذكاء_الاصطناعي الامريكي؟
الجواب:
نعم
و أربك ذلك #وزارة_الدفاع الامريكية (البنتاغون).
وقد يثبت ذلك ان الذكاء الاصطناعي العسكري يمكن خداعه بسهولة خطرة، مما يثير التسائل عن نضج وجاهزية هذه التكنولوجيا.
التفاصيل في التغريدات القادمة ↪️

حيث قام فريق بحثي من مختبر الأمان لشركة التكنولوجيا الصينية العملاقة تينسنت (#Tencent)، بخداع أحد أكثر الأصول التكنولوجية قيمة في أميركا، وهو #الذكاء_الاصطناعي في سيارة #تسلا الكهربائية.
technologyreview.com
وتمكن الفريق من خداع الذكاء الاصطناعي الذي يدير السيارة وإرباكه من خلال التغيير الدقيق للبيانات، التي يتم تغذيتها لأجهزة استشعار السيارة. مما أدى الى إرباك نظام القيادة الذاتية بحيث سارت السيارة في الطريق المعاكس بشكل مخالف لقواعد المرور.
وبعد نجاح التجربة، أكد الفريق الصيني أنه من السهل خداع خوارزميات #التعلم_العميق، إذا تم اكتشاف نقاط ضعفها.
2️⃣

قد لايكون خداع برمجيات سيارة تسلا تهديدا إستراتيجيا خطيرا، لكن القلق في البنتاغون عن ماذا لو تم:
🔅 استخدام تقنيات مماثلة لخداع الطائرات بدون طيار،
🔅 أو البرامج التي تحلل صور الأقمار الصناعية، وجعلها ترى أشياء غير موجودة أو لاترى الأشياء الموجودة؟
فمع تراكم الاستخدامات العسكرية للذكاء الاصطناعي، حظيت نقاط ضعف #الذكاء_الاصطناعي على الكثير من الاهتمام، وأثارت العديد من المخاوف.
فعلى سبيل المثال، يمكن أن يتسبب الحد الأدنى من التغييرات في صورة الإدخال في قيام الشبكة بإساءة تصنيفها، مما يجعلها تبدو متشابهة لشخص ما؛ ولكنها مختلفة تماما عن خوارزمية الذكاء الاصطناعي.
وقد بدأ #البنتاغون ينتبه لذلك، وأعلنت وكالة مشاريع الأبحاث الدفاعية المتقدمة #داربا (#DARPA) عن العديد من مشاريع أبحاث الذكاء الاصطناعي الضخمة، منها: برنامج يركز على التعلم الآلي العسكري العدائي. وربما يكون هذا هو الخطر الأكبر.
فالذكاء الاصطناعي العسكري العدائي، مازال ضبابي لا تستطيع حتى أذكى الآلات أن تتعلمه حتى الان.
3️⃣