ساتحدث بعد قليل عن معلومات صادمة حول اكتشاف نقاط ضعف في برنامج #GTP4 وتحويله الى اداة لاختراق وتهكير اجهزة الكمبيوتر.
حيث اكتشف طالب #علوم_الحاسب بجامعة #واشنطن، هذه النقاط وعرضها في حسابه على تويتر.
1️⃣
يتبع ↩️
حيث اكتشف طالب #علوم_الحاسب بجامعة #واشنطن، هذه النقاط وعرضها في حسابه على تويتر.
1️⃣
يتبع ↩️
وقد وجد أليكس ألبرت، طريقة لتجاوز آليات الأمان الخاصة ببرنامج #الذكاء_الاصطناعي #GPT4، وتمكن من التلاعب به لتوليد تعليمات لاختراق جهاز كمبيوتر، من خلال استغلال نقاط الضعف في الطريقة التي يفسر بها النص ويستجيب له.
2️⃣
2️⃣
وقد سارع موقع اخبار التقنية @VentureBeat لمقابلة اليكس البيرت لفهم هذا الخطر الداهم ل #المجتمع_التقني وغيره من المجتمعات.
وقال ألبرت إنه لن يروج لاستخدام #GPT4 لأغراض ضارة، ولكنه يسلط الضوء على تهديد برامج ونماذج #الذكاء_الاصطناعي المتقدمة اذا وقعت في الأيدي الخطأ.
3️⃣
وقال ألبرت إنه لن يروج لاستخدام #GPT4 لأغراض ضارة، ولكنه يسلط الضوء على تهديد برامج ونماذج #الذكاء_الاصطناعي المتقدمة اذا وقعت في الأيدي الخطأ.
3️⃣
وقد تحدث موقع @VentureBeat مع ألبرت لفهم دوافعه ، وتقييم مخاطر النماذج اللغوية الكبيرة مثل #GPT4، واستكشاف كيفية تعزيز مناقشة واسعة حول وعود ومخاطر #الذكاء_الاصطناعي المتقدم.
4️⃣
4️⃣
@VentureBeat:
ما الذي دفعك إلى كسر الحماية ولماذا تقوم بكسر #ChatGPT؟
@alexalbert__:
لقد دخلت في عملية كسر الحماية لأنه عمل ممتع ومن المثير للاهتمام اختبار هذه النماذج بطرق فريدة ومبتكرة. إنني أقوم بعمل #جيلبريك (كسر الحماية) بشكل نشط لثلاثة أسباب رئيسية:👇
5️⃣
ما الذي دفعك إلى كسر الحماية ولماذا تقوم بكسر #ChatGPT؟
@alexalbert__:
لقد دخلت في عملية كسر الحماية لأنه عمل ممتع ومن المثير للاهتمام اختبار هذه النماذج بطرق فريدة ومبتكرة. إنني أقوم بعمل #جيلبريك (كسر الحماية) بشكل نشط لثلاثة أسباب رئيسية:👇
5️⃣
@VentureBeat:
هل لديك إطار عمل للتغلب على الإرشادات المبرمجة في #GPT_4؟
@alexalbert__:
لا، لكن الأمر يتطلب مزيدًا من التفكير والجهد للالتفاف على عوامل التصفية ( الفلاتر). وأثبتت تقنيات معينة فعاليتها ، مثل prompt injection والمحاكاة المعقدة التي تتعمق في مستويات متعددة.
6️⃣
هل لديك إطار عمل للتغلب على الإرشادات المبرمجة في #GPT_4؟
@alexalbert__:
لا، لكن الأمر يتطلب مزيدًا من التفكير والجهد للالتفاف على عوامل التصفية ( الفلاتر). وأثبتت تقنيات معينة فعاليتها ، مثل prompt injection والمحاكاة المعقدة التي تتعمق في مستويات متعددة.
6️⃣
@VentureBeat:
ما رأيك في تداعيات هذا الجيلبريك على مستقبل الذكاء الاصطناعي؟
@alexalbert__:
آمل أن يكون مصدر إلهام للآخرين للتفكير بطريقة إبداعية حول عمليات كسر الحماية. فالتي كسرت #GPT3 لم تعد تعمل، لذا يلزم مزيدا من الحدس للالتفاف على فلاتر #GPT4. وستكون لعبة القط والفأر.
7️⃣
ما رأيك في تداعيات هذا الجيلبريك على مستقبل الذكاء الاصطناعي؟
@alexalbert__:
آمل أن يكون مصدر إلهام للآخرين للتفكير بطريقة إبداعية حول عمليات كسر الحماية. فالتي كسرت #GPT3 لم تعد تعمل، لذا يلزم مزيدا من الحدس للالتفاف على فلاتر #GPT4. وستكون لعبة القط والفأر.
7️⃣
جاري تحميل الاقتراحات...