Anthropic
تنشر ضوابط لتقليل الهلوسة في نماذج الذكاء الاصطناعي
تُعرف ظاهرة “الهلوسة” بأنها إنتاج نماذج الذكاء الاصطناعي لنصوص خاطئة أو غير متسقة مع السياق. لتقليل هذه الظاهرة.
(الملخص تحدوه في المخطط المرفق)
يمكن اتباع هذه الاستراتيجيات 👇🏻
تنشر ضوابط لتقليل الهلوسة في نماذج الذكاء الاصطناعي
تُعرف ظاهرة “الهلوسة” بأنها إنتاج نماذج الذكاء الاصطناعي لنصوص خاطئة أو غير متسقة مع السياق. لتقليل هذه الظاهرة.
(الملخص تحدوه في المخطط المرفق)
يمكن اتباع هذه الاستراتيجيات 👇🏻
1.السماح للنموذج بالاعتراف بعدم المعرفة:
يجب إعطاء النموذج تصريحًا للاعتراف بعدم اليقين. على سبيل المثال: إذا كانت البيانات غير كافية، يمكن للنموذج أن يقول: "لا أملك معلومات كافية للتقييم بثقة"
يجب إعطاء النموذج تصريحًا للاعتراف بعدم اليقين. على سبيل المثال: إذا كانت البيانات غير كافية، يمكن للنموذج أن يقول: "لا أملك معلومات كافية للتقييم بثقة"
2.استخدام الاقتباسات المباشرة
عند التعامل مع مستندات طويلة، يُفضل استخراج الاقتباسات النصية مباشرةً لاستخدامها كأساس للرد، مما يعزز الدقة
عند التعامل مع مستندات طويلة، يُفضل استخراج الاقتباسات النصية مباشرةً لاستخدامها كأساس للرد، مما يعزز الدقة
3.التحقق باستخدام الاستشهادات:
يجب أن تكون الردود قابلة للتحقق من خلال استشهادات مباشرة. إذا لم يتمكن النموذج من العثور على استشهاد داعم، فيجب سحب الادعاء
يجب أن تكون الردود قابلة للتحقق من خلال استشهادات مباشرة. إذا لم يتمكن النموذج من العثور على استشهاد داعم، فيجب سحب الادعاء
4.التحقق خطوة بخطوة
الطلب من النموذج تفسير منطقه خطوة بخطوة قبل إعطاء الإجابة النهائية لكشف الأخطاء أو الافتراضات الخاطئة.
الطلب من النموذج تفسير منطقه خطوة بخطوة قبل إعطاء الإجابة النهائية لكشف الأخطاء أو الافتراضات الخاطئة.
5. التحقق متعدد النتائج
تشغيل النموذج بنفس الطلب عدة مرات ومقارنة النتائج للكشف عن التناقضات
تشغيل النموذج بنفس الطلب عدة مرات ومقارنة النتائج للكشف عن التناقضات
6.التكرار والتحسين
استخدام مخرجات النموذج كمدخلات لمطالبات متابعة لتصحيح الأخطاء أو تحسين الردود.
استخدام مخرجات النموذج كمدخلات لمطالبات متابعة لتصحيح الأخطاء أو تحسين الردود.
7.تقييد المعرفة الخارجية
حصر النموذج باستخدام المعلومات المتوفرة فقط في المستندات المقدمة دون الاعتماد على معرفته العامة
حصر النموذج باستخدام المعلومات المتوفرة فقط في المستندات المقدمة دون الاعتماد على معرفته العامة
المصدر
#example-auditing-a-data-privacy-policy" target="_blank" rel="noopener" onclick="event.stopPropagation()">docs.anthropic.com
#example-auditing-a-data-privacy-policy" target="_blank" rel="noopener" onclick="event.stopPropagation()">docs.anthropic.com
جاري تحميل الاقتراحات...