يعاني مستخدمو روبوتات الدردشة والذكاء الاصطناعي من مشكلة محبطة: قدرتها على اختلاق المعلومات بثقة تامة، وهي الظاهرة المعروفة باسم “الهلوسة”. الآن، تقول شركة OpenAI إنها توصلت إلى السبب الجذري لهذه المشكلة، وتعتقد أن لديها حلاً يمكن أن يجعل أدوات الذكاء الاصطناعي المستقبلية أكثر جدارة بالثقة.
المشكلة ليست في النموذج، بل في طريقة التقييم
في ورقة بحثية مكونة من 36 صفحة تم نشرها بالتعاون مع باحثين من معهد جورجيا التقني، تجادل OpenAI بأن الهلوسة ليست ناتجة عن تصميم سيئ للنماذج اللغوية، بل عن الطريقة التي يتم بها اختبارها وتصنيفها.
لماذا تكذب نماذج الذكاء الاصطناعي؟
معايير التقييم الحالية غالبًا ما تكافئ روبوتات الدردشة على الإجابة على كل سؤال، حتى لو كانت بعض الإجابات خاطئة، بينما تعاقب النماذج التي تمتنع عن الإجابة عندما لا تكون متأكدة. تُشبه هذه المعايير امتحان الخيارات المتعددة الذي يشجع على التخمين بدلاً من ترك الأسئلة غير المؤكدة فارغة. هذا النظام يدفع النماذج إلى “اختلاق” إجابات لتبدو أكثر شمولاً وقدرة.
الحل المقترح: مكافأة الحذر ومعاقبة الثقة الزائفة
لمواجهة هذا الخلل، يقترح الباحثون قلب نظام التقييم رأسًا على عقب. الفكرة هي جعل الإجابات “الواثقة ولكن الخاطئة” تؤثر سلبًا وبشكل كبير على درجة النموذج، بينما تتم مكافأته على إظهار الحذر أو الاعتراف بعدم اليقين.
نتائج أولية واعدة
تسلط الأمثلة المبكرة الضوء على الفارق الكبير الذي يحدثه هذا التغيير. في أحد معايير التقييم:
- نموذج “حذر” أجاب على نصف الأسئلة فقط، لكن 74% من إجاباته كانت صحيحة.
- نموذج آخر أجاب على جميع الأسئلة تقريبًا، لكنه “هلوس” واختلق معلومات في ثلاثة أرباع إجاباته.
ماذا يعني هذا لمستقبل الذكاء الاصطناعي؟
إذا تم اعتماد هذا النهج، فسيغير سلوك مساعدي الذكاء الاصطناعي بشكل جذري في استخدامنا اليومي. بدلاً من أن يخترع النموذج مصدرًا أو إحصائية بثقة، سيكون من المرجح أن يقول ببساطة: “أنا لا أعرف”.
قد يبدو هذا أقل إبهارًا، لكنه سيوفر على المستخدمين عناء التحقق المستمر من صحة الإجابات وسيبني علاقة ثقة أقوى مع التكنولوجيا. بالنسبة لـ OpenAI، يمثل هذا البحث خطوة حاسمة نحو تطوير ذكاء اصطناعي يقدّر الدقة والموثوقية أكثر من الثقة الزائفة والمضللة. إنه دليل آخر على أن سباق الذكاء الاصطناعي العالمي بدأ يركز بشكل أكبر على الجودة والثقة، وليس فقط على القدرات الخارقة.
📡 لمزيد من التحديثات اليومية، تفضل بزيارة قسم الأخبار على موقعنا.
ابقَ في صدارة المشهد التقني! 🔍
انضم إلى مجتمعنا على تيليغرام لتصلك أبرز الأخبار أولاً بأول! 💡
ابدأ المناقشة في forum.mjbtechtips.com