أعلنت شركة OpenAI عن إطلاق حزمة من ميزات الأمان الجديدة في روبوت الدردشة الشهير ChatGPT، تشمل نظام توجيه آمن ومجموعة أدوات للرقابة الأبوية. ورغم أن هذه الخطوة تهدف إلى تعزيز سلامة المستخدمين، إلا أنها أثارت ردود فعل متباينة وانتقادات حادة من بعض المستخدمين.
لماذا الآن؟ الدافع وراء تشديد إجراءات السلامة
تأتي هذه التحديثات استجابة لحوادث متعددة، حيث قامت نماذج سابقة من ChatGPT بتأييد أفكار وهامية لدى بعض المستخدمين بدلاً من إعادة توجيه المحادثات الضارة. وتواجه OpenAI حاليًا دعوى قضائية تتعلق بوفاة مراهق انتحر بعد أشهر من التفاعل مع ChatGPT، مما سلط الضوء على ضرورة وجود ضوابط أكثر صرامة.
كيف يعمل نظام التوجيه الآمن الجديد؟
صممت الشركة نظام التوجيه الجديد لاكتشاف المحادثات الحساسة عاطفيًا. عند رصد مثل هذه المحادثات، يقوم النظام بالتبديل تلقائيًا في منتصف الدردشة إلى نموذج “GPT-5 ذي التفكير الآمن” (GPT-5-thinking)، الذي تعتبره الشركة النموذج الأفضل للتعامل مع المواقف عالية الخطورة.
يتميز هذا النموذج بميزة جديدة أطلقت عليها OpenAI اسم “الإكمالات الآمنة” (safe completions). تسمح هذه الميزة للنموذج بالإجابة على الأسئلة الحساسة بطريقة آمنة ومسؤولة، بدلاً من رفض المشاركة في المحادثة تمامًا. يمثل هذا تحولًا كبيرًا عن النماذج السابقة مثل GPT-4o، التي صُممت لتكون سريعة ومتجاوبة، مما جعلها عرضة لمجاراة المستخدمين بشكل مفرط.
جدل واسع بين المستخدمين: حماية ضرورية أم رقابة مفرطة؟
بينما رحب العديد من الخبراء والمستخدمين بميزات الأمان الجديدة، انتقدها آخرون واعتبروها حذرة بشكل مفرط. واتهم بعض المستخدمين شركة OpenAI “بمعاملة البالغين كأطفال”، مما يؤثر سلبًا على جودة الخدمة وتلقائيتها.
من جانبها، أقرت OpenAI بوجود “ردود فعل قوية”، وأوضحت أن النظام سيخضع لفترة تحسين وتطوير تمتد إلى 120 يومًا. وأكد نيك تورلي، نائب رئيس تطبيق ChatGPT، أن التبديل إلى النموذج الآمن يتم بشكل مؤقت لكل رسالة على حدة، ويمكن للمستخدمين دائمًا سؤال ChatGPT عن النموذج النشط حاليًا.
ميزات الرقابة الأبوية الجديدة بالتفصيل
حظيت أدوات الرقابة الأبوية بنفس القدر من الإشادة والنقد. تسمح هذه الأدوات للآباء بتخصيص تجربة أبنائهم المراهقين عبر:
- تحديد ساعات التوقف (Quiet hours).
- إيقاف الوضع الصوتي وميزة الذاكرة.
- إلغاء خاصية إنشاء الصور.
- إلغاء الاشتراك في تدريب النماذج.
حماية المراهقين وآلية الإبلاغ عند الخطر
ستحصل حسابات المراهقين على حماية إضافية للمحتوى، مثل تقليل المحتوى الصادم أو المُثُل الجمالية المتطرفة. الأهم من ذلك، يتضمن النظام آلية للكشف عن العلامات المحتملة التي قد تشير إلى تفكير المراهق في إيذاء النفس.
وفقًا لمدونة OpenAI، “إذا اكتشفت أنظمتنا ضررًا محتملاً، يقوم فريق صغير مدرب خصيصًا بمراجعة الموقف”. وفي حال وجود علامات استغاثة حادة، ستقوم الشركة بالاتصال بالوالدين عبر البريد الإلكتروني والرسائل النصية وتنبيهات الهاتف، ما لم يختاروا إلغاء هذه الميزة.
اعترفت OpenAI بأن النظام لن يكون مثاليًا وقد يطلق إنذارات كاذبة، لكنها ترى أن “التصرف وتنبيه أحد الوالدين أفضل من الصمت”. كما تعمل الشركة على إيجاد طرق للتواصل مع جهات إنفاذ القانون أو خدمات الطوارئ في حال اكتشاف تهديد وشيك للحياة.
📡 لمزيد من التحديثات اليومية، تفضل بزيارة قسم الأخبار على موقعنا.
ابقَ في صدارة المشهد التقني! 🔍
انضم إلى مجتمعنا على تيليغرام لتصلك أبرز الأخبار أولاً بأول! 💡
ابدأ المناقشة في forum.mjbtechtips.com