أبرز النقاط (Key Takeaways):
- جوجل تدمج ميزة “User Alignment Critic” في متصفح كروم لحماية ميزات التصفح المستقلة القائمة على Gemini.
- النظام الجديد يعمل كنموذج لغوي معزول لمراجعة إجراءات الذكاء الاصطناعي ومنع “حقن الأوامر غير المباشر”.
- رصد مكافآت تصل إلى 20,000 دولار للباحثين الأمنيين الذين ينجحون في اختراق النظام الجديد.
تستعد شركة جوجل لتعزيز متصفح “كروم” (Chrome) بطبقة دفاعية جديدة كلياً أطلقت عليها اسم “ناقد محاذاة المستخدم” (User Alignment Critic)، والهدف هو حماية ميزات التصفح المستقبلية القائمة على “الذكاء الاصطناعي الوكيلي” (Agentic AI) والمدعومة بنموذج “جيمناي” (Gemini).
يأتي هذا التحرك الاستباقي بالتزامن مع دمج جوجل لمساعدها الذكي في المتصفح منذ سبتمبر الماضي، استعداداً لإطلاق قدرات تصفح أكثر استقلالية وتعقيداً.
ما هو التصفح الوكيلي ولماذا يحتاج لحماية؟
يُعد “التصفح الوكيلي” (Agentic Browsing) نمطاً ناشئاً يقوم فيه “وكيل الذكاء الاصطناعي” (AI Agent) بتنفيذ مهام متعددة الخطوات نيابة عن المستخدم بشكل مستقل.
تشمل هذه المهام التنقل بين المواقع، قراءة المحتوى، النقر على الأزرار، ملء النماذج، وتنفيذ سلسلة من الإجراءات المتتابعة. ونظراً للصلاحيات الواسعة الممنوحة لهذا الوكيل، فإن المخاطر الأمنية تتضاعف، مما استدعى وجود بنية أمان قوية.
هيكلية الأمان الجديدة: دفاع متعدد الطبقات
أعلن مهندس جوجل “ناثان باركر” عن الهيكلية الجديدة التي تهدف للتخفيف من مخاطر “حقن الأوامر غير المباشر” (Indirect Prompt Injection).
في هذا النوع من الهجمات، يتلاعب محتوى الصفحة الضار بوكلاء الذكاء الاصطناعي لدفعهم نحو تنفيذ إجراءات غير آمنة، مثل تسريب بيانات المستخدم أو تسهيل معاملات احتيالية.
وأوضح باركر أن نظام الأمان الجديد يتضمن نهج دفاع “متعدد الطبقات” (Layered Defense)، يجمع بين القواعد الحتمية، والحماية على مستوى النموذج، وحدود العزل، والرقابة البشرية.
الركائز الأربع لنظام الحماية
يعتمد النظام الجديد على أربع ركائز أساسية لضمان أمان التصفح:
- ناقد محاذاة المستخدم (User Alignment Critic):
هو نموذج لغوي كبير (LLM) ثانٍ ومنفصل تماماً، يعمل كـ “مكون نظام عالي الثقة”. وظيفته فحص كل إجراء ينوي الوكيل الأساسي تنفيذه. إذا اعتبر الإجراء محفوفاً بالمخاطر أو غير ذي صلة بهدف المستخدم، فإنه يمنعه أو يعيد التحكم للمستخدم. - مجموعات المصادر (Origin Sets):
تقيد هذه الميزة وصول الوكيل إلى الويب، وتسمح بالتفاعل فقط مع مواقع وعناصر محددة. يتم حجب المصادر غير ذات الصلة، بما في ذلك “الإطارات المضمنة” (Iframes)، لمنع تسريب البيانات عبر المواقع (Cross-site Data Leakage). - إشراف المستخدم (User Oversight):
عندما يحاول الوكيل زيارة مواقع حساسة (مثل البنوك) أو استخدام “مدير كلمات المرور” (Password Manager)، يقوم كروم بإيقاف العملية مؤقتاً ويطلب من المستخدم تأكيد الإجراء يدوياً. - كشف حقن الأوامر (Prompt Injection Detection):
يعمل مصنف مخصص في كروم على فحص الصفحات بحثاً عن محاولات حقن الأوامر بشكل غير مباشر، ويعمل جنباً إلى جنب مع ميزة التصفح الآمن (Safe Browsing) لحظر الإجراءات المشبوهة.
الاختبار المستمر ومكافآت الثغرات
يظهر هذا النهج الحذر أن جوجل تتعامل بجدية أكبر مع منح نماذجها اللغوية صلاحيات الوصول للمتصفح مقارنة بالمنافسين، الذين أثبتت الأبحاث تعرض منتجاتهم لثغرات التصيد والهجمات.
ولضمان فعالية النظام، طورت جوجل أنظمة آلية لـ “الفريق الأحمر” (Red-teaming) لتوليد مواقع اختبار وهجمات مدعومة بالذكاء الاصطناعي لاختبار الدفاعات باستمرار.
وتشجيعاً للبحث الأمني، أعلنت جوجل عن مكافآت تصل إلى 20,000 دولار لأي باحث يتمكن من كسر النظام الجديد، داعية المجتمع التقني للمساهمة في بناء إطار عمل قوي لتصفح الذكاء الاصطناعي.
📡 لمزيد من التحديثات اليومية، تفضل بزيارة قسم الأخبار على موقعنا.
ابقَ في صدارة المشهد التقني! 🔍
انضم إلى مجتمعنا على تيليغرام لتصلك أبرز الأخبار أولاً بأول! 💡
ابدأ المناقشة في forum.mjbtechtips.com