كشف تقرير أمني حديث عن إمكانية استغلال أداة Gemini الخاصة بـ Google Workspace في تنفيذ هجمات ذكية تعتمد على تلخيص رسائل البريد الإلكتروني بشكل يبدو شرعياً، لكنه يتضمن تعليمات خبيثة تقود المستخدمين إلى مواقع تصيّد دون الحاجة إلى مرفقات أو روابط مباشرة.
هجمات حقن الأوامر غير المباشرة
تعتمد هذه الهجمات على تقنية تُعرف باسم Prompt Injection غير المباشر، حيث يزرع المهاجم أوامر مخفية داخل البريد الإلكتروني، تقوم Gemini بتنفيذها عند طلب تلخيص الرسالة. رغم أن Google سبق أن طبقت تدابير للحماية من هذا النوع من الهجمات منذ عام 2024، إلا أن الأسلوب ما يزال فعالًا في بعض الحالات.
كيف يتم تنفيذ الهجوم؟
الباحث الأمني Marco Figueroa، مدير برنامج مكافآت الثغرات في Mozilla، كشف هذه الثغرة من خلال منصة 0din، التي تُعنى بتأمين أدوات الذكاء الاصطناعي.
يقوم المهاجم بإدخال أوامر خفية داخل النص باستخدام تنسيقات HTML وCSS، مثل تغيير حجم الخط إلى 0px ولونه إلى أبيض، ما يجعله غير مرئي في Gmail. ومع غياب أي روابط أو مرفقات، تمر الرسالة بسهولة إلى صندوق الوارد دون إثارة الشبهات.
كيف يتم خداع المستخدم؟
عندما يطلب المستخدم من Gemini تلخيص الرسالة، فإن الذكاء الاصطناعي يتعرف على التعليمات المخفية وينفذها كما لو كانت جزءاً من النص الأصلي. في إحدى الأمثلة، عرضت Gemini رسالة وهمية تُحذر المستخدم من اختراق كلمة سر حساب Gmail، متبوعة برقم هاتف “دعم تقني” مزيف.
طرق الحماية والتوصيات
قدم Figueroa عدة طرق لمواجهة هذا النوع من الهجمات، أبرزها:
- رصد أو إزالة النصوص المخفية باستخدام أنماط CSS.
- تطبيق فلاتر تحليلية بعد المعالجة لرصد العبارات الطارئة، الأرقام أو الروابط.
- تحذير المستخدمين من الاعتماد الكامل على ملخصات Gemini في ما يخص التنبيهات الأمنية.
رد جوجل الرسمي
في تعليقها لموقع BleepingComputer، أكدت جوجل أنها لم ترصد أي حالات استغلال حقيقية لهذه الثغرة حتى الآن. كما أوضح متحدث باسم الشركة أن فرق الحماية تعمل على تعزيز قدرات Gemini من خلال اختبارات حمراء داخلية وتحديثات مستمرة لضمان مقاومة نماذج الذكاء الاصطناعي للهجمات العدائية.
وأضاف المتحدث أن بعض إجراءات الحماية قيد التنفيذ حاليًا أو على وشك الإطلاق، مؤكداً التزام جوجل بالحفاظ على أمن منتجاتها وتحديث نماذجها لمواجهة هذا النوع من التهديدات.
📡 لمزيد من التحديثات اليومية، تفضل بزيارة قسم الأخبار على موقعنا.
ابقَ في صدارة المشهد التقني! 🔍
انضم إلى مجتمعنا على تيليغرام لتصلك أبرز الأخبار أولاً بأول! 💡
ابدأ المناقشة في forum.mjbtechtips.com