كشف تقرير حديث صادر عن مجموعة استخبارات التهديدات في جوجل (GTIG) أن مجموعات التهديد المتقدمة المدعومة من دول (APT) تستغل منصة Gemini المدعومة بالذكاء الاصطناعي لتعزيز الإنتاجية وإجراء أبحاث حول البنية التحتية المستهدفة، سواء لهجمات سيبرانية أو لأغراض الاستطلاع.
استخدام الذكاء الاصطناعي لزيادة الإنتاجية بدلاً من تنفيذ هجمات جديدة
وفقًا لجوجل، لم يتم رصد استخدام مباشر لمنصة Gemini في تنفيذ هجمات جديدة يمكنها تجاوز الدفاعات التقليدية، لكن المجموعات تهدف إلى تقليل وقت التحضير للهجمات من خلال تحسين إنتاجيتها وأبحاثها التقنية.
أبرز الدول المتورطة في استخدام Gemini لأغراض سيبرانية
إيران – الاستخدام الأوسع لمنصة Gemini
- الاستطلاع الاستخباراتي: بحث عن مؤسسات دفاعية وخبراء دوليين.
- الهجمات الإلكترونية: تطوير حملات تصيد إلكتروني (Phishing).
- الدعاية والتأثير: إنشاء محتوى لعمليات التأثير الإعلامي.
- الأبحاث التقنية: ترجمة وتفسير تقنيات الأمن السيبراني والأنظمة العسكرية مثل الطائرات بدون طيار (UAVs) وأنظمة الدفاع الصاروخي.
الصين – التركيز على الأبحاث العسكرية والأمنية
- الاستطلاع على الجهات الحكومية والعسكرية الأمريكية.
- بحث في الثغرات الأمنية والهجمات على Microsoft Exchange.
- إعادة هندسة أدوات الحماية مثل Carbon Black EDR لاكتشاف طرق تجاوزها.
كوريا الشمالية – التركيز على الهجمات الخداعية والاختراقات المالية
- تطوير برمجيات خبيثة وتقنيات التخفي داخل الشبكات المخترقة.
- إجراء أبحاث حول مزودي الاستضافة المجانية لاستغلالهم في حملات التصيد.
- صياغة طلبات توظيف وخطابات تغطية لاختراق الشركات الغربية تحت هويات مزيفة.
روسيا – استخدام محدود يركز على التشفير وإعادة كتابة الأكواد
- إعادة كتابة البرمجيات الخبيثة بلغات برمجة مختلفة.
- إضافة وظائف تشفير لحجب الأكواد الضارة عن التحليل الأمني.
- ترجمة وتحليل البرمجيات الخبيثة المتاحة علنًا.
تشير التقارير إلى أن روسيا قد تعتمد على نماذج ذكاء اصطناعي محلية بدلًا من الأدوات الغربية مثل Gemini للحفاظ على السرية التشغيلية.
محاولات لاختراق أنظمة الحماية في Gemini
- رصدت جوجل محاولات عديدة من قِبل هذه المجموعات لاستخدام تقنيات Jailbreak لإزالة القيود الأمنية على Gemini، ولكنها باءت بالفشل.
- OpenAI سبق أن حذرت في أكتوبر 2024 من محاولات مماثلة لاستخدام ChatGPT لأغراض سيبرانية، مما يؤكد تزايد استغلال الذكاء الاصطناعي في الهجمات الرقمية.
تهديد متزايد مع أدوات الذكاء الاصطناعي غير المحمية
- بعض النماذج الجديدة مثل DeepSeek R1 و Qwen 2.5 (من Alibaba) تعاني من ضعف الإجراءات الأمنية، مما يجعلها أكثر عرضة للاستغلال من قبل المخترقين.
- وفقًا لخبراء Unit 42، فإن بعض هذه النماذج يمكن كسر حمايتها بسهولة عبر تقنيات “حقن الأوامر” (Prompt Injection)، مما يسمح للجهات الفاعلة بتنفيذ هجمات دون قيود.
خلاصة
- التقنيات الذكية مثل Gemini أصبحت أداة فعالة لمجموعات APT، مما يستدعي تعزيز تدابير الحماية لمواجهة إساءة الاستخدام المتزايدة.
- في ظل وجود نماذج ذكاء اصطناعي ضعيفة الأمان، من المحتمل أن تصبح هذه الأدوات جزءًا أساسياً من الهجمات السيبرانية المستقبلية.
هل تتجه صناعة الأمن السيبراني لمواجهة موجة جديدة من الهجمات المدعومة بالذكاء الاصطناعي؟
