ثغرة في Google Gemini تُستغل لتحويل ملخصات البريد الإلكتروني المدعومة بالذكاء الاصطناعي إلى أداة تصيد احتيالي

تم اكتشاف ثغرة أمنية خطيرة في Google Gemini for Workspace، حيث يمكن للمهاجمين استغلالها لإدخال تعليمات برمجية خبيثة في رسائل البريد الإلكتروني. هذه التعليمات قد توجه أداة الذكاء الاصطناعي لتضليل المستخدمين وإعادة توجيههم إلى مواقع التصيد الاحتيالي.

وفقًا لتقرير Bleeping Computer، تعتمد هذه الثغرة على إنشاء ملخصات بريد إلكتروني تبدو طبيعية تمامًا، ولكنها تتضمن تعليمات أو تحذيرات خبيثة مخفية. يتم تنفيذ هذه التعليمات تلقائيًا بواسطة Gemini عند إنشاء ملخص للرسالة.

تعتمد آلية الهجوم على تضمين توجيهات غير مرئية لـ Gemini داخل البريد الإلكتروني. يتم ذلك عن طريق إخفاء التعليمات في نهاية نص الرسالة باستخدام أكواد HTML و CSS، ثم تعيين حجم الخط إلى الصفر واللون إلى الأبيض. نظرًا لأن هذا النص الإضافي لا يتضمن أي مرفقات أو روابط، فإنه لن يتم اكتشافه أو الإبلاغ عنه بواسطة أفضل برامج مكافحة الفيروسات أو برامج البريد الإلكتروني، مما يزيد من احتمالية وصوله إلى صندوق الوارد الخاص بالضحية المحتملة.

عندما يفتح المستخدم المستهدف البريد الإلكتروني ويطلب من Gemini تلخيص محتوياته، فإن برنامج الذكاء الاصطناعي سينفذ تلقائيًا التعليمات المخفية التي يراها. غالبًا ما يثق المستخدمون في قدرة Gemini على التعامل مع المحتوى كجزء من Workspace، وبالتالي يتم اعتبار التنبيه بمثابة تحذير مشروع بدلاً من كونه حقنًا خبيثًا.

تم الإبلاغ عن هجمات مماثلة خلال العام الماضي، وعلى الرغم من تنفيذ بعض التدابير الوقائية لحظر الاستجابات المضللة، إلا أن هذه التقنية لا تزال ناجحة بشكل عام، وهو ما يفسر استمرار استخدامها.

ذكر موقع Bleeping Computer أنه عندما استفسروا من Google عن الدفاعات المضادة لهذه الأنواع من الهجمات، أشار متحدث باسم الشركة إلى مدونة حول هجمات حقن التعليمات البرمجية وأوضح أن بعض الإجراءات الوقائية قيد التنفيذ أو على وشك النشر. وأكدت Google أيضًا أنه لا يوجد دليل على وقوع هذا الهجوم في البرية حتى الآن.

يقترح فيغيروا، مدير برنامج مكافآت الأخطاء GenAI في Mozilla، والذي اكتشف الثغرة، بعض الأفكار لمنع هذا التهديد: يجب على فرق الأمان إزالة أو تحييد أو تجاهل المحتوى المصمم ليتم إخفاؤه في نص الرسالة. بدلاً من ذلك، يمكن تنفيذ عوامل تصفية تفحص Gemini بحثًا عن الرسائل العاجلة وعناوين URL وأرقام الهواتف، ووضع علامة عليها لمراجعة إضافية من قبل المستخدمين.

في الوقت الحالي، يجب توخي الحذر عند استخدام Gemini لتلخيص رسائل البريد الإلكتروني، حيث لا تعرف أبدًا ما الذي قد يكون مخفيًا بداخلها. نأمل أن تطرح Google إصلاحًا لهذا النوع الجديد من الهجمات عاجلاً وليس آجلاً.