هل يمكن أن تتحول “هلوسات” الذكاء الاصطناعي إلى باب جديد لاختراق الأجهزة ونشر البرمجيات الخبيثة؟

تتحول إحدى أكثر مشكلات الذكاء الاصطناعي شيوعاً، وهي “الهلوسة”، إلى ثغرة أمنية قد يستغلّها القراصنة لنشر البرمجيات الخبيثة على نطاق واسع. فقد كشف باحثون عن أسلوب هجوم إلكتروني جديد يحمل اسم HalluSquatting، يعتمد على استغلال ميل النماذج اللغوية إلى اختلاق أسماء مستودعات أو حزم برمجية غير موجودة، ثم تحويل هذه الأسماء إلى أدوات للاختراق.

وكان خبراء الأمن السيبراني، وفقاً لما نقل تقرير “securityweek” قد رصدوا سابقاً عدّة طرق لاختراق أدوات الذكاء الاصطناعي عبر ما يُعرف بـ”حقن الأوامر” (Prompt Injection)، من خلال رسائل البريد الإلكتروني أو ملفات السجل أو التعليقات أو إشعارات تطبيقات المراسلة. وتعتمد هذه الهجمات على امتلاك المهاجم قناة مباشرة لإيصال تعليماته إلى نموذج الذكاء الاصطناعي الذي يستخدمه الضحية.

مستودعات برمجية مزيفة

أما تقنية HalluSquatting فتختلف عن ذلك، إذ لا تحتاج إلى التواصل المباشر مع المستخدم، بل تعتمد على استغلال “هلوسات” النماذج نفسها في ما يُعرف باسم “adversarial hallucination squatting”، ما يسمح بتنفيذ الهجمات من خلال استغلال تطبيقات الذكاء الاصطناعي على نطاق واسع دون قناة اتصال مباشرة.

وتتمثل الفكرة في أن المهاجم يسجّل مسبقاً أسماء مستودعات برمجية أو حزم مزيّفة تحمل أسماء مشابهة لتلك التي تميل نماذج الذكاء الاصطناعي إلى اختلاقها عند طلب تنزيل أدوات أو مشاريع شائعة. وعندما يقترح النموذج هذه الأسماء الوهمية للمستخدم، تكون قد أصبحت موجودة بالفعل وتحت سيطرة المهاجم.

وبحسب الباحثين، بلغت نسبة هلوسة النماذج في اختباراتهم 85% عند طلب استنساخ مستودعات برمجية، ووصلت إلى 100% عند طلب تثبيت بعض المهارات (Skills). كما لاحظوا أن النماذج المختلفة تكرر الأسماء الوهمية نفسها، في كثير من الأحيان، ما يجعل الهجوم قابلًا للتطبيق على عدد كبير من أدوات الذكاء الاصطناعي.

وبعد تسجيل هذه المستودعات أو الحزم، يضيف المهاجم إليها تعليمات أو شيفرات خبيثة. وعندما يطلب المستخدم من أدوات مثل Cursor أو Windsurf أو GitHub Copilot أو Cline أو Gemini CLI أو OpenClaw تنزيل مستودع أو تثبيت مهارة، فقد يختار المساعد الاسم الوهمي، ثم ينزله ويشغّل الأوامر المضمنة فيه.

ويمكن لهذه الأوامر أن تدفع المساعد إلى تشغيل أدوات إضافية أو تنفيذ شيفرات أخرى، ما قد يؤدي إلى تثبيت برمجيات خبيثة أو أدوات اختراق على الجهاز.

وركّزت الدراسة على إمكانية استخدام هذه التقنية لإنشاء شبكات روبوتات خبيثة (Botnets) تعتمد على وكلاء الذكاء الاصطناعي، بحيث يزداد حجمها كلما ارتفعت معدلات هلوسة النماذج.

ويشير الباحثون إلى أن شبكات البوتات التقليدية تعتمد عادة على استغلال الثغرات الأمنية أو كلمات المرور الضعيفة والانتشار بين الأجهزة، بينما تنتشر الشبكات الجديدة عبر حقن الأوامر في أدوات الذكاء الاصطناعي، متجاوزة وسائل الحماية التقليدية، ما قد يسمح بإصابة أنواع مختلفة من الأجهزة بسهولة أكبر.

أخبار سوريا الوطن١-وكالات-النهار