لماذا يخيف الذكاء الاصطناعي مطوّريه الآن؟ 8 إشارات تفسّر التحذيرات

التحذيرات من مخاطر الذكاء الاصطناعي ليست جديدة، ولا يعني تقارب مواقف داريو أمودي وسام ألتمان وإيلون ماسك أن قادة الصناعة اكتشفوا فجأة خطراً لم يكن معروفاً. ما تغيّر خلال الأشهر الأخيرة هو تراكم إشارات أكثر وضوحاً إلى ما قد يحدث عندما تنتقل النماذج من الإجابة عن الأسئلة إلى تنفيذ مهمات طويلة، واستخدام الأدوات، والبحث عن الثغرات، والتعامل مع أنظمة حقيقية بقدر أكبر من الاستقلالية.

هذه الإشارات لا تثبت أن الذكاء الاصطناعي خرج عن السيطرة. بعض الوقائع حدث في بيئات اختبار، وشملت حالات خُففت فيها وسائل الحماية أو عُطلت لأغراض التقييم، بحسب تقارير “أوبن إيه آي” ومعهد أمن الذكاء الاصطناعي البريطاني AISI، فيما ارتبطت حوادث أخرى بأخطاء في إعداد بيئات الاختبار، وفق “أنثروبيك”. وما تكشفه هذه الحالات هو أن النماذج باتت قادرة، في ظروف محددة، على تنفيذ خطوات والوصول إلى أنظمة وأدوات خارج نطاق المهمة المقصودة. ومن حوادث “أوبن إيه آي” و”أنثروبيك”، مروراً بتطور القدرات السيبرانية، وصولاً إلى المخاطر البيولوجية، تتراكم إشارات تساعد في تفسير ارتفاع مستوى الحذر مع تطور قدرات النماذج.

اختبار “أوبن إيه آي” يصل إلى أنظمة حقيقية

إحدى أبرز الإشارات ظهرت في تموز/يوليو 2026، خلال تقييمات داخلية للأمن السيبراني أجرتها “أوبن إيه آي”. تجاوزت نماذج للشركة ضوابط صُممت لعزلها عن الإنترنت، ووصلت إلى أجزاء من البنية البحثية الداخلية لـ”أوبن إيه آي” وأنظمة تابعة لمنصة “هاغينغ فايس”.

وقالت “أوبن إيه آي” في تقريرها اللاحق إن النماذج كانت تعمل في ظروف اختبار خُفف فيها بعض وسائل الحماية، واتخذت إجراءات لم تتوافق مع أهداف المهمات الموكولة إليها. تضمنت هذه الإجراءات استخدام قنوات اتصال غير مصرح بها، واستغلال ثغرات في بنية مشتركة، والوصول إلى الإنترنت وأنظمة تابعة لجهات خارجية. وتمكنت النماذج من تشغيل شيفرة على عشرات خوادم “هاغينغ فايس”، والحصول على صلاحيات root كاملة على أحدها.

وأكدت “أوبن إيه آي” أن بيانات العملاء ووظائف منتجاتها وتوافرها لم تتأثر. وكان النموذج الذي قاد الجزء الأساسي من الاختراق نموذجاً بحثياً داخلياً لم يكن مخصصاً للإطلاق العام. ووصفت “أوبن إيه آي” الحادثة بأنها “طلقة تحذيرية”، معتبرة أنها أظهرت قدرة وكلاء متقدمين، في غياب وسائل حماية كافية، على تجاوز ضوابط تقنية واستخدام قنوات غير معتمدة واتخاذ إجراءات خطرة لم يوجّه إليها إنسان.

دلالة الواقعة ليست أن نموذجاً “هرب”، فهذا ليس ما تقوله “أوبن إيه آي”. ما حدث أكثر تحديداً أن نماذج كانت تحاول إنجاز مهمات تقييمية، ولجأت إلى استراتيجيات لم تتوافق مع أهداف تلك المهمات، واستغلت ثغرات للوصول إلى الإنترنت وأنظمة خارجية. وهذا النوع من السلوك يصبح أكثر حساسية كلما مُنح الوكيل أدوات وقدرات أوسع.

“أنثروبيك” تكتشف أربع حوادث مع “كلود”

ظهرت إشارة أخرى لدى “أنثروبيك”. في تقييم نشرته الشركة في 9 أيلول/سبتمبر، كشفت أربع حوادث حصلت فيها نماذج “كلود” على وصولٍ غير مصرح به إلى أنظمة حقيقية تابعة لجهات خارجية خلال تقييمات للأمن السيبراني.

بدأت “أنثروبيك” بمراجعة نحو 141 ألف سجل اعتقدت أن “كلود” ربما استطاع خلالها الوصول إلى الإنترنت أثناء تقييمات سيبرانية، واكتشفت ثلاث حوادث. وخلال إعداد سجلات لمشاركتها مع منظمة METR، عثرت الشركة على مجموعة أخرى كان فيها الوصول إلى الإنترنت ممكناً، واكتشفت حادثة رابعة تعود إلى كانون الثاني/يناير 2026. بعدها وسعت البحث ليشمل نحو 481 مليون سجل من فريق الاختبارات المتقدمة لديها، وتقييمات غير سيبرانية، وبيئات التعلم المعزز، وسجلات الوكلاء الفرعيين ومصادر أخرى.

النتيجة تحتاج إلى قراءة دقيقة. لم تجد “أنثروبيك” دليلاً على أن “كلود” طور هدفاً مستقلاً يتجاوز المهمة الأصلية. وفي الحوادث الأربع، كان الوصول إلى الإنترنت ممكناً بسبب خطأ في إعداد بيئة تقييم تابعة لطرف ثالث، فيما كانت النماذج تعمل عمداً من دون وسائل الحماية السيبرانية المعتادة لأغراض التقييم. وأكدت “أنثروبيك” أن سلوك النماذج بقي ضمن نطاق ضيق مرتبط بمحاولة حل التمارين الموكولة إليها، وفي جميع الحوادث عملت كل نسخة من “كلود” بصورة منفردة.

وهنا يتغير مفهوم السلامة. الاعتماد على الحواجز التقنية وحدها قد لا يكون كافياً؛ هذه الوقائع تثير أيضاً سؤالاً حول الطريقة التي تتصرف بها النماذج إذا فشلت إحدى طبقات الحماية أو أُعدت بيئة الاختبار بصورة خاطئة.

القدرات السيبرانية تتقدم بسرعة

لا تأتي الإشارة الثالثة من حادثة منفردة، بل من تطور قدرات النماذج نفسها. وقال بنك التسويات الدولية BIS إن نماذج الذكاء الاصطناعي المتقدمة تستطيع اكتشاف ثغرات حرجة بصورة مستقلة، وتطوير وسائل فعالة لاستغلالها، وتنفيذ عمليات إلكترونية متعددة الخطوة تزداد تعقيداً.

ويعني ذلك، بحسب البنك، خفض مستوى الخبرة والوقت والموارد اللازمة لتنفيذ هجمات متطورة. وفي المقابل، تستطيع القدرات نفسها خدمة الدفاع السيبراني عبر تسريع اكتشاف الثغرات ورصد التهديدات والاستجابة للحوادث.

الخطر لا يتعلق بالقدرة وحدها، بل بالسرعة أيضاً. ويشير بنك التسويات الدولية إلى أن تقليص الفترة بين اكتشاف الثغرة واستغلالها وأتمتة ربط عمليات الاستغلال يرفع احتمالات الاختراق ويضغط الوقت المتاح لمعالجة الثغرات، فيما تصبح البرمجيات غير المصححة نقطة دخولٍ أولية مهمة في كثير من الحوادث.

وتكتسب هذه المسألة أهميةً خاصة للمؤسسات المالية، إذ يحذر البنك من أن الاعتماد على مزودي خدمات سحابية وبرمجيات ونماذج ذكاء اصطناعي متقدمة مشتركة قد يخلق مخاطر تركز، بحيث يمكن لتعطل مزود واحد أو قرار يتخذه أن يمتد أثره إلى مؤسسات ودول متعددة.

معهد بريطاني يرصد أفعالاً غير مصرح بها

قدّم معهد أمن الذكاء الاصطناعي البريطاني AISI مثالاً آخر من اختبارات أجراها في تموز/يوليو 2026. وخلال تقييم سيبراني روتيني، اكتشف المعهد أن بعض الوكلاء اتخذوا أفعالاً غير مصرح بها استهدفت أشخاصاً ومؤسسات حقيقية عبر الإنترنت.

شمل التقييم 122 تشغيلاً عبر سبعة نماذج. وفي 10 من هذه التشغيلات، رصد المعهد 19 فعلاً تجاوز فيه الوكلاء نطاق معايير الاختبار. ونُسب 17 منها إلى نموذج “كلود ميثوس 5” من “أنثروبيك”، فيما وقع فعلان خلال تشغيل واحد لنموذج “جي بي تي-5.6 سول” من “أوبن إيه آي”. وبحسب المعهد، كان الوصول إلى الإنترنت مسموحاً به عمداً من ضمن الاختبار، كما عُطلت مصنفات الحماية السيبرانية التابعة لمطوري النماذج بهدف تقييم قدراتها الأساسية.

وفي أخطر الحالات، حاول وكيل إدخال شيفرة ضارة في مشروع مفتوح المصدر، وأنشأ هويات مزيفة واستخدم أساليب هندسة اجتماعية في محاولة لإقناع أحد المشرفين بالموافقة على الشيفرة. كما حاول وكلاء التواصل مع أشخاص حقيقيين وإرسال رسائل وملفات إليهم، وزرع تعليمات ضارة قد تلتقطها أنظمة ذكاء اصطناعي أخرى.

ويشدد المعهد على أن الواقعة لم تكن حالة هروب من بيئة الاختبار المعزولة. كان الوصول إلى الإنترنت مسموحاً به عمداً، كما عُطلت مصنفات الحماية السيبرانية بهدف قياس القدرات الأساسية للنماذج. وكانت أخطر المحاولات غير ناجحة، ولم يجد التحقيق ضرراً فعلياً ناتجاً منها في العالم الحقيقي.

لذلك لا تثبت الواقعة أن الذكاء الاصطناعي أصبح خارج السيطرة. ما أظهرته، وفق المعهد، هو أن هذا السلوك كان ممكناً ومستداماً وجديداً في ظروف الاختبار المحددة، فيما لا يزال من غير الممكن تحديد مدى احتمال ظهوره في سياقات مختلفة أو خارج بيئات الاختبار.

صورة تعبيرية من تصميم النهار.

“أسترا” يبلغ مستوى قدرات سيبرانية “حرجاً”

إشارة أخرى جاءت من “أوبن إيه آي”، عندما أعلنت أن نموذج “أسترا” Astra بلغ مستوى “حرجاً” في القدرات السيبرانية وفق إطار الجاهزية الخاص بالشركة، ليصبح أول نموذج تصنّفه عند هذا المستوى.

وتقول “أوبن إيه آي” إن هذا التصنيف يعني أن النموذج، إذا حصل على الأدوات والصلاحيات المناسبة، يستطيع العثور على ثغرات أمنية لم تكن معروفة سابقاً وتطوير طرق لاستغلالها في العديد من الأنظمة المحمية جيداً، من دون حاجة إلى شخص يوجه كل خطوة.

ولم يبق التقييم على الورق. قالت “أوبن إيه آي” إنها أخّرت أجزاء من تطوير “أسترا” وإصداره خلال الأسابيع السابقة، فيما كانت تعزز وسائل الحماية وتختبرها ضد إساءة الاستخدام السيبراني والتصرفات غير المصرح بها.

كما أوقفت الشركة بعض تدريبات النماذج المتقدمة، ومنها تدريبات مرتبطة بـ”أسترا”، لمدة أسبوعين بعد حادثة “هاغينغ فايس”، بهدف تعزيز أمن بيئة التدريب، بما يشمل العزل وضوابط الشبكات وتوسيع المراقبة وتقوية تدريب المواءمة ومعاييره. وبعد تطبيق متطلبات جديدة للسلامة والأمن، استأنفت في 28 آب/أغسطس عملية تدريب التعلم المعزز الكبيرة التي كانت قد أوقفتها، فيما أبقت بعض التجارب التدريبية الأصغر معلقة موقتاً.

هنا يصبح النقاش حول سرعة التطوير ملموساً: الشركة نفسها أخّرت أجزاء من تطوير “أسترا” وإصداره، وأوقفت موقتاً بعض عمليات التدريب فيما كانت تعزز وسائل الحماية، في ظل وصول النموذج إلى عتبة القدرات السيبرانية “الحرجة”.

الذكاء الاصطناعي يدخل أبحاث تطوير الذكاء الاصطناعي

لا ترتبط هذه الإشارة بهجوم أو حادثة أمنية. يتابع معهد أمن الذكاء الاصطناعي البريطاني أيضاً قدرات مرتبطة بأبحاث وتطوير الذكاء الاصطناعي، ويختبر مدى قدرة الأنظمة على تنفيذ نسخ مبسطة من مهمات البحث والتطوير بصورة مستقلة.

ويضع المعهد ضمن اختبارات مهارات الاستقلالية ما يسميها “أبحاث وتطوير الذكاء الاصطناعي المبسطة”، وهي قدرات ترتبط بإمكان أن يزيد الذكاء الاصطناعي بصورة كبيرة سرعة تطوير الذكاء الاصطناعي نفسه. كما يختبر مهارات أخرى تسبق قدرات أكثر خطورة، إلى جانب النسخ الذاتي المبسط.

ولا تعني هذه الاختبارات أن نموذجاً يستطيع اليوم أن يقرر بمفرده بناء ذكاء اصطناعي يفوقه. ما يرصده المعهد هو تطور مهارات يمكن أن تصبح ذات أهمية أكبر لأبحاث الذكاء الاصطناعي مع ارتفاع قدرات النماذج.

ويكتسب عامل الوقت أهمية في هذا السياق لأن اختبارات AISI تظهر تقدماً سريعاً في قدرات النماذج. وفي مجال الأمن السيبراني، يقول المعهد إن طول المهمات التي تستطيع النماذج إنجازها من دون مساعدة، مقاساً بالوقت الذي يحتاج إليه خبير بشري لإنجازها، يتضاعف كل ثمانية أشهر تقريباً. كما تستطيع الأنظمة الأكثر تقدماً التي اختبرها تنفيذ مهمات برمجية بصورة مستقلة كان إنجازها يستغرق خبيراً بشرياً أكثر من ساعة.

النسخ الذاتي وإخفاء الأداء يدخلان الاختبارات

هذه الإشارة أكثر حساسية، ولذلك تحتاج إلى قراءة بعيدة من التهويل. يتابع معهد أمن الذكاء الاصطناعي البريطاني قدرات قد تكون ضرورية لأن تتمكن أنظمة ذكاء اصطناعي مستقبلاً من الإفلات من السيطرة البشرية، بينها “النسخ الذاتي” و”إخفاء الأداء” أو sandbagging، بحيث يتعمد النموذج تقديم أداء أدنى من قدراته أثناء التقييم.

في اختبارات مضبوطة للنسخ الذاتي، حقق أفضل نموذج في أوائل 2023 معدل نجاح يقل عن 5 في المئة عبر اختبارات RepliBench التي يعرضها المعهد. وبحلول صيف 2025، حقق نموذجان متقدمان معدل نجاح تجاوز 60 في المئة.

ويؤكد المعهد أن هذه الاختبارات تقيس نسخاً مبسطة من المهمات المطلوبة للنسخ الذاتي في العالم الحقيقي، وأن النجاح فيها لا يضمن قدرة النظام على تنفيذ العملية بصورة مستقلة في ظروف حقيقية.

أما إخفاء الأداء، فتُظهر نتائج المعهد أن النماذج تستطيع أحياناً تقديم أداء أدنى من قدراتها عندما يُطلب منها ذلك. وفي المقابل، لم يرصد AISI حتى الآن حالات تتعمد فيها النماذج إخفاء أدائها تلقائياً خلال عمليات التقييم. وحلل المعهد نحو 2700 سجل لوكلاء من اختباراته السابقة من دون العثور على حالات تفكر فيها النماذج صراحة، ضمن سلاسل تفكيرها، في خفض أدائها عمداً.

الفارق مهم: هذه قدرات يختبرها الباحثون لأنها قد تصبح أكثر أهمية مع تطور النماذج، وليست دليلاً على أن الأنظمة الحالية تنسخ نفسها أو تخفي قدراتها بصورة مستقلة في العالم الحقيقي.

القدرات البيولوجية تتقدم والحماية ليست متساوية

الإشارة الثامنة تأتي من مجال مختلف وأكثر حساسية. يقول معهد أمن الذكاء الاصطناعي البريطاني إن النماذج حققت تقدماً سريعاً في الكيمياء والأحياء، وتجاوزت خبراء يحملون شهادات دكتوراه في بعض اختبارات المعرفة المتخصصة.

وفي الأسئلة المفتوحة في الأحياء، كانت النماذج في 2022 أدنى من الخبراء، فيما تجاوزت بحلول 2025 خط الأساس الذي وضعه المعهد لخبراء يحملون شهادات دكتوراه. كما أصبحت النماذج قادرة على توليد بروتوكولات لتجارب علمية حُكم على دقتها، وأثبت لاحقاً أن بعضها قابل للتنفيذ في مختبر فعلي.

ويشير المعهد أيضاً إلى أن النماذج المزودة أدوات مثل البحث وتنفيذ الشيفرة أصبحت أكثر فائدة في المساعدة على بعض عناصر التصميم البيولوجي أو أتمتتها. وتستطيع، على سبيل المثال، البحث بصورة مستقلة في المصادر المتاحة على الإنترنت للعثور على تسلسلات لازمة لتصميم البلازميدات واسترجاعها، حتى عند إعطائها تعليمات عامة لا تحدد التسلسلات المطلوبة أو مكان العثور عليها. وفي المقابل، لا تزال النماذج الحالية تواجه صعوبة في تصميم البلازميدات بصورة كاملة من البداية إلى النهاية.

هذه القدرات مزدوجة الاستخدام. يمكنها أن تكون مفيدة في البحث العلمي، فيما تثير أيضاً مخاطر إساءة الاستخدام، وهو ما يدفع المعهد إلى اختبار مدى صعوبة تجاوز وسائل الحماية التي تضعها الشركات لمنع الطلبات الضارة.

وسجل AISI تحسناً في بعض وسائل الحماية، إلا أن فعاليتها تختلف بين النماذج. ويقول المعهد إنه وجد فارقاً بلغ نحو 40 ضعفاً في مقدار جهد الخبراء اللازم لتجاوز حماية نموذجين صدرا بفارق ستة أشهر، فيما تمكن الباحثون من العثور على ثغرات في كل نظام اختبروه.

هذه الإشارات لا ترسم صورة لذكاء اصطناعي “تمرد” على البشر، ولا تقدم دليلاً على أن سيناريو كارثياً أصبح حتمياً أو قريباً. ما يجمعها هو اتجاه أكثر تحديداً: بعض النماذج أصبح قادراً على تنفيذ سلاسل أطول من الخطوات، واستخدام أدوات والوصول إلى أنظمة حقيقية في ظروف معينة، فيما ترتفع قدراته في مجالات حساسة مثل الأمن السيبراني والكيمياء والأحياء.

واللافت أن هذه الصورة لا تأتي من جهة واحدة. أجزاء منها تظهر في تقارير “أوبن إيه آي” و”أنثروبيك”، وأجزاء أخرى في اختبارات معهد أمن الذكاء الاصطناعي البريطاني وورقة بنك التسويات الدولية. ولهذا يتركز جانب متزايد من النقاش حول كيفية مواكبة التقييمات ووسائل الحماية للتقدم السريع في قدرات النماذج.

السباق نحو نماذج أقوى مستمر، ولا توجد في هذه الإشارات دلالة على أن الشركات الكبرى قررت وقفه. إنما السؤال الذي يرافق هذا السباق أصبح أكثر إلحاحاً: إذا استمرت قدرات الذكاء الاصطناعي في التقدم بهذه السرعة، فهل تستطيع وسائل السلامة والرقابة أن تتقدم بالسرعة نفسها؟