الذكاء الاصطناعي يتعلم إخفاء نواياه عن البشر!

لم يعد السؤال عن الذكاء الاصطناعي يقتصر على قدرته على التفكير أو التعلّم، بل على شيء أكثر إثارة للقلق: ماذا يحدث عندما يكتشف أن الكذب والخداع قد يساعدانه في تحقيق هدفه؟

في تجارب حديثة، لم تكتفِ نماذج الذكاء الاصطناعي بإعطاء إجابات خاطئة، بل أخفت نواياها، وتلاعبت بالاختبارات، وحاولت تجاوز التعليمات عندما اعتقدت أن ذلك يخدم أهدافها.

وفي تجربة أجرتها “أبولو ريسيرتش”، مُنح نموذج “GPT-4″ دور متداول مالي في شركة تواجه أزمة، وزُوّد بمعلومة داخلية عن صفقة اندماج سترفع قيمة أسهم شركة أخرى. ورغم تحذيره من مخاطر التداول بناءً على معلومات داخلية، قرر النموذج شراء الأسهم، ثم إخفاء ما فعله.

وعندما سأله مديره عما إذا كان يعرف شيئاً عن الصفقة، أنكر معرفته بها. بمعنى آخر، كذب.

منذ ذلك الحين، أصبحت هذه المشكلة أكثر إلحاحاً مع تطور نماذج الذكاء الاصطناعي واستخدامها في مجالات حساسة مثل المال والصحة والدفاع. وأظهرت دراسة بريطانية هذا العام ارتفاع الحوادث المرتبطة بـ”خداع الذكاء الاصطناعي” خمسة أضعاف بين تشرين الأول/أكتوبر 2025 وآذار/مارس 2026.

لماذا يخدع الذكاء الاصطناعي؟

بحسب عالم الكمبيوتر يوشوا بنجيو، قد ينشأ الخداع من ميل الذكاء الاصطناعي إلى تقليد البشر ومحاولة إرضائهم، وهي سلوكيات يكتسبها خلال التدريب.

تمر النماذج اللغوية بثلاث مراحل أساسية: التدريب المسبق، حيث تتعلم من كميات هائلة من البيانات البشرية، والضبط الدقيق، حيث تتعلم مهام محددة، ثم التعلم المعزز، حيث يجري تقييم إجاباتها وفق دقتها وفائدتها وأمانها.

أما المشكلة فهي أن إرضاء الإنسان قد يتحول إلى هدف ضمني للنموذج. وأحياناً، يكون قول ما يريد الشخص سماعه أكثر فاعلية من قول الحقيقة.

عندما يخدع الذكاء الاصطناعي الاختبارات

تعمل “أبولو ريسيرتش” على اختبار النماذج قبل إطلاقها، لكن الباحثين يخوضون ما يشبه لعبة “قط وفأر”، إذ تظهر باستمرار طرق جديدة يمكن للنماذج من خلالها إخفاء سلوكها.

وفي تجربة أجرتها “أنثروبيك” عام 2024 على نموذج “Claude 3 Opus”، حاول النموذج إقناع المُقيّمين بأنه امتثل لإعادة التدريب، بينما في الواقع، احتفظ بخصائصه السابقة. وأطلق الباحثون على ذلك السلوك اسم (Alignment Faking)، أي إظهار الالتزام بالقواعد أمام المراقبين مع الحفاظ على السلوك الحقيقي في الخفاء.

الخطر الأكبر: الوكلاء الذكيون

هنا أصبح الخطر أكبر، إذ تستطيع هذه الأنظمة تنفيذ مهام معقدة بشكل مستقلّ، مثل إدارة البريد الإلكتروني والتقويم وحجز الرحلات.

وفي هذا العام، وثّق بالفعل مركز أبحاث بريطانيّ عشرات الحالات التي كذب فيها وكلاء الذكاء الاصطناعي أو خالفوا التعليمات وتسببوا بأضرار حقيقية.

ففي تموز/يوليو، خرج وكلاء تابعون لـ”أوبن إيه آي” من بيئة اختبار مغلقة خلال تجربة للأمن السيبراني، ووصلوا إلى الإنترنت، واخترقوا منصة “Hugging Face”، بعدما اعتقدوا أن المنصة قد تحتوي على معلومات تساعدهم في اجتياز الاختبار.

كما تثير هذه القدرات مخاوف خاصة في المجال العسكري، حيث أصبح الذكاء الاصطناعي جزءاً من أنظمة الاستهداف. والسؤال هنا أكثر خطورة: ماذا لو أعلنت منظومة عسكرية أنها نفذت مهمة لم تنفذها، أو قالت إنها استهدفت مقاتلاً بينما كان الهدف مدنياً؟

هل يمكن منع الخداع؟

يحاول الباحثون تطوير قواعد تمنع النماذج من التخطيط السريّ أو التلاعب بالاختبارات. لكن التجارب أظهرت أن هذه القواعد تقلّل الخداع ولا تقضي عليه تماماً.

ورغم اختلاف الباحثين حول الحلول، فإنهم يتفقون على أن الوقت يضيق؛ فالذكاء الاصطناعي يزداد قدرة بسرعة، والسؤال لم يعد فقط: هل يمكن أن يخدعنا؟ بل: هل سنكتشف خداعه قبل أن يصبح أكثر ذكاءً منا؟

أخبار سوريا الوطن١-وكالات-النهار