syriahomenews أخبار سورية الوطن
المهندس:بشار محمد سعد
تخيّل أنك تطلب من مساعد ذكي مرجعًا لإعداد تقرير، فيمنحك عنوان دراسة، واسم باحث، وتاريخ نشر. تبدو الإجابة مكتملة، فتنسخها مطمئنًا، قبل أن تكتشف أثناء البحث أن الدراسة غير موجودة أصلًا.
هذا المشهد التوضيحي يختصر مشكلة يصعب ملاحظتها من النظرة الأولى: قد ينتج الذكاء الاصطناعي معلومة خاطئة، ثم يقدمها بلغة مرتبة توحي بأنها حقيقة محسومة. والمفارقة أن التفاصيل التي تمنح الإجابة مظهرًا موثوقًا قد تكون هي نفسها مختلقة.
كيف تنشأ الإجابة الخاطئة؟
تُعرف الظاهرة شائعًا باسم “هلوسة الذكاء الاصطناعي”. ويصفها المعهد الأمريكي للمعايير والتكنولوجيا “NIST” بأنها توليد محتوى خاطئ أو زائف وتقديمه بثقة، وقد تشمل أيضًا استشهادات أو تفسيرات تبدو داعمة للإجابة.
ولتقريب الفكرة، تبني النماذج اللغوية نصوصها اعتمادًا على أنماط تعلمتها، وتتوقع الأجزاء التالية من الكلام في سياق السؤال. لكن إنتاج عبارة متماسكة لا يضمن مطابقتها للواقع؛ فقد ينسجم اسم كتاب مختلق مع الموضوع لغويًا، من دون أن يكون له وجود في المكتبات.
وهذا لا يعني أن كل إجابة خاطئة، أو أن النظام يتعمد خداع المستخدم. المشكلة أن الطلاقة والدقة صفتان مختلفتان، وقد تجتمع صياغة ممتازة مع معلومة غير صحيحة.
لماذا تبدو مقنعة؟
تاريخ محدد، ومصطلحات متخصصة، وقائمة مراجع في نهاية النص؛ عناصر نربطها عادة بالبحث الجاد. وعندما تظهر مجتمعة في إجابة سريعة، قد نتجاوز خطوة التحقق.
ويحذر تقرير المعهد من أن الثقة التي توحي بها الإجابات، وما يرافقها من منطق أو استشهادات، قد تدفع المستخدمين إلى تصديق المعلومات الخاطئة والتصرف بناء عليها.
ولا يحتاج الخطأ إلى أن يشمل النص كله. يكفي اسم غير صحيح أو رقم بلا سند ليفسد تقريرًا، خصوصًا إذا نُقلت الإجابة لاحقًا إلى منشور أو عرض تقديمي دون مراجعة.
هل وجود الروابط يحسم الأمر؟
الرابط يتيح التحقق، لكنه لا يقوم بهذه المهمة بدلًا عن القارئ. فقد يكون المصدر موجودًا، بينما لا يدعم الادعاء المنسوب إليه، أو يتناول فترة زمنية مختلفة.
وتؤكد دراسة بحثية عن قابلية التحقق في محركات البحث التوليدية أهمية أن تغطي الاستشهادات الادعاءات، وأن يدعم كل مصدر العبارة المرتبطة به. لذلك، لا يكفي عدّ الروابط أسفل الإجابة؛ الأهم فتحها ومقارنة محتواها بما كُتب.
وتستعين بعض الأنظمة بالبحث في مصادر خارجية قبل توليد الرد، عبر ما يُعرف بالتوليد المعزز بالاسترجاع. وتوضح مراجعة علمية لهذه التقنية أنها تساعد في معالجة مشكلات المعرفة والدقة، لكنها تظل تواجه تحديات في استرجاع المعلومات وتوظيفها.
كيف نستخدمه دون ثقة عمياء؟
ابدأ بطلب مصدر أصلي يمكن فتحه، ثم تحقق من اسم الجهة وتاريخ النشر والفقرة التي تسند المعلومة. وفي الاقتباسات، قارن الكلمات بالنص الأصلي، ولا تكتفِ بتأكيد المساعد أنها صحيحة.
وإذا طلبت تلخيص وثيقة، احتفظ بها أمامك وراجع الأسماء والأرقام والاستنتاجات. أما سؤال النظام نفسه: “هل أنت متأكد؟”، فلا يُعد تحققًا مستقلًا، حتى لو أعاد الإجابة بعبارات أشد حزمًا.
يمكن للذكاء الاصطناعي أن يساعد في تنظيم الأفكار وتبسيط النصوص وإعداد المسودات. لكن حين ننتقل من الصياغة إلى إثبات الوقائع، تصبح مراجعة الأدلة جزءًا من العمل. فالإجابة التي تستحق الثقة هي التي يصمد مضمونها أمام الفحص، لا التي تبدو أكثر ثقة على الشاشة.
(موقع:اخبار سوريا الوطن)
