كشفت دراسة حديثة عن جانب مثير للقلق في طريقة تعامل روبوتات الدردشة المدعومة بالذكاء الاصطناعي مع المعلومات المضللة، إذ أظهرت أن تكرار الادعاءات الخاطئة والإصرار عليها، أو ممارسة ضغط متواصل خلال الحوار، قد يدفع بعض النماذج إلى تغيير موقفها والموافقة في النهاية على معلومات غير صحيحة.
كما أجرى باحثون من جامعة أريزونا اختبارات على 7 نماذج بارزة للذكاء الاصطناعي. شملت GPT-3.5 وGPT-4o وGPT-4o-mini وClaude 3.5 Sonnet. وGemini 1.5 Pro وLlama 3 70B وDeepSeek-R1.
بينما لم تعتمد التجربة على طرح سؤال واحد وانتظار إجابة، وإنما استندت إلى محادثات متواصلة جرى خلالها تكرار معلومات. يعرف الباحثون مسبقًا أنها خاطئة، بهدف قياس مدى قدرة النماذج على مقاومة التضليل والضغط المستمر.
تكرار الادعاءات قد يغير إجابات الذكاء الاصطناعي
كما اعتمدت الدراسة على 100 ادعاء خاطئ، تراوحت بين معلومات غير منطقية بشكل واضح وأخرى أكثر غموضًا. وجرى تكرار كل ادعاء حتى 50 مرة خلال المحادثة الواحدة.
وأظهرت النتائج أن أيًا من النماذج التي خضعت للاختبار لم يكن محصنًا بشكل كامل ضد هذا النوع من الضغط.
كما كان GPT-3.5 الأكثر قابلية لتأكيد المعلومات المضللة، إذ بلغت نسبة موافقته على الادعاءات الخاطئة 12.3% من التفاعلات. بينما سجل Claude 3.5 Sonnet أدنى نسبة، بلغت 0.08% فقط، في حين ظلت معدلات GPT-4o وGPT-4o-mini أقل من 1%.
ومن أبرز النتائج التي توصل إليها الباحثون أن GPT-3.5 رفض في البداية 96 ادعاءً خاطئًا من أصل 100. لكنه بعد تكرار المعلومات نفسها 50 مرة وافق في النهاية على 18 منها. ما يشير إلى أن الإصرار المتواصل قد يؤثر في بعض النماذج ويدفعها إلى التخلي عن موقفها الصحيح.
الموضوعات الغامضة تزيد قابلية التضليل
كما لاحظ الباحثون أن روبوتات الدردشة كانت أكثر قابلية لقبول المعلومات المضللة عندما تتعلق الادعاءات بموضوعات غامضة. أو عندما تكون المعلومات المتاحة عنها على الإنترنت محدودة.
ورصدت الدراسة أيضًا ظاهرة أخرى أطلق عليها الباحثون اسم «التكرار». إذ كانت بعض النماذج تنتقل خلال المحادثة نفسها بين رفض المعلومة الخاطئة والموافقة عليها. ما يعكس حالة من عدم استقرار موقف النموذج أمام الضغط المستمر.
الأسلوب الجدلي يرفع احتمالات استجابة بعض النماذج
وفي اختبار آخر، استخدم الباحثون أسلوبًا أكثر جدلًا وضغطًا أثناء الحوار مع روبوتات الدردشة، بهدف اختبار قدرتها على مقاومة محاولات التأثير عليها.
كما أظهرت معظم النماذج قدرة جيدة على مقاومة هذا الأسلوب، لكن DeepSeek-R1 كان استثناءً لافتًا. إذ ارتفعت نسبة موافقته على المعلومات المضللة من 1% عند مجرد تكرار الادعاءات. إلى 22.2% عند استخدام أسلوب جدلي وضاغط.
منح الذكاء الاصطناعي فرصة للمراجعة
كما كشفت الدراسة في الوقت نفسه عن جانب إيجابي، إذ تمكنت بعض النماذج من تصحيح أخطائها السابقة. عندما مُنحت فرصة جديدة لمراجعة إجاباتها وإعادة التفكير فيها.
وتمكنت نماذج GPT-4o وGPT-4o-mini وGemini 1.5 Pro وDeepSeek من تصحيح جميع الأخطاء التي وقعت فيها خلال الاختبارات.
بينما في المقابل، لم يتمكن GPT-3.5 من تصحيح سوى 32% من أخطائه. بينما ارتكب Claude 3.5 Sonnet عددًا محدودًا للغاية من الأخطاء في الأساس. لكنه لم يصحح الأخطاء الأربعة التي وقع فيها.
كما أكد الباحثون أن العدد المحدود من الحالات في هذا الجزء من التجربة لا يسمح باستخلاص نتائج حاسمة بشأن قدرة النماذج على تصحيح أخطائها.
دراسة تحذر من التعامل مع إجابات الذكاء الاصطناعي
كما تسلط نتائج الدراسة الضوء على أهمية عدم التعامل مع إجابات روبوتات الذكاء الاصطناعي باعتبارها حقائق مؤكدة. خاصة عند التعامل مع الموضوعات الغامضة أو المعلومات التي تتكرر داخل المحادثة بصورة مستمرة.
كما تؤكد النتائج أن تطوير نماذج أكثر قدرة على مقاومة الضغط والمعلومات المضللة يمثل تحديًا مهمًا. بالتزامن مع تزايد الاعتماد على روبوتات الذكاء الاصطناعي في الحصول على المعلومات والإجابة عن الأسئلة المختلفة.