أثارت ميزة “Google Search AI Overviews” التابعة لشركة Google جدلًا واسعًا في الأوساط التقنية، بعد تقارير كشفت عن تعاملها مع محتوى مؤسسة “SCP Foundation” الخيالية على أنه معلومات واقعية، في خطأ لافت يعيد طرح تساؤلات حول دقة المحتوى الذي تنتجه أنظمة الذكاء الاصطناعي في محركات البحث.
ووفقًا لما رصده موقع “فيوتشريزم”. فقد ظهرت ما لا يقل عن 20 حالة قدمت فيها أداة الملخصات المدعومة بالذكاء الاصطناعي محتوى مستندًا إلى أرشيف SCP وكأنه تقارير حقيقية، دون الإشارة بوضوح إلى الطابع الخيالي لهذه الأعمال.
محتوى خيالي يُقدَّم كحقائق
وأظهر أحد الأمثلة عند البحث عن “SCP-565” أن “AI Overviews” قدمت وصفًا لكيان خيالي. على أنه “رأس بشري غريب متحرك” مرتبط بسجلات جنائية وهوية شخص متوفى. مع الإيحاء بوجود مصادر “رسمية” لمزيد من المعلومات داخل أرشيف SCP.
بينما في مثال آخر يتعلق بـ“SCP-426”، وهو كيان خيالي يتمثل في محمصة خبز تمتلك خصائص غير منطقية في السرد القصصي. كما جاءت الاستجابة بصيغة المتكلم وكأن الأداة تتحدث بلسان المحمصة نفسها. ما زاد من حالة الارتباك حول كيفية معالجة المحتوى الخيالي.
كما تعد مؤسسة SCP واحدة من أشهر المشاريع الأدبية التشاركية على الإنترنت. حيث تعتمد على قصص خيال علمي ورعب تقدم في شكل تقارير “سرية” عن كائنات. وظواهر غير موجودة في الواقع.
انتقادات لدقة الملخصات الذكية
في حين أشار التقرير إلى أن المشكلة لم تكن الأولى من نوعها. إذ سبق أن تعرضت أدوات البحث المدعومة بالذكاء الاصطناعي لانتقادات بسبب تقديم معلومات غير دقيقة. أو خلطها بين السياقات التاريخية والخيالية. مع تقديمها بثقة توحي بأنها حقائق مؤكدة.
كما أوضح الموقع الرسمي لمؤسسة SCP أن جميع محتوياتها خيالية بشكل صريح، إلا أن ميزة “AI Overviews”. لم تكن دائمًا تنقل هذا السياق بوضوح. ما ساهم في حدوث الالتباس.
مؤشرات على معالجة المشكلة
بينما في المقابل، نقل موقع “ديجيتال تريندز” أن نتائج البحث الحالية لبعض هذه الاستعلامات. لم تعد تظهر نفس السلوك. حيث باتت أنظمة غوغل تصنف هذه الكيانات على أنها “شذوذ خيالية”. أو عناصر غير واقعية بشكل أكثر وضوحًا.
كما يشير ذلك إلى أن الشركة ربما تكون قد بدأت بالفعل في معالجة الخلل. أو تحسين آليات تصنيف المحتوى الخيالي داخل ميزة “AI Overviews”. في محاولة لتقليل احتمالات التباس المستخدمين بين الخيال. والواقع في نتائج البحث المدعومة بالذكاء الاصطناعي.