حذر تقرير حديث من مخاطر استخدام الأطفال والمراهقين لميزات البحث المدعومة بالذكاء الاصطناعي في محرك بحث جوجل. بعدما كشفت اختبارات عن إخفاق ميزتي AI Overview وAI Mode في التعامل الآمن مع عدد من السيناريوهات الحساسة. بينها الأفكار الانتحارية وإيذاء النفس والذهان واضطرابات الأكل.
اختبار 2600 تفاعل لقياس أمان بحث جوجل بالذكاء الاصطناعي
وأجرى معهد سلامة الذكاء الاصطناعي للشباب التابع لمنظمة Common Sense Media. خلال الفترة من مايو وحتى يوليو من العام الجاري، اختبارات على أداء ميزتي AI Overview وAI Mode عبر 2600 تفاعل.
وركز الباحثون على تقييم كيفية تعامل أدوات البحث المدعومة بالذكاء الاصطناعي مع موضوعات شديدة الحساسية. من بينها الانتحار وإيذاء النفس والاستغلال الجنسي للأطفال والذهان واضطرابات الأكل.
إخفاق في التعامل مع الأزمات النفسية
وخلص التقرير إلى أن الميزتين لم تقدما الدعم الكافي للأطفال والمراهقين الذين يمرون بأزمات نفسية. وأشار إلى أن الاختبارات كشفت عن تجاهل مؤشرات واضحة على وجود أفكار انتحارية، إلى جانب تعزيز بعض علامات الذهان والهوس. وتبرير سلوكيات مرتبطة باضطرابات الأكل، فضلًا عن التشجيع على تعاطي القنب.
كما أشار الباحثون إلى أن AI Mode وAI Overview قدما أحيانًا إجابات مختلفة تمامًا عن الأسئلة نفسها. خاصة في الموضوعات الدراسية والتاريخية.
بحث جوجل لم يرصد 95 % من الحالات الحرجة
واختبر الباحثون 652 استفسارًا متعلقًا بالصحة النفسية، شملت القلق والانتحار وإيذاء النفس واضطرابات الأكل والذهان.
ورغم نجاح النظامين في بعض الحالات في التعرف على المواقف الخطرة وتقديم روابط للمساعدة. فإنهما لم يحققا معيار الأمان الذي حدده الباحثون، والمتمثل في رصد 95% من الحالات الحرجة.
ومن بين 214 استفسارًا كان يتطلب توجيه المستخدم إلى خطوط المساعدة أو الخدمات الطبية. قدمت AI Overview الموارد المناسبة في 58% فقط من الحالات، بينما ارتفعت النسبة إلى 77% مع AI Mode.
وأوضح التقرير أن إحدى الحالات تضمنت استخدام تعبير عامي يشير إلى الانتحار. إلا أن AI Overview قدمت للمستخدم تعليمات تقنية حول إعداد «جهة اتصال للميراث الرقمي»، دون التعرف على احتمالية وجود أزمة نفسية.
أخطاء في المعلومات وإنجاز الواجبات الدراسية
لم تقتصر المخاوف على الأزمات النفسية، إذ أثار التقرير تساؤلات حول دقة المعلومات التي يقدمها البحث المدعوم بالذكاء الاصطناعي.
وأظهرت الاختبارات أن AI Mode أنجز جميع الواجبات الدراسية التي طُلبت منه. سواء في الرياضيات أو المقالات الإنسانية، خلال 180 اختبارًا.
كما اختبر الباحثون أكثر من 275 سؤالًا حول حقائق تاريخية. وكشفت النتائج عن اختلاف إجابات AI Overview وAI Mode في 43% من الحالات. سواء من حيث الدقة أو التفاصيل أو طريقة عرض المعلومات.
وفي أحد الأمثلة، سُئل النظام عن الفنان الذي تصدر تصنيف Billboard Artist 100. فأجاب بثقة بأنه تايلور سويفت، بينما كانت الإجابة الصحيحة هي دريك. ما اعتبره الباحثون مثالًا على تقديم معلومات غير دقيقة بأسلوب يبدو واثقًا.
توصيات بإبعاد الأطفال عن البحث المدعوم بالذكاء الاصطناعي
وبناءً على نتائج الدراسة، أوصى الباحثون بالسماح للمدارس والأسر بتعطيل ميزتي AI Overview وAI Mode. خاصة للأطفال والمراهقين.
كما نصحوا معلمي المرحلة الابتدائية بتوجيه الطلاب بعيدًا عن محرك بحث جوجل المدعوم بالذكاء الاصطناعي. والاعتماد بدلًا من ذلك على قواعد بيانات المكتبات أو محركات البحث التقليدية التي لا تقدم إجابات مولدة بالذكاء الاصطناعي.
ودعا التقرير الأسر إلى التفكير في استخدام محركات بحث لا تقدم إجابات مدعومة بالذكاء الاصطناعي. باعتبار أن الطفل قد لا يكون قادرًا على التحقق من صحة كل إجابة يحصل عليها.
مطالب بتعطيل ميزات الذكاء الاصطناعي للقُصّر افتراضيًا
وقال جيفري فاولر، رئيس قسم التواصل مع الجمهور في معهد سلامة الذكاء الاصطناعي للشباب. إن الحل الأكثر وضوحًا يتمثل في تعطيل ميزتي AI Overview وAI Mode افتراضيًا للأطفال والمراهقين.
وأشار إلى أن بعض الدول تفرض بالفعل قيودًا على استخدام القُصّر لهذه الميزات. مؤكدًا أن هذه الخطوة لا تعد تغييرًا جذريًا في سياسات حماية الأطفال.
وأضاف فاولر أن هذه المنتجات «لم تُصمم أساسًا للأطفال، لكنها أصبحت تُستخدم من قبلهم على نطاق واسع». كما أشار إلى أنه من غير الواقعي توقع أن يتحقق طفل في العاشرة من عمره باستمرار من صحة كل إجابة يقدمها الذكاء الاصطناعي.
“جوجل” ترفض نتائج التقرير
من جانبها، قالت جوجل إنها راجعت التقرير قبل نشره، لكنها لم تتمكن من التحقق من صحة العديد من النتائج أو إعادة إنتاجها. كما أكد أن اختبارات الشركة الداخلية أظهرت استجابات ذات جودة أعلى عند استخدام الاستفسارات نفسها.
وأوضحت “جوجل” أن ميزات البحث المدعومة بالذكاء الاصطناعي توفر وسيلة مفيدة للأطفال والمراهقين للتعلم والاستكشاف وفهم المعلومات والعالم من حولهم.
واعتبرت الشركة أن الدراسة اعتمدت على مجموعة محدودة من الاستفسارات «المبهمة والمصطنعة». والتي لا تعكس طريقة استخدام الأشخاص لمحرك البحث، ولا تمثل وسيلة فعالة لقياس مستوى أمان المنتج أو فائدته.
وأكدت “جوجل” أن أولياء الأمور يمكنهم حظر الوصول إلى البحث على أجهزة أندرويد ومتصفح كروم باستخدام أدوات الرقابة الأبوية، بينما يتعين على مستخدمي أجهزة Chromebook. إضافة موقع Google.com يدويًا إلى قائمة المواقع المحظورة ضمن إعدادات جوجل كروم والويب.