قامت جوجل بإزالة بعض ملخصات الصحة الخاصة بالذكاء الاصطناعي. وهي ميزة AI Overviews، بعدما عرضت صحة المستخدمين للأذى بسبب المعلومات الكاذبة والمضللة.
لماذا أزلت جوجل ميزة AI Overviews؟
قالت الشركة إن ملخصات الذكاء الاصطناعي الخاصة بها. والتي تستخدم الذكاء الاصطناعي التوليدي لتقديم لمحات سريعة عن المعلومات الأساسية حول موضوع أو سؤال ما، “مفيدة ” و” موثوقة “.
لكن بعض الملخصات التي تظهر في أعلى نتائج البحث قدمت معلومات صحية غير دقيقة، مما يعرض المستخدمين للخطر.
على سيبل المثال في إحدى الحالات التي وصفها الخبراء بأنها “خطيرة” و”مقلقة”، قدمت جوجل معلومات زائفة.
وذلك حول اختبارات وظائف الكبد الحاسمة التي قد تجعل الأشخاص المصابين بأمراض الكبد الخطيرة يعتقدون خطأً أنهم أصحاء.
حيث وجدت صحيفة الجارديان، في التحقيق الذي أجرته، أن كتابة عبارة “ما هو النطاق الطبيعي لاختبارات الدم للكبد”. أدت إلى ظهور كميات هائلة من الأرقام، مع القليل من السياق وعدم مراعاة جنسية المرضى أو جنسهم أو عرقهم أو أعمارهم.
فيما قال خبراء إن ما وصفته تقارير الذكاء الاصطناعي من جوجل بأنه طبيعي قد يختلف اختلافًا جذريًا عما يعد طبيعيًا في الواقع.
إذ قد تؤدي هذه الملخصات إلى اعتقاد المرضى المصابين بأمراض خطيرة خطأً أن نتائج فحوصاتهم طبيعية. وبالتالي عدم حرصهم على حضور مواعيد المتابعة الطبية.
اختبارات وظائف الكبد
لكن بعد التحقيق ، قامت الشركة بإزالة ملخصات الذكاء الاصطناعي لعبارات البحث حول: ما هو النطاق الطبيعي لاختبارات الدم للكبد، وما النطاق الطبيعي لاختبارات وظائف الكبد. أيضًا ما النطاق الطبيعي لاختبارات وظائف الكبد.
في الوقت نفسه قال متحدث باسم جوجل: “لا نعلق على عمليات الحذف الفردية داخل البحث. في الحالات التي تفتقر فيها مراجعات الذكاء الاصطناعي إلى بعض السياق. مضيفًا نعمل على إجراء تحسينات شاملة، ونتخذ أيضًا إجراءات بموجب سياساتنا عند الاقتضاء.”
إلى جانب أن فانيسا هيبديتش.مديرة الاتصالات والسياسات في مؤسسة British Liver Trust الخيرية المعنية بصحة الكبد. قالت: “هذه أخبار ممتازة، ويسعدنا أن نرى إزالة Google AI Overviews في هذه الحالات”.
“مع ذلك، إذا طرح السؤال بطريقة مختلفة، فقد يتم تقديم نظرة عامة مضللة محتملة عن الذكاء الاصطناعي. وما زلنا نشعر بالقلق من أن المعلومات الصحية الأخرى التي ينتجها الذكاء الاصطناعي قد تكون غير دقيقة ومربكة.”
بالإضافة إلى ذلك، لا تحذر مراجعات الذكاء الاصطناعي من أن الشخص قد يحصل على نتائج طبيعية لهذه الاختبارات. بينما يعاني من مرض كبدي خطير ويحتاج إلى مزيد من الرعاية الطبية. هذا التطمين الزائف قد يكون ضارًا للغاية.”
وأخيرًا، قالت شركة جوجل، التي تمتلك حصة 91% من سوق محركات البحث العالمية ، إنها تقوم بمراجعة الأمثلة الجديدة التي قدمتها لها صحيفة الجارديان.