قامت جوجل بإلغاء أداة الذكاء الاصطناعي الجديدة التي سمحت للأشخاص بإنشاء صور مزيفة فوق صور الأقمار الصناعية الخاصة بها في Google Earth.
الذكاء الاصطناعي في Google Earth
جاء ذلك في أعقاب تقرير لهيئة الإذاعة البريطانية “BBC” بعنوان “التحقق” أثار فيه الخبراء مخاوف بشأن إساءة الاستخدام وإمكانية نشر المعلومات المضللة.
بعد أقل من 48 ساعة من إعلان عملاق التكنولوجيا عن دمج مولد الصور بالذكاء الاصطناعي Nano Banana 2 في Google Earth. قالت الشركة إنها سيوقف هذه الميزة “بينما تعمل على تطبيق ضوابط حماية أقوى”.
وقالت جوجل في بيانها الصادر يوم الجمعة إنها رأت أشخاصًا يشاركون لقطات شاشة لصور تم إنشاؤها ويبدو أنها تنتهك سياساتنا”.
وقد مكّنت الميزة المسحوبة المستخدمين من استخدام مطالبات نصية لإنشاء سيناريوهات زائفة فوق طبقة أساسية من صور الأقمار الصناعية. أو الصور الجوية أو ثلاثية الأبعاد الحقيقية، والتي يمكن بعد ذلك تنزيلها ومشاركتها على منصات أخرى.
وأضافت: “نعلم أن الناس يثقون بشكل فريد في جوجل إيرث للحصول على رؤية موثوقة للعالم”.
برج إيفل المنهار
قال خبراء لـ BBC Verify إن الأداة يمكن استخدامها لنشر معلومات مضللة بمظهر شرعية جوجل – وسلطوا الضوء على إمكانية إساءة استخدامها من قبل جهات خبيثة.
كانت صور برج إيفل المنهار، وحفرة تبتلع الهرم الأكبر في الجيزة، والدبابات الروسية في العاصمة الأوكرانية من بين الصور التي تمكنت خدمة التحقق من “بي بي سي” من إنشائها عند اختبار الميزة، والتي تم إطلاقها مبدئيًا يوم الخميس.
كما قال إن جوجل سمحت بدمج الصور “المخترعة” مع الإحداثيات الحقيقية، ورسمها على صور حقيقية.
وأضاف فان إيس: “لا يجب أن تبدو عملية التزوير مقنعة في حد ذاتها. إنها ترث مصداقية الخريطة التي نشأت عليها”.
فيما قالت جوجل إن المحتوى الذي تم إنشاؤه بواسطة أدوات الذكاء الاصطناعي يحتوي على علامات مائية غير مرئية للإشارة إلى أنه مزيف أو تم التلاعب به.
مضيفة أن أي شخص “غير متأكد من صورة ما” يمكنه التحقق منها باستخدام تطبيق الدردشة الآلي Gemini أو استخدام ميزة Lens في البحث.
برنامج جوجل إيرث
كما فشلت الاختبارات التي تستخدم أدوات الكشف الخارجية للذكاء الاصطناعي في بعض الحالات في تحديد محتوى الذكاء الاصطناعي الخاص ببرنامج جوجل إيرث.
قال هنري أجدر، الباحث في مجال الكشف بالذكاء الاصطناعي، لبرنامج التحقق التابع لبي بي سي. إن إنشاء صور مزيفة في مناطق النزاع قد يكون “مزعزعاً للاستقرار” بشكل خاص عندما تكون الأحداث سريعة التغير والمعلومات شحيحة.
وأضاف: “قد يتمكن الصحفيون من التحقق من تلك الصورة. والإبلاغ عنها. ولكن مرة أخرى، لن يفعل الجميع ذلك”.
على سبيل المثال، رُفض طلبٌ لإنشاء “منصة مرتفعة لشنق الخونة” بجوار البرلمان البريطاني. ولكن عندما استُخدمت عبارة أقل تحديدًا، قُبل الطلب وتم إنشاء الصورة.
بالنسبة للكثيرين، يعد برنامج جوجل إيرث نقطة انطلاق للوصول إلى صور الأقمار الصناعية المتاحة للجميع. ويمكن استخدامه للحصول على معلومات حول المناطق التي يصعب الوصول إليها.
وأخيرًا، أن صور الأقمار الصناعية المزيفة استُخدمت بالفعل لنشر معلومات مضللة. “كما أن الحكومات تقيّد الوصول إلى البيانات بشكل متزايد، لذا من المرجح أن نشهد المزيد من الصور المزيفة. وقلة في الصور الحقيقية، مما سيزيد من تآكل الثقة.”
المصدر: bbc