جوجل تعلن عن أداة جديدة لكشف محتوى الذكاء الاصطناعي المزيف

ميزة Ask Photos..مساعد جوجل الذكي لوصف الصور

مع التطور المتسارع في مجال الذكاء الاصطناعي وتطبيقات توليد النصوص، تبرز الحاجة الملحة إلى أدوات قادرة على تمييز المحتوى المنشئ بواسطة الذكاء الاصطناعي عن الآخر المكتوب عن طريق الإنسان.

واستجابةً لهذا التحدي، أعلنت شركة “جوجل” تطوير أداة متخصصة في هذا المجال؛ ما يفتح آفاقًا جديدة في مجال التحقق من صحة المعلومات ومكافحة المعلومات المضللة.

جوجل تطور أداة جديدة 

تعمل شركة Google على تطوير أداة للتعرف على النصوص المُنشأة بواسطة الذكاء الاصطناعي. تم تصميم هذه الأداة للمساعدة في تحديد المحتوى الذي ينتجه الذكاء الاصطناعي، والذي يمكن استخدامه لمجموعة متنوعة من الأغراض. بما في ذلك الكشف عن البريد العشوائي والانتحال والمعلومات المضللة.

وقال بوشميت كوهلي؛ نائب رئيس الأبحاث في جوجل ديب مايند، لمجلة “إم آي تي ​​تكنولوجي ريفيو”: “الآن، يتمكن مطورو الذكاء الاصطناعي التوليدي الآخرون من استخدام هذه التكنولوجيا لمساعدتهم على اكتشاف ما إذا كانت مخرجات النص قد جاءت من نماذج اللغة الكبيرة الخاصة بهم. ما يسهل على المطورين بناء الذكاء الاصطناعي بمسؤولية.

جوجل

 

وأصبحت العلامات المائية أدوات ذات أهمية متزايدة مع استخدام نماذج لغوية كبيرة لنشر معلومات مضللة سياسية.

وتدرس كاليفورنيا بالفعل جعل وضع العلامات المائية للذكاء الاصطناعي إلزاميًا. بينما بدأت حكومة الصين فرض ذلك العام الماضي، في حين لا تزال الأدوات قيد التطوير.

أنظمة العلامات المائية 

تزعم شركة جوجل أن النظام المدمج بالفعل في روبوت الدردشة Gemini الخاص بها، لا يؤثر على جودة النص الناتج أو دقته أو إبداعه أو سرعته، وهو ما كان يمثل مشكلة منذ مدة طويلة مع أنظمة العلامات المائية.

وتقول “جوجل” إنه يمكن إنشاء نص قصير يصل إلى ثلاث جمل، بالإضافة إلى نص تم اقتصاصه أو إعادة صياغته أو تعديله. لكنه يواجه صعوبات مع النص القصير، والمحتوى الذي أعيدت كتابته أو ترجمته، حتى الردود على الأسئلة الواقعية. وما تزال هذه الأداة قيد التطوير، ولكن من المتوقع إصدارها في المستقبل القريب. وعندها تكون متاحة للعامة.

كما تعد هذه الأداة مهمة لأنها ستساعد في ضمان دقة المحتوى الذي نستهلكه عبر الإنترنت وموثوقيته. كما ستساعد في منع انتشار المعلومات المضللة.

وكتبت Google في منشور على مدونتها مايو الماضي: “SynthID ليس حلًا سحريًا لتحديد المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي. لكنه حجر أساس مهم لتطوير أدوات تحديد أكثر موثوقية للذكاء الاصطناعي. ويمكن أن يساعد ملايين الأشخاص على اتخاذ قرارات مستنيرة حول كيفية تفاعلهم مع محتوى الذكاء الاصطناعي.

المصدر 
الرابط المختصر :