كشفت تقارير حديثة، أن شركة OpenAI تمتلك أداة للكشف عن المحتوى المكتوب بالذكاء الاصطناعي، بإضافة علامة مائية إلى النصوص، جاهزة منذ نحو عام، وفقًا لصحيفة “وول ستريت جورنال”.
شركة OpenAI تضع العلامة المائية
ولكن الشركة منقسمة داخليًا بشأن ما إذا كانت ستطلق تلك الأدة أم لا. من ناحية، يبدو الأمر وكأنه الشيء المسؤول الذي يجب القيام به؛ ومن ناحية أخرى، قد يضر ذلك بنتائجها النهائية.
يُوصَف وضع العلامات المائية في OpenAI بأنه تعديل لكيفية توقع النموذج للكلمات والعبارات الأكثر احتمالية، التي ستتبع الكلمات والعبارات السابقة؛ ما يؤدي إلى إنشاء نمط يمكن اكتشافه.
ويعد تقديم أي وسيلة للكشف عن المواد المكتوبة بواسطة الذكاء الاصطناعي نعمة محتملة للمعلمين الذين يحاولون ردع الطلاب عن تسليم مهام الكتابة للذكاء الاصطناعي.
وتشير التقارير الصادرة عن المجلة إلى أن الشركة وجدت أن العلامات المائية لم تؤثر على جودة مخرجات النص التي ينتجها روبوت الدردشة الخاص بها.
وفي استطلاع أجرته الشركة، “أيد الناس في جميع أنحاء العالم فكرة أداة الكشف عن الذكاء الاصطناعي بنسبة أربعة إلى واحد”، وفقًا لما كتبته المجلة.
وأكدت شركة OpenAI أنها عملت على وضع علامة مائية، مشيرة إلى أن طريقتها دقيقة للغاية فعّالة. بنسبة 99.9%، وفقًا للوثائق التي اطلعت عليها المجلة، ومقاومة للتلاعب، مثل إعادة الصياغة.
الهدف من وضع العلامة المائية
وأشار إلى أن تقنيات مثل إعادة الصياغة بنموذج آخر تجعل “التحايل عليها من قبل الجهات السيئة أمرًا تافهًا”. وأعربت الشركة عن قلقها بشأن فائدة أدوات الذكاء الاصطناعي للوصم للمتحدثين غير الأصليين.
ويعمل نظام العلامات المائية النصية من خلال دمج نمط معين في الناتج المكتوب للنموذج، الذي يمكن اكتشافه بواسطة أداة OpenAI، لكن غير مرئي للمستخدم النهائي.
وفي حين يمكن لهذه الأداة اكتشاف الكتابة الناتجة عن محرك GPT-4 الخاص بها بشكل موثوق، إلا أنها لا تستطيع اكتشاف مخرجات نماذج أخرى، مثل Gemini أو Claude.
وعلاوة على ذلك، يمكن إزالة العلامة المائية نفسها بتشغيل الناتج النصي بواسطة Google Translate، وتحويله إلى لغة أخرى ثم العودة.
هذه ليست المحاولة الأولى لشركة OpenAI لبناء أداة لكشف النصوص. في العام الماضي. ألغت بهدوء أداة كشف نصوص مماثلة كانت قيد التطوير. بسبب معدل الكشف الضئيل للأداة وميلها إلى الإيجابيات الخاطئة.
وجرى إصدار هذا الكاشف في يناير 2023، وكان يحتاج إلى مستخدم لإدخال نص عينة يدويًا بطول 1000 حرف على الأقل قبل أن يتمكن من اتخاذ قرار.
وتمكن من تصنيف المحتوى الناتج عن الذكاء الاصطناعي. على نحو صحيح بدقة 26% فقط. ووصف المحتوى الناتج عن الإنسان. بأنه مشتق من الذكاء الاصطناعي بنسبة 9% من الوقت.
المصدر