علامة مائية خفية.. «OpenAI» تبدأ تمييز نصوص ChatGPT المولدة بالذكاء الاصطناعي في أوروبا

شركة OpenAI

تستعد شركة OpenAI لإضافة علامة مائية غير مرئية إلى النصوص التي ينتجها ChatGPT وأداة Codex داخل دول الاتحاد الأوروبي، في خطوة تستهدف تعزيز الشفافية بشأن المحتوى الذي يتم إنشاؤه باستخدام تقنيات الذكاء الاصطناعي، والامتثال لقواعد الشفافية المنصوص عليها في قانون الذكاء الاصطناعي الأوروبي.

وأعلنت الشركة، في منشور عبر مدونتها، أن التقنية الجديدة ستبدأ في الظهور خلال الأسابيع المقبلة لدى مستخدمي ChatGPT وCodex المؤهلين، وعلى جميع الخطط، لكن تطبيقها سيقتصر في البداية على دول الاتحاد الأوروبي.

علامة مائية لا يمكن رؤيتها بالعين

على عكس العلامات المائية التقليدية التي تظهر في صورة شعار أو عبارة داخل المحتوى، أكدت OpenAI أن العلامة الجديدة لن تكون مرئية للمستخدم أثناء قراءة النص.

وتعتمد التقنية على إجراء تعديلات دقيقة للغاية في اختيارات النموذج للكلمات أثناء كتابة النص، بحيث ينتج عن هذه التعديلات نمط معين داخل المحتوى لا يستطيع القارئ اكتشافه بالعين المجردة، بينما يمكن لأدوات متخصصة التعرف عليه.

ومن المزايا المهمة لهذه الطريقة أن العلامة المائية تظل مرتبطة بالنص نفسه، وبالتالي تنتقل معه عند نسخه ولصقه، ولا تعتمد على بقاء المحتوى داخل ChatGPT أو وجود عنصر مرئي يمكن حذفه بسهولة.

وأكدت OpenAI أن التقنية لا تكشف هوية المستخدم، كما أشارت إلى أنها لم تلاحظ تأثيرًا مهمًا على أداء نماذجها عند تشغيل العلامة المائية.

ما علاقة العلامة المائية بقانون الذكاء الاصطناعي الأوروبي؟

تأتي الخطوة في إطار قواعد الشفافية التي يفرضها قانون الذكاء الاصطناعي الأوروبي (EU AI Act)، والتي تتطلب وضع علامات على المحتوى الناتج عن أنظمة الذكاء الاصطناعي بطريقة تتيح للأنظمة الأخرى التعرف عليه.

وتسعى هذه القواعد إلى زيادة وضوح مصدر المحتوى الرقمي، خصوصًا مع الانتشار المتزايد للنصوص والصور ومقاطع الفيديو التي يتم إنتاجها أو تعديلها باستخدام أدوات الذكاء الاصطناعي.

ومع ذلك، لن تجعل OpenAI العلامة المائية إلزامية على مستوى العالم عند إطلاقها. إذ سيقتصر تطبيقها في الوقت الحالي على دول الاتحاد الأوروبي.

أما المطورون الذين يستخدمون واجهة برمجة التطبيقات API الخاصة بـOpenAI. فيمكنهم تفعيل الميزة مع نماذج محددة من أي مكان حول العالم، لكنها ستكون متوقفة افتراضيًا.

كيف تعمل تقنية textGrain؟

أطلقت OpenAI على تقنية العلامة المائية اسم textGrain، ونشرت بالتزامن مع الإعلان تقريرًا تقنيًا يشرح طريقة عملها.

وتعتمد التقنية على استخدام مفتاح سري يؤثر في طريقة ترتيب توقعات النموذج بشأن الكلمات التي يمكن أن تأتي لاحقًا أثناء توليد النص.

ومع تكرار هذه التغييرات الصغيرة عبر مئات الكلمات. يتشكل نمط محدد داخل النص، يمكن لأداة الكشف التعرف عليه باستخدام النص نفسه إلى جانب المفتاح السري المستخدم في عملية وضع العلامة المائية.

وبذلك لا يحتاج النظام إلى إضافة كلمة أو جملة أو رمز واضح يخبر القارئ بأن النص مولد بواسطة الذكاء الاصطناعي.

وشارك في إعداد البحث الخاص بالتقنية باحثون من جامعتي بنسلفانيا وييل.

هل يمكن إزالة العلامة المائية؟

رغم تصميم التقنية لتكون موجودة داخل النص نفسه، فإنها ليست مستحيلة الإزالة.

وأظهرت اختبارات OpenAI أن إجراء تعديلات على النص يمكن أن يقلل من قدرة أدوات الكشف على التعرف على العلامة المائية. فعلى سبيل المثال، أدى استبدال نحو 10% من الكلمات بمرادفاتها في أحد الاختبارات إلى تراجع معدل اكتشاف النص من حوالي 92% إلى 66%.

كما تواجه التقنية صعوبة أكبر عند التعامل مع النصوص القصيرة، والإجابات الرياضية، والنصوص المترجمة.

ولهذا السبب، أوضحت OpenAI أن إتاحة أداة الكشف ستكون في البداية للباحثين المعتمدين والمؤسسات المتخصصة. بهدف تقييم مدى موثوقية التقنية ودراسة الاستخدامات المسؤولة لها.

عدم اكتشاف العلامة لا يعني أن النص بشري

وحذرت OpenAI من اعتبار عدم اكتشاف العلامة المائية دليلًا قاطعًا على أن النص كتبه إنسان.

فقد تختفي إمكانية اكتشاف العلامة نتيجة قصر النص أو إجراء تعديلات كبيرة عليه. كما قد يكون المحتوى من إنتاج نظام ذكاء اصطناعي تابع لشركة أخرى لا تستخدم تقنية العلامات المائية نفسها.

كذلك، لا تستطيع العلامة المائية تحديد حجم المساهمة البشرية في المحتوى.

فحتى إذا أثبتت أداة الكشف أن نصًا ما مر عبر أحد أنظمة OpenAI أو تم إنشاؤه بواسطته. فإن ذلك لا يوضح مقدار ما أضافه الإنسان من أفكار أو تحرير أو قرارات أو إبداع إلى النسخة النهائية.

OpenAI ليست الأولى في وضع العلامات المائية

تأتي خطوة OpenAI بعد إعلان شركة Anthropic، قبل شهرين. عن توجهها لوضع علامة مائية على النصوص التي ينتجها نموذج Claude على مستوى العالم. وليس داخل الاتحاد الأوروبي فقط.

وأثار هذا التوجه اعتراضات من بعض مستخدمي Claude. الذين رأوا أن اعتبار النص ناتجًا بالكامل عن النموذج قد لا يعكس دائمًا طريقة إنتاج المحتوى. خصوصًا عندما يقدم المستخدم التعليمات والسياق ويتخذ القرارات. بينما يستخدم النموذج كأداة لتنفيذها.

الرابط المختصر :