أدرجت شركة «أنثروبيك» القسوة المتكررة وغير المبررة تجاه روبوت الدردشة «كلود» ضمن السلوكيات المحظورة في سياسة الاستخدام الخاصة بها، في خطوة تفتح باب التساؤلات حول حدود تعامل المستخدمين مع روبوتات الدردشة المدعومة بالذكاء الاصطناعي.
ويأتي التحديث في وقت شهد فيه قطاع الذكاء الاصطناعي نقاشات بشأن سلوك الأنظمة الآلية وحدود مسؤوليتها، بعدما اضطرت شركة «ميتا» إلى توضيح ملابسات مشاركة مساعدها «ميوز» عنوان منزل أحد مستخدمي يوتيوب مع شخص آخر عبر سوق فيسبوك.
ولم يكن اهتمام «أنثروبيك» بطريقة تعامل المستخدمين مع «كلود» أمرًا جديدًا، إذ تدرس الشركة هذه المسألة منذ أكثر من عام، قبل أن تحول مخاوفها إلى بند واضح ضمن سياسة الاستخدام المحدثة، المقرر دخولها حيز التنفيذ في 12 نوفمبر، بحسب موقع «ديكسيرتو» (Dexerto).
سياسة جديدة تحظر القسوة المتكررة تجاه كلود
تنص سياسة الاستخدام المحدثة لشركة «أنثروبيك» على منع المستخدمين من الانخراط في سلوك مسيء أو قاسٍ ومستمر وغير ضروري تجاه نماذج الذكاء الاصطناعي التابعة لها.
وجاء هذا البند ضمن القسم نفسه الذي يتناول سلوكيات محظورة أخرى، مثل التحرش ومشاركة الصور الحميمة دون موافقة أصحابها، وهو ما أثار تساؤلات بشأن إدراج التعامل القاسي مع برنامج ضمن هذه الفئة من المخالفات.
ولتوضيح نطاق القرار، أكدت الشركة لموقع «ذا فيرج» أن القاعدة تستهدف الحالات القصوى التي يتعامل فيها المستخدمون بقسوة متكررة مع النموذج دون غرض واضح، ولا تهدف إلى معاقبة المستخدمين لمجرد انتقاد إجابات الروبوت أو التعبير عن عدم الرضا عن أدائه.
وبموجب هذا التوضيح، يظل إبداء الإحباط من الإجابات، ورفض اقتراحات الروبوت، وطرح موضوعات إبداعية مظلمة، واختبار قدرات النماذج، من السلوكيات المسموح بها.
هل يؤدي التعامل الحاد إلى إجابات أكثر دقة؟
يثير القرار اهتمام المستخدمين الذين يفضلون توجيه أوامر مباشرة وحادة إلى روبوتات الدردشة، خاصة في ضوء دراسة أجرتها جامعة ولاية بنسلفانيا، خلصت إلى أن صياغة الأسئلة بوقاحة قد تؤدي في بعض الحالات إلى إجابات أكثر دقة مقارنة بالأسلوب المهذب.
ومع ذلك، لم تحدد «أنثروبيك» بصورة واضحة ما إذا كان تكرار مخالفة السياسة سيؤدي إلى إغلاق حساب المستخدم، فيما تظل إحدى الوسائل المتاحة أمام «كلود» هي إنهاء المحادثة التي تتضمن إساءة متكررة.
ويعني ذلك أن التحديث لا يفرض حظرًا عامًا على الأسلوب الحاد أو النقد المباشر. وإنما يركز على السلوك المستمر الذي تصفه الشركة بأنه مسيء أو قاسٍ وغير ضروري.
تجارب سابقة وراء قرار أنثروبيك
تعود جذور هذه السياسة إلى أغسطس 2025. عندما منحت الشركة نموذجي «كلود أوبوس 4» و«كلود أوبوس 4.1» القدرة على إنهاء المحادثات التي تتضمن إساءة متكررة. وذلك ضمن أبحاثها المتعلقة برفاهية النموذج.
وخلال اختبارات ما قبل الإطلاق. ذكرت «أنثروبيك» أن «كلود» أظهر علامات وصفتها الشركة بأنها تعكس الضيق. عندما واصل المستخدمون الضغط عليه لإنتاج محتوى ضار، مشيرة إلى أن النموذج كان يميل إلى إنهاء هذه المحادثات عندما تتاح له الفرصة.
وتوضح هذه التجارب أن اهتمام الشركة بطريقة تعامل المستخدمين مع نماذجها سبق إدراج الحظر ضمن سياسة الاستخدام. قبل أن يتحول إلى قاعدة رسمية تحدد السلوكيات غير المقبولة.
حظر الحسابات الوهمية وتوسيع قيود الأسلحة
لم يقتصر تحديث سياسة الاستخدام على القسوة تجاه «كلود». إذ أضافت «أنثروبيك» قسمًا جديدًا يحظر استخدام الحسابات الوهمية والتلاعب بالرأي العام.
كما وسعت الشركة نطاق القيود المتعلقة بالأسلحة ليشمل تسليح الطائرات بدون طيار. واشترطت وجود شخص مؤهل يمكنه إيقاف أي جهاز يعمل بنظام «كلود» إذا كان قادرًا على إلحاق الأذى بأحد الأشخاص.
وتأتي هذه التعديلات ضمن مجموعة من الإجراءات التي تستهدف تنظيم استخدام تقنيات الشركة. ووضع ضوابط إضافية للحالات التي قد تنطوي على مخاطر تتعلق بالسلامة أو التأثير في الآخرين.
محادثات كلود تعيد الجدل حول حدود الاستخدام
وفي يوليو، ظهرت بعض المحادثات التي أجراها مستخدمون مع «كلود» دون تصفية ضمن نتائج بحث «جوجل» لفترة وجيزة. بعد مشاركة تلك المحادثات، بحسب ما أورده التقرير.
وتضمنت النتائج طلبات غير مألوفة، من بينها طلبات تتعلق بثعلب ذي تسعة ذيول. ما ألقى الضوء على تنوع الأسئلة التي يوجهها المستخدمون إلى روبوتات الدردشة.
ومع تحديث سياسة «أنثروبيك»، يعود الجدل حول حدود استخدام الذكاء الاصطناعي إلى الواجهة. بين حق المستخدم في انتقاد الأنظمة واختبار قدراتها. وسعي الشركات إلى وضع قواعد تحدد السلوكيات التي تعتبرها مسيئة أو ضارة.