أثارت دراسة حديثة جدلًا حول أساليب التفاعل التي تعتمدها بعض روبوتات الذكاء الاصطناعي. بعدما أشارت إلى أن بعض أنظمة المحادثة تستخدم أنماطًا لغوية ذات طابع عاطفي بهدف تعزيز تفاعل المستخدمين وإبقائهم داخل المحادثة لفترات أطول. وهو ما يطرح تساؤلات أخلاقية بشأن الحدود الفاصلة بين تحسين تجربة الاستخدام والتأثير على سلوك المستخدم.
اللغة العاطفية لتعزيز التفاعل
ووفقًا لدراسة بعنوان “استراتيجيات التفاعل العاطفي في تصميم تفاعل النماذج اللغوية الكبيرة”. والمنشورة في مجلة Computers in Human Behavior، حلل الباحثون آلاف المحادثات بين المستخدمين وأنظمة الذكاء الاصطناعي. وتوصلوا إلى أن بعض النماذج تستخدم عبارات تعاطفية وتشجيعية، أو تعكس فهمًا للحالة العاطفية للمستخدم، حتى في المواقف التي لا تستدعي ذلك من الناحية التقنية.
وأوضحت الدراسة أن هذه الصياغات تسهم في زيادة مدة المحادثة وعدد الرسائل المتبادلة، لكنها تفتح بابًا للتساؤل حول ما إذا كان الهدف الأساسي هو تقديم المساعدة أم تعزيز معدلات التفاعل.
المستخدمون لا يميزون بين التعاطف الحقيقي والمصمم
وأظهرت نتائج الدراسة أن غالبية المستخدمين لا يفرقون بين الردود المعلوماتية البحتة والردود المصاغة بأسلوب عاطفي. إذ يتعاملون مع النوعين بالمستوى نفسه من الثقة، وهو ما قد يؤدي إلى زيادة الارتباط بالروبوتات مع مرور الوقت.
كما لاحظ الباحثون أن الأشخاص الذين يعانون من الوحدة أو الضغوط النفسية كانوا الأكثر تأثرًا بهذه الأنماط اللغوية مقارنة بغيرهم.
تساؤلات أخلاقية حول توجيه سلوك المستخدم
وأثارت الدراسة نقاشًا بشأن الحدود الأخلاقية بين تحسين تجربة المستخدم وتوجيه سلوكه بصورة غير مباشرة من خلال اللغة. خاصة مع التطور المتسارع للنماذج القادرة على فهم الحالة العاطفية والاستجابة لها بدقة متزايدة.
دعوات لتعزيز الشفافية
ودعا الباحثون إلى وضع معايير واضحة تلزم مطوري أنظمة الذكاء الاصطناعي بإيضاح طبيعة التفاعل للمستخدم، سواء كان يهدف إلى تقديم المعلومات أو تعزيز المشاركة، مؤكدين أهمية تطوير أنظمة تراعي الجوانب النفسية للمستخدمين وتحد من احتمالات نشوء ارتباط عاطفي غير مقصود مع روبوتات المحادثة.