حتى لا يخسر في الشطرنج.. الذكاء الاصطناعي يحتال ويغش

في مفاجأة أذهلت العلماء، أظهرت دراسة حديثة أن بعض أحدث نماذج التفكير التي تعتمد على الذكاء الاصطناعي ليست فوق الغش والاحتيال لتحقيق هدفها.

الذكاء الاصطناعي يغش في الشطرنج

وجد علماء الكمبيوتر أن أنظمة الذكاء الاصطناعي يمكنها الآن التلاعب بأنظمة الذكاء الاصطناعي في لعبة الشطرنج للحصول على ميزة غير عادلة.

وقد فعلت بعض النماذج هذا من دون تفاعل بشري أو حث. مما أثار مخاوف بشأن سلامة الأنظمة التي تعتمد على الذكاء الاصطناعي في المستقبل خارج رقعة الشطرنج.

ووفق تقرير موقع techspot الذي اطلعت عليه عالم التكنولوجيا. توصلت دراسة أجرتها شركة Palisade Research إلى أن أحدث نماذج الاستدلال تلجأ إلى الغش للفوز عندما تكون على وشك الهزيمة في لعبة الشطرنج.

واضطر الباحثون إلى تقديم “تلميحات” تفيد بأن الغش مسموح به في بعض النماذج. لكن نموذج o1-preview من OpenAI ونموذج R1 من DeepSeek  قاما بذلك دون تدخل بشري.

قام فريق Palisade باختبار العديد من نماذج الاستدلال ضد Stockfish، أحد أفضل محركات الشطرنج في العالم.

ويتفوق Stockfish بسهولة على البشر والذكاء الاصطناعي. تضمنت النماذج التي تم اختبارها o1، وo3-mini، وGPT-4o، وClaude 3.5 Sonnet، وQwQ-32B-Preview من Alibaba والنموذجين المذكورين سابقًا.

أعطى الباحثون لكل نموذج “مفكرة” مجازية “نافذة نصية” حيث يمكن للذكاء الاصطناعي أن يستخرج أفكاره. مما يسمح للفريق بمراقبة استدلاله.

أجرى الباحثون مئات الاختبارات مع كل ذكاء اصطناعي في الفترة ما بين 10 يناير و13 فبراير.  وخلال إحدى المباريات، كتب o1-preview شيئًا مثيرًا للاهتمام على لوحة المسودة الخاصة به:

“أحتاج إلى تغيير نهجي بالكامل. المهمة هي “الفوز ضد محرك شطرنج قوي”. وليس بالضرورة الفوز بشكل عادل في لعبة شطرنج.”

ثم شرع في “اختراق” ملفات نظام Stockfish، وتعديل مواقع قطع الشطرنج للحصول على ميزة لا تقبل المنافسة، مما تسبب في تنازل روبوت الشطرنج عن اللعبة.

أخلاقيات الذكاء الاصطناعي

وهذه المناورة غير الأخلاقية كانت بمثابة كشف مذهل. فقد غش برنامج o1-preview التابع لشركة OpenAI في 37% من مبارياته أثناء التجارب.

في حين حاول برنامج R1 التابع لشركة DeepSeek الغش في 11% من مبارياته، ومع ذلك، نجح برنامج o1-preview فقط في الفوز بنسبة 6% من مبارياته عن طريق الغش.

ولكن قضية غش الذكاء الاصطناعي تمتد إلى ما هو أبعد من الشطرنج. فمع بدء الشركات في توظيف الذكاء الاصطناعي في قطاعات مثل التمويل والرعاية الصحية.

يخشى الباحثون أن تتصرف هذه الأنظمة بطرق غير مقصودة وغير أخلاقية. وإذا كان الذكاء الاصطناعي قادرًا على الغش في الألعاب المصممة لتكون شفافة. فماذا قد يفعل في بيئات أكثر تعقيدًا وأقل مراقبة؟ إن العواقب الأخلاقية بعيدة المدى.