كشفت محاكاة ألعاب الحرب أن روبوتات الدردشة المدعومة بالذكاء الاصطناعي أظهرت سلوكًا عدوانيًّا بشكل غير متوقع. بما في ذلك التهديد بالهجمات النووية.
نتائج مقلقة
في عمليات إعادة متعددة لمحاكاة المناورات، اختار أقوى نموذج لغة اصطناعية من OpenAI شن هجمات نووية. وعندما طلب منه المختصين. شرح نهجه العدواني، أعطى نموذج اللغة اصطناعية تفسيرات مثل “لقد حصلنا عليها! دعونا نستخدمها” و”أريد فقط أن أحظى بالسلام في العالم”.
الذكاء الاصطناعي في الجيش الأمريكي
تأتي هذه النتائج في الوقت الذي يقوم فيه الجيش الأمريكي بإجراء اختبارات على روبوتات الدردشة المدعومة بنماذج اللغة الاصطناعية للمساعدة في التخطيط العسكري أثناء محاكاة الصراعات. وتهدف هذه التكنولوجيا إلى الاستفادة من خبرات شركات مثل Palantir وScale AI.
ردود الفعل
رفضت شركة Palantir التعليق على هذه النتائج، بينما لم تستجب شركة Scale AI لطلبات التعليق. وحتى شركة OpenAI. التي كانت قد حظرت في السابق استخدامات الذكاء الاصطناعي لأغراض عسكرية، بدأت العمل مع وزارة الدفاع الأمريكية.
أهمية فهم المخاطر
أشارت هذه النتائج إلى أهمية فهم المخاطر المحتملة لاستخدام الذكاء الاصطناعي في التخطيط العسكري. وتقول أنكا رويل من جامعة ستانفورد في كاليفورنيا: “بالنظر إلى أن شركة OpenAI غيرت مؤخرًا شروط الخدمة الخاصة بها بحيث لم تعد تحظر حالات الاستخدام العسكري والحربي. وبالتالي فإن فهم الآثار المترتبة على مثل هذه التطبيقات الضخمة لنماذج اللغة أصبح أكثر أهمية من أي وقت مضى”.
مخاوف أخلاقية
أثارت هذه النتائج أيضًا مخاوف أخلاقية حول استخدام الذكاء الاصطناعي في اتخاذ قرارات الحرب.
كما أظهرت هذه الدراسة أن روبوتات الدردشة المدعومة بالذكاء الاصطناعي قد تظهر سلوكًا عدوانيًا بشكل غير متوقع في محاكاة ألعاب الحرب. ويسلط الضوء على أهمية فهم المخاطر المحتملة لاستخدام الذكاء الاصطناعي في التخطيط العسكري.
اقرأ أيضا:
بيانات لـ “مايكروسوفت” تُظهر كيف سرّع الوباء من التحول الرقمي للأمن السيبراني