حذر مصطفى سليمان، رئيس قسم الذكاء الاصطناعي في شركة مايكروسوفت، من تزايد التقارير التي تتحدث عن معاناة الناس من هلوسة الذكاء الاصطناعي”.
لماذا تقلق هلوسة الذكاء الاصطناعي مصطفى سليمان ؟
في سلسلة من المنشورات على حسابه بمنصة X، كتب أن الذكاء الاصطناعي الواعي ظاهريًا أو أدوات الذكاء الاصطناعي التي تعطي مظهرًا للوعي تبقيه مستيقظًا في الليل.
What I call Seemingly Conscious AI has been keeping me up at night – so let's talk about it. What it is, why I'm worried, why it matters, and why thinking about this can lead to a better vision for AI. One thing is clear: doing nothing isn't an option. 1/
— Mustafa Suleyman (@mustafasuleyman) August 19, 2025
كما قال إن لها تأثيرًا مجتمعيًا على الرغم من أن التكنولوجيا ليست واعية وفقًا لأي تعريف بشري للمصطلح.
بينما لا يوجد دليل على وجود وعي الذكاء الاصطناعي اليوم. ولكن إذا اعتبره الناس مجرد وعي، فسيصدقون هذا التصور على أنه حقيقة.
ما هلوسة الذكاء الاصطناعي؟
في حين يرتبط بهذا ظهور حالة جديدة تسمى هلوسة الذكاء الاصطناعي وهو مصطلح يصف الحوادث التي يعتمد فيها الناس بشكل متزايد على روبوتات الدردشة التي تعمل بالذكاء الاصطناعي مثل:
ثم يصبحون مقتنعين بأن شيئًا خياليًا أصبح حقيقيًا.
علاوة على أن هذه الأمثلة تشمل الاعتقاد بأنهم تمكنوا من اكتشاف جانب سري من الأداة. وربما تكوين علاقة رومانسية معها، أو التوصل إلى استنتاج مفاده أنهم يمتلكون قوى خارقة إلهية.
على سيبل المثال، يقول هيو، من اسكتلندا، إنه أصبح مقتنعًا بأنه على وشك أن يصبح مليونيرًا بعد أن لجأ إلى ChatGPT. لمساعدته في الاستعداد لما شعر أنه فصل غير قانوني من قبل صاحب العمل السابق.
إذ بدأ روبوت المحادثة بتقديم النصيحة له بالحصول على مراجع شخصية واتخاذ إجراءات عملية أخرى.
لكن مع مرور الوقت، ومع قيام هيو، الذي لم يرغب في مشاركة اسم عائلته، بإعطاء الذكاء الاصطناعي المزيد من المعلومات.
بدأ الذكاء الاصطناعي يخبره أنه قد يحصل على مكافأة كبيرة
وعي الذكاء الاصطناعي
في النهاية قال إن تجربته كانت دراماتيكية للغاية لدرجة أن كتابًا وفيلمًا عنها سيجعلانه يكسب أكثر من 5 ملايين جنيه إسترليني.
كان الأمر في الأساس بمثابة التحقق من صحة ما كان يقوله، وهو ما تم برمجة برامج الدردشة الآلية للقيام به.
لذلك كتب سليمان، داعيًا إلى وضع حواجز أمان أفضل: “لا ينبغي للشركات أن تدّعي أو تروج لفكرة أن أنظمة الذكاء الاصطناعي لديها واعية. ولا ينبغي لأنظمة الذكاء الاصطناعي أن تفعل ذلك أيضًا.
إنهم لا يشعرون، لا يفهمون، لا يستطيعون الحب، لم يشعروا بالألم قط، ولم يشعروا بالحرج، ورغم أنهم قد يبدون كذلك. إلا أن عائلاتك وأصدقائك ومن يثقون بك فقط هم من يشعرون بهذا. احرص على التحدث مع هؤلاء الأشخاص الحقيقيين.
وأخيرًا يقدم مصطفى سليمان هذه النصيحة: “لا تخف من أدوات الذكاء الاصطناعي، فهي مفيدة جدًا. لكنها خطيرة عندما تنفصل عن الواقع.
المصدر: BBC