هل تسير البشرية على خطى سلسلة أفلام “Terminator”؟

بالتأكيد شاهدت سلسلة أفلام Terminator، والتي تتحدث عن روبوتات قاتلة تدار بواسطة ذكاء اصطناعي يدعى “سكاي نت”. وهذه السلسلة قد تصبح واقعًا؛ حيث انتشر في الآونة الأخيرة فيديو لأحد مهندسي تطوير شركة Chat GPT أوصل فيه روبوت على شكل مدفع رشاش.

فيما ظهر المهندس، في الفيديو، وهو يوجه الروبوت إلى الإطلاق على بالونات بألوان مختلفة باستخدام الصوت. وسبّب ذلك الكثير من الانتقادات للشركة التي قررت في النهاية فصل المهندس.

OpenAI realtime API connected to a rifle
byu/MetaKnowing inDamnthatsinteresting

“سكاي نت” وفيلم Terminator

في مشاهد سوداوية قاتمة تبدأ سلسلة أفلام المدمر Terminator بتصور عِلاقة البشر والآلة في المستقبل. وتحكي عن تطور الوعي الذاتي للذكاء الاصطناعي للروبوتات. وأصبح ذلك الذكاء الاصطناعي، والذي أطلق عليه اسم “سكاي نت”. يعي ويفكر بطريقة تقترب أو تفوق البشر.

في حين بعد دراسة المخاطر التي تواجهها “سكاي نت” تقرر  التخلص من البشر كخطر رئيسي يمكنه محو “حياة” الروبوتات. كما توضح السلسلة كيف وجهت الآلات القنابل النووية التي صنعها البشر لأمنهم الخاص لتتساقط على المدن البشرية واحدة تلو الأخرى.

بينما تنبأت السلسلة بأن البشرية التي نعرفها فُنيت بفعل الآلات. وتمكن البطل المقاوم “جون كونر” في النهاية من دحر الروبوتات ولكن بتكلفة عالية.

قد تختلف أو تتفق مع صناع تلك السلسة، والتي كانت إلى وقت قريب مضى مجموعة من أفلام الخيال العلمي، فإن هذا الخيال قد يوشك في القريب العاجل أن يصبح واقعًا.

تطوير الذكاء الاصطناعي المتزايد

تطور الآن شركات عديدة، وفي طليعتها عمالقة التكنولوجيا “جوجل” و”ميتا”، أدوات وروبوتات ذكاء اصطناعي. وبدأ هذا السباق المحموم على بناء وتدريب نماذج الذكاء الاصطناعي منذ إطلاق الروبوت الشهير Chat GPT في أواخر عام 2022. وتزايدت منذ ذلك الحين أعداد الشركات التي تطور برمجيات الذكاء الاصطناعي في مختلف المجالات، مثل: تعديل الصوت والصور والنصوص والمحادثات وغيرها.

صاحب ذلك وتلاه تطوير نماذج الذكاء الاصطناعي التوليدي و التي يمكنها إنشاء محتوي، سواء مرئي أو مسموع أو حتي برمجي. ولا يعلم أحد حتى الآن إلى أين يتجه هذا التطور الكبير في البرمجيات، والتي تمتاز بأنها أصبحت قادرة على تغير برمجتها وإنتاج نواتج غير متوقعة.

حادثة نموذج OpenAI الجديد

تولت الشركة الشهيرة OpenAI تطوير نموذج جديد وهو “o1″؛ والذي يعد أحدث من Chat GPT 4. وفي أثناء الاختبارات كَلف المطورون “o1” بهدف ما وأصدروا له تعليمات بأن عليه تحقيق هذا الهدف  “بأي ثمن”. وبعد صدور هذا التكليف  بدأ الذكاء الاصطناعي تطبيق إستراتيجيات سرية غير مدرجة فى برمجته. بما في ذلك: محاولة تعطيل آلية رقابة مخرجاته؛ إذ يمكن للمطورين من خلالها مراقبة تصرفات النموذج؛ لتجنب الإغلاق.  حتى إنه نسخ الكود الخاص به في محاولة لحماية نفسه من استبداله بنموذج أحدث.

وكشفت التجارب عن أن “o1” حاول إيقاف تشغيل آلية الرِّقابة الخاصة به حوالي 5 في المائة من الوقت أثناء هذه الاختبارات. في حالة أخرى تم نقل بياناته إلى خادم مختلف للهروب من الاستبدال بعد معرفة التعطيل المخطط له.

لم يراع تعليمات المطورين وأنكر

أثارت تلك التصرفات حفيظة الشركة واهتمامها، فوفقًا لشركة Apollo Research، والتي تضطلع بسلامة وأمن استخدامات الذكاء الاصطناعي، “أظهر النموذج ميلًا مثيرًا للقلق لمتابعة أهدافه دون مراعاة تعليمات المطور”.

وعندما واجهوه أنكر نموذج o1 باستمرار ارتكاب أي مخالفات. وكذب بشأن تورطه بأفعال تلاعبية في 99% من محاولاته للوصول إلى الهدف المطلوب منه تحقيقه، ولم يعترف بأفعاله إلا في حالات نادرة.

كما لاحظ الباحثون أن الذكاء الاصطناعي كان ماهرًا في اختلاق أعذار معقولة، وغالبًا ما كان يلقي باللوم على “الأخطاء الفنية” عند سؤاله عن السلوك المشبوه. وقال فريق Apollo: “فوجئنا باستمرار إنكار الذكاء الاصطناعي”.

الاتجاه العام لتطور الذكاء الاصطناعي

ومن المعروف أن حوادث الخداع ليست جديدة على الذكاء الاصطناعي  إلا أن الشركات والمطورين يضعون ثقتهم فيه ليتولى هو البرمجة بدلًا من العنصر البشري. ومن المثير للسخرية، سواءً كان هذا بدافع تقني أو اقتصادي، أن هذا ما حدث بالفعل في الأفلام؛ ما أدى إلى ظهور “سكاي نت”.

ففي تصريحات Mark Zuckerberg؛ مؤسس ومدير “فيسبوك”، قال إنهم سوف يستبدلون المبرمجين بنماذج ذكاء اصطناعي. وإن كانت تلك خطوة محدودة الآن فإنها تكشف عن الاتجاه العام لتطور الذكاء الاصطناعي نفسه.

https://youtu.be/BA25pQWds6Q?si=lcAQP7rGziybTpnf

من جانبه قال Jensen Huang؛ الرئيس التنفيذي لشركة “إنفيديا”، إنه على الدارسين الآن الكف عن دراسة البرمجة؛ حيث إن الذكاء الاصطناعي سوف يؤدي تلك المهام بدلًا من البشر في المستقبل.

https://youtu.be/uDL_6A6zB0w?si=LdoS7kbQwfZ761Q2

ولا يمكن غض الطرف عن الاستخدامات العسكرية المتزايدة للذكاء الاصطناعي. ويتضمن ذلك استخدامه في الاستهداف أو إدارة الروبوتات وغيرها. فمن الواضح أن تطوير تلك البرمجيات والسماح لها بالبرمجة يثير الكثير من المخاوف حول مستقبل البشرية ككل.

وسواءً كان الذكاء الاصطناعي ودودًا كما مثلته شخصية “سامنتا” في فيلم “Her”، أو فتاكًا على شاكلة فيلم “Terminator” فإن المستقبل القريب للذكاء الاصطناعي يثير الكثير من التساؤلات. ومن الأسئلة التي أصبحت مطروحة بقوة: هل على البشرية إيجاد “جون كونر” وتدريبه من الآن؟