ألم يكن من المفترض أن نعيش جميعًا في عالم مارك زوكربيرج الافتراضي الآن؟ ألم يكن من المفترض أن يحل البيتكوين محل جميع العملات في العالم؟
أتذكرون في العقد الماضي، عندما سمعنا كيف ستنقذ وسائل التواصل الاجتماعي الديمقراطية؟ كل هذه الأمور لا تزال ممكنة. أو ربما لن تحدث.
الخوف من الذكاء الاصطناعي
هل سمعت من قبل أن شركة تقنية تدّعي أنها طورت ذكاءً اصطناعياً جديداً يتمتع بقوة هائلة تثير الرعب.
يبدو أنه من الخطورة بمكان إطلاقه للعالم، فالعواقب ستكون كارثية. لحسن الحظ، يُبقونه طي الكتمان حالياً.
هذا بالضبط ما تخبرنا به شركة الذكاء الاصطناعي “أنثروبيك” عن أحدث نماذجها، “كلود ميثوس”. تقول الشركة إن قدرة “ميثوس” على اكتشاف ثغرات الأمن السيبراني تتجاوز بكثير قدرة الخبراء البشريين.
وقد تكون لها عواقب وخيمة على مستوى العالم إذا وقعت تقنية مماثلة في الأيدي الخطأ. حيث قالت “أنثروبيك” في منشور على مدونتها مطلع أبريل :
“قد تكون التداعيات وخيمة على الاقتصادات والسلامة العامة والأمن القومي”.
حذر بعض المراقبين المتحمسين من أن “ميثوس” سيجبرك قريبًا على استبدال كل قطعة تقنية في حياتك. حتى فرن الميكروويف المزود بتقنية الواي فاي، لحماية نفسك من مخاطر العالم الرقمي.
يشكك بعض خبراء الأمن في هذه الادعاءات، لكن يصدر المسؤولون التنفيذيون في كبرى شركات الذكاء الاصطناعي تحذيراتٍ دورية حول كيف يمكن لمنتجات صناعتهم أن تدمر البشرية.
فيما ترى إحدى النظريات أن شركات الذكاء الاصطناعي تستفيد من إبقاء تركيزنا منصبًا على نهاية العالم. لأن ذلك يصرف الانتباه عن الضرر الحقيقي الذي تُلحقه بالفعل بالعالم.
إذ يقول قادة التكنولوجيا إنهم يحذروننا فقط من مستقبل حتمي، وأن السلامة أولوية قصوى سواء الآن أو لاحقًا.
لكن آخرين يجادلون بأن ما نشهده في الواقع هو ترويج للخوف، يبالغ في إمكانات التكنولوجيا ويرفع أسعار الأسهم.
كما أنه يشجع على فكرة أن على الجهات التنظيمية أن تتنحى جانبًا. لأن شركات الذكاء الاصطناعي هذه هي الوحيدة القادرة على إيقاف الأشرار وبناء هذه التكنولوجيا بمسؤولية.
م جانبها تقول شانون فالور. أستاذة أخلاقيات البيانات والذكاء الاصطناعي في جامعة إدنبرة بالمملكة المتحدة. “إذا صورنا هذه التقنيات على أنها خارقة للطبيعة في خطورتها، فإن ذلك يجعلنا نشعر بالعجز، وكأننا لا نملك القدرة على مواجهتها. وكأن الشركات نفسها هي الجهة الوحيدة التي يمكننا الاعتماد عليها”.
كلود ميثوس
في الوقت نفسه، قال متحدث باسم شركة أنثروبيك أن الشركة كانت واضحة بشأن هذه القضايا.
وقد شاركوا منشورات مدونات من منظمات أخرى تدعم قدرات ميثوس السيبرانية، لكنهم لم يتطرقوا إلى النقاط الواردة في هذه المقالة، باستثناء تعليق واحد سأدرجه أدناه.
ليست هذه المرة الأولى التي يعمل فيها داريو أمودي، الرئيس التنفيذي لشركة أنثروبيك، على أداة تصنّفها الشركة التي كان يعمل بها على أنها خطيرة للغاية على العامة.
في عام ٢٠١٩، عندما كان أمودي مسؤولاً تنفيذياً في شركة أوبن إيه آي، أعلنت الشركة عن GPT-2.
فيما صرح هو وعدد من قادة الشركة بأنهم لم يتمكنوا من إطلاق GPT-2 بسبب مخاوف من استخدامات خبيثة لهذه التقنية.
كانت هذه الأداة أقل تطوراً بكثير من ChatGPT. وبعد أشهر، أطلقوها على أي حال.
في حين نشر سام ألتمان، الرئيس التنفيذي لشركة أوبن إيه آي، مقالاً على مدونته يقول فيه إن الشركة تتقبل عدم اليقين . معترفاً بأن المخاوف بشأن GPT-2 كانت في غير محلها.
انتقد ألتمان “التسويق القائم على الخوف” لشركة أنثروبيك في مقابلة بودكاست حديثة . لكن استراتيجيته الخاصة “لقد خلقت وحشًا” تعود إلى سنوات مضت.
الذكاء الاصطناعي ونهاية العالم
فيما قال ألتمان في عام ٢٠١٥ : “من المرجح أن يؤدي الذكاء الاصطناعي إلى نهاية العالم، ولكن في غضون ذلك، ستظل هناك شركات عظيمة”.
وبعد سنوات، ادعى ألتمان أنه يُعاني الأرق متسائلاً عما إذا كان قد “ارتكب خطأً فادحاً بإطلاقه ChatGPT”. ليت أحداً حذره.
بينما تقول إميلي إم بيندر. أستاذة اللغويات الحاسوبية ومعالجة اللغات الطبيعية في جامعة واشنطن، والمؤلفة المشاركة لكتاب “خداع الذكاء الاصطناعي”. “هذا مجرد جزء من نمط الادعاءات غير المثبتة بالقوة”.
وتضيف أن هذا لا يقتصر على شركتي OpenAI وAnthropic، بل هو الموقف السائد في صناعة الذكاء الاصطناعي بأكملها.
“إنهم يقولون: انظروا إلى هنا، لا يهمهم الدمار البيئي واستغلال العمالة وكل هذه الأنظمة التي ندمرها في المجتمع. كل ما يهمنا هو التأكد من أن هذا الشيء لن يتحول إلى الشيء السيئ الذي يدمر البشرية”.
بالإضافة إلى أنه عندما سألت شركة OpenAI عن كل هذا. شارك متحدث باسمها منشورًا حديثًا على مدونة ألتمان، كتب فيه:
“أن OpenAI “ستقاوم إمكانية هذه التقنية في ترسيخ السلطة في أيدي قلة”. مضيفًا أن “القرارات الرئيسية المتعلقة بالذكاء الاصطناعي تتخذ عبر عمليات ديمقراطية وبمبادئ المساواة، وليس فقط من قبل مختبرات الذكاء الاصطناعي”.
هل ميثوس سيئ إلى هذه الدرجة؟
أعلنت شركة أنثروبيك أن نموذجها الجديد قد اكتشف بالفعل آلاف الثغرات الأمنية “شديدة الخطورة” في مختلف قطاعات التكنولوجيا، بمستوى يفوق قدرة الخبراء البشريين.
إلى جانب أنها أعلنت عن شراكة جديدة مع أكثر من 40 شركة ومجموعة في “محاولة عاجلة” لسد هذه الثغرات قبل أن تتاح الفرصة للمخترقين.
كما وردت بعض الادعاءات بأن شركة أنثروبيك ربما تكون قد أخرت إطلاق لعبة ميثوس على نطاق واسع لعدم قدرتها على توفير القدرة الحاسوبية اللازمة . ولم ترد الشركة على استفساري بهذا الشأن أيضاً.
وأخيرًا، لا يعني هذا أن التهديد وهمي. يقول خلاف: “قد يكون ميثوس قادرًا على ذلك”. أدوات الذكاء الاصطناعي مناسبة تمامًا لفحص قواعد البيانات الضخمة، والكشف التلقائي عن الثغرات الأمنية خطر حقيقي وملموس.
لكن خلاف متشكك في مزاعم أنثروبيك لعدم قدرته على إثباتها. ويضيف: “أعتقد أن هناك ثغرات كثيرة في هذه الرواية التي تزعم أن ميثوس يتمتع بقوة مطلقة، وأنه لا يمكننا إطلاقه”.
المصدر: bbc