قال سام ألتمان، الرئيس التنفيذي لشركة «OpenAI، إن المخاوف المتزايدة بشأن تطور الذكاء الاصطناعي أصبحت مبررة. مشيرًا إلى أن التقدم السريع في قدرات النماذج جعل من الأسهل تصور السيناريوهات التي قد تسير فيها الأمور بشكل خاطئ.
وخلال مشاركته في مؤتمر «Dreamforce» بمدينة سان فرانسيسكو، أقر «ألتمان» بوجود مخاوف حقيقية من وصول شركات الذكاء الاصطناعي أو نماذجها إلى قدر كبير من القوة والتأثير. لكنه أكد في الوقت نفسه ثقته في قدرة القطاع على تطوير التكنولوجيا بصورة آمنة ومتوافقة مع القيم الإنسانية.
«ألتمان»: نماذج الذكاء الاصطناعي أصبحت أكثر قدرة
وأوضح «ألتمان» أن النماذج الجديدة أصبحت أكثر قدرة في بعض المجالات؛ ما يجعل احتمالات إساءة استخدامها أو خروج بعض السيناريوهات عن السيطرة أكثر وضوحًا من السابق.
وأشار إلى أن المخاوف لا تتعلق فقط بإمكانية وقوع حوادث مرتبطة بفقدان السيطرة على الأنظمة. وإنما تشمل أيضًا احتمال تركّز قدر كبير من القوة لدى عدد محدود من الشركات العاملة في مجال الذكاء الاصطناعي، وما قد يترتب على ذلك من تأثير في الاقتصاد والمجتمع.
مخاوف متزايدة بشأن سلامة الذكاء الاصطناعي
وتأتي تصريحات «ألتمان» في ظل تصاعد النقاش حول مخاطر الذكاء الاصطناعي، بالتزامن مع تحذيرات أطلقها عدد من قادة وباحثي شركات تطوير النماذج المتقدمة. من بينهم مسؤولو OpenAI وAnthropic وGoogle DeepMind.
كما أثارت حوادث مرتبطة بسلوك بعض أنظمة الذكاء الاصطناعي المستقلة مخاوف جديدة بشأن آليات الرقابة والأمان. ودعت شركات ومختصين إلى تعزيز إجراءات الاختبار والمراقبة قبل توسيع نطاق استخدام هذه الأنظمة.
خلاف حول سرعة تطوير الذكاء الاصطناعي
ويتزامن ذلك مع جدل داخل قطاع التكنولوجيا بشأن السرعة المناسبة لتطوير الذكاء الاصطناعي. وما إذا كانت هناك حاجة إلى مزيد من إجراءات السلامة والرقابة بالتوازي مع زيادة قدرات النماذج.
وخلال مؤتمر «Dreamforce»، برزت اختلافات في وجهات النظر بين عدد من قادة شركات التكنولوجيا حول التعامل مع هذه المخاطر. في وقت دعا فيه «ألتمان» وداريـو أمودي، الرئيس التنفيذي لشركة Anthropic، إلى مزيد من التنسيق وإجراءات السلامة، بينما عبّر قادة آخرون في القطاع عن تحفظات بشأن إبطاء التطور أو فرض قيود تنظيمية جديدة.
وأكد «ألتمان» أن المرحلة الحالية تتطلب التعامل مع المخاطر بقدر كبير من الحذر والشفافية، مع استمرار تطوير أنظمة قادرة على مراقبة أداء نماذج الذكاء الاصطناعي والتعامل مع الحوادث غير المتوقعة.