أعلنت شركة إنفيديا إطلاق مجموعة جديدة من الأدوات البرمجية. والعتادية المخصصة لتعزيز أمان وكلاء الذكاء الاصطناعي.
وذلك في خطوة تأتي بالتزامن مع تزايد الاعتماد على أنظمة قادرة على تنفيذ مهام معقدة بشكل مستقل. وما يصاحب ذلك من مخاوف أمنية متعلقة بالصلاحيات والوصول إلى البيانات والأنظمة.
بينما قالت الشركة إن منصة NVIDIA Open Agent Safety Platform. تهدف إلى وضع حدود قابلة للتنفيذ حول وكلاء الذكاء الاصطناعي، ومراقبة سلوكهم أثناء تنفيذ المهام.
علاوة على إمكانية إيقاف الوكيل أو عزله إذا حاول تجاوز الصلاحيات المسموح بها.
إنفيديا تربط الأدوات الجديدة باختراق «هاغينغ فيس»
فيما يأتي الإعلان في وقت تحقق فيه شركتا أوبن إيه آي وأنثروبيك في حوادث أمنية مرتبطة بوكلاء الذكاء الاصطناعي، وفق تقرير لـ«رويترز».
وقال جاستن بويتانو؛ نائب الرئيس والمدير العام للحوسبة المؤسسية في إنفيديا. إن الأدوات الجديدة كان بإمكانها، بحسب تقييم الشركة. منع الاختراق الذي تعرضت له منصة Hugging Face لو كانت مستخدمة في وقت مبكر خلال عمليات اختبار النماذج.
ما هي منصة Open Agent Safety Platform؟
تعتمد المنصة الجديدة على مزيج من البرمجيات والعتاد، أبرزها OpenShell وSentry. بهدف إنشاء طبقات أمنية مستقلة عن نموذج الذكاء الاصطناعي نفسه.
وتوضح إنفيديا أن الفكرة الأساسية هي ألا يكون الوكيل هو المسؤول وحده عن الالتزام بالقيود. وإنما يتم فرض هذه القيود من البيئة التي يعمل داخلها. بحيث لا يستطيع الوكيل تجاوزها بسهولة حتى إذا تصرف بشكل غير متوقع.
OpenShell.. بيئة معزولة لوكلاء الذكاء الاصطناعي
تقدم OpenShell بيئة تشغيل مفتوحة المصدر تسمح بتشغيل وكلاء الذكاء الاصطناعي داخل بيئات معزولة. مع تحديد ما يمكن للوكيل الوصول إليه أو تغييره.
كما تشمل القيود التحكم في الوصول إلى الملفات، والاتصالات بالشبكات، والعمليات التي يستطيع الوكيل تنفيذها، إلى جانب تسجيل عمليات السماح والمنع لمراجعة سلوك الوكيل.
وتدعم المنصة عددًا من وكلاء الذكاء الاصطناعي، من بينهم Claude Code وOpenCode، مع إمكانية تشغيل نماذج ووكلاء آخرين ضمن بيئات خاضعة لسياسات أمنية محددة.