مع التطور المتسارع لقدرات نماذج الذكاء الاصطناعي، لم تعد المنافسة بين شركات التكنولوجيا الكبرى تقتصر على تطوير نماذج أكثر ذكاءً، بل امتدت إلى معركة جديدة حول كيفية تحقيق التوازن بين الأمان والخصوصية.
فكلما أصبحت أدوات الذكاء الاصطناعي أكثر قوة وانتشارًا. زادت المخاوف من استغلالها في أنشطة ضارة. مثل الهجمات الإلكترونية أو تطوير برمجيات خبيثة. وهو ما دفع الشركات إلى البحث عن آليات رقابية أكثر تطورًا. دون التضحية بسرية بيانات المستخدمين والعملاء.
وفي هذا السياق. كشفت OpenAI عن توجه جديد يهدف إلى تعزيز حماية الخصوصية أثناء مراقبة إساءة استخدام نماذج الذكاء الاصطناعي. من خلال خدمة تجريبية تحمل اسم Private Safety Processing. تُختبر حاليًا مع عدد محدود من العملاء.
تقنية جديدة لمراقبة المخاطر دون تخزين البيانات
تعتمد فكرة Private Safety Processing على إنشاء نظام آلي قادر على رصد مؤشرات الاستخدامات الضارة. مع عدم الاحتفاظ ببيانات العملاء أو محادثاتهم. في محاولة للجمع بين متطلبات الأمان واحتياجات المؤسسات التي تتعامل مع معلومات حساسة.
تسعى التقنية الجديدة إلى معالجة أحد أكبر التحديات التي تواجه شركات الذكاء الاصطناعي حاليًا. كيف يمكن اكتشاف السلوكيات الخطرة دون الوصول الكامل إلى بيانات المستخدمين أو تخزينها لفترات طويلة؟
بحسب الشركة، يمكن للنظام تحليل أنماط الاستخدام عبر جلسات متعددة. بدلًا من الاكتفاء بمراجعة محادثة واحدة فقط. ما يساعد على اكتشاف محاولات التحايل التي قد يلجأ إليها بعض المستخدمين لتجنب أنظمة الحماية.
مواجهة غير مباشرة لسياسات Anthropic
يأتي تحرك OpenAI في وقت تتزايد فيه المنافسة مع Anthropic. خاصة فيما يتعلق بسياسات التعامل مع بيانات المستخدمين.
كانت Anthropic قد أعلنت سياسة احتفاظ بالبيانات تشمل بعض النماذج. حيث تحتفظ الشركة ببعض جلسات المستخدمين لفترة محددة لأغراض تتعلق بالسلامة ومراجعة الاستخدامات المحتملة للأنشطة الضارة.
أثارت هذه السياسة نقاشًا بين بعض المؤسسات. خصوصًا الشركات التي تعتمد على الذكاء الاصطناعي في معالجة بيانات حساسة. إذ تخشى من تخزين معلوماتها خارج أنظمتها أو مراجعتها من جهات خارجية.
في المقابل، تحاول OpenAI توسيع نهج الاحتفاظ الصفري بالبيانات (Zero Data Retention). الذي يهدف إلى تقليل تخزين بيانات العملاء مع توفير آليات لمراقبة إساءة الاستخدام.
اكتشاف الهجمات الإلكترونية دون قراءة المحادثات
ترى OpenAI أن التقنية الجديدة يمكن أن تساعد في مواجهة سيناريوهات معقدة. مثل محاولات تنفيذ هجمات إلكترونية عبر توزيع الطلبات الضارة على عدة جلسات مختلفة بهدف تفادي أنظمة الكشف التقليدية.
فبدلًا من مراجعة المحادثات يدويًا. يعتمد النظام على وكيل آلي يبحث عن مؤشرات محددة على وجود نشاط غير طبيعي. وفي حال رصد خطر محتمل. يمكن إرسال إشارة أمنية دقيقة إلى الشركة لاتخاذ الإجراءات المناسبة.
وقد تشمل هذه الإجراءات التواصل مع العميل أو المؤسسة لفهم طبيعة النشاط، أو التعاون لمعالجة المشكلة. مع إمكانية مشاركة البيانات من جانب العميل بشكل اختياري إذا تطلب الأمر ذلك.
مراجعة بشرية محدودة لدى Anthropic
من جانبها، تؤكد Anthropic أن أي مراجعة بشرية لبيانات العملاء تتم وفق ضوابط مشددة. ومن خلال مسارات وصول محددة تقتصر على عدد محدود من المراجعين المعتمدين.
كما تشير الشركة إلى أن عمليات المراجعة تخضع للتسجيل والحماية لمنع التلاعب بها. بهدف ضمان أعلى مستويات الرقابة عند التعامل مع بيانات المستخدمين.
معركة جديدة في سوق الذكاء الاصطناعي
يعكس إطلاق Private Safety Processing تحولًا جديدًا في المنافسة بين شركات الذكاء الاصطناعي. إذ لم تعد الأفضلية مرتبطة فقط بسرعة النماذج أو قدراتها. بل أصبحت مرتبطة أيضًا بقدرتها على تقديم حلول آمنة تحافظ على ثقة المستخدمين.