مع وصول حجم سوق برمجيات التزييف العميق العالمي إلى 72.41 مليون دولار في عام 2023. قد تحتاج الشركات إلى الانتباه إلى نقاط القوة والمخاطر التي تنطوي عليها التزييف العميق. فقد تكون مفيدة في بعض المواقف، ولكنها قد تؤدي أيضًا إلى عمليات احتيال وإلحاق الضرر بالسمعة.
تلاعب التزييف العميق
التزييف العميق (Deepfake) هو نوع من التلاعب بالصور أو مقاطع الفيديو باستخدام الذكاء الاصطناعي لإنشاء فيديو أو صورة وهمية لشخص أو شيء ما. يمكن استخدام التزييف العميق لإنشاء مقاطع فيديو مزيفة لشخصيات عامة أو لإنشاء محتوى مضلل أو تشهيري.
مخاطر الذكاء الاصطناعي
مهما كان الأمر، فالحقيقة هي أن التقدم في الذكاء الاصطناعي أدى إلى تعميق الجذور وتسريع انتشار التزييف العميق. مع وصول حجم سوق برمجيات التزييف العميق العالمي إلى 72.41 مليون دولار في عام 2023. ومن المتوقع أن يصل إلى 1.2 مليار دولار في عام 2032، هناك فرصة كبيرة لاستمرار مشهد التزييف العميق في النمو من حيث التطور والاستخدام. ومثل كل ابتكار تكنولوجي، ستوفر لنا تقنية التزييف العميق ازدواجية في الاستخدام: الجوانب الإيجابية والخطرة.
لمعرفة المزيد اقرأ:
الجانب الخطير من التزييف
أظهر استطلاع حديث أنه بحلول عام 2024، سيكون حوالي 95% من المستهلكين في الولايات المتحدة قد وقعوا ضحية للتزييف العميق.
حذرت وكالة الأمن القومي الأمريكية ومكتب التحقيقات الفيدرالي ووكالة الأمن السيبراني والبنية التحتية، في تقرير حديث. من أن هناك خطرًا كبيرًا ينشأ من سوء استخدام التزييف العميق (PDF). مشددين على أن هذا يمكن أن يعرض العلامة التجارية لمنظمة ما للخطر ويمكن استخدامه لـ تقليد الشخصيات الرئيسية مثل القادة والمسؤولين الماليين للاتصالات الخادعة.
وذكرت بلومبرج مؤخرًا أن بعض مقاطع الفيديو المستخدمة لتصوير ضحايا المأساة بلغات مختلفة حول الحرب بين حماس وإسرائيل هي مقاطع مزيفة. مشيرة إلى أن TikTok تكافح من أجل إزالتها.
خداع مدير فرع في هونغ كونغ
في تقريرها عن تهديدات Deepfake لعام 2023، شاركت KPMG حادثة تم فيها خداع مدير فرع في هونغ كونغ لتحويل 35 مليون دولار من أموال الشركة إلى المحتالين. اعتقد المدير أنه كان يتبع أوامر رئيسه عبر الهاتف، لكن تبين أن الأمر كان عملية احتيال. استخدم المحتالون الذكاء الاصطناعي لاستنساخ صوت المشرف، مما أدى إلى خسارة مالية كبيرة للشركة.
هناك أمثلة أخرى للتزييف العميق على الإنترنت تستهدف شخصيات عامة، مثل الفيديو الذي تم تداوله على وسائل التواصل الاجتماعي في منتصف العام الماضي ويظهر بشكل مخادع فولوديمير زيلينسكي، رئيس أوكرانيا، وهو يعلن الاستسلام.
في حين أن السيناريوهات المذكورة أعلاه تبدو وكأنها بعض الإيقاع المروع، إلا أن كل الأمل لم يفقد. حيث أن هناك بعض الجوانب الإيجابية لاستخدام التزييف العميق التي يمكن للمؤسسات الاستفادة منها.
فوائد التزييف
على الرغم من المخاطر الواضحة التي تشكلها التزييف العميق. لا يزال بعض الخبراء يعتقدون أن المنظمات يمكنها الاستفادة بشكل فعال من الفوائد مع التخفيف من المخاطر المرتبطة بها.
يفتح استخدام تقنيات التزييف العميق إمكانيات مختلفة، مثل تعزيز سيناريوهات التدريب القائمة على المحاكاة دون إشراك أفراد حقيقيين. وإنشاء محتوى السوق، كما يقول تيم جرين، كبير مسؤولي العمليات في GoTeamUp.
صعوبة اكتشافه
نظرًا للتقدم في مجال الذكاء الاصطناعي، يعد اكتشاف التزييف العميق أحد أصعب الأشياء التي يجب القيام بها. على الرغم من وجود أدوات للكشف عن التزييف العميق مثل Intel Real-Time Deepfake Detector وSentinel وWeverify. إلا أن الإحصائيات لا تزال تظهر أن التزييف العميق شكلت معظم تقنيات الاحتيال المدعومة بالذكاء الاصطناعي التي سجلتها الشركات في عام 2023.
وهذا يؤكد عدم القدرة على نطاق واسع على اكتشاف التزييف العميق بدقة عالية. ردًا على ذلك، أشارت هيذر لوري، رئيسة أمناء أمن المعلومات بجامعة مانشستر، إلى أن “التهديدات الصادرة عن الوسائط الاصطناعية. مثل التزييف العميق، تمثل تحديًا متزايدًا، ولا يزال اكتشافها يمثل تحديًا كبيرًا للجمهور”.
وأضافت: سنحتاج إلى تطوير تدابير فعالة لكشف ومنع والرد على تهديدات التزييف العميق والهجمات على سلامة المعلومات. تلعب حملات التثقيف والتوعية دورًا مهمًا في مكافحة تهديد التزييف العميق. يمكننا أن نتوقع رؤية أطر قانونية وأخلاقية جديدة يتم تطويرها حول تقنية التزييف العميق في عام 2024.
نصائح لاكتشاف التزييف
- قم بإجراء تحليل مرئي للمحتوى الذي تشاهده. غالبًا ما تنتج التزييفات العميقة التي تم إنشاؤها باستخدام مولدات الصور أصابعًا “متزعزعة” ولطخات وأشياء غريبة أخرى غير موجودة في الصور الأصلية.
- انظر إلى العيون. غالبًا ما تحتوي مقاطع الفيديو المزيفة العميقة على أنماط وميض غير منتظمة أو تفتقر إلى انعكاسات الضوء في كلتا العينين.
- قم بالتكبير. ابحث عن الحالات الشاذة الرقمية، وألوان البشرة الغريبة، واللطخات بين الوجوه والخلفيات.
- تقييم جودة الحركة. ابحث عن الحركات الآلية، وقلة حركة اللسان، وعدم تطابق الشفاه.
- التأكد من أن الفيديو أو المقطع الصوتي يأتي من مصدر معروف وموثوق.
- ابدأ محادثات هاتفية مع زملائك باستخدام كلمات مرور سرية أو أسئلة خاصة. إذا لم يتمكن المتحدث من الإلزام، فقد يكون ذلك بمثابة استنساخ صوتي.
التسلح بالمعرفة
على الرغم من أن تقنيات الكشف عن التزييف العميق يجري تطويرها ببعض النجاح، إلا أنها ليست بالسرعة التي يمضي بها المحتالون قدمًا في الاستخدامات الخادعة. يجب على المنظمات والأفراد تسليح أنفسهم بالمعرفة والمهارات لتجنب الوقوع ضحية لهجمات التزييف العميق الضارة.
اقرأ أيضا: