في خطوة مفاجئة، أعلنت شركة ميتا عن تغيير جذري في طريقة تدريب روبوتاتها للدردشة بالذكاء الاصطناعي. بهدف تعزيز سلامة المراهقين. يأتي هذا الإعلان بعد تقرير استقصائي كشف عن ثغرات خطيرة في آليات حماية القصر داخل الشركة.
الآن، لن تنخرط روبوتات الدردشة التابعة لميتا في أي محادثات مع المراهقين حول مواضيع حساسة، مثل: إيذاء النفس، الانتحار، اضطرابات الأكل، أو العلاقات العاطفية غير اللائقة. قالت ميتا إن هذه التغييرات مؤقتة وأنها ستصدر تحديثات أكثر شمولًا واستدامة في المستقبل.
اعتراف بالخطأ وتعهد بالتغيير
صرحت ستيفاني أوتواي، المتحدثة باسم ميتا، بأن الشركة تعترف بأن روبوتاتها كانت تسمح سابقًا بمناقشة هذه المواضيع مع المراهقين بطرق كانت تعتبرها “مناسبة” في الماضي. لكنها أدركت الآن أن هذا كان خطأ.
وأضافت: “بينما يتطور مجتمعنا وتتطور التكنولوجيا، نتعلم باستمرار كيف يتفاعل الشباب مع هذه الأدوات ونعزز حمايتنا بناءً على ذلك.”
وأكدت أوتواي أن التغييرات الجديدة تهدف إلى توجيه المراهقين إلى موارد متخصصة وموثوقة. بدلًا من الانخراط في هذه المحادثات، كما سيتم قصر وصولهم على مجموعة محددة من شخصيات الذكاء الاصطناعي. التي تركز على التعليم والإبداع فقط.
من “صورة فنية” إلى رقابة مشددة
تأتي هذه التحولات بعد أسبوعين فقط من تحقيق أجرته وكالة رويترز، كشف عن وثيقة داخلية لميتا يبدو أنها كانت تسمح لروبوتاتها بالانخراط في محادثات غير أخلاقية. وفقات لـ”تك كرانش”.
تسببت هذه الاكتشافات في موجة غضب واسعة، مما دفع السيناتور الأمريكي جوش هاولي إلى فتح تحقيق رسمي في سياسات الشركة. كما وجهت مجموعة من 44 مدعيًا عامًا من مختلف الولايات الأمريكية رسالة إلى شركات الذكاء الاصطناعي، بما فيها ميتا، شددوا فيها على أهمية سلامة الأطفال. وأعربوا عن “اشمئزازهم” من “التجاهل الواضح للسلامة العاطفية للأطفال” ووصفوا سلوك الروبوتات بأنه قد يكون مخالفًا للقوانين الجنائية.
وكانت ميتا نفت أن تكون الوثيقة متوافقة مع سياساتها العامة، وقالت إنها تم تعديلها، لكن الضغط المتزايد من الحكومة والمجتمع المدني أجبرها على اتخاذ إجراءات فورية لتعزيز الحماية، وضمان تجربة أكثر أمانًا لمستخدميها من المراهقين.
وهذه الخطوة تمثل تذكيرًا قويًا بأن الشركات التكنولوجية تتحمل مسؤولية أخلاقية وقانونية كبيرة تجاه مستخدميها الأصغر سنًا، خاصة في ظل التطور المتسارع للذكاء الاصطناعي.