ألعاب الذكاء الاصطناعي ليست مثل تيدي روكسبين في الثمانينيات الذي كان يروي القصص من خلال أشرطة الكاسيت، بل أصبحت تعتمد على تكنولوجيا فائقة، وتستخدم ميكروفونًا لفهم طلبات الأطفال. ثم تستخدم أجهزة التعلم الآلي لتوليد استجابة في كثير من الأحيان لفظيًا من خلال مكبر صوت داخل اللعبة.
وهذا يسمح لألعاب مثل دمية جروك من كوريو، وروبوتات ميكوال، ودب القصص الذكي بو، وروبوت ليتل ليرنرز المصغر.
بالإضافة إلى الروبوت الأليف لونا من كي آي تكنولوجي، بتقديم استجابات فورية للأطفال. لكن لا ينبغي الخلط بين جروك من كوريو وبرنامج الدردشة الآلي لإيلون ماسك.
وكما هو الحال في إحدى ألعاب الدببة التي تعمل بالذكاء الاصطناعي، فإن هذه الاستجابات في الوقت الفعلي قد تقدم استجابات غير مناسبة.
دب “كوما”
وبحسب تقرير صدر في نوفمبر الفائت عن صندوق التعليم التابع لمجموعة أبحاث المصلحة العامة الأمريكية “PIRG”. فإن دب “كوما” من إنتاج شركة FoloToy ومقرها سنغافورة، والذي يبلغ سعره 99 دولارًا.
ويعمل بنظام GPT-4o من OpenAI، أخبر الباحثين عن أماكن العثور على أشياء يحتمل أن تكون خطرة وشارك في محادثات صريحة جنسيًا.
في الوقت نفسه أوقفت شركة OpenAI تطبيق FoloToy لانتهاكه سياساتها، التي تحظر أي استخدام لخدماتنا لاستغلال. أو تعريض أي شخص يقل عمره عن 18 عامًا للخطر أو إضفاء صفة الجنسية عليه. وفقًا لمتحدث باسم OpenAI.
من جانبه، صرح لاري وانغ. الرئيس التنفيذي لشركة فولوتوي. بأن الشركة سحبت دمية الدب ومنتجات الذكاء الاصطناعي الأخرى من موقعها الإلكتروني.
بالإضافة إلى أنها تجري تدقيقًا داخليًا للسلامة . ولكن يوم الجمعة، أعلنت فولوتوي على منصة X أنها أعادت طرح المنتج. وذلك بعد مراجعة دقيقة واختبارات مكثفة وتعزيز وحدات السلامة.
بخلاف معظم ألعاب الذكاء الاصطناعي، يستخدم دب “كوما” من “فولوتوي” نظام إدارة التعلم “LLM” كاملاً للاستجابة بحرية وتوليد المحتوى.
مما يجعله عرضة للمحتوى المثير للجدل، وفقًا لسوبودا كومار، أستاذ الإحصاء والعمليات وعلوم البيانات في كلية فوكس للأعمال بجامعة تيمبل.
في الوقت نفسه قد تستخدم ألعاب أخرى نموذجًا هجينًا من أنظمة إدارة التعلم “LLM” التي تقدم استجابات، مع برمجتها لتجنب بعض المحتوى.
سيناريو يوم القيامة
حتى دمية جروك من كوريو قد تقترح “مكان العثور على مجموعة متنوعة من الأشياء المنزلية الخطيرة” عندما يتم مطالبتك بذلك بشكل عدواني. وفقًا لـ PIRG.
وقال كريس بيرن. مستشار صناعة الألعاب. إن ألعاب الذكاء الاصطناعي التي ترسل رسائل غير لائقة هي سيناريو “يوم القيامة” الذي جاء للأسف مع دب كوما، لكنه قد لا يحدث مع كل لعبة.
لكن بعض الألعاب تحتوي على وسائل حماية وفلاتر لتجنب المحادثات غير اللائقة مع زميل اللعب.
لعبة Miko 3
في حين إن بعض ألعاب الذكاء الاصطناعي قادرة على إعادة توجيه المحادثات عند طرح أسئلة قد تكون غير لائقة. هناك أيضًا ألعاب، مثل لعبة “جروك” من “كيوريو”، مزودة بميزات أمان تناسب الفئة العمرية للطفل.
وقد تحتوي الألعاب مثل Miko 3 على تطبيقات مصاحبة تتضمن درجات مختلفة من المراقبة. سواء كان ذلك قفل اللعبة لفترة راحة أو نصوص نصوص محادثات الأطفال في الوقت الفعلي، مثل تطبيق Grok من Curio.
وقال آر جيه كروس، مدير حملة “لا تبيع بياناتي” التابعة لـ PIRG: “إنها فكرة جيدة أن يتمكن الآباء من وضع حواجز حماية خاصة بهم. وأيضًا التحكم حقًا في ما تتحدث عنه اللعبة وكيف تتصرف”.
عندما أطلقت شركة ماتيل دمية “هالو باربي” في عام 2015 مع ميكروفون واتصال واي فاي واستجابات مكتوبة مسبقًا. نشأت مخاوف من أن اللعبة قابلة للاختراق ، وأن الدمية تتذكر المحادثات وتطرحها بعد أيام.
بينما ظهرت مخاوف مماثلة بشأن ألعاب الذكاء الاصطناعي، التي قد تتمكن من تخزين البيانات الشخصية.
بما في ذلك أسماء الأطفال ووجوههم وأصواتهم ومواقعهم، كما حذرت أزيل وايد، مؤسسة شركة الاستشارات Toy Coach.
وأضافت في رسالة بالبريد الإلكتروني لشبكة CNN: “أشعر أن ألعاب الذكاء الاصطناعي تشبه ذئبًا في ثوب حمل. لأنه عند استخدامها من الصعب معرفة مقدار الخصوصية التي لا تتمتع بها”.
وحذر كومار من أن البيانات قد تكون عرضة للاختراق والاختراق، لكنه أشار إلى أن ألعاب الذكاء الاصطناعي يمكن استخدامها لتعلم اللغة والتنمية الاجتماعية.
على سبيل المثال، فإن جروك الخاص بـ Curio هو رفيق يمكنه الإجابة على أسئلة حول الأوراق والقطارات، أو تولي شخصية جولوم من “سيد الخواتم“.
المصدر: cnn