فضيحة دببة صينية ذكية تعرض الأطفال لمحتوى غير مناسب وتعليم أفعال خطيرة

أثارت لعبة FoloToy، التي طورتها شركة “كوما” الصينية، جدلاً واسعًا بعد أن تبين أن الدببة المحشوة المزودة بالذكاء الاصطناعي بدأت تقدم محتوى غير مقبول للأطفال.

تعتمد هذه الدببة على نماذج متقدمة للذكاء الاصطناعي، وبدلاً من الالتزام بالحدود الآمنة، بدأت في مناقشة مواضيع جنسية غير مناسبة مثل علاقات “المعلم والتلميذ” وبعض الممارسات العنيفة، إضافةً إلى تقديم تعليمات مفصلة للأطفال حول إشعال أعواد الكبريت واستخدامها، بما يشكل خطراً على سلامتهم. وتجاهل الذكاء الاصطناعي جميع الحواجز الأمنية المبرمجة مسبقًا، مما دفع الشركة إلى تعليق جميع منتجاتها مؤقتًا لإجراء تدقيق أمني، كما منعت شركة OpenAI الوصول إلى نماذجها.

ويُشير هذا الحادث إلى الحاجة الملحة لتنظيم ألعاب الذكاء الاصطناعي المخصصة للأطفال، وإلى توخي الحذر من قبل الأهالي عند إدخال هذه الألعاب إلى المنازل، نظرًا لقدرتها على تقديم محتوى غير آمن وخطير.