Home عربي يقوم Roblox بتوسيع ضوابط سلامة الأطفال، لكن الدردشة في الشرق الأوسط تظل...

يقوم Roblox بتوسيع ضوابط سلامة الأطفال، لكن الدردشة في الشرق الأوسط تظل متوقفة مع ظهور الذكاء الاصطناعي العربي | الوطنية

92
0

تقوم Roblox بمحاولة جديدة لطمأنة الآباء والمنظمين بأن نظامها الأساسي يمكن أن يصبح أكثر أمانًا للمستخدمين الأصغر سنًا. وفي الشرق الأوسط، حيث لا تزال الدردشة غير متاحة في معظم أنحاء المنطقة بعد حملة القمع التي شهدتها العام الماضي، لا تزال الشركة تحاول الإجابة على المخاوف التي دفعتها إلى ذلك.

أعلنت الشركة يوم الاثنين عن نوعين جديدين من الحسابات على أساس العمر لمن تقل أعمارهم عن 16 عامًا – Roblox Kids للأطفال الذين تتراوح أعمارهم بين 5 إلى 8 سنوات، وRoblox Select لأولئك الذين تتراوح أعمارهم بين 9 إلى 15 عامًا. ويربط النظام الوصول إلى المحتوى والرقابة الأبوية بشكل وثيق مع العمر الذي تم التحقق منه، مع تضييق ما يمكن للمستخدمين الأصغر سنًا رؤيته والقيام به على المنصة.

تأسست Roblox في عام 2004 وتم إطلاقها علنًا في عام 2006، وقد نمت Roblox من منصة ألعاب متخصصة إلى نظام بيئي واسع من العوالم التي يصنعها المستخدمون، حيث يصل إليها حوالي 144 مليون شخص يوميًا، ارتفاعًا من 97.8 مليون مستخدم نشط يوميًا في الربع الأول من عام 2025.

لقد تطورت المنصة إلى تحول اجتماعي خاص بها، وتحظى بشعبية خاصة لدى الجيل Z والجيل Alpha. ينتقل المستخدمون عبر ملايين “التجارب” التي أنشأها لاعبون آخرون، بدءًا من دورات العوائق وعوالم لعب الأدوار وحتى المساحات الاجتماعية والأحداث ذات العلامات التجارية. وهذا النطاق أساسي لشعبيتها وللأسئلة التي أعقبتها.

في شهر مارس، قالت هيئة تنظيم الاتصالات في المملكة المتحدة Ofcom إن المنصات الرئيسية بما في ذلك Roblox لا تزال بحاجة إلى ضمان أقوى للعمر و”حماية آمنة من الفشل” لمنع الغرباء من الاتصال بالأطفال عبر الإنترنت.

كما جادل الباحثون في Revealing Reality، الذين قاموا بفحص أنظمة السلامة في Roblox سابقًا، بأنه على الرغم من أن الشركة قد أجرت تحسينات، إلا أنه لا يزال بإمكان البالغين والأطفال التفاعل دون ما أسمته “الفصل الهادف”.

بالنسبة لمات كوفمان، كبير مسؤولي السلامة في Roblox، فإن التغييرات الأخيرة تعالج مشكلة كافحت الشركة لحلها لسنوات: يمكن للمستخدمين ببساطة إدخال عمر زائف عند التسجيل.

باستخدام النظام الجديد، ستتحقق المنصة من العمر من خلال تقدير عمر الوجه أو التحقق من الهوية، باستخدام هذه العملية لوضع المستخدمين الأصغر سنًا في أنواع الحسابات الجديدة.

تعمل عمليات التحقق من عمر الوجه عن طريق مطالبة المستخدمين بإجراء فحص مباشر للوجه، والذي يتم تحليله بعد ذلك بواسطة مزود التحقق بيرسونا لتقدير أعمارهم. وتقول الشركة إن الصور أو مقاطع الفيديو المستخدمة لهذه العملية يتم حذفها فورًا بعد المعالجة الآمنة.

يقول كوفمان: “قبل التحقق من العمر، إذا أخبرت المستخدمين أنه يجب أن يكون عمرهم 13 أو 16 أو 18 عامًا للوصول إلى شيء ما، فسيقومون فقط بإدخال العمر الذي يحتاجونه”. وطني. “الآن بعد أن أصبحت تكنولوجيا التحقق تعمل على نطاق واسع، يمكننا استخدامها للتحكم في كل من الاتصالات والمحتوى.”

بدأت Roblox في تقديم اختبارات العمر في العام الماضي لبعض الميزات، ثم قامت بتوسيعها في يناير لتغطية الاتصالات على نطاق أوسع.

وبموجب النظام الجديد عالميًا، سيتم تقييد المستخدمين الذين لم يكملوا التحقق من العمر بإصدار أضيق من النظام الأساسي، مع تعطيل الاتصال وتقييد الوصول إلى التجارب ذات التصنيف الأقل. سيتم وضع أولئك الذين يتحققون من أعمارهم في أنواع الحسابات التي تحدد الميزات والألعاب المتاحة لهم.

تتناول التحديثات العديد من الانتقادات التي وجهها الخبراء سابقًا. وقال مودريش شاه، مدير شركة Help AG للأمن السيبراني ومقرها الإمارات العربية المتحدة، العام الماضي: “إن التحدي المتمثل في التحقق من العمر عبر الإنترنت هو أنه من السهل التجاوز عن طريق إدخال تاريخ ميلاد مزيف”. “هناك أيضًا مخاطر تتعلق بالبيانات الشخصية، بسبب مخاوف الخصوصية وضعف الأمان، والأساليب غير المتسقة عبر الأنظمة الأساسية، مما قد يؤدي إلى ثغرات في الحماية.”

يقول كوفمان إن الهدف هو حماية المستخدمين الأصغر سنًا بطبيعتهم مع تسهيل فهم النظام الأساسي على الآباء. يدمج النظام الجديد أيضًا ضوابط أبوية أقوى، مما يسمح لهم بحظر المحتوى الذي لا يجدونه مقبولًا لأطفالهم بشكل فردي على أساس كل حالة على حدة.

يقول كوفمان: “لقد صممنا هذه الحسابات بحيث يكون المحتوى والميزات التي يمكن للطفل الوصول إليها متوافقة بشكل أكثر وضوحًا مع عمره”.

وتأتي أحدث دفعة للسلامة للشركة بعد فترة من الضغط الإقليمي الأوسع. قامت الكويت وقطر وتركيا بحظر لعبة Roblox في أغسطس 2025، بعد حظر سابق في عمان والأردن، بينما ظلت المملكة العربية السعودية والإمارات العربية المتحدة متاحة. ويقول أحد الممثلين إن الأردن والكويت استعادا إمكانية الوصول منذ ذلك الحين، ولم يتم فرض أي حظر آخر في المنطقة.

جاء تدخل دولة الإمارات العربية المتحدة في سبتمبر، عندما علقت Roblox الدردشة داخل اللعبة عبر البلدان الناطقة باللغة العربية في الشرق الأوسط بعد مناقشات مع المنظمين، بما في ذلك هيئة تنظيم الاتصالات والحكومة الرقمية. وجاءت هذه الخطوة في أعقاب مخاوف بشأن سلامة الأطفال، ولا سيما خطر تفاعل البالغين مع الأطفال على المنصة وصعوبة إدارة التواصل باللغة العربية.

يقول كوفمان: “ليس من المفاجئ أن تحظى لعبة Roblox بالكثير من الاهتمام، في الشرق الأوسط أو في أي مكان آخر”. “لدينا الملايين من المستخدمين يوميًا، والكثير منهم من الأطفال والمراهقين”.

يقول Roblox أن المستخدمين الأصغر سنًا سيظلون قادرين على الوصول إلى معظم الألعاب التي يلعبونها بالفعل، ولكن فقط بعد اجتياز هذه العناوين طبقات إضافية من المراجعة. يتضمن ذلك تقييمات المحتوى والتحقق من المطور والوقت المستغرق للشركة لتقييم كيفية تفاعل المستخدمين الأكبر سنًا مع اللعبة قبل إتاحتها على نطاق أوسع.

يعكس هذا الحذر طبيعة المصدر المفتوح للمنصة نفسها. إنها لا تعمل مع مكتبة ثابتة من العناوين، ولكن مع نظام بيئي في حركة مستمرة، حيث يتم إنشاء الألعاب التي ينشئها المستخدمون وتحديثها وإعادة تشكيلها طوال الوقت.

يقول كوفمان: “هناك الملايين من التجارب في Roblox التي يتم إنشاؤها باستمرار”.

ويشير إلى أن ما قد يبدو غير ضار عند الإطلاق، يمكن أن يصبح أكثر تعقيدًا بمجرد أن يبدأ المستخدمون في قضاء الوقت بداخله. ولهذا السبب يقول كوفمان إن لعبة Roblox تركز بشكل أكبر على كيفية تصرف الألعاب بمرور الوقت، وليس فقط على كيفية ظهورها للوهلة الأولى.

لكن في الشرق الأوسط، لا يزال السؤال الأكبر هو وظيفة الدردشة. وتقول Roblox إنها تعتزم استعادة الميزة في النهاية، لكن كوفمان لا يقدم جدولًا زمنيًا. ويقول إن الشركة لا تزال تركز في الوقت الحالي على تحسين أنظمة السلامة باللغة العربية اللازمة لإعادتها.

يقول: “لقد أوقفنا الدردشة العام الماضي لنمنح أنفسنا الوقت لتحسين تكنولوجيا السلامة باللغة العربية لدينا”. “هذا العمل لا يزال جاريا.”

يستخدم Roblox حاليًا ما يصفه كوفمان بنظام اعتدال ثلاثي الطبقات. الأول يعتمد على مطابقة الأنماط، مما يسمح للشركة بحظر الكلمات والعبارات الضارة بسرعة.

ويتم تدريب الثاني على الاتصالات السابقة وبلاغات المستخدمين لتحديد التحرش والتمييز وغيره من السلوكيات المسيئة.

ويستخدم الثالث أدوات نموذجية لغوية كبيرة لتقييم النية بمرور الوقت، بما في ذلك محاولات مشاركة المعلومات الشخصية.

وهذه الطبقة الأخيرة هي حيث يصبح التحدي الإقليمي أكثر تحديداً. يقول كوفمان إن اللغة العربية تظل أصعب في الاعتدال على نطاق واسع من اللغة الإنجليزية، خاصة عندما يكون الهدف هو فهم كيفية استخدام اللغة.

ويقول: “نحن مهتمون بشكل خاص بالنماذج العربية الأصلية التي لا تفهم اللغة العربية الفصحى فحسب، بل تفهم أيضًا الكلام العامي – وهي الطريقة التي يتحدث بها الأطفال فعليًا يومًا بعد يوم”.

ومن الممكن أن تلعب الجهود التكنولوجية التي تبذلها أبوظبي دوراً حيوياً. وتولي Roblox اهتمامًا وثيقًا بتطوير الذكاء الاصطناعي باللغة العربية، بما في ذلك العمل في جامعة محمد بن زايد للذكاء الاصطناعي، حيث تبحث عن طرق لتعزيز الاعتدال في المنطقة، على الرغم من عدم إقامة شراكات رسمية.

وإلى أن تقترب تكنولوجيا LLM العربية من نضج معادلاتها في اللغة الإنجليزية، ستظل الدردشة متوقفة على Roblox.

“نحن نحاول معرفة كيف يمكننا استخدام هذه التقنيات لتحسين أنظمتنا. ومع تحسنهم، لدينا بالتأكيد نية إعادة تشغيل الدردشة في الشرق الأوسط،» يقول كوفمان.

تهدف الضوابط العمرية إلى معالجة بعض المشكلات الأكثر إلحاحًا، ومحاولة إقناع الآباء والمنظمين بأن المنصة أصبحت أكثر قابلية للإدارة.

وفي الشرق الأوسط، لا يزال من غير الواضح ما إذا كانت الجهات التنظيمية ستعتبر هذه التطورات كافية دون تحقيق مزيد من التقدم في قضايا الدردشة التي خضعت للتدقيق في المقام الأول.