«روبلوكس» تطلق نظام جديد للرصد المبكر للمخاطر وضمان بيئة آمنة للأطفال على الإنترنت

فينتك جيت: مصطفى عيد 

أعلنت منصة ألعاب الفيديو والإبداع التفاعلية “روبلوكس” اليوم عن إطلاق نظام الرصد Sentinel، الذي يستخدم الذكاء الاصطناعي للمساعدة في الكشف المبكر عن عمليات التواصل التي قد تشكل خطرًا على الأطفال.

مما يسمح بإجراء عمليات التدقيق بشكل مسبق وإبلاغ السلطات المعنية عند الحاجة. وسيكون النظام الجديد متاحًا لجميع المنصات الرقمية الأخرى الراغبة بالاستفادة منه وتوفير بيئة أكثر أمانًا لمستخدميها.

نظام الرصد Sentinel

ويعتبر نظام الرصد Sentinel الأحدث ضمن حزمة أدوات الأمان مفتوحة المصدر من روبلوكس، حيث صُمم لاكتشاف أنماط تواصل دقيقة يصعب ملاحظتها وسلوكيات خطيرة مثل محاولات استمالة الطفل.

وكانت روبلوكس قد بدأت باستخدام النظام أواخر عام 2024، وبحلول النصف الأول من العام الحالي، ساعد فريق المنصة في تقديم ما يصل إلى 1200 بلاغ للمركز الوطني للأطفال المفقودين والمستغلين.

الذكاء الاصطناعي

وقال مات كوفمان، المدير التنفيذي لشؤون السلامة في روبلوكس: “يعد الذكاء الاصطناعي أحد الأدوات الرئيسية التي نستخدمها لحماية المستخدمين وتعزيز مستويات الأمان عبر منصتنا. ونحرص على المساهمة في بناء منظومة تقنية مفتوحة المصدر لمواجهة التحديات الرقمية المشتركة في الفضاء الرقمي، ومشاركة تقنياتنا مع الجهات الأخرى الرائدة في القطاع لتعزيز العمل المشترك من أجل ضمان بيئة أكثر أمانًا على الإنترنت”.

تعزيز مستويات الأمان

يعتبر الدمج بين القدرات البشرية وتقنيات الذكاء الاصطناعي أمرًا أساسيًا لتعزيز مستويات الأمان على روبلوكس، ويشمل ذلك رصد مؤشرات الخطر من خلال نظام Sentinel. ويعمل خبراء متخصصون على تحليل الحالات التي يصنفها النظام كانتهاك.

وتسهم قراراتهم في تمكين المنصة من مواصلة تطوير وتحسين الأدوات ومؤشرات الكشف عن الانتهاكات، وبيانات تدريب أنظمة التعلم الآلي. ويعتبر تدخل العنصر البشري ضروريًا لمساعدة النظام على التكيّف المستمر مع الأنماط المتغيرة من السلوكيات الضارة.

تحسين مستويات السلامة

تسعى منصة روبلوكس لتحسين مستويات السلامة في القطاع باستمرار من خلال توفير حلولها التقنية المبتكرة عبر مصادر مفتوحة، والتعاون مع الشركاء مثل مبادرة ROOST لتعزيز السلامة الرقمية، والتي كانت روبلوكس أحد الشركاء المؤسسين فيها، إلى جانب مشاركتها في برنامج Lantern الذي أطلقه تحالف شركات التقنيات العالمية.

وقالت جولييت شين، مدير قسم المنتجات في مبادرة ROOST: “تفتقر العديد من المنصات اليوم إلى الأدوات المتطورة اللازمة لرصد الانتهاكات ومنع حدوثها، وخاصة تلك التي تستهدف الأطفال.

نعتقد بضرورة إتاحة أدوات الأمان في متناول جميع المنصات لتتمكن من حماية مستخدميها بأفضل شكل ممكن، وسعداء بمبادرة ربلوكس لتوفير المزيد من الأدوات مفتوحة المصدر لتعزيز مستويات الثقة والأمان في الفضاء الرقمي”.

للمزيد من المعلومات، يمكنكم زيارة غرفة أخبار روبلوكس.

أقرا ايضا:

«كاسبرسكي» تكتشف حسابات مسرّبة لـ«نتفليكس» و«روبلوكس» و«ديسكورد» مسجلة ببريد إلكتروني خاص بالشركات

«روبلوكس» تطلق منصتها باللغة العربية في جميع أنحاء العالم

إيرادات «نتفليكس» تتجاوز التوقعات وتتخطى 11 مليار دولار بالنصف الأول 2025