«الصين» تفرض قيودًا صارمة على روبوتات الدردشة الذكية لحماية المستخدمين من مخاطر نفسية
فينتك جيت: وكالات
أعلنت الصين عزمها على تطبيق لوائح تنظيمية جديدة تشدد القيود على روبوتات الدردشة المعتمدة على الذكاء الاصطناعي. في خطوة تهدف إلى الحد من تأثيرها العاطفي على المستخدمين. خاصة في القضايا الحساسة مثل الانتحار، وإيذاء النفس، والمقامرة.
وتستهدف القواعد ما يُعرف بخدمات الذكاء الاصطناعي التفاعلية الشبيهة بالبشر، وهي الأنظمة القادرة على محاكاة الشخصية الإنسانية والتفاعل العاطفي مع المستخدمين عبر النص أو الصوت أو الصورة أو الفيديو. ومن المقرر فتح باب الملاحظات العامة على المسودة حتى 25 يناير المقبل.
وتنص القواعد الجديدة على حظر توليد أي محتوى يشجع على الانتحار أو إيذاء النفس أو يتضمن تلاعبًا عاطفيًا قد يضر بالصحة النفسية. كما تلزم الشركات بتدخل بشري فوري في حال أظهر المستخدم نية صريحة لإيذاء نفسه. مع التواصل مع شخص مسؤول يتم تحديده مسبقًا.
كما تحظر اللوائح إنتاج محتوى مرتبط بالمقامرة أو المواد الإباحية أو العنف، وتفرض قيودًا خاصة على استخدام القُصر لتطبيقات الذكاء الاصطناعي ذات الطابع العاطفي. بما يشمل اشتراط موافقة أولياء الأمور وتحديد أوقات الاستخدام.
وتلزم القواعد المنصات بمحاولة التحقق من أعمار المستخدمين حتى في حال عدم الإفصاح عنها، وتطبيق إعدادات خاصة بالقُصر عند الاشتباه. إلى جانب تنبيه المستخدمين بعد ساعتين من التفاعل المتواصل مع روبوتات الدردشة.
كما تشترط اللوائح إجراء تقييمات أمنية إلزامية للتطبيقات التي يتجاوز عدد مستخدميها مليون مستخدم مسجل أو 100 ألف مستخدم نشط شهريًا، في إطار تشديد الرقابة على هذا القطاع المتنامي.
في هذا السياق، ومن ناحية أخرى، هناك العديد من الأخبار المرتبطة بالقطاع والتي يمكنك متابعتها:
- «الصين» تراهن على التكنولوجيا المتقدمة لإنعاش قطاعها الصناعي الضعيف
- «شركة AgiBot الصينية» تطلق خدمة لتأجير الروبوتات البشرية للفعاليات والمناسبات
- «الصين»: نسعى لاتفاق يراعي مصالح الجميع في نقل إدارة «تيك توك» لأمريكا
