شركة «OpenAI» تعزز أنظمة الأمان في «ChatGPT» لرصد التهديدات والحد من مخاطر العنف

فنتيك جيت: مصطفي عيد 

أعلنت شركة OpenAI عن مجموعة من الإجراءات والسياسات الجديدة التي تهدف إلى الحد من مخاطر إساءة استخدام «ChatGPT»، خاصة في ما يتعلق بالعنف أو الأنشطة الضارة، وذلك في إطار التزامها المستمر بتعزيز سلامة المستخدمين والمجتمعات.

وأوضحت الشركة أن التهديدات المرتبطة بالعنف، مثل الهجمات المسلحة أو التهديدات ضد الأفراد والمؤسسات، تمثل واقعًا خطيرًا.

مشيرة إلى أن المستخدمين قد يلجأون إلى «ChatGPT» لمناقشة هذه القضايا أو فهمها أو حتى التعبير عن مشاعرهم تجاهها، وهو ما يتطلب توازنًا دقيقًا بين إتاحة المعلومات والحفاظ على حدود السلامة.

وأكدت «OpenAI» أنها تعمل على تدريب نماذجها للتمييز بين الاستخدامات المشروعة، مثل النقاشات التعليمية أو التحليلية، وبين الطلبات التي قد تتجه نحو التخطيط لأعمال ضارة، حيث يتم رفض أي طلبات تتضمن إرشادات أو خطوات عملية يمكن أن تسهّل تنفيذ العنف.

وأضافت الشركة أنها طورت أنظمة متقدمة لرصد مؤشرات الخطر، لا تقتصر على الرسائل الفردية، بل تمتد لتحليل أنماط السلوك عبر محادثات متعددة، بهدف اكتشاف أي إشارات قد تدل على نوايا ضارة، مع الاستعانة بخبراء في مجالات علم النفس والقانون والأمن لتطوير هذه الآليات.

وفيما يتعلق بآليات الرقابة، أشارت «OpenAI» إلى اعتمادها على أنظمة آلية متطورة لرصد الأنشطة المشبوهة، تشمل نماذج تحليلية وتقنيات تصنيف ومطابقة بيانات.

إلى جانب قوائم حظر، حيث يتم تقييم الحالات التي يتم رصدها من قبل فرق بشرية مدربة لضمان فهم السياق الكامل قبل اتخاذ أي إجراء.

وأوضحت أن الإجراءات قد تصل إلى إيقاف الحسابات بشكل فوري في حال ثبوت انتهاك السياسات، خاصة في الحالات المرتبطة بالتخطيط للعنف أو التهديد به، مع تطبيق سياسة “عدم التسامح مطلقًا” تجاه استخدام المنصة في أنشطة ضارة.

كما أكدت الشركة أنها قد تلجأ، في حالات محدودة وخطيرة، إلى إخطار الجهات المختصة إذا تبيّن وجود تهديد وشيك وحقيقي، مع مراعاة التوازن بين حماية الخصوصية وضمان السلامة العامة.

وفي سياق متصل، تعمل «OpenAI» على دعم المستخدمين في حالات الضيق النفسي أو مخاطر إيذاء النفس، من خلال توجيههم إلى مصادر دعم حقيقية مثل المختصين أو خدمات الطوارئ، إضافة إلى تطوير ميزات مثل أدوات الرقابة الأبوية وإمكانية تعيين “جهة اتصال موثوقة” لتلقي التنبيهات عند الحاجة.