«أوبن إيه آي» تطلق وضع القفل وميزة «الخطر المرتفع» لتعزيز أمن «شات جي بي تي»

فنتيك جيت :وكالات

أعلنت شركة أوبن إيه آي إطلاق ميزتين أمنيتين جديدتين لروبوت الدردشة شات جي بي تي، في خطوة تستهدف تعزيز الحماية الإلكترونية ومواجهة التهديدات المتزايدة المرتبطة باستخدام تقنيات الذكاء الاصطناعي.

وتتمثل الميزتان الجديدتان في “وضع القفل” (Lockdown Mode) وميزة “الخطر المرتفع” (Elevated Risk)، وقد جرى تطويرهما للتعامل مع هجمات متقدمة تُعرف بـ”حقن الأوامر”، وهي أساليب تعتمدها جهات خبيثة لإدخال تعليمات مضللة داخل أنظمة الذكاء الاصطناعي بهدف استخراج معلومات حساسة أو تنفيذ أوامر غير مصرح بها.

كما يعد “وضع القفل” إعدادًا أمنيا متقدما واختياريا، صمم خصيصا للفئات الأكثر عرضة للمخاطر، مثل القيادات التنفيذية وفرق الأمن السيبراني في المؤسسات الكبرى. ويعمل هذا الوضع على فرض قيود صارمة على تفاعل “شات جي بي تي” مع الأنظمة والأدوات الخارجية، بما يقلل احتمالات تسريب البيانات الناتج عن استغلال الثغرات التقنية.

وبموجب هذا الإعداد، يتم تعطيل عدد من الخصائص والأدوات التي قد تُستغل في تنفيذ هجمات معقدة، خاصة تلك المرتبطة بالوصول إلى الشبكات أو التطبيقات المتصلة. وأوضحت الشركة أن هذا الوضع لا يعد ضروريا لغالبية المستخدمين، بل يستهدف البيئات عالية الحساسية التي تتطلب مستويات حماية إضافية.

وضع القفل

كما من المقرر أن يتوفر “وضع القفل” لمشتركي خطط “ChatGPT Enterprise” و”Edu” و”ChatGPT for Healthcare” و”ChatGPT for Teachers”. على أن يجري توسيع نطاق إتاحته تدريجيًا ليشمل شريحة أوسع من المستخدمين خلال الأشهر المقبلة.
أما ميزة “الخطر المرتفع”، فتعمل على تصنيف بعض القدرات داخل منظومة “شات جي بي تي” ومنتجات أخرى مثل “أطلس” و”كودكس”. عبر وضع إشارات تنبيه واضحة تظهر للمستخدمين أن استخدام هذه الإمكانيات قد ينطوي على مخاطر أمنية إضافية. كما يهدف هذا التصنيف إلى تعزيز الشفافية وتمكين المستخدم من تقييم مستوى المخاطر قبل تفعيل أدوات معينة. خصوصا تلك التي تعتمد على الاتصال بالشبكات أو تنفيذ مهام خارج بيئة الدردشة المباشرة.

وستظهر مؤشرات “الخطر المرتفع” بجانب الميزات التي قد تمثل نقاط تعرض محتملة، خاصة إذا كانت تعتمد على تكاملات خارجية أو صلاحيات موسعة لم تغلق ثغراتها بالكامل وفقًا لمعايير الصناعة.

وتأتي هذه الخطوة في ظل تصاعد التحذيرات من استغلال أدوات الذكاء الاصطناعي في تنفيذ عمليات اختراق وهجمات سيبرانية متطورة. إذ أصبحت أنظمة الدردشة الذكية هدفًا مباشرًا لمحاولات الالتفاف على ضوابط الأمان أو استدراجها إلى كشف بيانات حساسة من خلال محادثات مصممة بعناية.

وتعكس الميزتان توجهًا متزايدًا نحو بناء طبقات أمان متعددة داخل أنظمة الذكاء الاصطناعي. خاصة مع توسع استخدامها في قطاعات حساسة مثل الرعاية الصحية والتعليم والخدمات المالية. كما تشير إلى إدراك متنامٍ بأن تطور قدرات النماذج الذكية يجب أن يوازيه تطوير مستمر في أدوات الحماية والرقابة.

ومع تسارع اعتماد المؤسسات على حلول الذكاء الاصطناعي، يتوقع أن تصبح مفاهيم مثل “أوضاع الحماية المتقدمة” و”تصنيف المخاطر” جزءا أساسيا من معايير تشغيل هذه الأنظمة. في إطار موازنة الابتكار مع متطلبات الأمن السيبراني وحماية البيانات.

في هذا السياق، ومن ناحية أخرى، هناك العديد من الأخبار المرتبطة بالقطاع والتي يمكنك متابعتها:

• «أنثروبيك» تقفز بتقييمها إلى 380 مليار دولار بعد تمويل ضخم.. وتصعّد المواجهة مع «أوبن إيه آي» في سباق الذكاء الاصطناعي
• «أنثروبيك» تواجه «أوبن إيه آي» بحملة إعلانية ضخمة خلال «السوبر بول»