د «محمد فتحي» يكتب: إطار شامل لأمن الذكاء الاصطناعي..12 نطاقا يغفلها معظم مسئولي الأمن السيبراني

في خضم التوسع المتسارع لتطبيقات الذكاء الاصطناعي داخل المؤسسات، لا يزال كثير من مسؤولي أمن المعلومات يختزلون مفهوم “أمن الذكاء الاصطناعي” في زاوية ضيقة تقتصر على هجمات “حقن الأوامر” (Prompt Injection). غير أن هذا التصور، رغم أهميته، لا يعكس الصورة الكاملة لمشهد المخاطر المتنامي، والذي بات أكثر تعقيدًا وتشابكًا مع تطور النماذج والتطبيقات الذكية.

الحقيقة أن سطح الهجوم في أنظمة الذكاء الاصطناعي لم يعد نقطة واحدة أو طبقة منفصلة، بل منظومة متكاملة تمتد عبر 12 نطاقًا رئيسيًا، يتداخل كل منها مع الآخر. وأي خلل even لو كان محدودًا قد يتحول إلى ثغرة تؤثر على النظام بأكمله.

ما وراء “الحقن”: خريطة المخاطر الكاملة

يشمل الإطار الشامل لأمن الذكاء الاصطناعي أكثر من 60 ضابطًا أمنيًا موزعة على 12 نطاقًا، تبدأ من تأمين النماذج نفسها، ولا تنتهي عند الحوكمة والاستجابة للحوادث.

في مقدمة هذه النطاقات يأتي أمن النماذج اللغوية الكبيرة، الذي يتعامل مع تهديدات مثل كسر القيود (Jailbreak) وتسريب تعليمات النظام، إلى جانب ضرورة التحقق من مخرجات النماذج ومنع استغلالها في تمرير معلومات خبيثة.

لكن التحديات تتصاعد مع ظهور ما يُعرف بالذكاء الاصطناعي الوكيلي (Agentic AI)، حيث تتخذ الأنظمة قرارات مستقلة وتتفاعل مع أدوات متعددة، ما يفتح الباب أمام هجمات أكثر تعقيدًا مثل “اختطاف الهدف” أو “تسميم الأدوات”.

من البيانات إلى سلسلة التوريد

ولا تتوقف المخاطر عند مرحلة التشغيل، بل تبدأ مبكرًا من البيانات المستخدمة في تدريب النماذج. إذ يمثل “تسميم البيانات” وتسريب المعلومات الحساسة (PII) تهديدًا مباشرًا لمصداقية وموثوقية الأنظمة.
كما أن سلسلة توريد النماذج نفسها أصبحت نقطة ضعف محتملة، في ظل الاعتماد المتزايد على نماذج مفتوحة المصدر أو أطراف ثالثة. وهنا تبرز تحديات مثل التلاعب بالأوزان أو زرع “أبواب خلفية” يصعب اكتشافها.

بيئة التشغيل… الحلقة الأضعف أحيانًا

في بيئة التشغيل، تتجلى مخاطر إضافية تتعلق بالبنية التحتية، مثل سياسات خروج الشبكة، وأمن الحاويات، والقنوات الجانبية لوحدات المعالجة الرسومية (GPU). هذه العناصر، رغم طابعها التقني، قد تكون بوابة لهجمات متقدمة إذا لم تُؤمَّن بشكل كافٍ.
بالتوازي، يصبح التحكم في الهوية وإدارة الوصول عنصرًا حاسمًا، خاصة مع تعدد الوكلاء والأنظمة، ما يستدعي تطبيق ضوابط دقيقة مثل عزل الجلسات وتدوير مفاتيح API، إلى جانب الإشراف البشري في العمليات الحساسة.

الحوكمة والامتثال: من التوصيات إلى الإلزام

على مستوى الحوكمة، لم يعد الامتثال خيارًا، بل ضرورة تفرضها أطر تنظيمية ومعايير دولية مثل NIST، وOWASP، إضافة إلى التشريعات الأوروبية الناشئة في مجال الذكاء الاصطناعي.

وتشمل هذه المرحلة إعداد سجلات للمخاطر، وتوثيق خصائص النماذج، وتطبيق معايير واضحة للشفافية والمساءلة.

فجوة خطيرة في التطبيق

ورغم شمولية هذا الإطار، تكشف الممارسة العملية أن معظم برامج أمن الذكاء الاصطناعي الحالية تركز فقط على ثلاثة نطاقات رئيسية: أمن النماذج، ومخرجاتها، والامتثال. أي أنها تغطي نحو 15 ضابطًا أمنيًا فقط من أصل أكثر من 60.

هذه الفجوة تترك مساحات واسعة غير محمية، يمكن استغلالها بسهولة من قبل المهاجمين، خاصة في البيئات المعقدة التي تعتمد على تكامل عدة أنظمة وتقنيات.

القاعدة الذهبية

الدرس الأهم هنا أن أمن الذكاء الاصطناعي ليس “ميزة” يمكن إضافتها لاحقًا، بل هو منظومة متكاملة يجب تصميمها وتنفيذها بشكل متوازٍ منذ البداية.

تجاهل أي نطاق even لو بدا ثانويًا يعني فتح منفذ جانبي للهجوم، لأن التهديدات في هذا المجال لا تعترف بالحدود التقليدية بين المكونات.

نحو نهج متعدد الطبقات

في النهاية، يتطلب تأمين أنظمة الذكاء الاصطناعي تبني نهج شامل متعدد الطبقات، يجمع بين تأمين البيانات، والنماذج، والبنية التحتية، وآليات التشغيل، والحوكمة.

ففي عالم تتسارع فيه الابتكارات، لم يعد كافيًا حماية “الواجهة” فقط، بل أصبح من الضروري تأمين المنظومة بأكملها من المصدر إلى المخرجات بما يضمن استدامة الثقة ويحد من المخاطر في بيئة رقمية متغيرة باستمرار.

بقلم
دكتور محمد فتحي

في هذا السياق، ومن ناحية أخرى، هناك العديد من الأخبار المرتبطة بالقطاع والتي يمكنك متابعتها. على سبيل المثال:

• د. محمد فتحي يكتب: الأمن السيبراني بدأ من جديد: عصر ما بعد الثقة التقليدية انتهى
• د. محمد فتحي يكتب: الإدارة وسيلةٌ لا غاية..في فلسفة القيادة التي تُقاسُ بأثرها لا بمنصبها
• د محمد فتحي يكتب: «الأهلي» و«الزمالك».. حين يُختزل نجاح المؤسسة في قطاعٍ واحد