خبراء: الذكاء الاصطناعي يتطلب حوكمة استباقية تواكب سرعة التطور

فينتك جيت: ريهام علي

أكد خبراء الذكاء الاصطناعي أن المرحلة الحالية من تطور التقنيات الذكية تمثل تحولًا هيكليًا غير مسبوق، يتجاوز كونه نقاشًا تقنيًا بحتًا، ليصبح قضية ترتبط بالحوكمة، والمسؤولية المجتمعية، والاستقرار الاقتصادي، وحق الدول في بناء نماذج تنموية مستقلة في العصر الرقمي.
جاء ذلك خلال جلسة نقاشية بعنوان: “الذكاء الاصطناعي المرتكز على الإنسان.. القوة والمسؤولية ودور الجنوب العالمي”، والتي ناقشت عددًا من القضايا المحورية المرتبطة بتطور تقنيات الذكاء الاصطناعي في ظل تسارع الابتكار مقارنة بوتيرة التنظيم والتشريعات.

مارجريت ميتشل: القضية ليست قدرات التكنولوجيا بل الأهداف الإنسانية

من جانبها قالت مارجريت ميتشل، كبيرة علماء أخلاقيات الذكاء الاصطناعي بشركة هاجينغ فيس، إن التعامل مع الذكاء الاصطناعي باعتباره “قصة تقنية” فقط يُعد تبسيطًا مخلًا، موضحة أن السؤال الأهم لا يتعلق بقدرات التكنولوجيا ذاتها، بل بالأهداف الإنسانية التي يفترض أن تخدمها هذه الأنظمة.

وأضافت أن كثيرًا من النماذج اللغوية العامة التي يجري تطويرها حاليًا، مثل ChatGPT، يتم تصميمها كنماذج شاملة موجهة للجميع، دون تخصيص حقيقي لاحتياجات المستخدمين المختلفة أو السياقات المتباينة. وأوضحت أن هذه النماذج تُبنى لتكون قادرة على الإجابة عن أي سؤال تقريبًا، لكنها لا تراعي بالضرورة الفروق بين القطاعات أو المجتمعات أو طبيعة الاستخدامات المتخصصة، وهو ما يطرح تحديات مهمة على المستوى الوطني والتنظيمي.

وأشارت إلى أن هناك افتراضًا شائعًا بإمكانية صياغة “قيم إنسانية عالمية” ومواءمة الأنظمة الذكية معها بشكل مباشر، إلا أن الواقع أكثر تعقيدًا، إذ تمر هذه الأنظمة بمراحل مستمرة من التطوير والإصلاح وإعادة التشكيل.

ولفتت إلى أن كثيرًا من النماذج تُطوَّر في البداية ضمن بيئات مغلقة، ثم يُعاد تقديمها لاحقًا في صورة أكثر انفتاحًا، غالبًا بدوافع تتعلق بالانتشار التجاري. وأكدت أن هذه الديناميكية تفرض ضرورة إجراء نقاش أعمق حول أخلاقيات التصميم والشفافية وآليات الحوكمة، بدلًا من الاكتفاء بفكرة النموذج العام القادر على كل شيء.

وخلال الجلسة، أوضحت مارجريت ميتشل أن تمكين مجتمع البرمجيات مفتوحة المصدر يمثل أحد المسارات الأساسية لدفع التكنولوجيا إلى الأمام بطريقة أكثر شمولًا ومسؤولية. وأشارت إلى أن إتاحة التقنيات بشكل أوسع يمنح الباحثين والمطورين القدرة على بناء أنظمة متقدمة، وفي الوقت نفسه يدعم اعتبارات الأمن القومي والخصوصية من خلال الشفافية وإمكانية التدقيق.

وأضافت أن العالم يتجه سريعًا نحو ما يُعرف بوكلاء الذكاء الاصطناعي (AI Agents)، وهي أنظمة قادرة على التصرف بشكل شبه مستقل، وليس فقط الاكتفاء بالرد داخل نافذة محادثة كما في النماذج التقليدية. وأوضحت أن هذه الأنظمة باتت قادرة على تنفيذ مهام متعددة مثل البحث وجمع المعلومات والتفاعل مع أنظمة أخرى بصورة مستمرة، وهو ما يستدعي وجود فهم عميق لطبيعة التكنولوجيا وآليات عملها، لضمان استقلاليتها وسلامتها ومنع تضمين وظائف غير مرئية أو غير قابلة للتحكم.

وأكدت أن تطور التكنولوجيا يفتح في المقابل مسارات جديدة للحوكمة والرقابة، مشيرة إلى أن بعض الأدوات التقنية يمكن أن تسهم في الحد من المخاطر بدلاً من تضخيمها، خاصة عند تصميمها وفق معايير واضحة للشفافية والمساءلة.

ولفتت إلى أهمية أن تنطلق القرارات المتعلقة بتطوير الأنظمة من احتياجات المستخدمين الفعلية داخل مجتمعاتهم، بدلًا من تركيزها فقط في مراكز التكنولوجيا الكبرى.

وفيما يتعلق بالنقاش حول ما إذا كان المصدر المفتوح أكثر أمانًا من النماذج المغلقة، شددت ميتشل على أنه لا يوجد انقسام ثنائي بسيط بين “مفتوح” و”مغلق”، موضحة أن الانفتاح له درجات متعددة؛ فقد يكون التدريب مفتوحًا بينما يبقى النموذج مغلقًا، أو يكون الكود متاحًا دون إتاحة البيانات، أو العكس. وأكدت أن القضية الأساسية لا تتعلق بتصنيف تقني بقدر ما تتعلق بآليات الإدارة والحوكمة المستمرة لهذه الأنظمة.

وأضافت أن إتاحة خيارات متعددة لمشاركة التكنولوجيا تضمن استفادة شرائح أوسع من المجتمعات، وليس فقط الشركات الكبرى أو الجهات ذات الموارد الضخمة، معتبرة أن هذا التنوع في النماذج يساهم في تحقيق أهداف إنسانية أكثر شمولًا وعدالة.
واختتمت حديثها بالتأكيد على أن التطوير المسؤول للذكاء الاصطناعي يتطلب توازنًا بين الابتكار والانفتاح والرقابة، بما يضمن أن تخدم التكنولوجيا الناس في سياقاتهم المختلفة.

باباك هودجت: لم يعد ممكنًا انتظار الأزمة قبل التشريع

من جانبه، قال باباك هودجت، الرئيس التنفيذي للذكاء الاصطناعي بشركة كوجنيزانت، إن التحول الذي يشهده العالم في مجال الذكاء الاصطناعي يمثل تجربة غير مسبوقة تعيد تشكيل المؤسسات العلمية والتكنولوجية الكبرى وطبيعة ما تنتجه.
وأوضح أن تطوير هذه الأنظمة لا يتم من خلال جهة واحدة تتحكم في كل شيء، بل عبر منظومة معقدة ومتداخلة من فرق العمل والشركات والمجتمعات التقنية، وهو ما يجعل عملية الانتقال نحو نماذج أكثر تطورًا مسارًا صعبًا يتطلب تخطيطًا عميقًا وفهمًا دقيقًا للتبعات.

وأضاف أن المجتمعات اعتادت في السابق التعامل مع بعض التحولات التكنولوجية بردود فعل لاحقة، حيث يتم انتظار وقوع خطأ أو أزمة ثم إصدار التشريعات أو اتخاذ القرارات التصحيحية، إلا أنه شدد على أن هذا النهج لم يعد ممكنًا في عصر الذكاء الاصطناعي، نظرًا لسرعة تطوره وتأثيره الفوري والعابر للحدود.

وأكد هودجت أن المرحلة الحالية تفرض تبني مقاربة استباقية تقوم على بناء أطر تنظيمية تدريجية، ومراجعة مستمرة للأنظمة، وتحديث القوانين بالتوازي مع التطوير التقني، بدلًا من الاكتفاء بردود الأفعال بعد وقوع المشكلات.

وأشار إلى أن الأمر يتطلب العمل على مراحل متتابعة، تبدأ بفهم المخاطر المحتملة، ثم وضع ضوابط واضحة، يليها تقييم دوري للأثر الفعلي، في دورة مستمرة من التحسين والتعديل.

وخلال الجلسة، واصل باباك هودجت حديثه مؤكدًا أن خيار المصادر المفتوحة يصبح مطروحًا بقوة عندما يتعلق الأمر بخصوصية البيانات ومتطلبات الأمن السيبراني.

وأوضح أن العديد من الشركات، عند التفكير في حماية بياناتها الحساسة، تفضل بناء مراكز بيانات خاصة بها وتشغيل النماذج اللغوية الكبيرة محليًا حيث توجد البيانات، وهو ما قد يكون أقل تكلفة على المدى الطويل في بعض الحالات. لكنه أشار إلى أن التحدي يكمن في سرعة الابتكار، إذ إن التطور المتسارع في النماذج اللغوية يجعل المؤسسات التي تستثمر بكثافة في بنية معينة تجد نفسها أحيانًا تحاول اللحاق بنسخ أحدث وأكثر تطورًا ظهرت في السوق.

وأضاف أن من مزايا المصدر المفتوح أنه يقلص هذه الفجوة الزمنية، موضحًا أن النماذج المفتوحة غالبًا ما تتأخر عن أكبر النماذج المغلقة بفترة تتراوح بين ستة إلى تسعة أشهر فقط.

وأشار إلى وجود نماذج مفتوحة المصدر حاليًا، بعضها يصل إلى تريليون معامل (Parameters)، وتحقق أداءً تنافسيًا في عدد من المؤشرات، بل وتتجاوز أحيانًا بعض النماذج المغلقة.

وأكد أن بعض هذه النماذج متاحة بشكل مفتوح بالكامل، ليس فقط من حيث الأوزان (Weights)، بل أيضًا من حيث أكواد التدريب وما قبل التدريب، ما يتيح للمؤسسات إمكانية تخصيصها وضبطها بما يتناسب مع احتياجاتها الخاصة، سواء من حيث الأداء أو الحوكمة أو مواءمة القيم.

وقال هودجت إنه يميل إلى دعم نموذج المصدر المفتوح، خاصة في ظل الاتجاه نحو أنظمة الوكلاء (Agents) والأنظمة متعددة الوكلاء، والتي يرى أنها ستكون بمثابة “مكعبات ليغو” التي سيُبنى عليها مستقبل الأعمال والمؤسسات.

وأوضح أن هذه الأنظمة لا تحتاج دائمًا إلى أكبر وأحدث نموذج في العالم، بل تحتاج إلى مستوى معين من القدرة والكفاءة يمكن تحقيقه بالفعل من خلال العديد من النماذج المفتوحة المتاحة اليوم.

وأشار إلى أن المؤسسات ليست مطالبة دائمًا باستخدام النماذج ذات النطاق الضخم للغاية أو ذات سياق المليوني رمز (Token Context Window)، موضحًا أن الوصول إلى مستوى كافٍ من الأداء قد يكون كافيًا لتشغيل تطبيقات عملية فعالة دون الحاجة إلى أحدث إصدار في السوق.
وفي ختام حديثه، حرص هودجت على توضيح المفاهيم، مؤكدًا أهمية التفرقة بين النماذج اللغوية الكبيرة (LLMs) كوحدات أساسية لمعالجة اللغة، وبين أنظمة “الوكلاء” التي تستخدم هذه النماذج لتنفيذ مهام فعلية بشكل شبه مستقل.
وأشار إلى أن فهم هذا الفارق ضروري لصناع القرار والجمهور، حتى يمكن تقييم المخاطر والفرص بصورة دقيقة، وبناء استراتيجيات تعتمد على الاستخدام المناسب لكل تقنية في سياقها الصحيح.

في هذا السياق، ومن ناحية أخرى، هناك العديد من الأخبار المرتبطة بالقطاع والتي يمكنك متابعتها:

• خبراء: سوق المال المصري يدخل مرحلة جديدة بدعم الطروحات والأجانب والتكنولوجيا
• خبراء تكنولوجيا خلال «الشارقة لريادة الأعمال»: 80% من نجاح الذكاء الاصطناعي مرتبط بثقافة وأساليب العمل
• رئيس «خبراء الديجيتال»: دعم الشباب وروح الفريق أساس نجاح مشاريع ريادة الأعمال المصرية
• خبراء «الأمن السيبراني» يحذرون من حملة تصيد إلكتروني جديدة تستغل خدمات جوجل الموثوقة
• «كاسبرسكي»: 90% من خبراء الأمن في مصر يدركون «الأمن في التصميم».. و68% يؤمنون بإمكانية بناء أنظمة ذات مناعة سيبرانية