«جي 42» تنشر إطار عملها للسلامة في مجال الذكاء الاصطناعي الحدودي

كتب:محمد بدوي

أعلنت مجموعة “جي 42″، مجموعة التكنولوجيا القابضة الرائدة والتي تتخذ من دولة الإمارات مقراً لها، عن إطلاق إطار عملها للسلامة في مجال الذكاء الاصطناعي الحدودي (Frontier AI)، تأكيداً على التزامها بمبادئ السلامة للذكاء الاصطناعي الحدودي المنصوص عليها في قمة سيول للذكاء الاصطناعي وإعلان بلتشلي.

يضع الإطار آليات واضحة لتقييم المخاطر، وتعزيز الحوكمة، وتوفير الإشراف الخارجي، بما يضمن تطوير نماذج الذكاء الاصطناعي المتقدّمة بطريقة آمنة ومسؤولة.

ومع التطوّر المستمر في قدرات الذكاء الاصطناعي، يضع إطار عمل “جي 42” ضوابط واضحة للقدرات الرائدة، وآليات حوكمة مستقلة، وضمانات للنشر، مما يتيح تحديد مخاطر الذكاء الاصطناعي والتخفيف منها قبل أن تصل إلى مستويات حرجة.

ويتماشى هذا النهج مع أفضل الممارسات العالمية، مع المساهمة في تعزيز جهود السلامة المستمرة للذكاء الاصطناعي على مستوى العالم.

تعليقاً على ذلك، قال بينج شياو، الرئيس التنفيذي لمجموعة “جي 42”: “الذكاء الاصطناعي هو التكنولوجيا التي ترسم ملامح عصرنا، وهي أداة أساسية من شأنها إعادة تشكيل الاقتصادات والمجتمعات، تماماً كما فعلت الكهرباء في الماضي.

ومع هذه القوة تأتي المسؤولية، إذ يعكس إطار العمل هذا التزامنا بسلامة الذكاء الاصطناعي، وضمان تقدّم الابتكار مع وجود الضمانات المناسبة.”

يقدّم إطار عمل السلامة في مجال الذكاء الاصطناعي الحدودي نهجاً متعدد الطبقات لإدارة مخاطر الذكاء الاصطناعي، مما يضمن تطوير أنظمة الذكاء الاصطناعي المتقدّمة واختبارها ونشرها بشكل مسؤول.ويشمل

مجلس إدارة “جي 42” للذكاء الاصطناعي الحدودي

يشرف على امتثال النماذج لبروتوكولات السلامة والاستجابة للحوادث. يضم مجلس الإدارة كلاً من الدكتور أندرو جاكسون، كبير مسؤولي الذكاء الاصطناعي؛ وألكسندر ترافتون، رئيس مخاطر التكنولوجيا؛ ومارتن إيدلمان، المستشار العام؛ وأديل أوهيرليهي، رئيس الذكاء الاصطناعي المسؤول.

عمليات التدقيق المستقلة وتدابير الشفافية:

ستجري “جي 42” عمليات تدقيق داخلية منتظمة للحوكمة، إضافةً إلى المشاركة في مراجعات خارجية سنوية لضمان الامتثال لأفضل معايير السلامة. كما ستصدر الشركة تقرير شفافية يسلّط الضوء على رؤى السلامة الرئيسية وتقييمات المخاطر.

تحديد عتبات المخاطر واستراتيجيات التخفيف:

يحدد الإطار عتبات واضحة لقدرات النماذج، مما يتيح تقييم المخاطر المرتبطة بالتهديدات البيولوجية، وثغرات الأمن السيبراني، ومخاطر اتخاذ القرار الذاتي. وفي حال اقتراب النموذج من هذه العتبات، ستتخذ “جي 42” إجراءات تشمل تنفيذ ضمانات إضافية، أو تعديل سلوك النظام، أو تقييد نطاق النشر.

حظي تطوير إطار عمل السلامة في مجال الذكاء الاصطناعي الحدودي بدعم نخبة من خبراء مخاطر الذكاء الاصطناعي، بما في ذلك METR وSaferAI، حيث أسهمت رؤاهم في صياغة استراتيجيات الحوكمة والتخفيف من المخاطر الواردة في الإطار، مما يعزز التزام “جي 42” بتطوير ذكاء اصطناعي آمن ومسؤول.

تعد “جي 42” من أوائل الشركات في الشرق الأوسط التي قدّمت إطار عمل شامل لسلامة الذكاء الاصطناعي، مما يعزز دورها الرائد في حوكمة الذكاء الاصطناعي والحد من المخاطر المرتبطة به.

وتواصل الشركة التعاون مع الجهات التنظيمية وصناع السياسات وشركاء القطاع لتعزيز ممارسات السلامة، والمساهمة بفاعلية في مناقشات الحوكمة العالمية لضمان تطوير واستخدام مسؤول لهذه التكنولوجيا.

من جانبه، قال الدكتور أندرو جاكسون، كبير مسؤولي الذكاء الاصطناعي في “جي 42” والرئيس التنفيذي لشركة “إنسبشن”: “إن السلامة في مجال الذكاء الاصطناعي هي جهد مستمر يتطلب حوكمة قوية ومساءلة وتعاوناً عبر كافة الصناعات.

ومن خلال دمج الشفافية وإدارة المخاطر الاستباقية في أنظمة الذكاء الاصطناعي لدينا، فإننا نضمن أن يظل الابتكار مسؤولاً ومتماشياً مع المصالح المجتمعية.”

ولتطبيق إطار عمل السلامة في مجال الذكاء الاصطناعي الحدودي، أطلقت “جي 42” X-Risks Leaderboard، وهي منصّة تقييم مفتوحة تقيس مخاطر نماذج الذكاء الاصطناعي في مجالات الأمن السيبراني والكيمياء والأحياء.

وقد تم تطويرها انطلاقاً من مجموعة تقييم السلامة الخاصة بشركة “إنسيبشن”، بهدف توفير تقييم عملي لنقاط الضعف المحتملة في الذكاء الاصطناعي، مما يعكس التزام “جي 42” بتعزيز سلامة الذكاء الاصطناعي، من خلال مناقشة السياسيات، ووضع ضمانات شفافة وقابلة للقياس.

واستناداً إلى شراكاتها الحالية مع شركات رائدة مثل مايكروسوفت وإنفيديا وإي إم دي وسيريبراس وكوالكوم، تواصل “جي 42” التزامها بالتعاون مع الموقّعين الآخرين على الالتزامات.

كما ستستمر في المشاركة بجهود السلامة المختلفة من خلال تبادل معلومات التهديدات مع الشركاء في القطاع، وذلك بهدف مواجهة التحديات المشتركة والتصدي للمخاطر الناشئة.