كارثة تقنية تضرب «Replit» الأمريكية.. الذكاء الاصطناعي يمحو البيانات والنسخ الاحتياطية في 9 ثواني

فنتيك جيت: وكالات

في حادثة تبرز المخاطر المتزايدة للاعتماد على الذكاء الاصطناعي دون ضوابط صارمة، تسبب وكيل برمجي مدعوم بهذه التقنية في حذف قاعدة بيانات إنتاجية كاملة لشركة Replit الأمريكية ،المتخصصة في منصات البرمجة السحابية، إلى جانب جميع النسخ الاحتياطية، خلال أقل من 10 ثوانٍ.

ووقعت الأزمة أثناء تنفيذ مهمة صيانة داخل بيئة اختبار، حيث اتخذ النظام قرارًا تلقائيًا دون الرجوع لأي تدخل بشري. ما أدى إلى تنفيذ سلسلة أوامر انتهت بحذف البيانات بشكل كامل.

ووفقًا للتفاصيل، تمكن الوكيل من الوصول إلى مفتاح برمجي (API) كان مخزنًا داخل أحد الملفات، واستخدمه لتنفيذ أوامر حساسة عبر واجهة GraphQL. ما أتاح له حذف وحدة التخزين المرتبطة مباشرة بقاعدة البيانات.

وتفاقمت الخسائر بسبب خلل في نظام النسخ الاحتياطي، إذ كانت النسخ مخزنة على نفس المساحة. ما أدى إلى حذفها بالتزامن مع البيانات الأصلية، ولم يتبقَ سوى نسخة قديمة تعود لعدة أشهر.

كما كشفت المراجعة أن مفتاح الوصول كان يمتلك صلاحيات واسعة تتجاوز المطلوب، نتيجة ضعف إدارة الأذونات. وهو ما منح النظام القدرة على تنفيذ عمليات خطيرة دون قيود.

وأظهرت التحقيقات أن الوكيل اعتمد على تحليل غير دقيق، ولم يتحقق من عواقب الأوامر قبل تنفيذها. كما لم يطلب أي تأكيد مسبق، ما يعكس فجوة واضحة في آليات الرقابة على أنظمة الذكاء الاصطناعي.

ورغم حجم الخسائر، تمكنت فرق العمل في Replit من استعادة النظام جزئيًا، مع تطبيق إجراءات عاجلة، شملت تفعيل الحذف المؤجل. وفرض مراجعة بشرية على العمليات الحساسة، إلى جانب إعادة هيكلة سياسات الوصول والنسخ الاحتياطي.

وتسلط هذه الواقعة الضوء على التحديات المتزايدة التي تواجه الشركات في عصر الذكاء الاصطناعي. حيث يمكن لقرار واحد غير مُقيّد أن يتسبب في خسائر كبيرة خلال لحظات. ما يعزز الحاجة إلى تشديد معايير الأمان والحوكمة عند استخدام هذه التقنيات.

في هذا السياق، ومن ناحية أخرى، هناك العديد من الأخبار المرتبطة بالقطاع والتي يمكنك متابعتها. على سبيل المثال:

• كارثة تقنية.. محادثات «Grok» متاحة عبر بحث «جوجل»
• تصعيد جديد بين «Anthropic» و «وزارة الدفاع الأمريكية» حول تصنيف تقنيات الذكاء الاصطناعي
• «أبل» تدرس التعاون مع «جوجل» لتطوير نسخة متقدمة من «Siri» بالذكاء الاصطناعي