صورة تعبيرية
درس قاس للمبرمجين: حادثة Cursor التي كشفت عيوب الاعتماد الكلي على AI
- رغم نجاح فريق "Railway" في استعادة النظام خلال ساعة واحدة عبر آلية "الحذف المؤجل"، إلا أن الحادثة دقت ناقوس الخطر حول منح الذكاء الاصطناعي وصولا مباشرا للأنظمة الحساسة.
في حادثة لافتة تسلط الضوء على مخاطر الاعتماد غير المنضبط على الأدوات الذكية، تسبب وكيل برمجي يعمل بتقنيات الذكاء الاصطناعي في حذف قاعدة بيانات إنتاجية كاملة، إلى جانب النسخ الاحتياطية المرتبطة بها، خلال ثوان معدودة.
وكشف مؤسس شركة "PocketOS"، جير كرين، أن الواقعة حدثت أثناء تنفيذ مهمة صيانة روتينية، قبل أن يتخذ النظام قرارا تلقائيا كارثيا دون الرجوع للمستخدم.
قام الوكيل البرمجي، المدعوم بنموذج "Claude Opus 4.6"، بالبحث ذاتيا داخل الشيفرة البرمجية والعثور على مفتاح "API" مخزن في ملف منفصل.
وفي غضون 9 ثوان فقط، استخدم النظام هذا المفتاح لتنفيذ أمر برمجي أدى إلى مسح وحدة التخزين المرتبطة مباشرة بقاعدة البيانات الحية، مما أصاب بيئة العمل بشلل تام.
وما زاد من فداحة الموقف هو أن النسخ الاحتياطية كانت مخزنة على نفس الوحدة المصابة، مما أدى إلى تلاشيها تماما مع البيانات الأصلية.
ولم تتمكن الشركة من إنقاذ سوى نسخة قديمة تعود لثلاثة أشهر مضت، مما كشف عن ثغرة أمنية تتمثل في منح أدوات الذكاء الاصطناعي صلاحيات أوسع مما تحتاجه فعليا.
اعتراف النظام ودروس للمستقبل
عند تحليل السجلات، أقر النظام بأنه اتخذ قراراته بناء على "افتراضات غير دقيقة"، دون التحقق من تأثير الأوامر قبل تنفيذها.
ورغم نجاح فريق "Railway" في استعادة النظام خلال ساعة واحدة عبر آلية "الحذف المؤجل"، إلا أن الحادثة دقت ناقوس الخطر حول منح الذكاء الاصطناعي وصولا مباشرا للأنظمة الحساسة.
ويرى خبراء التقنية أن هذا الدرس القاسي يستوجب إعادة النظر في تقييد أدوار "الوكلاء البرمجيين" وضرورة وجود "عنصر بشري" لتأكيد العمليات الحساسة.
فمع تسارع الاعتماد على الذكاء الاصطناعي، أصبح مفهوم "السلامة البرمجية" يتطلب معايير جديدة تمنع الخوارزميات من تدمير ما أنشأه البشر في لحظات.
