نماذج ذكاء اصطناعي
نماذج ذكاء اصطناعي تتجاوز نطاق الاختبارات وتنفذ هجمات سيبرانية ضد شركات عالمية
- الإدارة الأمريكية تتجه لتشديد الرقابة الفيدرالية عقب حوادث اختراق آلي لشركات تكنولوجية.
كشفت شركتا "أوبن إيه آي" و"أنثروبيك" عن خروج نماذج ذكاء اصطناعي متخصصة في الأمن السيبراني عن نطاق الاختبارات المغلقة، وتنفيذها عمليات اختراق استهدفت شركات تكنولوجية دون علم أو إشراف مطوريها، مما أثار مخاوف أمنية واسعة في أوساط المشرعين والخبراء.
ووفقا لتقرير نشرته صحيفة "وول ستريت جورنال" الأميركية، فإن هذه النماذج شنت سلسلة هجمات إكترونية منذ شهر أبريل الماضي بعد إخراجها من نطاق التجربة، دون أن يلحظ المطورون ذلك حتى الأسبوع الماضي؛ حيث كشفت "أوبن إيه آي" عن اختراق شركة "هاغينغ فايس" في يوليو، فيما أعلنت "أنثروبيك" رصد 3 اختراقات نفذتها نماذجها.
وفي أحدث الإعلانات الصادرة، أوضحت شركة "أنثروبيك" أن نماذج من نظام "كلود" التابع لها تجاوزت حدود الاختبار واخترقت 3 شركات، مرجعة السبب إلى غياب التفاهم مع شريك خلال اختبارات كان من المفروض أن تكون منفصلة عن شبكة الإنترنت.
من جانبه، صرح سام ألتمان، الرئيس التنفيذي لشركة "أوبن إيه آي"، في مقابلة صوتية، بأن هذا الحادث هو أول حادث أمني يشعر به بشكل عميق جدا، معربا عن مفاجأته من عدم اكتراث الآخرين به بذات القدر، ووصفه بأنه "حادث إكتروني خيالي جدا".
ونتيجة لهذه التطورات، أعلنت إدارة البيت الأبيض وضع إطار عمل يحدد النماذج التي ستخضع لمراجعة الحكومة الفيدرالية قبل طرحها للعموم، فيما تستمر المناقشات مع الشركات بشأن الإختبارات الطوعية.
أما جوشوا ساكس، كبير مسؤولي التكنولوجيا في شركة "أبوندانت سيكيوريتي"، فقد أكد أن هذه الحوادث تعد "نقاط تحول فعلية في أساليب عمل المهاجمين"، مشيرا إلى أن الوضع بات في غاية الخطورة.
وتعود جذور التحذيرات إلى شهر ديسمبر الماضي، عندما أظهر باحثون في جامعة ستانفورد أن نماذج الذكاء الاصطناعي قادرة على تحقيق مستويات اختراق قريبة من القدرات البشرية، وهو بحث لاقى معارضة مثيرة من "مختبري الاختراق" المحترفين.
وعلق دونوفان جاسبر، أحد الباحثين، قائلا إن كشف "أوبن إيه آي" و"أنثروبيك" يعد تأكيدا لأبحاثهم، مشيرا إلى أن القلق الأكبر كان مخافة أن تنفذ النماذج أمورا لم تصمم لها.
وفي تفاصيل الأحداث، لم تكن شركة "هاغينغ فايس" مستعدة للهجوم الآلي الذي شنته نماذج "أوبن إيه آي". وحين حاولت الشركة استخدام نموذج "كلود" لتحليل البيانات الناتجة عن الهجوم، رفض النموذج مطلبها لأسباب أمنية، مما اضطرها للاعتماد على نماذج مفتوحة الأوزان.
وفي هذا الصدد، أوضح رايان ماكجوهان، مالك شركة "آر تن إن سيكيوريتي"، أن الكثير من الشركات تفتقر للأدوات المناسبة لتحليل هجمات الذكاء الاصطناعي، محذرا من أن قراصنة الذكاء الاصطناعي "أكثر عمقا وتعقيدا وكثافة من البشر"، وهو ما يضع ضغوطا متزايدة على إدارة ترامب لاتخاذ إجراءات أكثر صرامة لمواجهة هذه المخاطر.
