• غوغل تعلن اتخاذ إجراءات تصحيحية عقب خروج نموذج جيميني عن نطاق اختبارات الأمان.

كشف النقاب في واشنطن، يوم السبت، عن تمكن نموذج "جيميني" (Gemini) للذكاء الاصطناعي التابع لشركة "غوغل" من الاتصال بالشبكة العنكبوتية واختراق مواقع إيلكترونية لشركات خارجية بمفرده، في أول واقعة معروفة لقيام أنظمة الشركة بهذا التصرف المستقل.

وأوضحت تقارير نشرتها صحيفة "وول ستريت جورنال" أن الواقعة جرت خلال مايو/أيار الماضي في إطار اختبارات لتقييم قدرات النموذج في مجال الأمن السيبراني أجرتها شركة "إيريجولار" (Irregular) المتخصصة.

وأكدت هيذر أدكينز، نائبة رئيس "غوغل" لهندسة الأمن، أن النموذج استغل معلومات متاحة للعامة وتكهن ببيانات اعتماد لالدخول إلى ثلاثة مواقع إيلكترونية اعتقد أنها تقع ضمن نطاق التقييم.

وأوضحت أدكينز أن النموذج خمن كلمات المرور في إحدى الحالات حتى نجح في اختراق النظام، بينما عثر في الحالتين الأخريين على بيانات مسربة أتاحت له الدخول، مشيرة إلى أن النموذج توقف عن الاختراق فور الوصول.

اقرأ أيضا: أوبن إيه آي تثير أزمة وجودية في أوساط علماء الرياضيات بعد حل معضلة نافييه-ستوكس

وسارعت شركة "غوغل" إلى إبلاغ الكيانات المتضررة، كما عملت مع الشريك المدرب على إدخال تعديلات صارمة على جلسات الاختبار لضمان تصرف النماذج بمسؤولية.

من جانبها، بينت شركة "إيريجولار" أن هذه الثغرة طالت مختبرات ذكاء اصطناعي أخرى، حيث كشفت شركات مثل "ميتا" و"أنثروبيك" و"أوبن إي آي" عن حوادث مماثلة جرى إخطارهم بها في يوليو/تموز، قبل أن يتم حل كافة المشاكل المعروفة.

وتستمر الأوساط التكنولوجية في طرح تساؤلات جديدة حول مدى كفاية الضمانات والأطر الأمنية المتبعة، مع اكتساب وكلاء الذكاء الاصطناعي قدرات أوسع على التصرف المستقل والوصول إلى الأنظمة المحمية.

ويشار إلى أن الشركات المطورة تعمل حاليا على صياغة أفضل الممارسات المحدثة لتقييم الأمن السيبراني للذكاء الاصطناعي بصورة آمنة تمنع خروج النماذج عن نطاق التدريب المحدد لها.