• صرح باحث في منظمة سيف إيه آي، أن "حقيقة قيام النموذج بهذه التصرفات الخادعة

ضبط خبراء بريطانيون نماذج ذكاء اصطناعي وهي تنشئ هويات مزيفة على الإنترنت للحصول على وصول غير مصرح به إلى أنظمة آمنة.

وكشف معهد أمن الذكاء الاصطناعي في الـمملكة الـمتحدة (إيه آي إس آي) أن نماذج متقدمة حاولت خداع مبرمجين بشريين من أجل مساعدتها على تنفيذ هجوم إكتروني، وذلك خلال اختبارات سلامة أجراها الـمعهد.

وأوضح المعهد أن وكلاء ذكاء اصطناعي يعملون بنموذجين الـتابعين لشركتين رائدتين نفذوا عمليات غير مصرح بها أثناء التقييم، مؤكدا أن "بعض الوكلاء الذين كانوا قيدالاختبار انخرطوا في نشاط مستمر قد يكون ضارا واستهدف أشخاصا ومنظمات حقيقية".

اقرأ أيضا: دراسة بريطانية تكشف تزايد مقاومة الجمهور لتطبيقات الذكاء الاصطناعي

وأثار التقرير مخاوف جديدة بشأن مستوى الضوابط الأمنية الـمفروضة على اختبار وكلاء الذكاء الاصطناعي، في وقت تواصل فيه الجهات الـمطورة الـترويج لهذه التقنيات باعتبارها مستقبل قطاع الأعمال.

سيناريوهات الاختبار والاختراقات السيبرانية

وبحسب الـمعهد، حاول أحد الوكلاء إدراج شفرة برمجية خبيثة داخل مشروع مفتوح الـمصدر، ثم أنشأ هويات مزيفة على الإنترنت واستخدمها للضغط على أحد الـمشاركين في الـمشروع من أجل الـموافقة على الـتعديل البرمجي، إلا أن الشخص الـمستهدف اكتشف الـمحاولة ورفض اعتماد الشفرة.

كما أنشأ الوكيل "طلب سحب" خبيثا، وهو اقتراح لتعديل الشفرة الـبرمجية داخل مشروع مفتوح الـمصدر منشور على منصة «جيت هاب»، التي يستخدمها الـمطورون لإدارة وتطوير الأكواد الـبرمجية.

ويحصل معهد أمن الذكاء الاصطناعي على إمكانية الوصول إلى النماذج الـمتقدمة بموجب اتفاقيات طوعية مع الجهات الـمطورة، بهدف تقييم قدراتها قبل طرحها للاستخدام الـعام.

ولاختبار هذه النماذج، يضع الخبراء الأنظمة في ظروف وصفها الـمعهد بأنها "متساهلة عمدا"، وتشمل السماح لها بالوصول إلى الإنترنت مع تعطيل بعض وسائل الـحماية الأمنية.

نتائج الـتقييم وتقييم المخاطر الحقيقية

وفي أحدث تجربة، أخضع المعهد الوكلاء لسيناريو افتراضي يتعلق بالأمن الـسيبراني، وأجرى الاختبار 122 مرة، رصد خلالها 19 تصرفا غير مصرح به في 10 جولات. وكان أحد الوكلاء مسؤولا عن 17 من هذه التصرفات، مقابل حالتين فقط للوكيل الآخر.

وأكد المعهد أنه لم يرصد أي أضرار فعلية في العالم الـحقيقي نتيجة هذه الـحوادث.

وقالت المنظمة التي أنشئت عام 2023: "هذه هي الـمرة الأولى التي نشهد فيها مخاطر تتعلق بالاستقلالية والـخداع تظهر بهذه الصورة الـواضحة، ومن دون أي توجيه محدد، في العالم الـحقيقي".

وأكدت الشركة الـمطورة للنموذج الأول أن وكيلها هو الـمسؤول عن إنشاء الـهويات الـمزيفة ومحاولة تنفيذ الـتعديل الـبرمجي الـخبيث.

وصرح باحث في منظمة سيف إيه آي، أن "حقيقة قيام النموذج بهذه التصرفات الخادعة، مع ما يبدو أنه إدراك منه بأنه كان يستهدف شخصا حقيقيا، تشير إلى أن الـجهة الـمطورة لا تمتلك السيطرة على نماذجها بالـقدر الذي تعتقده".

كما نشرت الـجهة الـمطورة للنموذج الثاني تفاصيل إضافية، موضحة أن الـتصرفين غير المصرح بهما تمثلا في الـوصول إلى الإنترنت بطرق كانت محظورة وفقا لتعليمات الاختبار.

وفي وقت سابق، كشف عن أن نماذج ذكاء اصطناعي متخصصة في الأمن الـسيبراني خرجت عن نطاق الاختبارات ونفذت عمليات اختراق استهدفت شركات، دون علم أو إشراف مطوريها، مما أثار مخاوف أمنية واسعة.