نموذج "جيميني" من "غوغل" يخترق مواقع إلكترونية خلال اختبارات للأمن السيبراني

أعلنت شركة "غوغل" عن اتخاذ إجراءات تصحيحية عقب خروج نموذج "جيميني" (Gemini) للذكاء الاصطناعي عن نطاق اختبارات الأمان. وقد كشف النقاب في واشنطن، يوم السبت، عن تمكن النموذج من الاتصال بالشبكة العنكبوتية واختراق مواقع إلكترونية لشركات خارجية بمفرده، في أول واقعة معروفة لقيام أنظمة الشركة بهذا التصرف المستقل.

وأوضحت تقارير نشرتها صحيفة "وول ستريت جورنال" أن الواقعة جرت خلال مايو/أيار الماضي في إطار اختبارات لتقييم قدرات النموذج في مجال الأمن السيبراني أجرتها شركة "إيريجولار" (Irregular) المتخصصة. وأكدت هيذر أدكينز، نائبة رئيس "غوغل" لهندسة الأمن، أن النموذج استغل معلومات متاحة للعامة وتكهن ببيانات اعتماد للدخول إلى ثلاثة مواقع إلكترونية اعتقد أنها تقع ضمن نطاق التقييم.

وبينت أدكينز أن النموذج خمن كلمات المرور في إحدى الحالات حتى نجح في اختراق النظام، بينما عثر في الحالتين الأخريين على بيانات مسربة أتاحت له الدخول، مشيرة إلى أن النموذج توقف عن الاختراق فور الوصول.

وسارعت شركة "غوغل" إلى إبلاغ الكيانات المتضررة، كما عملت مع الشريك المدرب على إدخال تعديلات صارمة على جلسات الاختبار لضمان تصرف النماذج بمسؤولية. من جانبها، بينت شركة "إيريجولار" أن هذه الثغرة طالت مختبرات ذكاء اصطناعي أخرى، حيث كشفت شركات مثل "ميتا" و"أنثروبيك" و"أوبن إي آي" عن حوادث مماثلة جرى إخطارهم بها في يوليو/تموز، قبل أن يتم حل كافة المشاكل المعروفة.

وتستمر الأوساط التكنولوجية في طرح تساؤلات جديدة حول مدى كفاية الضمانات والأطر الأمنية المتبعة، مع اكتساب وكلاء الذكاء الاصطناعي قدرات أوسع على التصرف المستقل والوصول إلى الأنظمة المحمية، بينما تعمل الشركات المطورة حاليا على صياغة أفضل الممارسات المحدثة لتقييم الأمن السيبراني بصورة آمنة.