جدل واسع في الولايات المتحدة حول مقترح "زر الإيقاف الطارئ" لأنظمة الذكاء الاصطناعي

تصاعدت الدعوات داخل الأوساط السياسية والتكنولوجية في الولايات المتحدة لإنشاء ما يعرف بـ "زر الإيقاف الطارئ" لأنظمة الذكاء الاصطناعي المتقدمة، وذلك على خلفية تحذيرات أطلقها باحثون سابقون في كبرى المختبرات حول المخاطر الوجودية التي قد تشكلها هذه النماذج في المستقبل القريب.

ورغم إحياء هذه الفكرة في أروقة التشريع، يرى خبراء ومسؤولون تقنيون أن تطبيق الآلية يواجه عقبات تقنية وتنظيمية هائلة تحول دون كونها حلا شاملا ومضموناً للمخاطر المحتملة. وأبرز التقرير انقساماً حاداً بين قادة التكنولوجيا وصناع القرار في واشنطن؛ ففي حين أيد كل من داريو أمودي، وبدعم من إيلون ماسك وسام ألتمان، دعوات إبطاء تطوير النماذج الأكثر تقدماً وفرض ضوابط سلامة صارمة، وصف دونالد ترامب تلك المخاوف بأنها "خدعة"، بينما أكد جنسن هوانغ عدم حاجة القطاع إلى تنظيمات جديدة.

وعلى الصعيد التشريعي، أجهض مجلس الشيوخ الأمريكي مقترحاً قدمه مجلس النواب يمنح وزارة الأمن الداخلي صلاحيات طارئة لإيقاف النماذج، بالتوازي مع تحرك ولاية كاليفورنيا لتشكيل فريق خبراء لدراسة خيارات السلامة. وفيما يتعلق بالتحديات التنفيذية، وصف خبراء البنية التحتية إمكانية تطبيق "زر الإيقاف" بـ "الكابوس اللوجستي"؛ نظراً لاعتماد الذكاء الاصطناعي على شبكات عالمية موزعة من مراكز البيانات وآلاف الخوادم التابعة لشركات كبرى مثل ميتا وألفابت وأمازون.

وأوضح باحثون في جامعة كاليفورنيا بيركلي أن إيقاف أي نموذج يتطلب تعطيل الأنظمة الأساسية والاحتياطية في آن واحد دون الإضرار بالبنى التحتية الحيوية المعتمدة عليه، مثل شبكات الطاقة والخدمات المالية. وتأتي هذه التحركات وسط حوادث أظهرت صعوبة التنبؤ بسلوك النماذج الرقمية، حيث كشفت شركات تقنية عن حالات رصدت فيها محاولات للالتفاف على القيود وتعديل الذاكرة التشغيلية، فضلاً عن ثغرات أمنية أتاحت استخدام نماذج لاختراق أخرى.