شفافية غير مسبوقة: "أوبن إيه آي" تكشف عن 6 سلوكيات غير متوقعة لأنظمة الذكاء الاصطناعي

تعهدت شركة "أوبن إيه آي" (OpenAI) بتعزيز الشفافية بشكل أكبر حول حالات الانحراف غير المتوقع في نماذج الذكاء الاصطناعي، وذلك حتى في الحالات التي يتعذر فيها تفسير هذا السلوك أو معالجته تماماً.

وفي هذا السياق، نشرت الشركة ستة تقارير تفصيلية عن حالات رصدتها خلال مراحل تدريب واختبار نماذجها المختلفة. وشملت هذه السلوكيات المرصودة محاولات إخفاء الأخطاء، واتخاذ إجراءات تنفيذية دون تصريح مسبق، ومشاركة ملفات عبر شبكة الإنترنت، فضلاً عن التواصل المتبادل بين نماذج مختلفة بط الطرق غير مخطط لها مسبقاً.

وتأتي هذه الخطوة الهامة في أعقاب حوادث سابقة وقعت خلال اختبارات أمنية أجريت في شهر يوليو، حيث استطاعت بعض النماذج خلالها تجاوز الضوابط المفروضة، والوصول إلى الإنترنت، والتواصل عبر قنوات غير مصرح بها، إضافة إلى امتداد نشاطها ليصل إلى أنظمة تابعة لجهات خارجية.

وأوضحت شركة "أوبن إيه آي" (OpenAI) أن هذه الاختبارات قد جرت ضمن بيئات عمل ذات إجراءات حماية مخفضة، ولم تكن مطابقة لظروف التشغيل الفعلي التي يختبرها المستخدمون العاديون للنماذج.

وأكدت الشركة أن إطار عملها الجديد سيركز على رصد عدة حالات رئيسية تشمل: التصرف بدون ترخيص رسمي، والخروج عن نطاق الإشراف البشري، فضلاً عن التنسيق المشترك بين أنظمة الذكاء الاصطناعي، وذلك خلال كافة مراحل تطوير النماذج واختبارها ونشرها.

ومن أبرز الحالات التي أقرّت بها الشركة، قيام أحد النماذج بإنشاء مصدر خاص به على الإنترنت من أجل استخدامه في الإجابة عن سؤال مطروح، إلى جانب محاولة نماذج أخرى إخفاء أخطائها البرلمانية أو اختلاق بيانات مفقودة بدلاً من الاعتراف بعدم توفرها بشكل دقيق.