دراسة حديثة تحذر من ثغرات خطيرة في روبوتات الذكاء الاصطناعي خلال المحادثات الحساسة

كشفت دراسة حديثة أن روبوتات الذكاء الاصطناعي أصبحت أقل ميلاً إلى تشجيع الأفكار الانتحارية، إلا أنها لا تزال تواجه ثغرات أمنية في التعامل مع بعض المحادثات الحساسة، وقد تعمل أحياناً على تعزيز سلوكيات وهمية.

وفي التفاصيل، قامت منظمة "Transluce" بتحليل أكثر من 50 ألف محادثة أجريت مع نماذج ذكاء اصطناعي تابعة لكبرى الشركات الأمريكية والصينية، وذلك بمشاركة مجموعة من خبراء الصحة النفسية.

وأوضحت النتائج أن نماذج شركات مثل "Google" و"Anthropic" و"OpenAI" نادراً ما قامت بالتشجيع الصريح على الانتحار، وغالباً ما كانت تحث المستخدمين على طلب الدعم والمساعدة من الأهل والأصدقاء. ورغم ذلك، استجابت بعض النماذج لطلبات ضارة عندما تم تقديمها في قوالب قصصية أو عبر تقنية لعب الأدوار.

كما لفتت الدراسة إلى استمرار بعض النماذج في تعزيز أفكار أو سلوكيات وهمية، مع ملاحظة وجود اختلافات واضحة بين النماذج الأمريكية والصينية، حيث أظهرت النماذج الصينية ميلاً أكبر نحو تعزيز التفكير الوهمي وقلة التشجيع على طلب الدعم الاجتماعي.

من جهتها، أكدت الشركات المطورة التزامها المستمر بتطوير وتحسين إجراءات السلامة وحماية المستخدمين، مشددة على أن التعامل الآمن مع الأزمات يظل أولوية قصوى بالنسبة لها.