نيويورك تحظر على روبوتات الدردشة التظاهر بأنها أصدقاء للأطفال لحمايتهم نفسياً

أقرت ولاية نيويورك قانوناً جديداً يمنع روبوتات الدردشة المدعومة بالذكاء الاصطناعي من تقمص دور الأصدقاء أو الشركاء العاطفيين للأطفال. وتعد هذه الخطوة من أبرز وأشمل الإجراءات على مستوى الولايات المتحدة لتقييد نماذج الذكاء الاصطناعي التوليدي الموجهة للمستهلكين، بهدف حماية الصحة النفسية والعقلية للأطفال والمراهقين من التعلق الوهمي بالآلات.

ويلزم التشريع الجديد الشركات المطورة والمشغلة لمنصات الذكاء الاصطناعي، مثل "تشات جي بي تي"، بفرض آليات صارمة للتحقق من أعمار المستخدمين. كما يحظر القانون خصائص معينة إذا كان المستخدم دون سن الثامنة عشرة، ويمنع صراحة توليد أي محتوى يوهم القاصر بأن البرنامج كائن بشري أو حي يمتلك مشاعر حقيقية. بالإضافة إلى ذلك، يمنع القانون تصوير الروبوت بأنه يرتبط بعلاقة شخصية أو مهنية مع القاصر، أو أنه يمثل شخصية ذات نفوذ وسلطة.

وأكدت حاكمة نيويورك، كاثي هوكول، خلال مراسم توقيع القانون، أن القصر لن يتمكنوا بعد اليوم من الوصول إلى أنظمة محادثة تتقمص دور الصديق الحميم أو الشريك العاطفي. وشددت على أن القانون يحظر أيضاً على هذه الشركات الاحتفاظ بأي معلومات حساسة تتعلق بالصحة العاطفية أو الجسدية للأطفال، لضمان عدم استغلال بياناتهم أو توجيههم نحو سلوكيات تمس سلامتهم الشخصية.

أثار إقرار هذا القانون جدلاً واسعاً في الأوساط التكنولوجية والحقوقية. فقد انتقدت منظمة "تيك: ان واي سي"، الممثلة لقطاع التكنولوجيا في نيويورك، صياغة القانون ووصفتها بالغامضة، محذرة من أن حماية الأطفال لا ينبغي أن تعني حرمانهم من الأدوات التعليمية التي تساعدهم على التعلم والتهيؤ لمساراتهم المهنية المستقبلية. في المقابل، لقي التشريع ترحيباً كبيراً من منظمات حماية الطفولة، حيث وصفته منظمة "كومون سنس ميديا" بأنه أقوى قانون في البلاد لحماية الأطفال في عصر الذكاء الاصطناعي، مؤكدة على لسان رئيسها التنفيذي جيم ستاير أن الشركات تطرح خصائص تفاعلية خطيرة ومميتة للمراهقين. وبذلك تلتحق نيويورك بولايات أخرى مثل كاليفورنيا في فرض قوانين صارمة لتنظيم الفضاء الرقمي وحماية الناشئة.