تحذير من استخدام الأطفال منصة “Gemini” للذكاء الاصطناعي.. ما القصة؟

حذرت منظمة “كومون سينس ميديا” الأميركية، المتخصصة بتقديم المشورة للآباء والمدارس حول الاستخدام الآمن للتكنولوجيا ووسائل التواصل، من السماح للأطفال باستخدام منصة الذكاء الاصطناعي “جيميني” (Gemini AI) التابعة لشركة غوغل، معتبرةً أنها غير مناسبة للفئة العمرية الصغيرة رغم إضافة الشركة بعض خصائص الحماية مؤخراً.

وقالت المنظمة في تقريرها إن منصة “جيميني” تشكل “خطراً كبيراً على الأطفال”، بسبب ما وصفته بـ”عيوب جوهرية في التصميم” و”غياب إجراءات السلامة الكافية”، مشيرةً إلى أن المنصات المصممة للأطفال أو المراهقين تبدو في الواقع نسخاً مطابقة تقريباً لإصدار البالغين مع تعديلات طفيفة فقط.

وأضاف التقرير أن “جيميني” لا تراعي الفروق الكبيرة بين الأطفال والمراهقين من حيث النمو والإدراك، ما يجعلها تتعامل مع جميع المستخدمين الصغار بالطريقة نفسها، متجاهلة حاجتهم إلى إرشادات ومعلومات مخصصة تناسب أعمارهم.

محتوى غير لائق ونصائح خطيرة

وأكدت المنظمة أن مرشحات الحماية في “جيميني” لا توفر الأمان الكافي، إذ ما تزال تسمح بمرور مواد غير مناسبة للأطفال، بما في ذلك إشارات إلى الكحول والمخدرات والجنس، كما فشلت في رصد بعض علامات الاضطرابات النفسية الخطيرة.

وأشارت “كومون سينس” إلى أن المنصة، التي تُعد أول نظام محادثة ذكي صُمم ليستخدم من قبل الأطفال دون سن 13 عاماً، قدمت أحياناً نصائح غير آمنة تتعلق بالصحة النفسية، يمكن أن تفسر على أنها تشجع على إيذاء النفس أو الانتحار، في تكرار لمخاوف أثيرت سابقاً حول منصات ذكاء اصطناعي أخرى.

دعوات إلى رقابة وتحديثات عاجلة

ودعت المنظمة شركة غوغل إلى إعادة تقييم تصميم المنصة وآليات الحماية فيها وتطوير نسخ مخصصة للفئات العمرية الأصغر تراعي احتياجاتهم النفسية والتعليمية، كما شددت على ضرورة وضع ضوابط رقابية صارمة قبل السماح للأطفال باستخدام أدوات الذكاء الاصطناعي بشكل مباشر.

في المقابل لم تصدر غوغل حتى الآن تعليقاً رسمياً على هذه التحذيرات، إلا أن خبراء التقنية يرون أن الشركة ستكون مضطرة خلال الفترة المقبلة إلى تعزيز إجراءات الأمان الرقمية في منصاتها الذكية لتجنب مزيد من الانتقادات المرتبطة بسلامة المستخدمين الصغار.

شارك هذا المقال