منظمة كومون سينس: نسخة «جيميني» للفئة أقل من 13 عاما عالية الخطورة على الأطفال والمراهقين
فينتك جيت:وكالات
في تقرير جديد أثار الجدل، أعلنت منظمة كومون سينس ميديا، وهي مؤسسة غير ربحية تُعنى بسلامة الأطفال، أن نظام الذكاء الاصطناعي جيميني من جوجل يُصنّف ضمن الفئة “عالية الخطورة” عندما يتعلق الأمر بالأطفال والمراهقين.
بدأ التقرير بالإشارة إلى أن نسختي جيميني المخصصة لـ”أقل من 13 عامًا” و”تجربة المراهقين” لا تختلفان كثيراً عن النسخة الموجهة للبالغين، باستثناء إضافة بعض عوامل الأمان.
وبالنسبة للمنظمة، فإن هذا النهج لا يكفي، إذ ترى أن تصميم أي منتج موجه للأطفال يجب أن يأخذ احتياجاتهم وسلامتهم في الاعتبار منذ البداية، لا أن يكون مجرد نسخة مُعدلة من أداة صُممت للكبار.
وخلال التحليل، وجدت المنظمة أن جيميني لا يزال قادرا على مشاركة محتويات غير مناسبة وغير آمنة بالنسبة للأطفال بالإضافة إلى نصائح غير آمنة قد تمس الصحة العقلية.
هذه النقطة على وجه الخصوص أثارت القلق، خاصة بعد ظهور حالات انتحار بين المراهقين ارتبطت باستخدام روبوتات دردشة بالذكاء الاصطناعي.
بالفعل، تواجه شركات مثل OpenAI وCharacter.AI دعاوى قضائية تتعلق بانتحار مراهقين اعتمدوا على هذه الأدوات في فترات حرجة من حياتهم.
ويزداد المشهد حساسية مع تسريبات صحفية تفيد بأن آبل تدرس دمج جيميني في نسخة مطورة من مساعدها الصوتي “سيري”، وهو ما قد يوسع من دائرة تعرض المراهقين للمخاطر، إن لم تُعالج هذه الثغرات.
روبي تورني، المدير الأول لبرامج الذكاء الاصطناعي في كومون سينس ميديا، لخّص الموقف بقوله: “جيميني ينجح في بعض الأساسيات، لكنه يفشل في التفاصيل.
يجب أن تُصمم المنصات للأطفال بما يتناسب مع مراحل نموهم، لا أن تُفرض عليهم تجربة واحدة مُوجهة للبالغين.”
من جهتها، ردّت جوجل على التقرير رافضةً التقييم، مؤكدةً أنها تطبق سياسات أمان خاصة لمن هم دون 18 عاما، وأنها تشكل فرقاً متخصصة وتستعين بخبراء خارجيين لتحسين الحماية.
وأقرت الشركة بأن بعض استجابات جيميني لم تكن تعمل كما يجب، لكنها قالت إنها أضافت طبقات أمان جديدة لمعالجة ذلك.
كما أوضحت أن التقرير أشار إلى ميزات غير متاحة أصلًا للمستخدمين الصغار، لافتةً إلى أن المنظمة لم تكشف عن الأسئلة التي استخدمتها في اختباراتها، وفقا لموقع “تك كرانش”.
ويأتي هذا التقييم ضمن سلسلة أجرتها المنظمة على أنظمة ذكاء اصطناعي أخرى: فقد صُنّفت منصات مثل Meta AI وCharacter.AI على أنها “غير مقبولة”، واعتُبرت Perplexity “عالية الخطورة”، بينما جاء ChatGPT في فئة “متوسط الخطورة”، واعتُبر Claude المخصص للبالغين “منخفض الخطورة”.
في النهاية، يكشف تقرير كومون سينس ميديا عن فجوة واضحة بين ما يقدمه الذكاء الاصطناعي اليوم وما يحتاجه الأطفال والمراهقون فعلاً.
فجوة تضع جوجل وبقية الشركات أمام مسؤولية مضاعفة لإعادة التفكير في كيفية تصميم هذه الأدوات، بحيث تُصبح أكثر أمانًا للأجيال الأصغر سنًا.
اقرا ايضا:
تقرير: «أبل» تتوصل لاتفاق مع «جوجل» لدمج جيميني في المساعد الذكي Siri
5 نصائح للحصول على أفضل إجابات من «شات جي بي تي» و«جيميني»
«كابجيميني» و«بيجو سبورت» تجددان شراكتهما لمواجهة التحديات التكنولوجية والاستدامة في أداء الرياضة
