«جوجل» تعزز «Gemini» بميزة طوارئ نفسية لحماية المستخدمين وسط ضغوط قضائية

فنتيك جيت: وكالات

أطلقت شركة Google تحديثًا جديدًا على روبوت الدردشة Gemini، يستهدف تقديم دعم فوري للمستخدمين في حالات الأزمات النفسية، في تحرك يعكس تصاعد الضغوط على شركات الذكاء الاصطناعي لتعزيز معايير السلامة الرقمية.

ويعتمد التحديث على نظام ذكي قادر على رصد الإشارات المرتبطة بإيذاء النفس أو التفكير في الانتحار داخل المحادثات، ليقوم تلقائيًا بتفعيل خاصية “المساعدة متاحة”، التي توجّه المستخدمين بشكل مباشر إلى خدمات الدعم النفسي، مثل خطوط المساعدة وخدمات الرسائل النصية المتخصصة في الأزمات.

ويُقدَّم هذا الدعم عبر واجهة مبسطة تتيح الوصول إلى المساعدة بضغطة واحدة، مع توفير ردود أكثر تعاطفًا تهدف إلى تشجيع المستخدمين على طلب الدعم المتخصص، مع إبقاء خيار التواصل مع جهات الرعاية النفسية ظاهرًا طوال المحادثة.

وأكدت الشركة أن تطوير هذه الخاصية تم بالتعاون مع خبراء في الصحة النفسية، ضمن جهودها لتقليل المخاطر المرتبطة باستخدام تقنيات الذكاء الاصطناعي، خاصة في الحالات الحساسة التي قد تتطلب تدخلًا بشريًا مباشرًا.

ويأتي هذا التحديث في وقت تواجه فيه الشركة تحديات قانونية متصاعدة، على خلفية اتهامات موجهة لروبوت الدردشة بالتسبب في أضرار واقعية، من بينها قضية تتعلق بالقتل الخطأ، ما يزيد من حدة التدقيق على آليات عمل أنظمة الذكاء الاصطناعي وقدرتها على حماية المستخدمين.

كما يعكس التحديث توجهًا أوسع داخل قطاع التكنولوجيا، حيث تسعى الشركات المطورة لروبوتات الدردشة إلى تعزيز قدرتها على اكتشاف المستخدمين الأكثر عرضة للخطر، وتقديم استجابات أكثر أمانًا ومسؤولية، في ظل تزايد المخاوف من تأثير هذه التقنيات على الصحة النفسية والسلوك البشري.

ورغم هذه التحسينات، شددت الشركة على أن Gemini لا يمكن أن يكون بديلًا عن العلاج النفسي أو الرعاية الطبية المتخصصة، بل أداة مساعدة لتوجيه المستخدمين نحو الدعم المناسب في الوقت المناسب.

في هذا السياق، ومن ناحية أخرى، هناك العديد من الأخبار المرتبطة بالقطاع والتي يمكنك متابعتها. على سبيل المثال.

• «جوجل» تطلق تطبيق إملاء صوتي بالذكاء الاصطناعي يعمل دون إنترنت
• تحالف يضم «أوبن إيه آي» و«جوجل» و«أنثروبيك» و«مايكروسوفت» لمواجهة «ديب سيك»
• ضغط متصاعد على عمالقة التكنولوجيا.. المستثمرون يطالبون «أمازون» و«مايكروسوفت» و«جوجل» بكشف استهلاك المياه والطاقة في مراكز البيانات