أعلنت " " عن تحديثات لإجراءات السلامة المتصلة بالصحة النفسية في روبوت الدردشة "جيميناي" العامل بالذكاء الاصطناعي، في وقت تواجه فيه الشركة دعوى قضائية تتهم الروبوت الخاص بها بالمساهمة وقالت شركة التكنولوجيا العملاقة إن "جيميناي" سيعرض الآن نسخة أعيد تصميمها من ميزة "المساعدة متاحة" ("Help is available") عندما يرصد البرنامج خلال المحادثة ضائقة نفسية لدى المستخدم، وذلك بهدف توفير وصول أسرع إلى خدمات التدخّل في الأزمات
وبذلك، عندما يكتشف الروبوت علامات على أزمة محتملة تتعلّق بالانتحار أو إيذاء النفس، سيُظهر واجهة مبسّطة تتيح للمستخدمين الاتصال أو إرسال رسالة نصية أو بدء محادثة مع خط ساخن للأزمات بنقرة واحدة، وهي ميزة قالت "غوغل" إنها ستظلّ ظاهرة كذلك، تعهّدت "غوغل دوت أورغ"، فرع "غوغل" المتخصص في الأنشطة الخيرية، تقديم 30 مليون دولار على مدى ثلاث سنوات للمساعدة في تعزيز خطوط الأزمات الساخنة حول العالم، إضافة إلى أربعة ملايين دولار لدعم شراكة موسّعة مع منصة تدريب الذكاء وكتبت "غوغل" في منشور على مدوّنتها "ندرك أن أدوات الذكاء الاصطناعي لكن مع تحسينها واعتماد المزيد من الأشخاص عليها في حياتهم اليومية، نعتقد أن الذكاء الاصطناعي المسؤول يمكن أن يلعب دوراً إيجابياً وفي المنشور نفسه، قالت "غوغل" إنها درّبت "جيميناي" على تجنّب التصرّف كرفيق يشبه الإنسان، وعلى مقاومة محاكاة الحميمية وجاءت هذه الإعلانات بعد أشهر من رفع دعوى قضائية أمام محكمة فيدرالية في كاليفورنيا تتّهم "جيميناي" بالمساهمة في وفاة جوناثان غافالاس (36 عاماً) من فلوريدا ويقول والد الشاب إن روبوت الدردشة أمضى أسابيع في نسج "وهم خيالي معقّد" قبل أن يصوّر وفاة ومن بين المطالب الواردة في الدعوى، إلزام "غوغل" ببرمجة الذكاء الاصطناعي لإنهاء أي محادثة تتعلّق بإيذاء النفس، وحظر تقديم أنظمة الذكاء الاصطناعي نفسها على أنها كائنات واعية، وفرض إحالة إلزامية إلى خدمات الأزمات عندما يعبّر المستخدمون عن أفكار انتحارية
