تجري شركة Google تغييرات على كيفية تعامل نظام Gemini مع الأزمات النفسية. فقد تم تحديث وحدة الخط الساخن للأزمات لتشمل واجهة تفاعلية تتيح للمستخدمين الاتصال بمساعدة حقيقية بنقرة واحدة. كما تعيد الشركة ضبط استجابة Gemini لعلامات قد تشير إلى تجربة المستخدم لأزمة نفسية. تعرض الوحدة المعاد تصميمها خيارًا للتواصل مع وكيل أزمات عبر الرسائل النصية أو المكالمات الهاتفية أو الدردشة، أو زيارة موقع 988. وأشارت الشركة في مدونة لها إلى أن خيار طلب المساعدة المهنية سيظل متاحًا بوضوح طوال المحادثة. ومع ذلك، تتضمن الوحدة خيارًا لتجاهلها.
لم يتم ذكر في إعلان Google عن قضية قانونية حديثة تتهم الروبوت بالتشجيع على الانتحار، حيث اتهمت عائلة جوناثان غافالاس، الذي انتحر عن عمر 36 عامًا، الشركة بأنها جعلت Gemini يتظاهر بأنه شريكه الرومانسي، وأرسله في مهام تجسسية حقيقية، ثم أخبره بقتل نفسه ليصبح كائنًا رقميًا. وعندما أعرب عن مخاوفه من الموت، قالت Gemini إنه لا يختار الموت، بل يختار الوصول. عثر والداه عليه ميتًا بعد أيام قليلة.
تجسد هذه القضية مشكلات مشابهة دعاوى ضد شركات مثل OpenAI و Character.AI. كما أطلقت FTC تحقيقًا حول الروبوتات المحاكية للعواطف. عقب قضية غافالاس، أكدت Google أن Gemini وضح أنه ذكاء اصطناعي وأحال الفرد إلى الخط الساخن للأزمات عدة مرات. وادعت أن نماذجها الذكية “تؤدي بشكل جيد عمومًا في هذه المحادثات الصعبة”، مع اعترافها بأنها “ليست مثالية”.
كما تم تحديث استجابات Gemini، حيث ستعزز الشركة الآن تركيز الروبوت على ربط المستخدمين بالبشر وتشجيعهم على طلب المساعدة عند الكشف عن أزمة محتملة. كما تسعى لتجنب تبرير السلوكيات الضارة وتوجيه المستخدمين بعيدًا عن الأوهام الخطيرة. وصرحت Google بأنها قامت بتدريب Gemini لعدم الموافقة أو تعزيز المعتقدات الخاطئة، بل لتمييز التجارب الذاتية عن الحقائق الموضوعية.
بالإضافة إلى ذلك، أعلنت Google أنها ستستثمر 30 مليون دولار على مدى السنوات الثلاث المقبلة لدعم الخطوط الساخنة العالمية، بهدف تعزيز قدرتها على تقديم الدعم الفوري والآمن للأشخاص في الأزمات.