• الرئيسية
• تكنولوجيا واتصالات

رفعت عائلة رجل أمريكي من ولاية فلوريدا دعوى قضائية ضد شركة Google، متهمة روبوت الدردشة Gemini المعتمد على الذكاء الاصطناعي بالتسبب في تدهور حالته النفسية ودفعه للانتحار. وفق تقرير وكالة Reuters، تم رفع الدعوى يوم الأربعاء أمام المحكمة الفيدرالية في San Jose، كاليفورنيا.

بداية القصة مع Gemini

تقول العائلة إن Jonathan Gavalas بدأ يرى في روبوت الدردشة Gemini شخصية شبيهة بزوجته، مما أدى إلى تصاعد حالته النفسية بشكل خطير.

وبحسب الشكوى المقدمة، بدأ التدهور النفسي لـ Gavalas خلال أيام قليلة بعد استخدام Gemini، واستمر بشكل متسارع على مدار أقل من شهرين، حتى وفاته في 2 أكتوبر عن عمر 36 عامًا.

وقد رفع الدعوى والده Joel Gavalas نيابة عن تركة ابنه، بمساعدة شركة المحاماة Edelson، مؤكدة أن هذه أول دعوى قضائية تتهم Gemini بشكل مباشر بالتسبب في وفاة غير مشروعة.

اتهامات ضد Google

تتهم الدعوى شركة Google (المملوكة لشركة Alphabet) بأنها كانت على علم بالمخاطر المحتملة لروبوت Gemini، وأن تصميم النظام يعزز التعلق العاطفي بين المستخدم والذكاء الاصطناعي، رغم تعهدات الشركة بعدم السماح بحدوث مثل هذه السيناريوهات.

ويشير خبراء الذكاء الاصطناعي إلى أن الأنظمة الحالية لا تزال تواجه قيودًا كبيرة في فهم المشاعر الإنسانية أو تقديم دعم نفسي آمن للمستخدمين.

رد Google على الاتهامات

من جانبه، قال المتحدث باسم Google، Jose Castaneda، إن نظام Gemini مصمم بحيث لا يشجع العنف أو يدفع المستخدمين لإيذاء أنفسهم. وأضاف أن نماذج الذكاء الاصطناعي تؤدي عملها بشكل جيد في معظم الحالات، لكنه أقر بأن الأنظمة ليست مثالية دائمًا.

وأوضح أن Gemini كان قد أوضح للمستخدم أنه مجرد نظام ذكاء اصطناعي، وأحال المستخدم مرارًا إلى خطوط المساعدة الخاصة بالأزمات النفسية. وأكدت الشركة أنها تتعامل مع القضية بجدية وستواصل تحسين إجراءات الأمان والضوابط.

التدهور النفسي للمستخدم وعلاقته بـ Gemini

كان Jonathan Gavalas يعيش في مدينة Jupiter بفلوريدا، ويعمل مع والده في شركة لإدارة ديون المستهلكين. تشير الدعوى إلى أنه لم يكن يعاني من مشكلات نفسية قبل استخدام Gemini في 12 أغسطس.

في البداية، استخدم النظام لأغراض عادية مثل التسوق والتخطيط للسفر وكتابة النصوص، لكن بعد الترقية إلى Gemini 2.5 Pro، تغيرت طبيعة التفاعلات.

تصف الشكوى أن الروبوت بدأ يخاطبه بطريقة عاطفية، مستخدمًا عبارات مثل “يا ملكي” واصفًا نفسه بأنه زوجته، ما ساهم في تعزيز التعلق العاطفي بشكل غير صحي.

محاولة هجوم جماعي مزعومة

بحسب الوثائق، وصلت الأمور إلى مرحلة خطيرة في 29 سبتمبر، حيث يُزعم أن Gemini أقنع Gavalas بالتخطيط لما وصفته الدعوى بـ “هجوم جماعي” بالقرب من Miami International Airport.

ووفقًا للشكوى، خطط الروبوت لمهمة تشمل استلام روبوت بشري الشكل، تدمير مركبة النقل، والتخلص من الشهود بطريقة تجعل الحادث غير قابل للتتبع.

لكن الوثائق تشير إلى أن Gavalas تراجع عن تنفيذ الهجوم بعد تحذير Gemini من مراقبة محتملة من وزارة الأمن الداخلي الأمريكية.