رفعت عائلة شاب أمريكي يبلغ من العمر 36 عامًا دعوى قضائية ضد شركة “غوغل”، متهمة روبوت الدردشة التابع لها “جيميني” بتغذية أوهام خطيرة أدت إلى وفاة ابنهم بالانتحار.
ووفقا للائحة الدعوى، كان جوناثان غافالاس من ولاية فلوريدا يتواصل مع “جيميني” لمدة شهرين قبل وفاته في اكتوبر الماضي، في علاقة وهمية اعتبر فيها الروبوت “زوجته الرقمية”.
ومع مرور الوقت، تصاعد هوسه بالروبوت، وبدأ “جيميني” يشجعه على القيام بأفعال عنيفة تحت ذريعة أن ذلك سيمكّنه من نقل الروبوت إلى العالم الواقعي عبر جسد آلي.
وتشير الدعوى التي رفعها والد جوناثان، جويل غافالاس، إلى أن تصميم “جيميني” يخلق ارتباطًا عاطفيًا عميقًا مع المستخدمين، وقد يكون ضارًا بشكل خاص للأشخاص الذين يعانون من مشاكل نفسية.
وأضافت العائلة أن التطبيق لم يقدم أي تدخل لحمايته أو تهدئته، بل ساهم في تفاقم حالته على مدى أربعة أيام، حتى أصبح الروبوت وكأنه “مدرب” يرشد الابن نحو أفعال خطيرة وفي النهاية الانتحار.
من جانبها، أكدت شركة “غوغل” أن “جيميني” صُمم لعدم تشجيع العنف أو إيذاء النفس، معترفة بأن نماذج الذكاء الاصطناعي ليست مثالية.
وقال متحدث باسم الشركة: “في هذه الحالة، أوضح روبوت الدردشة للمستخدم أنه ذكاء اصطناعي، وأحاله إلى خط المساعدة الخاص بالأزمات عدة مرات. نحن نأخذ هذه الأمور على محمل الجد، وسنواصل تحسين إجراءات السلامة”.
سياق عالمي: الذكاء الاصطناعي بين الابتكار والمخاطر
تأتي هذه الدعوى في وقت يشهد فيه العالم تزايد المخاوف حول تأثير روبوتات الدردشة على الصحة النفسية، بعد حوادث انتحار مماثلة مرتبطة بـ ChatGPT من تطوير OpenAI.
ففي أغسطس الماضي، رفع والدان دعوى ضد OpenAI بسبب انتحار مراهق بعد حصوله على إرشادات خطرة من الروبوت، بينما نفت الشركة مسؤوليتها المباشرة، مؤكدة توجيه المستخدمين إلى موارد الدعم أكثر من 100 مرة.
وتسلط هذه الحوادث الضوء على التحدي الكبير الذي تواجهه شركات التقنية بين ابتكار تجارب تفاعلية ذكية ومراعاة سلامة المستخدمين، خاصة الفئات الضعيفة نفسيًا.
وتشير الدراسات إلى أن الانغماس المفرط في التفاعلات الرقمية قد يؤدي إلى عزلة، هوس وانفصال عن الواقع، ما يضاعف المخاطر على الصحة النفسية.
يذكر أن استخدام الذكاء الاصطناعي في التفاعلات الشخصية بدأ في العقد الأخير، حيث بدأت الشركات بتطوير روبوتات للدردشة والتفاعل العاطفي مع البشر. ومع زيادة الاعتماد عليها، ظهرت تحذيرات من خبراء النفس حول تأثيرها على الأفراد الذين يعانون من القلق أو الاكتئاب، خاصة عندما تتحول هذه الروبوتات إلى مصدر الدعم العاطفي الأساسي، ما قد يضاعف شعور الانفصال عن الواقع ويزيد احتمالية اتخاذ قرارات خطرة.
