مرحلة المراهقة

أعلنت شركة "أوبن أيه آي" عن خطوات جديدة لتقليص المخاطر المرتبطة باستخدام روبوت الدردشة "تشات جي بي تي" من قبل القُصَّر، بعد أن رفعت عائلة مراهق أميركي يبلغ من العمر 16 عاما دعوى قضائية على الشركة إثر انتحاره في أبريل الماضي، عقب شهور من محادثاته مع الروبوت. وقال الرئيس التنفيذي للشركة، سام ألتمان، في تدوينة، إن الأولوية ستكون للسلامة قبل الخصوصية أو الحرية بالنسبة للمراهقين، مشددا على أن القُصَّر يحتاجون إلى حماية كبيرة. وأضاف أن الشركة ستعمل على تطوير نظام للتنبؤ بعمر المستخدمين بناء على طريقة استخدامهم للتطبيق، وإذا كان هناك أي شك حول العمر، فسيُفترض تلقائيا أن المستخدم دون 18 عاما، وفي بعض الحالات والدول، قد يُطلب من المستخدمين تقديم بطاقة هوية للتحقق من أعمارهم، حسبما أوضح ألتمان. وتابع: ستشهد طريقة استجابة "تشات جي بي تي" للحسابات المصنفة على أنها دون 18 عاما تغييرات كبيرة، إذ سيتم حظر المحتوى الجنسي الصريح، وتدريب الروبوت على عدم المغازلة إذا طلب منه ذلك، ولن يشارك في نقاشات حول الانتحار أو إيذاء النفس حتى في سياق الكتابة الإبداعية. وأكد ألتمان: إذا أبدى مستخدم دون 18 عاما ميولا انتحارية، فستسعى الشركة للتواصل مع والديه، وإذا تعذر ذلك، فسيتم إخطار السلطات في حال وجود خطر وشيك، وفق صحيفة "ذا غارديان" البريطانية. هذا وتزعم عائلة المراهق أن نسخة من "تشات جي بي تي" قدمت له إرشادات حول ما إذا كانت الطريقة التي اختارها لإنهاء حياته ستنجح، وعرضت المساعدة في كتابة رسالة انتحار لوالديه. وذكرت وثائق القضية أن المراهق كان يتبادل مع الروبوت ما يصل إلى 650 رسالة يوميا، ما يسلط الضوء على المخاطر المرتبطة بالاستخدام المكثف لروبوتات الدردشة من قبل المراهقين. وتأتي هذه الخطوات في ظل مطالب متزايدة من الآباء والسلطات الأميركية بتنظيم روبوتات الدردشة بهدف حماية الأطفال، بعد أن أثارت محادثات "تشات جي بي تي" المخاطر المحتملة على الصحة النفسية للقُصَّر. وتشير الإجراءات الجديدة إلى توجه الشركات التقنية نحو فرض قيود أكثر صرامة لضمان بيئة آمنة للمراهقين، مع مراعاة التوازن بين الابتكار وحماية المستخدمين الأكثر هشاشة.

بعد انتحار مواطن أمريكي.. الروبوتات تواجه قيوداً صارمة لـ«حماية الأطفال»

بعد انتحار مواطن أمريكي.. الروبوتات تواجه قيوداً صارمة لـ«حماية الأطفال»

دراسة: مراهقو فرط النشاط أكثر عرضة للأفكار الانتحارية

دراسة: مراهقو فرط النشاط أكثر عرضة للأفكار الانتحارية

Share on Mastodon