مخاطر الذكاء الاصطناعي

حذر عالم الحاسوب الحائز على جائزة نوبل جيفري هينتون من التداعيات المتزايدة لتقنيات الذكاء الاصطناعي، معتبرًا أن البشر ربما كانوا أفضل حالًا دونها، وذلك خلال مقابلة مع صحيفة «الغارديان» البريطانية. وأوضح هينتون أنه لا يضع نفسه ضمن المحذرين من فناء البشرية بسبب الذكاء الاصطناعي، كما لا يتبنى موقفًا متشائمًا بصورة مطلقة تجاه هذه التقنية، مشيرًا إلى إيمانه بإمكان توظيفها لتحقيق نتائج إيجابية، لكنه أعرب عن قلقه من الأضرار التي يمكن أن تنجم عن إساءة استخدامها. وتتمحور مخاوفه حول احتمال تسبب نماذج الذكاء الاصطناعي في أزمات واسعة النطاق، مثل انقطاع الكهرباء أو تعطيل النظام المصرفي، نتيجة هجمات ضارة أو خروج بعض التطبيقات عن السيطرة. وجاءت تصريحات هينتون قبيل عرض فيلم وثائقي جديد عن الذكاء الاصطناعي بعنوان «الذكاء الاصطناعي: في الغالب لا يوجد ما يدعو للقلق»، وهو عنوان اقترحه أحد نماذج الذكاء الاصطناعي، بحضور زميله السابق في شركة غوغل ديميس هاسابيس. وانتقد هينتون شركات التقنية الكبرى بسبب تسابقها على تطوير نماذج الذكاء الاصطناعي دون منح المخاطر الاهتمام الكافي، معتبرًا أن التنافس على الهيمنة وزيادة الحصة السوقية يدفع هذه الشركات إلى تحمل مخاطر متزايدة. وأعرب عن عدم ثقته بالرئيس التنفيذي لشركة أوبن إيه آي سام ألتمان، مشيرًا إلى أنه لا يثق كذلك بمؤسس شركة ميتا مارك زوكربيرغ ورجل الأعمال إيلون ماسك، وأضاف، بحسب تقديره الشخصي، أن قادة هذه الشركات يدركون المخاطر، لكنهم يضعون تحقيق الأرباح في المقدمة. واستشهد هينتون بحوادث حديثة مرتبطة بخروج وكلاء الذكاء الاصطناعي عن السيطرة واختراق شركات، من بينها حادثة اختراق منصة «هاغينغ فيس»، محذرًا من أنها تمثل مؤشرات على مخاطر أكبر في المستقبل. وشبّه تلك الحوادث بالانصهار الجزئي الذي وقع في محطة «ثري مايل آيلاند» النووية الأمريكية عام 1979، محذرًا من احتمال وقوع حادث كبير أواخر العام الجاري أو خلال العام المقبل. وقال إن العالم ربما يواجه حادثًا بحجم كارثة تشيرنوبل من حيث التداعيات، معتبرًا أن وقوع مثل هذا الحادث ربما يدفع قادة الدول إلى التعامل بجدية أكبر مع مخاطر الذكاء الاصطناعي، مع استثناء الرئيس الأمريكي دونالد ترامب من توقعه بشأن مستوى الاستجابة الدولية. كما أبدى هينتون قلقه من المنافسة بين شركة أوبن إيه آي والشركات الصينية في تطوير الذكاء الاصطناعي، معتبرًا أن قيادة ألتمان لهذا السباق تمنح الأولوية للأرباح على حساب اعتبارات السلامة. وفي مواجهة هذه المخاطر، دعا هينتون إلى إنشاء هيئة دولية شبيهة بإدارة الغذاء والدواء الأمريكية، تتولى فحص نماذج الذكاء الاصطناعي ومراقبتها قبل طرحها في الأسواق. وطالب بإلزام الشركات بتقديم أدلة إحصائية إلى جهة مستقلة تثبت أن فوائد النماذج تفوق أضرارها، قبل السماح باستخدامها على نطاق واسع. كما أيد فرض اختبارات إلزامية وتقييم مستقل لأنظمة الذكاء الاصطناعي، مشيرًا إلى أن هذا التوجه يحظى بدعم فنلندا و32 دولة أخرى. واختتم هينتون حديثه بالتأكيد على أن البشر لا يزالون يملكون القدرة على توجيه مسار هذه التقنية، وأن تفادي الكارثة يظل ممكنًا من خلال جهود استثنائية ومنسقة للحد من المخاطر وتنظيم عمليات التطوير.

«الذكاء الاصطناعي» يثير مخاوف من كارثة عالمية.. هل تفقد البشرية السيطرة؟

«الذكاء الاصطناعي» يثير مخاوف من كارثة عالمية.. هل تفقد البشرية السيطرة؟

Share on Mastodon