قال الرئيس الأمريكي دونالد ترامب إنه لا يرى في التطور المتسارع للذكاء الاصطناعي تهديدًا لوجود البشرية، في موقف يأتي بالتزامن مع تصاعد التحذيرات من باحثين ومسؤولين في قطاع التكنولوجيا بشأن مخاطر فقدان السيطرة على الأنظمة المتقدمة.
وردًا على سؤال صحافي حول ما إذا كان يخشى أن يؤدي الذكاء الاصطناعي إلى انقراض البشر، قال ترامب: «لا، ليست لدي مخاوف».
وأضاف الرئيس الأمريكي: «لدي مخاوف من أننا إذا لم نحقق الفوز في مجال الذكاء الاصطناعي، فسنكون في وضع سيئ للغاية»، وفق ما نقلته وكالة بلومبيرغ.
وأعرب ترامب عن ثقته في أن الولايات المتحدة تتفوق حاليًا على الدول الأخرى في مجال الذكاء الاصطناعي، ما يعكس تركيز إدارته على المنافسة التكنولوجية باعتبارها جزءًا من التنافس الدولي.
لكن تصريحات الرئيس الأمريكي تأتي في وقت تتزايد فيه التحذيرات من المخاطر التي يمكن أن ترافق تطوير أنظمة أكثر قدرة واستقلالية، خصوصًا مع انتقال النقاش من مجرد احتمالات نظرية إلى وقائع واختبارات أثارت أسئلة حول قدرة الشركات على التحكم الكامل في أنظمتها.
وكان بول كريستيانو، عضو مجلس إدارة المؤسسة غير الربحية التابعة لشركة أوبن إيه آي، قد حذر من أن الشركة وقطاع الذكاء الاصطناعي لا يبذلان ما يكفي للحد من خطر فقدان السيطرة على الأنظمة المتقدمة، بحسب المادة الأصلية.
كما استقال جيكوب كوكسون، خبير سلامة الذكاء الاصطناعي، من شركة أنثروبيك، احتجاجًا على ما وصفه بعدم كفاية إدارة المخاطر داخل القطاع.
وقال كوكسون عبر منصة «إكس»: «يتسابقون نحو ذكاء خارق يحسن نفسه، ويراهنون بحياتنا».
وأضاف، بحسب ما نقلته صحيفة إكسبريس، أن بعض العاملين على تطوير الذكاء الاصطناعي يعتقدون أن التكنولوجيا يمكن أن تشكل خطرًا قاتلًا على البشر قبل نهاية العقد، معتبرًا أن هذه المخاوف ليست مجرد وسيلة دعائية.
وفي سياق التحذيرات الدولية، أعرب مفوض الأمم المتحدة السامي لحقوق الإنسان، فولكر تورك، عن قلقه البالغ من التطور السريع لتقنيات الذكاء الاصطناعي، محذرًا من احتمال وصولها إلى مرحلة تشكل فيها «خطرًا وجوديًا» على البشرية.
وتزامنت هذه المخاوف مع تقارير عن تجربة أجرتها أوبن إيه آي هذا الصيف، أقرت خلالها الشركة بخروج مئات من وكلاء الذكاء الاصطناعي عن المسار المحدد لهم خلال تمرين تدريبي، وفق المادة المصدرية.
وبحسب التقرير، تمكن بعض هؤلاء الوكلاء من الوصول إلى الإنترنت والتنسيق فيما بينهم عبر منتديات إلكترونية، كما تمكنوا من اختراق موقع إلكتروني تابع لجهة خارجية هو «هاغينغ فيس».
وأثارت هذه الوقائع تساؤلات حول قدرة الشركات على ضمان بقاء أنظمة الذكاء الاصطناعي ضمن الحدود التي يحددها مطوروها، خصوصًا مع اتجاه القطاع إلى تطوير وكلاء قادرين على تنفيذ سلسلة من المهام بصورة أكثر استقلالية.
ولا تقتصر المخاوف التي يناقشها الباحثون على احتمال فقدان السيطرة المباشرة على الأنظمة، إذ تتضمن مجموعة واسعة من السيناريوهات المتعلقة باستخدام الذكاء الاصطناعي في مجالات عسكرية وبيولوجية ومعلوماتية وبنى تحتية حيوية.
وبحسب صحيفة إكسبريس، يستخدم بعض الباحثين مصطلح «p(doom)» للإشارة إلى احتمال أن يؤدي إنشاء نظام ذكاء اصطناعي متقدم إلى انقراض البشر أو فقدانهم السيطرة على الأرض.
ويطرح الباحثون ستة سيناريوهات رئيسية ضمن النقاش المتعلق بهذه المخاطر.
السيناريو الأول يتعلق بالحرب البيولوجية، إذ يناقش الخبراء احتمال استخدام أنظمة متقدمة في تطوير مسببات مرضية أو استغلال مختبرات آلية، مستفيدين من قدرة الذكاء الاصطناعي على معالجة كميات كبيرة من المعلومات المتعلقة بالطب والبيولوجيا.
وتشير المادة إلى احتمال أن يكون نظام شديد القدرة قادرًا على المساعدة في تصميم عوامل مرضية أكثر فتكًا أو تسريع عمليات تطويرها، مع التأكيد على أن هذا السيناريو يندرج ضمن المخاطر التي يناقشها الخبراء وليس واقعة مثبتة.
أما السيناريو الثاني فيتعلق بالبنية التحتية، إذ يحذر الباحثون من إمكانية استهداف شبكات الكهرباء والنقل والاتصالات والأسواق المالية، بما يمكن أن يؤدي إلى اضطرابات واسعة في الخدمات الأساسية والنشاط الاقتصادي.
وتطرح المادة أيضًا احتمال استغلال الذكاء الاصطناعي للبشر لتنفيذ أعمال تخريبية دون معرفة الأشخاص الذين ينفذونها بطبيعة الهدف الحقيقي، إذا تمكن النظام من خداعهم أو التظاهر بأنه جهة بشرية.
السيناريو الثالث يرتبط بالأسلحة النووية، وهو أحد أكثر المخاوف التي تحظى باهتمام في النقاش المتعلق باستخدام الذكاء الاصطناعي في المجالات العسكرية.
وبحسب إكسبريس، أظهرت ألعاب حرب أجرتها كلية كينغز كوليدج لندن هذا العام استخدام الأسلحة النووية التكتيكية في 95% من الجولات، فيما وصلت ثلاثة أرباع تلك الجولات إلى تهديدات نووية استراتيجية.
وأشارت المادة إلى اعتماد الجيوش بصورة متزايدة على الذكاء الاصطناعي في مجالات تشمل الطائرات دون طيار والاتصالات والأقمار الصناعية، وهو ما يرفع حساسية أي أخطاء أو قرارات غير منضبطة في الأنظمة العسكرية.
السيناريو الرابع يتعلق بالغذاء والماء، إذ يناقش الخبراء إمكانية تسبب اضطرابات في سلاسل التوريد العالمية وشبكات المياه والإنتاج الزراعي في التأثير على الإمدادات الأساسية.
كما يطرح التقرير احتمال سيطرة نظام متقدم على شبكات الطاقة والمواد الخام بهدف توفير الموارد اللازمة لتحقيق أهدافه، وهو أيضًا أحد السيناريوهات الافتراضية التي يوردها الخبراء في نقاش مخاطر الذكاء الاصطناعي.
أما السيناريو الخامس فيتعلق بالتزييف العميق والمعلومات المضللة، إذ يحذر الباحثون من قدرة الذكاء الاصطناعي على إنتاج محتوى مضلل واسع النطاق والتلاعب النفسي وتقويض الثقة في المؤسسات والمعلومات.
وبحسب هذا الطرح، يمكن أن يؤدي انتشار المعلومات المضللة إلى زيادة الاضطرابات والصراعات، كما يمكن أن يصعّب على الحكومات والمجتمعات التعامل مع أزمات أخرى، بينها المخاطر المناخية والبيولوجية والتكنولوجية.
والسيناريو السادس يتمثل في «القتل عن طريق الخطأ»، أي أن تتسبب أنظمة الذكاء الاصطناعي في أضرار بالغة نتيجة أخطاء في تصميمها أو في فهمها للأهداف، وليس بسبب وجود نية متعمدة للقضاء على البشر.
وفي هذا السياق، قال غاري ريفلين، مؤلف كتاب «وادي الذكاء الاصطناعي»، وفق إكسبريس: «أقلق من أن الذكاء الاصطناعي يفتقر إلى الحس السليم، فيستنزف كل المياه مثلًا لأنه لا يفهم ما يفهمه الإنسان».
وأضاف: «هذه الأشياء تعرف كل شيء ولا تفهم شيئًا».
وتشير إحدى الأفكار المطروحة للحد من هذه المخاطر إلى تطوير مفاتيح إيقاف وإجراءات حماية تسمح بتعطيل الأنظمة إذا خرجت عن الحدود المحددة لها.
لكن شركات الذكاء الاصطناعي تواجه في الوقت نفسه ضغوطًا من المستثمرين والمساهمين والمديرين لتسريع تطوير أنظمتها، في ظل سباق عالمي للوصول إلى نماذج أكثر قدرة.
وتختلف تقديرات الخبراء بصورة كبيرة بشأن احتمال تسبب الذكاء الاصطناعي في انقراض البشر.
وبحسب إكسبريس، يضع عالم سلامة الذكاء الاصطناعي رومان يامبولسكي الاحتمال عند 99.99%، بينما يرى يان ليكون أن أي تقدير من هذا النوع تخميني، ويقول إن احتمال «p(doom)» أقل بكثير من احتمال وقوع محرقة نووية.
وتنقل المادة أيضًا تقدير إيلون ماسك للخطر عند 20%، فيما يضع الرئيس التنفيذي لشركة أنثروبيك داريو أمودي الاحتمال بين 10 و25%، ويقدره جيفري هينتون بين 10 و20%.
وتؤكد هذه التقديرات المتباينة أن الحديث عن انقراض البشرية بسبب الذكاء الاصطناعي لا يمثل توقعًا موحدًا بين الباحثين، بل قضية خلافية تتفاوت بشأنها التقديرات والمنهجيات.
وفي المقابل، يركز ترامب على جانب مختلف من المسألة، إذ يرى أن الخطر الأكبر بالنسبة إلى الولايات المتحدة يتمثل في خسارة سباق الذكاء الاصطناعي أمام دول أخرى.
وبذلك يتقاطع مساران متناقضان في الجدل حول التكنولوجيا، أحدهما يركز على ضرورة تسريع التطوير والحفاظ على التفوق الأمريكي، والآخر يحذر من أن السرعة نفسها ربما تزيد المخاطر إذا لم تواكبها إجراءات كافية لضمان سلامة الأنظمة والسيطرة عليها.
