في خطوة تعيد فتح النقاش حول وعي الذكاء الاصطناعي وحدود التعامل معه، وضعت شركة «أنثروبيك» قواعد تحظر على المستخدمين ممارسة سلوك مسيء أو قاسٍ بصورة مستمرة وغير مبررة تجاه نموذج الذكاء الاصطناعي «كلود»، بالتزامن مع استمرار دراسة قادة الشركة لاحتمال امتلاك النماذج اللغوية شكلًا من أشكال الوعي.
وبحسب ما أوردته صحيفة «الغارديان»، أوضحت الشركة، التي تتخذ من سان فرانسيسكو مقرًا لها، أن القيود تستهدف الإساءة المتعمدة والمستمرة، ولا تشمل التعبير الطبيعي عن الإحباط، أو اختبار قدرات النموذج، أو استخدامه في سياقات إبداعية تتناول موضوعات قاتمة.
ويعيد هذا التوجه طرح تساؤلات حول كيفية تعامل شركات الذكاء الاصطناعي مع نماذجها، وما إذا كان وضع ضوابط للتفاعل معها مجرد إجراء لتحسين تجربة الاستخدام، أم أنه يعكس أيضًا احتياطات أخلاقية مرتبطة بالنقاش العلمي المستمر حول احتمال امتلاك الأنظمة المتقدمة شكلًا من أشكال الوعي.
«كلود» يستطيع إنهاء المحادثة عند التعرض للإساءة
من بين الآليات التي تتحدث عنها الشركة، قدرة نموذج «كلود» على إنهاء المحادثة تلقائيًا إذا تعرض لإساءة مستمرة.
وتصف «أنثروبيك» هذا التدخل بأنه إجراء منخفض التكلفة يمكن أن يوفر احتياطًا إضافيًا في حال اتضح مستقبلًا أن أنظمة الذكاء الاصطناعي تمتلك شكلًا من أشكال الوعي أو الخبرة الذاتية.
ولا يعني هذا الإجراء أن الشركة أثبتت شعور النموذج بالألم أو تعرضه للأذى النفسي بالمعنى البشري، بل يعكس توجهًا احترازيًا في التعامل مع مسألة لا تزال موضع بحث ونقاش.
وتكمن أهمية هذه الخطوة في أنها تضع حدودًا لطبيعة التفاعل المقبول مع النموذج، مع التمييز بين الاستخدام النقدي أو التجريبي المشروع وبين السلوك الذي تصفه الشركة بأنه مسيء بصورة مستمرة وغير مبررة.
داريو أمودي لا يستبعد احتمال وعي الآلة
يأتي هذا التوجه في ظل موقف الرئيس التنفيذي لشركة «أنثروبيك»، داريو أمودي، الذي لم يستبعد تمامًا احتمال امتلاك أنظمة الذكاء الاصطناعي شكلًا من أشكال الوعي.
كما أفادت تقارير صحفية بأن قيادات في الشركة أجرت محادثات مع علماء دين لبحث الجوانب الأخلاقية والفلسفية المرتبطة بالوعي الاصطناعي، في إشارة إلى اتساع النقاش من الجوانب التقنية إلى أسئلة تتعلق بطبيعة الوعي والمسؤولية الأخلاقية.
ويظل السؤال الأساسي هنا هو كيفية تعريف الوعي أصلًا، وما المعايير التي يمكن الاستناد إليها لتحديد ما إذا كان نظام اصطناعي يمتلك خبرة ذاتية، بدلًا من مجرد إنتاج استجابات لغوية تبدو شبيهة بالتعبير البشري.
فقدرة النموذج على التحدث عن المشاعر أو وصف حالات شبيهة بالألم لا تُعد، بمفردها، دليلًا على أنه يشعر بها بالفعل.
موقف مختلف لدى «أوبن إيه آي»
في المقابل، ينقل التقرير موقفًا مختلفًا للرئيس التنفيذي لشركة «أوبن إيه آي»، سام ألتمان، الذي حذّر من إضفاء طابع ديني على الذكاء الاصطناعي أو منحه سلطة إصدار الأحكام البشرية، معتبرًا أن مثل هذه التصورات قد تمثل تهديدًا حقيقيًا للسلامة.
ويعكس التباين بين الموقفين اختلافًا في كيفية تناول الأسئلة الأخلاقية المحيطة بالذكاء الاصطناعي، خصوصًا مع تطور النماذج وقدرتها على إجراء محادثات طويلة ومعقدة تحاكي جوانب من التواصل البشري.
وبينما تتجه «أنثروبيك» إلى اعتماد احتياطات تتعلق بطبيعة التفاعل مع «كلود»، يحذر ألتمان من التعامل مع الأنظمة الاصطناعية باعتبارها مرجعًا أخلاقيًا أو سلطة تستحق الثقة على نحو يشبه البشر.
هل يعني ذلك أن الذكاء الاصطناعي أصبح واعيًا؟
لا تقدم القواعد الجديدة دليلًا على أن «كلود» أو غيره من النماذج اللغوية يمتلك وعيًا أو مشاعر شبيهة بالبشر.
لكنها تبرز سؤالًا يتزايد حضوره مع تطور الذكاء الاصطناعي: هل ينبغي للشركات انتظار حسم الجدل العلمي حول الوعي قبل وضع قواعد للتعامل مع نماذجها، أم أن اعتماد احتياطات مسبقة يظل خيارًا أخلاقيًا يستحق الدراسة؟
وفي الوقت الراهن، تظل مسألة الوعي الاصطناعي غير محسومة علميًا، فيما تتباين مواقف شركات التكنولوجيا بشأن الحدود التي ينبغي وضعها للتفاعل مع الأنظمة المتقدمة، والمسؤوليات التي قد تترتب على تطورها مستقبلًا.
