لم يعد القلق من الذكاء الاصطناعي مقتصراً على أن تستولي الآلات على بعض الوظائف، أو أن تتسبب الخوارزميات في انتهاك الخصوصية ونشر الأخبار المضللة، بل بدأ يأخذ منحى أكثر خطورة مع تسارع تطور أنظمة قادرة على العمل باستقلالية واتخاذ خطوات متتابعة دون الحاجة إلى توجيه بشري مستمر.
هذا التحول دفع مفوض الأمم المتحدة السامي لحقوق الإنسان، فولكر تورك، إلى إطلاق تحذير شديد اللهجة من احتمال وصول بعض أنظمة الذكاء الاصطناعي إلى مستوى تصبح معه قدراتها أكبر من قدرة الإنسان على مراقبتها والتحكم فيها، معتبراً أن استمرار هذا المسار من دون قواعد واضحة قد يفتح الباب أمام مخاطر ذات طبيعة «وجودية».
وخلال اجتماع لمجلس حقوق الإنسان في جنيف، أوضح تورك أن العالم أمام مرحلة مختلفة من تطور التكنولوجيا، بعدما بدأت تظهر أنظمة قادرة على التخطيط وتنفيذ مهام معقدة، والتفاعل مع الإنترنت والبرمجيات، واتخاذ سلسلة من الإجراءات دون إشراف بشري دائم. وهي قدرات تطرح سؤالاً أساسياً لم يعد من الممكن تأجيله: ماذا سيحدث إذا أصبحت الآلة قادرة على اتخاذ قرارات لا يستطيع الإنسان توقع نتائجها أو إيقافها في الوقت المناسب؟
ويرى المسؤول الأممي أن التعامل مع هذه المخاطر لا يمكن أن يترك للشركات المطورة وحدها، إذ دعا إلى إخضاع أنظمة الذكاء الاصطناعي المتقدمة لاختبارات سلامة مستقلة، حتى لا يكون المنتج هو الجهة التي تمنح نفسها شهادة الأمان. كما أعلن عزمه التواصل مع شركات التكنولوجيا من أجل الدفع نحو إجراءات عاجلة تقلل من المخاطر المحتملة قبل أن يصبح تصحيح المسار أكثر صعوبة.
وتأتي هذه الدعوات في وقت تتزايد فيه المخاوف، خصوصاً في الولايات المتحدة وأوروبا، من تطور ما يعرف بالأنظمة المستقلة، وهي أنظمة لا تكتفي بتنفيذ أمر مباشر، وإنما تستطيع تحليل المعطيات ووضع خطط وتنفيذ سلسلة من المهام اعتماداً على قدراتها الخاصة.
ولهذا بدأت بعض المبادرات التشريعية في بريطانيا والولايات المتحدة تتجه نحو تعزيز الرقابة على هذه التكنولوجيا، وطرح آليات للتدخل في حالات الطوارئ، بما في ذلك إمكانية إيقاف الأنظمة عندما تظهر مؤشرات على خروجها عن الحدود الآمنة.
لكن الوجه الأكثر إثارة للقلق يظهر عندما تنتقل هذه التكنولوجيا من الحواسيب والهواتف والشركات إلى ساحات الصراع. فتورك دعا أيضاً إلى حظر الأسلحة ذاتية التشغيل التي تستطيع تحديد أهداف بشرية واتخاذ قرار باستخدام القوة القاتلة من دون تدخل بشري مباشر، محذراً من أن منح الآلة سلطة تقرير من يعيش ومن يموت يضع البشرية أمام سؤال أخلاقي وقانوني بالغ الخطورة.
وفي الوقت نفسه، تواصل أكثر من مئة دولة مناقشة وضع قواعد دولية للأسلحة ذاتية التشغيل، غير أن الخلافات السياسية والاستراتيجية ما زالت تحول دون التوصل إلى اتفاق ملزم يضع حدوداً واضحة لهذه التكنولوجيا.
ولا تبدو المنافسة التكنولوجية بين القوى الكبرى بعيدة عن هذه المخاوف. فالولايات المتحدة والصين تتجهان بدورهما إلى بحث قضايا مرتبطة بسلامة الذكاء الاصطناعي، بما في ذلك احتمالات استخدام أنظمة ذكية بصورة مستقلة في تنفيذ هجمات إلكترونية، وهو سيناريو يفتح الباب أمام نوع جديد من الصراعات التي قد لا يكون فيها الإنسان هو صاحب القرار الوحيد.
وبذلك ينتقل النقاش العالمي حول الذكاء الاصطناعي من سؤال «ماذا تستطيع الآلة أن تفعل؟» إلى سؤال أكثر حساسية: ما الذي ينبغي السماح لها بفعله أصلاً؟
فالتكنولوجيا قد تكون قادرة على تنفيذ مهام مذهلة، لكن القدرة التقنية لا تعني بالضرورة أن منح الآلة استقلالية كاملة هو الخيار الصحيح. وكلما ازدادت قدرة الأنظمة على التخطيط والتنفيذ واتخاذ القرارات، ازدادت الحاجة إلى وضع حدود واضحة تضمن بقاء الإنسان في موقع المسؤول عن القرارات الأكثر حساسية وخطورة.
المشكلة، كما تبدو من التحذيرات الأممية المتزايدة، ليست في أن الذكاء الاصطناعي أصبح ذكياً فحسب، وإنما في أن سرعة تطوره قد تتجاوز سرعة القوانين والمؤسسات في فهم مخاطره وتنظيمه. وإذا كان العالم قد اعتاد أن يضع القواعد بعد ظهور المشكلات، فإن الذكاء الاصطناعي قد يكون من المجالات التي يصبح فيها الانتظار حتى وقوع الكارثة ثم البحث عن الحل متأخراً جداً.
لذلك فإن المعركة المقبلة لن تكون فقط حول من يمتلك أقوى نموذج للذكاء الاصطناعي، وإنما حول من يستطيع وضع أفضل الضوابط لضمان ألا تتحول القوة التكنولوجية من أداة في يد الإنسان إلى قوة يصعب على الإنسان نفسه التحكم فيها.
