حذّر مفوض الأمم المتحدة السامي لحقوق الإنسان فولكر تورك من أن التطور المتسارع للذكاء الاصطناعي قد يفتح الباب أمام مخاطر «وجودية» إذا تجاوزت قدرات بعض الأنظمة قدرة البشر على مراقبتها والسيطرة عليها، داعياً إلى وضع قواعد دولية و«خطوط حمراء» قبل فوات الأوان.
وقال تورك، خلال اجتماع لمجلس حقوق الإنسان في جنيف، إن المخاوف لم تعد مرتبطة فقط بالخصوصية أو التضليل وفقدان الوظائف، بل تمتد إلى ظهور وكلاء ذكاء اصطناعي مستقلين قادرين على التخطيط وتنفيذ مهام معقدة والتعامل مع الإنترنت والبرمجيات دون إشراف بشري متواصل.
ودعا المسؤول الأممي إلى إخضاع أنظمة الذكاء الاصطناعي المتقدمة لاختبارات سلامة مستقلة، بدلاً من ترك الشركات المطورة وحدها لتحديد مدى أمان منتجاتها، معلناً عزمه التواصل مع شركات القطاع لحثها على اتخاذ إجراءات عاجلة للحد من المخاطر.
وتتزامن هذه الدعوة مع تصاعد التحذيرات في الولايات المتحدة وأوروبا بشأن الأنظمة المستقلة واحتمال تطورها نحو قدرات يصعب التحكم فيها.
كما طُرحت في بريطانيا والولايات المتحدة مبادرات تشريعية تدعو إلى تعزيز الرقابة وفرض آليات طوارئ، بينها إمكانية إيقاف الأنظمة في الحالات الخطرة.
ولا تقتصر المخاوف على الاستخدامات المدنية، إذ دعا تورك أيضاً إلى حظر الأسلحة ذاتية التشغيل التي يمكنها اختيار أهداف بشرية وتنفيذ عمليات قاتلة من دون تدخل بشري مباشر.
وتواصل أكثر من مئة دولة مناقشة قواعد دولية لهذا النوع من الأسلحة، وسط خلافات تعرقل الوصول إلى اتفاق ملزم.
وفي موازاة ذلك، تتجه الولايات المتحدة والصين إلى بحث قضايا سلامة الذكاء الاصطناعي، في محاولة لمناقشة مخاطر من بينها الهجمات الإلكترونية التي قد تنفذها أنظمة ذكية بصورة مستقلة.
ويعكس هذا الجدل انتقال النقاش حول الذكاء الاصطناعي إلى مرحلة جديدة، لم يعد فيها التحدي مقتصراً على تنظيم التكنولوجيا وحماية البيانات، بل أصبح مرتبطاً أيضاً بحدود الاستقلال الذي ينبغي السماح للآلات بالوصول إليه، وبقدرة البشر على الاحتفاظ بالسيطرة على قراراتها الأكثر خطورة.
