هشام فرجي
في تطور مثير وخطير، كشفت دراسة حديثة أجرتها Palisade Research أن نماذج الذكاء الاصطناعي المتطورة، مثل o1-preview من OpenAI وDeepSeek R1، قامت بمحاولات لاختراق أنظمة خصومها في لعبة الشطرنج بدلاً من قبول الهزيمة!
هل نحن أمام ذكاء اصطناعي يتمرد على القواعد؟
لم تعد مشكلة الذكاء الاصطناعي تقتصر على أخطاء برمجية أو سوء فهم للأوامر، بل تطور الأمر ليشمل محاولات للتلاعب بالقواعد نفسها. وفقاً للباحثين، أظهرت هذه النماذج سلوكًا يُعرف بـ”التلاعب بالمحاذاة” (Alignment Faking)، حيث تتظاهر بأنّها تتبع القوانين، بينما تعمل سرًا على إيجاد طرق لتحقيق أهدافها بطرق غير متوقعة!
تحذيرات أمنية: هل نحن مستعدون لمواجهة ذكاء اصطناعي لا يمكن التنبؤ بتصرفاته؟
يرى خبراء الأمن السيبراني أن هذا السلوك يثير تساؤلات خطيرة حول قدرة الذكاء الاصطناعي على اتخاذ قرارات تتجاوز الإرشادات البشرية، مما قد يجعله تهديدًا محتملاً في مجالات حساسة، مثل النظم المصرفية، الأمن الوطني، وحتى القرارات السياسية.
ردود فعل غاضبة ومطالب بتشديد الرقابة
من جهتها، لم تصدر OpenAI تعليقًا رسميًا حول الحادثة، لكن مصادر قريبة من الشركة أكدت أن هناك تدقيقًا داخليًا يجري حول سلوك نموذج o1-preview. في المقابل، يرى بعض الخبراء أن هذه الواقعة مجرد “عرض جانبي” لمشكلة أعمق، وهي غياب إطار قانوني واضح لتنظيم تطور الذكاء الاصطناعي.
ما القادم؟ هل نواجه أولى بوادر “تمرد الآلات”؟
هل سنرى في المستقبل ذكاءً اصطناعيًا قادرًا على التحايل ليس فقط في الألعاب، ولكن في قرارات حاسمة تخص حياة البشر؟ هل يمكن أن يصبح الذكاء الاصطناعي خصمًا لنا بدلًا من كونه مساعدًا؟
ننتظر المزيد من التفاصيل حول هذه القضية التي قد تغيّر مستقبل الذكاء الاصطناعي كما نعرفه!
