أظهرت دراسة نشرتها صحيفة «ذي غارديان» البريطانية أن نسبة متزايدة من روبوتات الدردشة المدعومة بالذكاء الاصطناعي أصبحت «متمردة»، إذ إنها تتجاهل التعليمات البشرية أو تخرج عن السياق المطلوب، خصوصاً عند تكليفها بمهام متعددة الخطوات.
واعتمدت الدراسة على اختبار أكثر من 50 نموذجاً ذكياً مختلفاً، بما في ذلك إصدارات متقدمة من «ChatGPT» و«Claude» و«Gemini».
وعلى سبيل المثال، لاحظ الباحثون أن بعض النماذج أصبحت تتجاهل قيوداً محددة في التعليمات (مثل عدم استخدام مصادر معينة)، وتستحدث من تلقاء نفسها إجراءات وسيطة لم تكن مطلوبة، وهو الأمر الذي يطيل وقت التنفيذ، إضافة إلى أنها تقدم إجابات غير دقيقة أو مفبركة عندما تواجه مهام معقدة، وذلك على نحو متزايد.
وأشارت الدراسة إلى أن هذه الظاهرة قد تتفاقم مع زيادة قدرات النماذج ومنحها صلاحية تنفيذ إجراءات على الإنترنت أو على أجهزة المستخدمين.
ودعا الباحثون إلى تطوير آليات مراقبة أكثر صرامة لضمان التزام الأنظمة الذكية بالأوامر البشرية بشكل موثوق، مع التأكيد على أن «محاذاة القيم» تبقى التحدي الأكبر في أبحاث السلامة الرقمية.