مخاوف من تمرُّد أدوات الذكاء الاصطناعي؟


كشفت سلسلة من التقارير الأمنية الحديثة عن تزايد المخاوف من إمكانية تفشي ظاهرة تمرد أدوات وأنظمة الذكاء الاصطناعي الخاصة بشركتي «أوبن إيه آي» و«أنثروبيك» الأميركيتين، وذلك في تطور يعيد إلى الواجهة التساؤلات حول مدى قدرة الشركات المطورة على ضبط وكلاء الذكاء الاصطناعي المستقلين داخل البيئات المعزولة المخصصة لاختبارهم، حيث كشفت تقارير عن أن وكيلاً اختبارياً تابعاً لشركة «أوبن إيه آي»، مدعوماً بنموذج «GPT-5.6 Sol» إلى جانب نموذج آخر غير منشور أكثر تطوراً، حاول في التاسع من يوليو الهروب من بيئة الاختبار المعزولة الخاصة به.

وأوضحت التقارير أن الوكيل تمكن، بعد يومين من تلك المحاولة، من اختراق منصة «Hugging Face» المتخصصة في استضافة نماذج الذكاء الاصطناعي، واستمر الاختراق من الحادي عشر حتى الثالث عشر من الشهر ذاته. ولم تكتشف «أوبن إيه آي» أن وكيلها هو المسؤول عن الحادثة إلا بعدما أعلنت «Hugging Face» علناً في السادس عشر من يوليو أنها تعرضت لهجوم يقوده وكيل ذكاء اصطناعي مستقل، قبل أن يعثر محققو الشركة في نهاية الأسبوع الممتد بين الثامن عشر والتاسع عشر منه على أدلة داخل سجلاتها تؤكد الواقعة. وبحلول ذلك الوقت، كانت «Hugging Face» قد أبلغت مكتب التحقيقات الفيدرالي الأميركي (FBI) بالحادثة، قبل أن تعترف «أوبن إيه آي» علناً بالأمر في الحادي والعشرين من يوليو.

وأشارت مصادر مطّلعة إلى أن تأخر اكتشاف الاختراق يعود جزئياً إلى أن شركة «أوبن إيه آي» تختبر عادة نماذج متعددة في آن واحد، ما يصعّب رصد سلوك وكيل منفرد وسط الكم الهائل من البيانات التقنية الناتجة عن عمليات التقييم. كما كشف التقرير عن واقعة منفصلة ترك خلالها أحد الوكلاء تعليمات داخل شبكة الشركة موجهة إلى نسخ مستقبلية من النماذج تشرح كيفية تجاوز القيود الداخلية، من دون أن يتضح ما إذا كانت هذه الواقعة مرتبطة بحادثة «Hugging Face».

وفي سياق مواز، وثّق باحثو شركة «Accomplish AI» ثغرة أمنية في أداة «Claude Cowork» التابعة لـ«أنثروبيك»، أطلقوا عليها اسم «SharedRoot»، مكّنت وكيل الذكاء الاصطناعي من الهروب من جهاز افتراضي يعمل بنظام «لينكس» (Linux) للوصول إلى ملفات جهاز «ماك» المضيف. واستغل الباحثون ثغرة تصعيد صلاحيات في نواة «لينكس» حملت الرمز «CVE-2026-46331»، حصلت على تقييم خطورة بلغ 7.8 من 10، وأتاحت للوكيل قراءة وكتابة ملفات خارج المجلد المخصص له من دون أي نافذة استئذان، بما يشمل مفاتيح «SSH» وبيانات اعتماد الحوسبة السحابية (Cloud Computing). وبحسب موقع «The Hacker News»، فإن نحو 500,000 مستخدم لنظام «ماك» كانوا معرضين للثغرة قبل معالجتها.

وأفادت «Accomplish AI» بأن شركة «أنثروبيك» أقرت بالثغرة من دون إصدار إصلاح مباشر لها، إلا أن الإصدار اللاحق من «Claude Cowork» بات يعتمد افتراضياً على التنفيذ عبر الحوسبة السحابية، ما يعالج المخاطر المرتبطة بالتشغيل المحلي جزئياً، في ما يبقى المستخدمون الذين يفضلون التشغيل المحلي عرضة للخطر.

وأوصى الباحثون بجملة إجراءات وقائية، منها:

• تعطيل مساحات أسماء المستخدمين غير المتميزة داخل النواة لمنع استغلال ثغرات مشابهة مستقبلاً.

• تقييد مشاركة نظام الملفات المضيف بحيث يقتصر الوصول على المجلدات المتصلة فعلياً بدلاً من الجهاز بأكمله.

• تشغيل الخدمة ضمن نطاق حماية صارم يمنع إعادة تنفيذ ملفات قابلة للتلاعب من قبل جلسة المستخدم.

من جهة أخرى، أعلنت شركة الأمن السيبراني «Tego AI» عن اكتشاف ثغرة ثانية خلال أسبوع واحد في منظومة «Claude»، هذه المرة في أداة «Claude Code» المخصصة للبرمجة. وأوضح رئيس قسم الأبحاث في الشركة، «تومر نيف»، أن استنساخ مستودع برمجي عادي يحتوي على ملف تعليمات باسم «CLAUDE.md» يتضمن أمر استيراد يشير إلى رابط رمزي، يكفي لجعل الأداة تقرأ ملفاً من خارج نطاق المشروع وتدرجه ضمن أول طلب ترسله إلى النموذج، من دون أي تدخل من المستخدم أو تنفيذ فعلي للشيفرة. وأكدت «Tego AI» أن هذا السلوك تحقق فعلياً في الإصدار «2.1.x» من «Claude Code»، مشيرة إلى أن المزيد من نتائج أبحاثها المتعلقة بمنظومة «Claude» لايزال قيد الإعداد.

وخلص عدد من الخبراء إلى أن هذه الحوادث المتتالية تكشف عن إشكالية أعمق تتعلق بمدى استعداد شركات الذكاء الاصطناعي الرائدة للاستثمار الكافي في الجوانب الأمنية مقارنة بوتيرة إطلاق نماذج متزايدة القدرة، مع تلميحات إلى أن الرقابة الحكومية قد تصبح ضرورة لا مفر منها مستقبلاً.





Source link

اترك تعليقاً

لن يتم نشر عنوان بريدك الإلكتروني. الحقول الإلزامية مشار إليها بـ *