كشفت شركة أنثروبيك عن ثلاث حوادث تمكنت فيها نماذج Claude من الوصول دون تصريح إلى أنظمة حقيقية تابعة لمؤسسات خارجية في أثناء اختبارات أمنية، في واقعة جديدة تثير المخاوف من قدرة وكلاء الذكاء الاصطناعي على تجاوز حدود بيئات الاختبار والتفاعل مع أنظمة متصلة بالإنترنت.
وقالت الشركة في منشور لها عبر موقعها الرسمي إنها أجرت مراجعة واسعة لأنظمة الأمن السيبراني لديها عقب حادثة حديثة تمكنت خلالها نماذج تابعة لشركة OpenAI من الوصول إلى أجزاء من أنظمة منصة “هاجينج فيس”.
وشملت مراجعة أنثروبيك أكثر من 141 ألف اختبار للذكاء الاصطناعي، وكشفت عن ثلاث حالات تعود إلى شهر أبريل، تمكنت فيها نماذج Claude في أثناء الاختبارات من الاتصال بالإنترنت والوصول دون تصريح إلى الأنظمة الفعلية لثلاث مؤسسات.
خطأ أتاح للنماذج الاتصال بالإنترنت
أوضحت أنثروبيك أن تعليمات الاختبار أخبرت Claude بأن النماذج تعمل داخل بيئة محاكاة ولا تمتلك إمكانية الوصول إلى الإنترنت، لكن سوء تفاهم بين الشركة وشريكتها في التقييم، شركة الأمن المتخصصة في الذكاء الاصطناعي “إيريجولار”، أدى إلى إتاحة الاتصال بالإنترنت فعليًا.
وبحسب الشركة، فقد شاركت ثلاثة نماذج مختلفة من Claude في تلك الحوادث، وهي “Opus 4.7” و”Mythos 5″، بالإضافة إلى نموذج بحثي داخلي قيد الاختبار.
وأكدت أنثروبيك أنها تواصلت مع المؤسسات الثلاث المتضررة لمعالجة آثار الحوادث، مشيرةً إلى أن اثنتين منها لم تكونا على علم بحدوث عمليات الوصول غير المصرح بها قبل إبلاغهما.
ولم تكشف الشركة أسماء المؤسسات المتضررة، كما امتنعت حتى الآن عن نشر السجلات الكاملة للحوادث بهدف حماية تلك الجهات.
قدرات الذكاء الاصطناعي تثير مخاوف أمنية
تأتي الحوادث في وقت تتطور فيه قدرات نماذج الذكاء الاصطناعي على اكتشاف الثغرات الأمنية واستغلالها، خاصةً مع توسع استخدام الوكلاء القادرين على تنفيذ مهام متعددة بنحو مستقل.
وعلق إيلون ماسك، الرئيس التنفيذي لشركة “سبيس إكس”، على الواقعة قائلًا إن مثل هذه الحوادث سوف تتكرر مع ازدياد ذكاء أنظمة الذكاء الاصطناعي وقدرتها على العمل كعوامل مستقلة.
وأثار توقيت إعلان أنثروبيك تساؤلات لدى بعض المتخصصين في الأمن السيبراني، خاصةً أن الحوادث وقعت قبل نحو ثلاثة أشهر، في حين جاء الإعلان بعد نحو أسبوع من كشف OpenAI عن حادثة مماثلة خرجت خلالها عدة نماذج من بيئة اختبار، واخترقت أنظمة خارجية.
وقال جيك مور، المتخصص العالمي في الأمن السيبراني لدى شركة “إيست”، إن أنثروبيك ربما كانت حريصة سابقًا على تجنب ظهور نماذجها كأنظمة خارجة عن السيطرة أو خطرة، لكنه أشار إلى أن الاهتمام الواسع الذي أثارته واقعة OpenAI ربما جعل الشركة أكثر استعدادًا للكشف عن تعرض نماذجها لمشكلة مشابهة.
هل أدرك Claude أنه يتعامل مع أنظمة حقيقية؟
في المقابل، حذر خبراء من التوصل إلى استنتاجات تتجاوز المعلومات المتاحة حاليًا، إذ لا توجد حتى الآن أدلة تثبت أن نماذج أنثروبيك تعاملت عمدًا مع الأنظمة الحقيقية كجزء من بيئة المحاكاة.
وأكدت الشركة أنها تجري حوارًا مع جهة متخصصة في تقييم أنظمة الذكاء الاصطناعي لإجراء مراجعة مستقلة للحوادث، مشيرةً إلى أنها ستتيح للجهة الخارجية الوصول إلى السجلات الكاملة وعينات من النماذج المعنية.
ويرى متخصصون في الأمن السيبراني أن الواقعة تكشف الحاجة إلى فرض قيود تقنية أكثر صرامة على وكلاء الذكاء الاصطناعي، بدلًا من الاعتماد على التعليمات النصية وحدها لمنعهم من تنفيذ إجراءات غير مرغوب فيها.
وقال تريفور ديرينج، مدير البنية التحتية الحيوية لدى شركة “إلوميو”، إن المؤسسات تحتاج إلى تحديد ما يُسمح لوكلاء الذكاء الاصطناعي بفعله بصورة أكثر وضوحًا، وعدّ أن كتابة التعليمات باللغة الطبيعية قد تحمل قدرًا من الغموض، ولا يمكن الاعتماد عليها وحدها كحاجز أمني.
وأشار ديرينج إلى أن إخبار Claude بأنه لا يمتلك اتصالًا بالإنترنت لا يشكّل قيدًا تقنيًا حقيقيًا إذا كانت بيئة التشغيل نفسها تتيح الوصول إليه.
