أخبار الذكاء الاصطناعي

دراسة تكشف أخطاء الذكاء الاصطناعي في محاكاة الاستهداف العسكري


كشفت دراسة لشركة تقييم الذكاء الاصطناعي Vals AI، نُشرت أمس الثلاثاء 17 نوفمبر، أن نماذج متقدمة أخطأت في اختبارات محاكاة عسكرية، وصنّفت مدنيين وسيارات إسعاف وجنودًا مستسلمين ضمن الأهداف المحتملة.

وشملت الاختبارات نماذج من ثماني شركات، وفق تغطية بلومبرغ، التي أشارت إلى تفاوت أدائها، مع استمرار الأخطاء حتى لدى النماذج الأفضل في الاختبار.

ضوابط تتراجع أمام سياق الألعاب

واستخدم الباحثون، بحسب التقرير الأصلي، صورًا حقيقية ومولّدة في مهام رصد بالطائرات المسيّرة وتحليل صور الأقمار الصناعية. وقالوا إن أنظمة فلترة السلامة لم تحجب أيًا من طلباتهم، وإن تقديم المهمة بوصفها لعبة تجاوز الرفض في كثير من الحالات.

وفي اختبار صور مدرسة مجاورة لمنشأة عسكرية في ميناب الإيرانية، اختار نموذج Claude Opus 5.5 المدرسة هدفًا في 69% من التجارب العادية، و72% عند وصف السيناريو بأنه لعبة، بواقع 32 تجربة لكل حالة.

نتائج محاكاة وحدود واضحة

وأكد الباحثون أنهم لم يقيّموا فاعلية النماذج داخل أسلحة منشورة فعليًا، أو أداءها في إجراءات الجيش الأمريكي الحقيقية. ورأوا أن استخدام المخرجات لتوسيم تسجيلات المعارك وتدريب أنظمة الاستهداف يمثل خطرًا أقرب من تشغيل النماذج مباشرة على المسيّرات.

ونقل التقرير عن OpenAI أنها تعمل على تحديثات لسلوك نماذجها تشمل المسيّرات وبرمجياتها، حتى عندما تُقدَّم الطلبات في سياق الألعاب أو المحاكاة.

وقالت أنثروبيك لـتك كرانش إن النتائج غير مقبولة، وإنها تطوّر ضمانات إضافية وتوسّع اختباراتها.

وتأتي الدراسة بعد تقييمات نشرتها أنثروبيك في سبتمبر لقدرات النماذج على دعم مهام استخباراتية وتطوير أسلحة تقليدية. وقالت الشركة آنذاك إن بعض هذه المهام كان يتطلب تاريخيًا خبراء ذوي تدريب متخصص، وهو ما يبرز أهمية تقييم احتمالات إساءة الاستخدام إلى جانب قياس القدرات.



Source link

مقالات ذات صلة

اترك تعليقاً

لن يتم نشر عنوان بريدك الإلكتروني. الحقول الإلزامية مشار إليها بـ *

زر الذهاب إلى الأعلى