أخبار التكنولوجيا

«أوبن إيه آي» تطلق محفظة رقمية تتيح لوكلاء الذكاء الاصطناعي إتمام عمليات الشراء


اتضح، وعلى مدى الأشهر القليلة الماضية، أن أنظمة الذكاء الاصطناعي الحديثة بارعة إلى حد كبير في اكتشاف ثغرات البرمجيات، وفي إيجاد سبل لتجاوز دفاعات الأمن السيبراني.

وقد أثارت اختراقات واقعية غير مقصودة نفذتها نماذج تابعة لشركات رائدة في مجال الذكاء الاصطناعي، مثل «أوبن إيه آي» و«أنثروبيك»، خلال عمليات تدريبية، قلقاً واسعاً. ومع أن هاتين الشركتين قيدتا الوصول إلى أكثر نماذجهما تطوراً، فإن بعض الخبراء أشاروا إلى أن الأمر لن يطول قبل أن تمتلك أنظمة ذكاء اصطناعي أقل تقييداً، قدرات مماثلة. وتشهد الشركات بالفعل ارتفاعاً في الهجمات السيبرانية، يُعزى جزء منه على الأقل إلى الاستعانة بالذكاء الاصطناعي.

سلاح ذو حدّين

لكن وفي المقابل، يتزايد الاعتماد على الذكاء الاصطناعي بوصفه خط الدفاع الأفضل. ويقول بارتلي ريتشاردسون، كبير مسؤولي الذكاء الاصطناعي والأنظمة المستقلة في شركة الأمن السيبراني «كراود سترايك»: «نسمع كثيراً عن استخدام الخصوم والمهاجمين للذكاء الاصطناعي، وهذا صحيح بالتأكيد. لكن ما لا نسمع عنه بالقدر نفسه هو كيف نمنح المدافعين الأفضلية باستخدام الذكاء الاصطناعي».

وتُعد «كراود سترايك» واحدة من عدة شركات للأمن السيبراني تنشر الذكاء الاصطناعي في الجانب الدفاعي؛ ففي سبتمبر (أيلول)، أعلنت الشركة عن أداة تُدعى «سيف مايند» (SafeMind)، تستفيد عن قصد من القدرات الهجومية للذكاء الاصطناعي، عبر نشر نماذج وأطر عمل مخصصة لاختبار نسخ محاكاة من البنية التحتية للعملاء. كما تنشر «سيف مايند» أيضاً أنظمة ذكاء اصطناعي دفاعية لرصد الهجمات وصدها وسد أي ثغرات أمنية يجري اكتشافها. ثم يتعلم الطرفان من التجربة ويحاولان الكرة مجدداً، بحسب ريتشاردسون. ويضيف: «نحن لا نُجري التغييرات في البيئة المدروسة قبل أن نعيدها مجدداً فحسب، بل إن لدينا أيضاً سجلاً شاملاً بكل تغيير أجريناه على البيئة. ونقدم هذا السجل كذلك إلى أدوات العمل الهجومية».

أدوات وكلاء الاختراق العاملة بالذكاء الاصطناعي أشد فتكاً

وقد تأتي هذه الأدوات في الوقت المناسب تماماً، فعلى غرار أنظمة البرمجة بالذكاء الاصطناعي، التي تطورت من الإجابة عن الأسئلة إلى توليد برمجيات معقدة واختبارها ونشرها، باتت أدوات وكلاء الاختراق العاملة بالذكاء الاصطناعي أشد فتكاً على نحو متزايد. فهي لا تكتفي بالتمشيط الدقيق للشفرات البرمجية بحثاً عن الأخطاء المنطقية، وإنما تختبر الأنظمة العاملة فعلياً بحثاً عن الثغرات، وقد تواصل تحسين هجماتها إلى أن تُحول مجموعات من الأخطاء الدقيقة إلى مسارات تفصيلية، خطوة بخطوة، للدخول إلى النظم بشكل غير مصرح به.

ويقول ديفيد كوبر مسؤول تفعيل الاستراتيجية السيبرانية في شركة «إي واي» للمحاسبة والاستشارات التقنية: «نشهد زيادة ملموسة في حجم وسرعة هذه الهجمات كلها. نرى ذلك في عملائنا المعنيين ببيانات الرصد الأمني عن بُعد، وفي مراكز العمليات الأمنية».

ويقول الخبراء إنه ما دامت هذه الأدوات من الوكلاء لا يجري رصدها، وما دام هناك من هو مستعد لدفع كلفة القدرة الحاسوبية اللازمة، فإنها تستطيع العمل بلا كلل تقريباً للعثور على منفذ إلى أنظمة العالم الحقيقي. كما تستطيع إيجاد السبل لربط عيوب بسيطة في البرمجيات بعضها ببعض للحصول على صلاحيات وصول واختراق متصاعدة باستمرار، ووضع عمليات استغلال معقدة للثغرات كان لا يمكن الوصول إليها في السابق سوى بواسطة خبراء بشريين مثابرين.

وتقول منى رحيمي، الأستاذة المشاركة في هندسة البرمجيات بقسم علوم الحاسوب في جامعة شمال إلينوي: «يمكنها تنفيذ سلسلة من الإجراءات، وهذا هو ما يهم حقاً في الأمن السيبراني، ولا سيما في حالات الهجمات التي تستغل ثغرات غير معروفة سابقاً (هجمات اليوم الصفر zero-day attacks).

ويُعد ذلك جزءاً من سبب لجوء فرق الدفاع أيضاً إلى الذكاء الاصطناعي. فإضافة إلى استغلاله الثغرات الأمنية، يمكنه أن يساعد في الإشارة إليها أمام خبراء الأمن لإصلاحها، أو أن يتولى إصلاحها بنفسه على نحو متزايد. وقد رافق الارتفاع في الهجمات السيبرانية ارتفاع موازٍ في عدد التحديثات الأمنية التي تصدرها شركات البرمجيات، إذ أفادت تقارير بأن «مايكروسوفت» كشفت أخيراً عن أكبر تحديث أمني في تاريخها، بحسب كوبر. وقد اعتمدت الشركات التي يتعامل معها الذكاء الاصطناعي بصورة شاملة تقريباً للمساعدة في اختبار أنظمتها وتحديثها، وعملت شركة «إي واي» مؤخراً مع «كراود سترايك» في قضايا أمنية، بما في ذلك بصفتها شريكاً في التصميم لأداة «سيف مايند». ويقول كوبر: «تتفاوت مستويات الاعتماد، لكن جميع الشركات التي نتعامل معها تستخدم مجموعة ما من أدوات الذكاء الاصطناعي للمساعدة في تسريع ذلك».

وتأتي هذه التطورات بعد أن قدّرت شركة الأبحاث «سايبرسكيوريتي فينتشرز» أن تكاليف الجرائم السيبرانية عالمياً ستبلغ 10.5 تريليون دولار في عام 2025، وبعد أن حذر تقرير للمنتدى الاقتصادي العالمي في وقت سابق من هذا العام من أن «الذكاء الاصطناعي يضاعف من قوة سباق التسلح السيبراني».

طفرة هائلة في المعالجة السريعة

لم تكن «إي واي» و«كراود سترايك» الشركتين الوحيدتين اللتان تساعدان عملاءهما على معالجة المشكلات المتعلقة بالذكاء الاصطناعي. فقد أطلقت مختبرات الذكاء الاصطناعي الرائدة، ومنها «أوبن إيه آي» و«مايكروسوفت» و«أنثروبيك»، مشاريع لاختبار الأنظمة الرقمية وتحصينها، فيما طوّرت شركات الأمن منتجاتها لتمكين الذكاء الاصطناعي من رصد الثغرات، بل وإصلاحها، قبل أن تستغلها أطراف خارجية. وتقول جوني كليبرت، المؤسِسة المشاركة والرئيسة التنفيذية لشركة «ستاك هوك»: «نشهد طفرة هائلة في المعالجة السريعة، وهو أمر غريب، في تقديري، عن العالم الذي اعتدنا العيش فيه».

وحتى قبل ظهور الذكاء الاصطناعي الحديث، كانت «ستاك هوك» تركز على رصد الثغرات في البرمجيات أثناء تشغيلها فعلياً، لا في الشيفرة المصدرية وحدها. ويقول سكوت غيرلاش، المؤسس المشارك للشركة وكبير مسؤولي الأمن فيها: «إن الأمور التي لا يمكن اكتشافها إلا باختبار التطبيق أثناء تشغيله ذات قيمة كبيرة حقاً، وغالباً ما تكون مشكلات بالغة الأهمية للغاية». ويشير إلى أن من المزايا التي يتمتع بها المدافعون هي معرفة أكثر اكتمالا بالنظام، تشمل شيفرة المصدر الخاصة وتفاصيل البنى التحتية المختلفة وإعداداتها. ولا يشترط أن تبقى هذه المعرفة في عقول البشر، إذ يمكن للذكاء الاصطناعي في الغالب أن يكون أسرع في فحص وإصلاح التطبيقات القديمة التي لم يلمسها أحد منذ مدة وإصلاحها، بحسب غيرلاش. ويضيف: «كلما زادت الأتمتة التي تضيفها إلى هذه العملية، زادت سرعتها، وزاد عدد المشكلات التي يجري إصلاحها».

إشراك العنصر البشري

ومع ذلك، تُفضل مؤسسات كثيرة بطبيعة الحال إشراك العنصر البشري قبل السماح للذكاء الاصطناعي بإجراء تغييرات جذرية في بيئاتها الحاسوبية، وذلك لأن الذكاء الاصطناعي قد يرتكب أخطاء، ولأن البشر قادرون على اتخاذ قرارات مستنيرة تراعي أولويات متباينة، مثل ضمان ألا تتوقف الأنظمة الحرجة عن العمل أو يتباطأ أداؤها إلى مستويات غير مقبولة بسبب تحديثات أمنية مقصودة. ويستطيع الذكاء الاصطناعي نفسه، في بعض الحالات، أن يقترح خطوات للموازنة بين هذه الاحتياجات أو أن ينفذها، مثل تقييد الوصول إلى البرمجيات بالغة الأهمية التي يتعذر تحديثها على الفور.

حماية الأدوات مفتوحة المصدر

لكن في حين قد يكون المهاجمون مستعدين لتعطيل الأنظمة أو خفض أدائها لتحقيق أهدافهم، فإن العاملين في مجال الأمن لا يملكون في الغالب هذا الترف. وتقول رحيمي، الأستاذة بجامعة شمال إلينوي: «لا يمكننا فعلا تعظيم مستوى الأمن بأي ثمن، لأننا ما زلنا نريد الحفاظ على عمل خدماتنا».

ولا تقتصر المشكلة على البرمجيات التجارية فحسب، فقد برزت جهود عدة للمساعدة في اكتشاف الثغرات وإصلاحها في البرمجيات مفتوحة المصدر، وهي الشيفرات (الرموز الكومبيوترية) التي يتولى صيانتها في الغالب متطوعون، وتُعد حيوية للإنترنت والأنظمة العاملة عليه. ومن بين هذه الجهود مبادرة «أكريتس» التي أعلنت عنها «مؤسسة لينكس» وشركاء من القطاع في يونيو (حزيران)، وتهدف إلى تنسيق التقارير الأمنية المتعلقة بالأدوات مفتوحة المصدر، وتوفير وثائق موثوقة وأمثلة عملية، وأحياناً حتى شيفرات تصحيحية يستطيع قادة المشاريع الأصلية دمجها لإصلاح شيفراتهم البرمجية. وجاء ظهور «أكريتس» بعد أن أفادت مشاريع مفتوحة المصدر متنوعة بأنها غُمرت بتقارير الأخطاء والتعديلات المقترحة على الشيفرة، من بينها إصلاحات أمنية متفاوتة الجودة، من توليد الذكاء الاصطناعي.

ويقول كريستوفر روبنسون، كبير مسؤولي التقنية وكبير المهندسين في «أكريتس» ومؤسسة أمن المصادر المفتوحة: «كان هذا عبئاً كبيراً للغاية على المشاريع الأصلية، التي يكاد يكون القائمون عليها جميعاً متطوعين بلا أجر». ويضيف أن «أكريتس» تمنح الأولوية للمشاريع مفتوحة المصدر المستخدمة في البنى التحتية الحيوية، ومنها الخدمات المالية والاتصالات، فأنظمة التشغيل وقواعد البيانات ولغات البرمجة وغيرها من الأدوات مفتوحة المصدر شكلت منذ زمن طويل العمود الفقري للعديد من أنظمة العمل الفعلية، وأصبحت في حالات عديدة معايير فعلية، وتوفر قوة ومرونة لا تضاهيها الأدوات التجارية.

غير أن هذه المشاريع كثيراً ما تعتمد على عمل مجموعات صغيرة من المبرمجين أو حتى أفراد لإبقائها مُحدّثة، وقد يتوقف تحديثها إذا تقاعد القائمون عليها أو انشغلوا بأعمال أخرى. وفي الحالات التي لا يكون فيها للمشروع مشرف نشط أو لا يكون في وضع يسمح له بقبول التعديلات، تستطيع «أكريتس» العمل على إصدار نسخة متفرعة، أي نسخة معدلة، والبحث عن شخص يتولى دور ما يشبه مشرف الملاذ الأخير، بحسب روبنسون.

قدرات الذكاء الاصطناعي في الاختراق تواصل النمو

ولا يزال من غير الواضح إلى متى ستستمر موجة العيوب الأمنية المكتشفة وما يرافقها من إصلاحات، أو ما إذا كانت ستتباطأ بعد أن تساعد أدوات الذكاء الاصطناعي الجديدة في تصفية تراكم الأخطاء غير المكتشفة. ومن المرجح أيضاً أن يزداد استخدام المطورين لأدوات الذكاء الاصطناعي في اختبار شيفراتهم قبل إصدارها. وكما يشير روبنسون، فإن أدوات البرمجة بالذكاء الاصطناعي وحدها ليست حلاً متكاملاً، إذ قد تتسبب بنفسها في ظهور ثغرات جديدة.

ويقول آمي لوتواك، المؤسس المشارك وكبير مسؤولي التقنية في «ويز»، وهي شركة للأمن السيبراني استحوذت عليها «غوغل» في وقت سابق من العام الحالي، إن قدرات الذكاء الاصطناعي في الاختراق ما زالت تنمو في الوقت الراهن، وهو أشبه بلص يستطيع في أسبوع ما الدخول عبر نافذة الطابق الأرضي، ثم يجد بعد أسبوعين طريقاً إلى الطابق الثاني. ويضيف لوتواك: «كل يوم وكل أسبوع وكل شهر، تظهر قدرات جديدة يستطيع الذكاء الاصطناعي القيام بها».

وتدير شركة «ويز» مبادرتها الخاصة بعنوان «سكان فور غود» بالتعاون مع «غوغل ديب مايند»، مستخدمة الذكاء الاصطناعي لمساعدة مؤسسات البنى التحتية الحيوية والحكومات والمؤسسات الصحية والمنظمات غير الربحية على اكتشاف الثغرات الأمنية وإصلاحها. ويرى أنه مع استمرار تنامي قوة الذكاء الاصطناعي، سيصبح إجراء مثل هذه الفحوص حاجة منتظمة لمختلف أنواع المؤسسات والشركات.

ويقول لوتواك: «إن مفهوم ضوابط الأمن الثابتة قد ولّى. سيكون الأمر أشبه بلعبة القط والفأر، ونعتقد أن على كل شركة أن تجري فحوصاً بالذكاء الاصطناعي بصورة مستمرة من أجل الحماية».

* مجلة «فاست كومباني».



Source link

مقالات ذات صلة

اترك تعليقاً

لن يتم نشر عنوان بريدك الإلكتروني. الحقول الإلزامية مشار إليها بـ *

زر الذهاب إلى الأعلى