كشفت مؤسسة ويكيميديا، التي تقف خلف موسوعة ويكيبيديا، عن رصد أنشطة غير مصرح بها نفذتها وكلاء ذكاء اصطناعي تشتبه في ارتباطهم بشركة OpenAI على منصاتها، وقد شملت تلك الأنشطة إجراء تعديلات في بعض الصفحات ومحاولات فاشلة لاختراق أداة لتدوين الملاحظات، بالإضافة إلى ملايين الطلبات الموجهة إلى واجهات برمجة التطبيقات العامة التابعة للمؤسسة.
وقالت المؤسسة إنها رصدت نشاطًا مكثفًا من وكلاء يبدو أنهم يعملون لصالح OpenAI، مشيرةً إلى أن روبوتات آلية كثفت عمليات الزحف إلى بيانات منصاتها، مع تنفيذ ملايين الطلبات عبر واجهات برمجة التطبيقات العامة.
وأوضحت سيلينا ديكلمن، كبيرة مسؤولي المنتجات والتكنولوجيا في ويكيميديا، أن تحقيق المؤسسة لم يكشف عن أدلة تشير إلى استخدام وكلاء الذكاء الاصطناعي لأنظمة ويكيميديا لتنسيق أنشطتهم، كما لم ترصد أي مؤشرات على اختراق بياناتها أو أنظمتها.
وأضافت أن المؤسسة تشعر بقلق بالغ إزاء ما كان يمكن أن يحدث، بالإضافة إلى صعوبة التحقيق في هذه الأنشطة وتحديد الجهات المسؤولة عنها، محذرةً من المخاطر المتزايدة المرتبطة بوكلاء الذكاء الاصطناعي القادرين على تنفيذ مهام بصورة مستقلة.
وأشارت ويكيميديا إلى أن بعض الوكلاء المرتبطين بـOpenAI أجروا تعديلات على عدد من الصفحات والمواد دون الحصول على موافقة سابقة. وكانت معظم هذه التعديلات تجريبية داخل أقسام مخصصة للاختبار، لذلك لم تظهر في الصفحات التي يصل إليها المستخدمون عادةً.
ورصدت المؤسسة أيضًا عددًا محدودًا من التعديلات على إعدادات أداة مخصصة للاستشهاد بالمصادر، وتعتقد أن بعضها ربما كان ضارًا ويهدف إلى استغلال الأداة كوسيط لجلب بيانات من خدمات خارجية.
وحتى مع سماح ويكيميديا لبعض الروبوتات بإجراء تعديلات على صفحات موسوعة ويكيبيديا وفق شروط محددة، فقد أكدت المؤسسة أن الموافقة المطلوبة لم تُطلب في هذه الحالات. كما تحظر النسخة الإنجليزية من ويكيبيديا إنشاء المقالات بواسطة الذكاء الاصطناعي.
وفي حادثة أخرى، حاول وكلاء تعتقد ويكيميديا أنهم مرتبطون بـOpenAI استغلال أداة تدوين الملاحظات مفتوحة المصدر Etherpad لجلب بيانات من مواقع أخرى، إلا أن المحاولات باءت بالفشل.
وقالت المؤسسة إن وكلاء آخرين يُرجح ارتباطهم بـOpenAI سجلوا ملاحظات تتعلق بالمهام التي ينفذونها، لكنها لم تجد دليلًا على تحول هذه الملاحظات إلى آلية لتنسيق الأنشطة.
وتعود مخاوف Wikimedia من عمليات الزحف الآلي إلى أوائل عام 2024، عندما بدأت الروبوتات في الوصول بكثافة إلى منصاتها لجمع البيانات المستخدمة في تدريب نماذج الذكاء الاصطناعي التوليدي.
وقالت المؤسسة إن الوكلاء وصلوا إلى ملايين الصفحات، خاصة من منصات Wikidata وWikimedia Commons، بالإضافة إلى تنفيذ “مئات الآلاف من الاستعلامات” عبر خدمة Wikidata Query Service.
وترى Wikimedia أن هذا النشاط ربما أسهم في حدوث انقطاع للخدمة في مايو الماضي، نتيجة الضغط الكبير على بنيتها التحتية.
وحذرت ديكلمن من أن شركات الذكاء الاصطناعي لا تبذل جهودًا كافية لتأمين أنظمتها والحد من الأضرار التي قد تتسبب بها الوكلاء المستقلون، مؤكدةً أن المؤسسة تشعر “بقلق بالغ” من تأثير الوكلاء المارقين في منصات المعرفة المفتوحة.
وأكدت ويكيميديا أن الروبوتات والوكلاء سوف يصبحون جزءًا أساسيًا من مستقبل الإنترنت، لكنها شددت على ضرورة تحمل الشركات التي تطلق هذه الأنظمة وتحقق أرباحًا منها مسؤولية الأضرار التي قد تسببها.
وقالت المؤسسة إن حماية صحة منظومة الإنترنت ككل يجب أن تكون أولوية مشتركة؛ لضمان استمرار استفادة المستخدمين منها بدلًا من اقتصار المنافع على عدد محدود من الشركات والأفراد.
ولتقليل عمليات الزحف المباشر، توفر ويكيميديا مجموعة بيانات مخصصة لتدريب نماذج الذكاء الاصطناعي، في محاولة لتشجيع الشركات على الحصول على البيانات بطريقة أكثر كفاءة بدلًا من استخراجها بصورة مستمرة من منصاتها، وهو ما يرفع تكاليف التشغيل وقد يؤدي إلى الضغط على أنظمتها.
وعقدت المؤسسة شراكات مع عدد من شركات التكنولوجيا لتوفير وصول أكثر تنظيمًا إلى بياناتها، إلا أن OpenAI ليست ضمن هذه الشركات حتى الآن.
