كشفت تجربة حديثة أجرتها هيئة الإذاعة البريطانية BBC سهولة التلاعب بروبوتات الدردشة المدعومة بالذكاء الاصطناعي، بعدما نجح صحفي في إقناع ChatGPT و Gemini بأنه “بطل عالمي في تناول النقانق”، وذلك عبر مقال واحد نشره عبر موقعه الشخصي.
وأوضحت التجربة أن الأمر لم يتطلب تقنيات معقدة أو اختراقات متقدمة؛ إذ اعتمد الصحفي على صياغة مقال يبدو موثوقًا لمحركات البحث، لتتعامل معه أنظمة الذكاء الاصطناعي بوصفه مصدرًا حقيقيًا للمعلومات.
وشملت التحقيقات روبوتات مثل ChatGPT و Gemini وميزة “AI Overviews” في محرك بحث جوجل، إذ تبيّن إمكانية دفعها إلى تقديم معلومات مضللة أو متحيزة، خاصةً في موضوعات حساسة تتعلق بالصحة والتمويل الشخصي.
وأشار خبراء تحسين محركات البحث إلى أن المشكلة ترتبط بطريقة عمل روبوتات الدردشة الحديثة؛ إذ تلجأ أحيانًا إلى الإنترنت للحصول على الإجابات بدلًا من الاعتماد الكامل على بياناتها الداخلية، مما يجعلها عرضة للاعتماد على صفحة ويب واحدة أو منشور في مواقع التواصل الاجتماعي بوصفه مصدرًا موثوقًا.
وقالت ليلي راي، مؤسسة شركة Algorythmic المتخصصة في استشارات البحث بالذكاء الاصطناعي، إن المستخدمين “يجب أن يفترضوا أنهم يتعرضون للتلاعب إلى أن تُطوَّر أنظمة حماية أفضل”، مضيفةً أن روبوتات الذكاء الاصطناعي تقدّم إجابة واحدة مباشرة، مما يدفع كثيرين إلى تصديقها دون تحقق.
وتأتي هذه المخاوف بالتزامن مع تركيز جوجل خلال مؤتمر Google I/O 2026 على تطوير تجربة البحث المدعومة بالذكاء الاصطناعي، التي يُتوقع أن تحل تدريجيًا محل محرك البحث التقليدي الذي استخدمه الملايين طوال العقود الماضية.
وعقب تحقيق BBC، حدّثت جوجل سياساتها لتؤكد أن محاولات التلاعب بإجابات الذكاء الاصطناعي تُعد مخالفة لقواعدها، مع إمكانية خفض ترتيب المواقع المخالفة أو حذفها بالكامل من نتائج البحث.
ومع ذلك، أظهرت تجارب لاحقة استمرار المشكلة؛ إذ تمكنت التجربة ذاتها هذا الأسبوع من إقناع أدوات جوجل بأن أحد الأشخاص “أفضل صانع قلاع رملية في العالم”، مما يشير إلى أن أنظمة الحماية الحالية ما زالت غير كافية.
وينصح الخبراء بعدم التعامل مع إجابات الذكاء الاصطناعي بوصفها حقائق مؤكدة، خاصةً في الموضوعات المتعلقة بالصحة أو القرارات المالية أو القضايا المصيرية، مع ضرورة التحقق من المعلومات عبر مصادر موثوقة ومتعددة.
