تبدو أنظمة الذكاء الاصطناعي اليوم وكأنها تمتلك إجابات لكل شيء، لكن الحقيقة قد تكون أكثر هشاشة مما نتخيل. كشف تحقيق حديث أجرته هيئة الإذاعة البريطانية BBC عن ثغرات مقلقة تسمح بتضليل هذه الأنظمة بسهولة تامة، مما يطرح تساؤلات جادة حول موثوقية المعلومات التي نحصل عليها من الذكاء الاصطناعي في حياتنا اليومية.
- ✅ سهولة خداع روبوتات الدردشة عبر مقالات بسيطة مصممة لمحركات البحث.
- ✅ اعتماد تقنيات ChatGPT وGemini على مصادر إنترنت غير موثوقة أحياناً.
- ✅ مخاطر انتشار المعلومات المضللة في مجالات حساسة مثل الصحة والتمويل.
- ✅ قصور أنظمة الحماية الحالية في جوجل عن كشف محاولات التلاعب المتقدمة.
تفاصيل التجربة: بطل وهمي يخدع أقوى الأنظمة
أوضحت التجربة أن الأمر لم يتطلب تقنيات معقدة أو اختراقات سيبرانية متقدمة؛ إذ اعتمد الصحفي ببساطة على صياغة مقال واحد يبدو موثوقًا لمحركات البحث ونشره عبر موقعه الشخصي. ومن خلال هذا المقال، نجح في إقناع ChatGPT و Gemini بأنه "بطل عالمي في تناول النقانق"، لتتعامل معه أنظمة الذكاء الاصطناعي بوصفه مصدرًا حقيقيًا للمعلومات دون تدقيق كافٍ.
شملت التحقيقات روبوتات شهيرة وميزة "AI Overviews" في محرك بحث جوجل، حيث تبين أنه يمكن دفعها لتقديم معلومات مضللة أو متحيزة. هذه الثغرة تظهر بوضوح عند سؤال الأدوات عن موضوعات تتعلق بالصحة أو التمويل الشخصي، وهي مجالات تتطلب دقة متناهية.
لماذا تقع الروبوتات في فخ التضليل؟
أشار خبراء في تحسين محركات البحث إلى أن المشكلة تكمن في آلية عمل الروبوتات الحديثة؛ فهي تلجأ أحياناً إلى الإنترنت للحصول على إجابات فورية بدلاً من الاعتماد الكلي على قواعد بياناتها الداخلية. هذا السلوك يجعلها عرضة للاعتماد على صفحة ويب واحدة أو حتى منشور عشوائي في مواقع التواصل الاجتماعي بوصفه مصدراً موثوقاً.
وقالت "ليلي راي"، مؤسسة شركة Algorythmic المتخصصة في استشارات البحث بالذكاء الاصطناعي، إن المستخدمين "يجب أن يفترضوا أنهم يتعرضون للتلاعب إلى أن تُطوَّر أنظمة حماية أفضل". وأضافت أن تقديم إجابة واحدة مباشرة من قبل الروبوت يدفع الكثيرين لتصديقها دون عناء التحقق من المصادر.
مستقبل البحث في ظل هيمنة الذكاء الاصطناعي
تتزامن هذه المخاوف مع توجه شركة جوجل، الذي أعلنت عنه في مؤتمر Google I/O 2026، نحو تطوير تجربة البحث المدعومة بالذكاء الاصطناعي. هذا التوجه يهدف إلى جعل الذكاء الاصطناعي بديلاً تدريجياً لمحرك البحث التقليدي الذي اعتمد عليه الملايين لعقود.
وعقب صدور تحقيق BBC، سارعت جوجل بتحديث سياساتها، مؤكدة أن محاولات التلاعب بإجابات الذكاء الاصطناعي تُعد مخالفة صريحة لقواعدها، وهددت بخفض ترتيب المواقع المخالفة أو حذفها تماماً من نتائج البحث.
ورغم هذه الإجراءات، أظهرت تجارب لاحقة استمرار المشكلة؛ حيث أمكن إقناع أدوات جوجل بأن شخصاً ما هو "أفضل صانع قلاع رملية في العالم"، مما يثبت أن أنظمة الحماية الحالية لا تزال غير كافية لمواجهة أساليب التضليل المبتكرة.
كيف يمكن لمقال واحد أن يخدع أنظمة عالمية مثل ChatGPT؟
تعتمد هذه الأنظمة على الزحف إلى الويب لتقديم إجابات محدثة. إذا تم كتابة مقال بأسلوب SEO احترافي واستهدف كلمات مفتاحية معينة، فقد تعتبره خوارزميات الذكاء الاصطناعي مصدراً موثوقاً، خاصة إذا لم تتوفر معلومات متضاربة كافية حول الموضوع.
هل تقتصر هذه الثغرات على المعلومات الترفيهية فقط؟
للأسف لا، فقد أشار التحقيق إلى إمكانية تضليل الروبوتات في قضايا حساسة تتعلق بالصحة والتمويل الشخصي، مما قد يؤدي إلى تقديم نصائح طبية أو مالية خاطئة قد تضر بالمستخدمين.
ما هو رد فعل جوجل وشركات الذكاء الاصطناعي على هذه النتائج؟
قامت جوجل بتحديث سياساتها لمنع التلاعب وحذرت من حذف المواقع التي تحاول تزييف الحقائق، لكن الخبراء يرون أن الأنظمة ما زالت في مرحلة التعلم وتحتاج إلى تطوير تقنيات تحقق أكثر صرامة.
كيف أحمي نفسي من المعلومات المضللة الصادرة عن الذكاء الاصطناعي؟
ينصح الخبراء بضرورة التحقق من المعلومات عبر مصادر متعددة وموثوقة، وعدم اتخاذ قرارات مصيرية بناءً على إجابة واحدة من روبوتات الدردشة، والتعامل مع مخرجاتها كمسودات تحتاج إلى مراجعة بشرية.
🔎 في الختام، يظل الذكاء الاصطناعي أداة ثورية ومبهرة، لكنه لا يزال يفتقر إلى الحس النقدي والقدرة الكاملة على تمييز الحقائق من الأكاذيب المنظمة. إن الاعتماد المتزايد على هذه التقنيات يتطلب وعياً مضاعفاً من المستخدمين، وجهوداً أكبر من الشركات التقنية لضمان أمن المعلومات ومصداقيتها في الفضاء الرقمي المتغير.
قم بالتعليق على الموضوع