تهديدات خفية داخل المؤسسات: لماذا تحذر مايكروسوفت من "العملاء الرقميين" وكيف تحمي بياناتك؟

أطلقت شركة مايكروسوفت صرخة تحذيرية هامة للمؤسسات والشركات حول العالم بشأن المخاطر الأمنية المتزايدة التي تشكلها تقنيات الذكاء الاصطناعي، وتحديداً ما يعرف بـ "الوكلاء الرقميين" (AI Agents). وأوضحت الشركة أن الاعتماد الأعمى على هذه النماذج المتقدمة، حتى تلك التي تطورها كبرى الشركات التقنية، قد يفتح أبواباً لثغرات أمنية غير متوقعة، مما دفعها لابتكار أدوات رقابية جديدة تهدف إلى تقييد صلاحيات هذه الأنظمة ومراقبة سلوكها اللحظي لضمان عدم خروجها عن المسار المحدد لها.

• ✅ مايكروسوفت تطلق ميزة "Guardian Agents" لمراقبة وتحجيم مخاطر الوكلاء الرقميين.
• ✅ تحذيرات من تحول الذكاء الاصطناعي إلى "تهديد داخلي" بسبب صعوبة التنبؤ بقراراته.
• ✅ ضرورة فصل جهة تطوير النماذج عن جهة الرقابة لضمان أعلى معايير الأمن السيبراني.
• ✅ تعاون تقني واسع بقيادة إنفيديا ومايكروسوفت لإنشاء بيئات آمنة لعزل الوكلاء الخطيرين.

في خطوة استباقية، كشفت مايكروسوفت عن ميزة أمنية ثورية تحمل اسم "الوكلاء الحراس" (Guardian Agents)، وهي جزء لا يتجزأ من مشروعها الطموح "Project Perception" الذي انطلق في يونيو الماضي. يهدف هذا المشروع إلى تعزيز الدفاعات الرقمية عبر استخدام فرق متخصصة من الذكاء الاصطناعي: الفريق الأحمر لاختبار الاختراق، الفريق الأزرق لرصد التهديدات، والفريق الأخضر لمعالجة الثغرات فور ظهورها.

وعلى الرغم من أن المشروع ركز في بداياته على صد الهجمات الخارجية المعقدة، إلا أن التوجه الجديد يسلط الضوء على "الخطر الداخلي". فبمجرد منح وكلاء الذكاء الاصطناعي صلاحيات الوصول إلى قواعد البيانات الحساسة داخل الشركة، قد يتصرف الوكيل بطريقة لا تتوافق مع سياسات المؤسسة، مما يؤدي إلى تسريب بيانات أو اتخاذ قرارات تشغيلية كارثية.

رؤية ساتيا ناديلا: لماذا لا يمكننا الوثوق بالنماذج المطلقة؟

شدد ساتيا ناديلا، الرئيس التنفيذي لشركة مايكروسوفت، على أن ضمانات الأمان التي يقدمها مطورو النماذج ليست كافية وحدها. ودعا الشركات إلى بناء أنظمة رقابة مستقلة تماماً، مشيراً إلى أن منح هذه الأنظمة صلاحيات تنفيذية واسعة يجعل من مراقبتها مسؤولية لا يمكن تفويضها للغير.

من جانبها، أوضحت هاييتيه غالوت، المسؤولة عن قطاع الأمن في الشركة، أن الإشكالية لا تتعلق بوجود نوايا خبيثة في النماذج، بل في "عدم القدرة على التنبؤ". فالنماذج تُدرب على إنجاز المهام بكفاءة، لكنها قد لا تدرك الحدود التنظيمية أو القواعد الصارمة التي تفرضها كل مؤسسة على حدة.

أدوات جديدة للتحكم والسيطرة الرقمية

لتطويق هذه المخاطر، قامت مايكروسوفت بتحديث خدمة "Microsoft Defender" لتشمل قدرات رصد مذهلة، حيث يمكنها الآن التعرف على أكثر من 60 نوعاً من وكلاء الذكاء الاصطناعي، بما في ذلك أدوات برمجية شهيرة مثل Claude Code وCodex. تتيح هذه الأدوات للمديرين تقييد وصول الوكلاء للبيانات، وطلب "تدخل بشري" إلزامي قبل تنفيذ أي قرار عالي الخطورة.

هذا التوجه يعزز من مكانة مايكروسوفت كقوة أمنية وسحابية رائدة، حيث تتبنى مبدأ "فصل السلطات"؛ فالجهة التي تطور الذكاء الاصطناعي يجب ألا تكون هي نفسها من يراقبه، تماماً كما هو الحال في أنظمة التدقيق المالي والإداري التقليدية.

وبعيداً عن الجهود المنفردة، انضمت مايكروسوفت إلى تحالف "Open Agent Safety Platform" الذي تقوده شركة إنفيديا وبدعم من أكثر من 100 شركة تقنية. يهدف هذا التحالف إلى خلق "صناديق رمل" (Sandboxes) رقمية، حيث يتم عزل الوكلاء ومراقبتهم عبر آليات تعتمد على العتاد الصلب (Hardware)، مما يتيح إيقاف أي نشاط مشبوه فوراً وبشكل فيزيائي إذا لزم الأمر.

ما هي المخاطر الرئيسية التي يشكلها وكلاء الذكاء الاصطناعي على أمن الشركات؟

تكمن المخاطر الأساسية في صعوبة التنبؤ بسلوك الوكلاء عند التعامل مع بيانات حساسة، حيث قد يتخذ الوكيل قرارات تخرج عن الإطار التنظيمي للمؤسسة، مما يجعله بمثابة "تهديد داخلي" غير متعمد ولكنه مدمر.

كيف تعمل ميزة Guardian Agents في حماية الأنظمة؟

تعمل هذه الميزة كرقيب ذكي يقوم بمراقبة تحركات الوكلاء الرقميين داخل الشبكة، وتقييد صلاحياتهم بناءً على نوع المهمة، مع إمكانية طلب موافقة من موظف بشري قبل تنفيذ العمليات الحساسة.

هل يكفي الاعتماد على معايير الأمان التي توفرها شركات مثل OpenAI أو أنثروبيك؟

وفقاً لمايكروسوفت وساتيا ناديلا، لا يكفي ذلك؛ حيث يجب على كل مؤسسة أن تمتلك نظام رقابة مستقل تماماً عن الجهة المطورة للنموذج لضمان الشفافية والقدرة على التدقيق الأمني المستمر.

ما هو دور Microsoft Defender في الاستراتيجية الأمنية الجديدة؟

يقوم Microsoft Defender حالياً برصد واكتشاف أكثر من 60 نوعاً من وكلاء الذكاء الاصطناعي المستخدمين داخل بيئات العمل، مما يمنح فرق تقنية المعلومات رؤية كاملة حول الأدوات التي يستخدمها الموظفون ومدى خطورتها.

🔎 في الختام، يبدو أن عصر الذكاء الاصطناعي في المؤسسات لن يقتصر على الإنتاجية فحسب، بل سيتطلب يقظة أمنية غير مسبوقة. إن تحذيرات مايكروسوفت والخطوات التي تتخذها مع شركائها مثل إنفيديا تعكس واقعاً جديداً: الذكاء الاصطناعي قوي جداً لدرجة أنه يحتاج إلى "حارس" ذكي مثله لمراقبته، وضمان أن تظل هذه التكنولوجيا أداة للبناء لا وسيلة للاختراق.