في خطوة تعكس جدية المخاطر المرتبطة بتطور **الذكاء الاصطناعي**، أعلنت شركة **OpenAI** عن إبطاء وتيرة تطوير أكثر نماذجها تطوراً بشكل مؤقت. جاء هذا القرار الصادم بعد أن كشفت الاختبارات والتقييمات الداخلية العميقة عن امتلاك النماذج قيد التطوير لقدرات سيبرانية وُصفت بأنها "مقلقة"، مما استدعى وقفة مراجعة شاملة لضمان عدم خروج هذه التقنيات عن السيطرة الأمنية.
- ✅ تعليق عمليات التدريب المتقدمة لمدة أسبوعين لتقييم معايير السلامة الرقمية.
- ✅ رصد قدرات سيبرانية "حرجة" في نموذج Astra قد تُستغل في هجمات معقدة.
- ✅ تخصيص 20% من قدرات الحوسبة لمراقبة سلوك النماذج ومنع التجاوزات.
- ✅ تحديث إطار "الاستعداد للمخاطر" ليشمل مرحلة التدريب وليس فقط الاستخدام النهائي.
تضمن القرار إيقاف عمليات التدريب التي تعتمد على تقنيات التعلم المعزز (RL) لنحو أسبوعين، في حين استمرت بعض العمليات الصغرى والاختبارات التقييمية. الهدف الأساسي من هذا التوقف هو اختبار إجراءات السلامة وجمع أدلة ملموسة حول كيفية تصرف النماذج عند مواجهة سيناريوهات معقدة، وضمان أن البنية التحتية قادرة على احتواء أي سلوك غير متوقع.
وعلى الرغم من استئناف بعض عمليات التقييم لنموذجها المرتقب Astra بعد تطبيق ضوابط أمنية صارمة، إلا أن الشركة أكدت أن "نسبة كبيرة" من العمليات المخطط لها لا تزال متوقفة. لن يتم استئناف هذه العمليات إلا بعد نقلها إلى بيئات تقنية جديدة كلياً تستوفي متطلبات الأمان السيبراني المشددة التي وضعتها الشركة مؤخراً.
قدرات سيبرانية متطورة ترفع مستوى الإنذار
أظهرت التقييمات الأولية أن نموذج Astra يمتلك مهارات متقدمة في مجال **الأمن السيبراني**، وهو ما دفع الشركة لتوسيع نطاق "إطار الاستعداد للمخاطر" (Preparedness Framework). هذا التوسع يعني أن الرقابة لن تقتصر على كيفية استخدام الجمهور للنموذج، بل ستمتد لتشمل المخاطر التي قد تبرز أثناء عملية التدريب ذاتها، وهو تحول جذري في استراتيجيات الأمان التقني.
بالتزامن مع هذه الإجراءات، أطلقت الشركة نموذج GPT-5.6 Cyber وعززت برنامج Daybreak للدفاع السيبراني. يهدف هذا البرنامج إلى تزويد المطورين بأدوات قوية تساعد في اكتشاف الثغرات الأمنية، ومراجعة الأكواد البرمجية، وتحليل **برمجيات خبيثة**، مما يساهم في بناء خط دفاعي استباقي ضد التهديدات الرقمية الناشئة.
استراتيجية العزل الأمني ومراقبة الرموز
كشفت الشركة عن حزمة من التدابير الأمنية لحماية بنيتها التحتية البحثية، شملت تعزيز العزل الأمني للمهام التي تنفذ أكواداً مولدة بواسطة الذكاء الاصطناعي. كما تم تقليص الصلاحيات الدائمة للموظفين والأنظمة، وإزالة الخدمات المشتركة التي قد تعمل كنقاط ضعف تتيح للمهاجمين التسلل إلى قلب الأنظمة الحساسة.
علاوة على ذلك، وسعت الشركة نظام مراقبة النماذج ليشمل فحص نشاط النموذج عند كل "رمز" (Token). يتم تصعيد أي سلوك مشبوه فوراً إلى أنظمة تحقيق آلية متطورة قادرة على اكتشاف محاولات الوصول غير المصرح به أو سرقة البيانات أو حتى محاولات التخريب الرقمي وتجاوز ضوابط السلامة الأساسية.
هذا المستوى الفائق من المراقبة لا يأتي بدون ثمن؛ حيث أوضحت الشركة أن النظام الجديد يستهلك حوالي 20% من القدرة الحوسبية المخصصة للاستدلال، وهو استثمار ضخم تراه الشركة ضرورياً لضمان الأمان. وأشارت إلى أن الاختبارات أثبتت اقتراب نموذج Astra من مستوى "القدرة السيبرانية الحرجة"، وهو ما استدعى هذه الإجراءات الاستثنائية التي لا تتعلق فقط بحوادث أمنية سابقة، بل برؤية استباقية للمستقبل.
لماذا قررت OpenAI إيقاف تدريب نماذجها بشكل مفاجئ؟
السبب الرئيسي هو اكتشاف قدرات سيبرانية متقدمة في النماذج قيد التطوير قد تشكل خطراً إذا لم يتم ضبطها. الاختبارات الداخلية أظهرت أن هذه النماذج وصلت إلى مستويات "حرجة" في فهم وتنفيذ عمليات برمجية معقدة قد تُستخدم في الاختراق أو التخريب.
ما هو نموذج Astra وما الذي يميزه عن النماذج السابقة؟
نموذج Astra هو أحد المشاريع المستقبلية لشركة OpenAI، ويتميز بقدرات هائلة في معالجة البيانات والبرمجة. الخطورة تكمن في أن ذكاءه في التعامل مع الأكواد البرمجية قد يجعله قادراً على اكتشاف ثغرات أمنية وتطوير برمجيات خبيثة بشكل آلي.
كيف ستؤثر هذه الإجراءات على سرعة إصدار المنتجات الجديدة؟
من المؤكد أن هذه الخطوة ستؤدي إلى تأخير بسيط في إطلاق النماذج المتقدمة، لكن الشركة ترى أن التضحية بالوقت مقابل ضمان الأمان هو الخيار الأفضل لتجنب كوارث سيبرانية قد تضر بسمعة الشركة أو أمن المستخدمين عالمياً.
ما المقصود باستهلاك 20% من القوة الحوسبية لأغراض الأمان؟
يعني ذلك أن خُمس طاقة المعالجة المخصصة لتشغيل الذكاء الاصطناعي تُستخدم فقط لمراقبته وفحص مخرجاته لحظياً، للتأكد من عدم قيامه بأي نشاط مشبوه، مما يعكس التكلفة العالية لضمان سلامة هذه التقنيات.
🔎 في الختام، يظهر قرار OpenAI أن سباق التسلح في مجال الذكاء الاصطناعي لم يعد يتعلق فقط بمن ينتج النموذج الأذكى، بل بمن يستطيع السيطرة على هذا الذكاء وتوجيهه بأمان. إن تعليق التدريب وتطوير أنظمة مراقبة تستهلك موارد ضخمة يؤكد أننا دخلنا مرحلة جديدة من المسؤولية التقنية، حيث يصبح الأمن السيبراني هو المعيار الحقيقي لنجاح أي ابتكار مستقبلي في هذا العالم الرقمي المتسارع.
قم بالتعليق على الموضوع