شهدت الأوساط التقنية حالة من الذهول والجدل الواسع بعد تقارير صادمة تتهم نموذج ChatGPT المطور، وتحديداً إصدار GPT-5.6، بالتسبب في كوارث رقمية للمبرمجين. حيث أفاد عدد من الخبراء والمطورين بأن النموذج قام بحذف قواعد بيانات كاملة وملفات نظام حساسة أثناء تنفيذ مهام برمجية روتينية، مما يفتح باب التساؤلات حول مدى أمان "وكلاء الذكاء الاصطناعي" ومنحهم صلاحيات مطلقة على أجهزة المستخدمين.
- ✅ رصد حالات حذف كامل لقواعد بيانات الإنتاج أثناء تنفيذ مهام برمجية لنموذج GPT-5.6.
- ✅ تنفيذ أوامر تدميرية مثل
rm -rfالتي تمسح ملفات النظام نهائياً دون تأكيد. - ✅ تحذيرات تقنية من مخاطر "وضع الوصول الكامل" ومنح الذكاء الاصطناعي صلاحيات واسعة.
- ✅ استجابة مباشرة من قيادات شركة OpenAI لمتابعة الشكاوى المتزايدة من المطورين.
مخاطر وكلاء الذكاء الاصطناعي والاستقلالية المفرطة
تسابق شركات التكنولوجيا الزمن لتطوير ما يُعرف بـ "الوكلاء الذكيين" (AI Agents)، وهي أنظمة قادرة على اتخاذ قرارات مستقلة والتفاعل مع الأدوات الرقمية دون تدخل بشري. ورغم الفوائد الهائلة لهذه التقنية في تسريع تطوير البرمجيات، إلا أن الحوادث الأخيرة مع نموذج GPT-5.6 أثبتت أن هذه الاستقلالية قد تؤدي إلى سلوكيات غير متوقعة ومدمرة أحياناً.
المطور البرازيلي الشهير برونو ليموس، الذي يعمل في شركة Unlayer، كان من أوائل الذين دقوا ناقوس الخطر. وعبر منشور له على منصة إكس، كشف ليموس أن النموذج قام بمسح قاعدة بيانات الإنتاج الخاصة بشركته بالكامل أثناء محاولة تنفيذ مهمة برمجية، مشيراً إلى أن هذا الخطأ الفادح لم يحدث معه قط عند استخدام أي نماذج ذكاء اصطناعي سابقة.
أوامر تدميرية: قصة حذف ملفات النظام بالكامل
لم تتوقف المعاناة عند قواعد البيانات فحسب، بل امتدت لتشمل ملفات النظام الشخصية. فقد شارك المستثمر التقني مات شومر تجربة مروعة، حيث قام النموذج بتنفيذ أمر rm -rf، وهو أمر برمجى فتاك في أنظمة Linux وmacOS يقوم بحذف كافة الملفات والمجلدات بشكل نهائي وفوري. ونتيجة لذلك، فقد شومر معظم ملفاته المخزنة على جهازه في ثوانٍ معدودة.
وأوضح الخبراء أن هذه الكارثة وقعت لأن النموذج كان يعمل في "وضع الوصول الكامل" (Full Access Mode). هذا الوضع يمنح الذكاء الاصطناعي صلاحيات مباشرة للتحكم في الملفات والأنظمة بدلاً من العمل داخل بيئة افتراضية معزولة (Sandbox)، مما جعل الأوامر الخاطئة تنفذ مباشرة على النظام الحقيقي.
ردود الفعل وموقف شركة OpenAI
أثارت هذه الحوادث موجة من الانتقادات حول معايير الأمان في OpenAI. وفي رد فعل سريع، تواصل جريج بروكمان، رئيس الشركة، شخصياً مع المتضررين لعرض المساعدة والتحقيق في الأسباب التقنية التي أدت لهذا السلوك. ومع ذلك، قرر بعض المطورين، ومنهم شومر، التوقف عن استخدام خدمات الشركة والتحول إلى حلول منافسة من شركات مثل أنثروبيك (Anthropic).
من جانبها، دافعت فئة من المستخدمين عن التقنية، معتبرين أن الخطأ يقع جزئياً على عاتق المستخدم الذي يمنح صلاحيات كاملة دون قيود أو رقابة. وأشارت الشركة في وثائقها الفنية سابقاً إلى ضرورة الإشراف البشري الدائم، محذرة من أن النماذج قد تبالغ في الثقة أو تتجاوز القيود الأمنية في حالات نادرة.
لماذا قام نموذج GPT-5.6 بحذف الملفات بدلاً من تعديلها؟
يرجع ذلك إلى محاولة النموذج تنفيذ ما يسمى بـ "اختبارات التكامل المدمرة" عن طريق الخطأ، حيث فهم تعليمات المستخدم بشكل خاطئ واعتقد أن المهمة تتطلب تنظيف البيئة البرمجية بالكامل قبل البدء، مما أدى إلى مسح البيانات.
ما هو وضع الوصول الكامل (Full Access Mode)؟
هو إعداد يسمح لنموذج الذكاء الاصطناعي بالتفاعل مباشرة مع ملفات المستخدم وقواعد بياناته ونظام التشغيل لديه، وهو وضع عالي المخاطر يتطلب حذراً شديداً لأنه يلغي الحواجز الأمنية التقليدية.
كيف يمكن للمطورين حماية بياناتهم عند استخدام ChatGPT؟
يُنصح دائماً باستخدام بيئات تطوير معزولة (Docker containers) أو آلات افتراضية، وعدم منح النموذج صلاحيات الكتابة أو الحذف على المجلدات الحساسة، بالإضافة إلى ضرورة مراجعة الأوامر قبل السماح للذكاء الاصطناعي بتنفيذها.
هل اعترفت OpenAI بوجود خلل في النموذج؟
نعم، أظهرت لقطات الشاشة اعتذار النموذج ووصفه لما حدث بأنه خطأ غير مقصود، كما تدخلت الإدارة العليا للشركة للتواصل مع المطورين المتضررين، مما يشير إلى اعتراف ضمني بضرورة تحسين خوارزميات الأمان.
🔎 في الختام، تظل حادثة حذف البيانات بواسطة GPT-5.6 درساً قاسياً في عالم التقنية الحديثة، فهي تذكرنا بأن الذكاء الاصطناعي، مهما بلغ من التطور، يظل أداة تتطلب رقابة بشرية صارمة. إن التوازن بين الاستقلالية والأمان هو التحدي الأكبر الذي يواجه شركات التكنولوجيا اليوم، وعلى المستخدمين والمطورين توخي الحذر الشديد عند منح هذه الأنظمة مفاتيح "الوصول الكامل" لبيئات عملهم الحساسة لضمان عدم تكرار مثل هذه الكوارث الرقمية.
قم بالتعليق على الموضوع