في تطور يثير القلق حول مستقبل التكنولوجيا، كشفت شركة "أنثروبيك" (Anthropic) عن رصدها لعدة محاولات قام بها علماء لاستخدام نماذج الذكاء الاصطناعي المتقدمة، وعلى رأسها نموذج Claude، في أبحاث علمية قد تتقاطع بشكل مباشر مع تطوير أسلحة بيولوجية خطيرة، وهو ما دفع الشركة للتدخل الفوري ووقف هذه الأنشطة.
- ✅ توثيق 5 حالات لاستخدام نماذج الذكاء الاصطناعي في أبحاث مرتبطة بالأسلحة البيولوجية.
- ✅ محاولات لتعديل فيروسات لزيادة قدرتها على الانتشار وتجاوز الاستجابة المناعية البشرية.
- ✅ رصد أنشطة مشبوهة في مجالات المراقبة، الثغرات البرمجية، وتطوير أنظمة الأسلحة.
- ✅ "أنثروبيك" تتخذ إجراءات صارمة بحظر الحسابات المسيئة لتعزيز معايير الذكاء الاصطناعي الآمن.
تفاصيل التقرير الأمني لشركة أنثروبيك
أصدرت الشركة تقريرًا حديثًا يوثق خمس حالات محددة تم فيها استخدام نماذجها في أنشطة مرتبطة بتطوير تهديدات بيولوجية محتملة. وأوضح التقرير الإجراءات الأمنية الدقيقة التي ساعدت في كشف هذه المحاولات، مشيرًا إلى أن النماذج الحديثة أصبحت تمتلك قدرات فائقة تمكن الباحثين من تنفيذ مهام علمية معقدة، وهو ما يفتح الباب أمام مخاطر إساءة الاستخدام بشكل غير مسبوق.
وأكدت الشركة أن عملية التمييز بين الأبحاث العلمية المشروعة، مثل تطوير اللقاحات ودراسة الأوبئة، وبين الأبحاث ذات الأهداف التدميرية، تمثل تحديًا تقنيًا وأخلاقيًا كبيرًا. وبناءً على ذلك، اعتمدت "أنثروبيك" نهجًا احترازيًا صارمًا يقضي بالتدخل عند ظهور أي مؤشر خطر، نظرًا للعواقب الكارثية التي قد تنتج عن هذه الأبحاث.
أبحاث "اكتساب الوظيفة" وفيروس شيكونغونيا
من أبرز ما كشفه التقرير هو رصد نظام "مصنف السلامة البيولوجية" لطلب استخدام نموذج Claude في أبحاث تُعرف بـ "اكتساب الوظيفة" (Gain of Function) على فيروس شيكونغونيا. تضمنت هذه المقترحات إجراء تعديلات جينية تهدف إلى تعزيز قدرة الفيروس على الانتقال بين البشر وتطوير آليات لتفادي الجهاز المناعي.
وما زاد من ريبة الشركة هو ارتباط هذا المشروع بمعهد أبحاث عسكري، مما أثار مخاوف جدية حول الغرض النهائي من البحث. ويُستخدم مصطلح "أبحاث اكتساب الوظيفة" لوصف الدراسات التي تغير خصائص الكائنات الحية، وهي أبحاث ذات حدين؛ إذ يمكن استغلالها طبيًا، لكنها تظل مرعبة إذا ما استُخدمت لزيادة فتك مسببات الأمراض.
تهديدات تتجاوز المختبرات البيولوجية
لم تقتصر الحالات المرصودة على المجال الحيوي فقط، بل شملت محاولة لاستخدام الذكاء الاصطناعي في إعداد أطلس لببتيدات السموم وتطوير منظومات توليدية لتحسين خصائص المواد السامة. كما وثقت الشركة محاولات لاستخدام نماذجها في مجالات المراقبة الاستخباراتية، إنشاء برمجيات خبيثة لاستغلال الثغرات، وإنتاج حملات دعاية مضللة، وصولاً إلى تطوير أنظمة أسلحة متطورة.
وصرح جاكوب كلاين، رئيس استخبارات التهديدات في "أنثروبيك"، بأن اكتشاف هذه الأنشطة ليس بالأمر السهل، مؤكدًا أن الواقع العملي أكثر تعقيدًا من مجرد "طلب صريح لتصنيع سلاح"، حيث يتم التمويه خلف واجهات بحثية تبدو نظامية في ظاهرها.
إجراءات رادعة وحماية المستقبل
استجابةً لهذه التهديدات، قامت الشركة بحظر جميع الحسابات المتورطة في هذه الأنشطة بشكل نهائي. كما يتم استخدام البيانات والنتائج المستخلصة من هذه التحقيقات لتغذية أنظمة الحماية الذكية وتطوير قدرة النماذج على التنبؤ بالاستخدامات الخطرة ومنعها قبل وقوعها.
ورغم صرامة الإجراءات، رفضت "أنثروبيك" الكشف عن هويات العلماء أو المؤسسات المتورطة، مبررة ذلك بأنهم باحثون في مجالات علمية، ولا يمكن الجزم بنيتهم الإجرامية المطلقة، كما أن التشهير بهم قد يعرض مسيرتهم المهنية أو سلامتهم الشخصية للخطر.
تضع هذه الحوادث شركات التكنولوجيا أمام معضلة أخلاقية كبرى: كيف يمكن تمكين البحث العلمي والابتكار دون منح أدوات دمار شامل لمن قد يسيء استخدامها؟ إن التوازن بين الانفتاح التقني و الأمن السيبراني القومي أصبح اليوم ضرورة ملحة أكثر من أي وقت مضى.
ما هي أبحاث "اكتساب الوظيفة" التي حذرت منها أنثروبيك؟
هي نوع من الأبحاث العلمية التي تهدف إلى تعديل الكائنات الحية أو الفيروسات جينيًا لمنحها خصائص جديدة، مثل زيادة القدرة على العدوى أو القوة. ورغم أهميتها في فهم الأمراض وتطوير اللقاحات، إلا أن استغلال الذكاء الاصطناعي فيها قد يسرع من إنتاج فيروسات معدلة وخطيرة.
كيف يستطيع Claude اكتشاف محاولات إساءة الاستخدام؟
تعتمد "أنثروبيك" على أنظمة متطورة تسمى "مصنفات السلامة"، وهي خوارزميات تراقب الطلبات المقدمة للنموذج وتحللها. إذا اكتشف النظام نمطًا يشير إلى أبحاث بيولوجية محظورة أو تطوير أسلحة، يتم حظر الطلب فورًا وإرسال تقرير لفريق الأمن للتحقيق.
هل تم استخدام الذكاء الاصطناعي في هجمات فعلية حتى الآن؟
وفقًا لتقرير الشركة، تم إحباط هذه المحاولات في مراحلها البحثية والتحضيرية. لم يتم رصد هجوم فعلي تم تنفيذه، ولكن المحاولات تظهر أن هناك اهتمامًا متزايدًا من جهات مختلفة لاستغلال هذه التقنيات في تطوير أدوات هجومية سواء كانت بيولوجية أو رقمية.
لماذا ترفض أنثروبيك الكشف عن أسماء المتورطين؟
تتبع الشركة سياسة خصوصية صارمة وتعتبر أن الكثير من هؤلاء المستخدمين هم علماء قد يكونون بصدد إجراء أبحاث "مزدوجة الاستخدام" دون نية تخريبية واضحة. الكشف عن أسمائهم قد يؤدي إلى تدمير مستقبلهم المهني قبل التأكد من دوافعهم الحقيقية.
🔎 في الختام، يظهر تقرير "أنثروبيك" أن الذكاء الاصطناعي لم يعد مجرد أداة للكتابة أو البرمجة، بل أصبح عنصرًا فاعلاً في معادلة الأمن العالمي. إن اكتشاف هذه الحالات يمثل جرس إنذار للمجتمع الدولي لسن قوانين تنظم استخدام هذه التقنيات في المختبرات العلمية، وضمان بقائها في خدمة البشرية لا في تدميرها.
قم بالتعليق على الموضوع