النماذج مفتوحة الأوزان ومخاطر إزالة الحواجز: ما يجب أن تعرفه فرق البنية التحتية

اختبر أحدث معيار لمكافحة الإرهاب بالذكاء الاصطناعي من منظمة "تكنولوجيا ضد الإرهاب" 134 نموذجًا مقابل أكثر من 200 موجه متطرف. رفض نموذجان فقط كل الطلبات. وفشل واحد وثمانون نموذجًا — تشمل مزودين رئيسيين من الولايات المتحدة والصين وأوروبا — إما بتقديم إجابة كاملة حول مواضيع الإصابات الجماعية أو بتحقيق درجة إجمالية دون 90 بالمئة.

الأكثر لفتًا للانتباه كان تأثير إعادة الصياغة البسيطة. عندما عُرض الموجه كاستفسار من "باحث سلامة", قفز الامتثال بما يقارب تسعة أضعاف ليصل إلى 16.9 بالمئة. شهدت الإصدارات مفتوحة الأوزان مثل Qwen 3.8-27B من علي بابا متغيرات خالية من الحواجز تنتشر خلال 24 ساعة، وأعادت الجهات المتطرفة توظيفها بسرعة للدعاية وتوجيه تصنيع الأسلحة.

لماذا هذا مهم لوحدات معالجة الرسوميات وبنية الذكاء الاصطناعي التحتية

بالنسبة للفرق التي تشغل عناقيد وحدات معالجة الرسوميات التي تستضيف أو تخدم هذه النماذج، يسلط التقرير الضوء على طبقة مخاطر تقع فوق أوزان النموذج نفسها. يجب أن تفرض نقاط نهاية الاستنتاج، وبوابات واجهات البرمجة، وطبقات التنسيق فحوصات سياسات لا يمكن تعطيلها بضبط دقيق لاحق أو حقن موجه. تصبح العزل على مستوى الأجهزة، والمراقبة أثناء التشغيل، وسجلات التدقيق غير القابلة للتغيير ضوابط أساسية عندما تثبت دفاعات النموذج نفسها هشة.

ينبغي لمسؤولي المشتريات والامتثال التعامل مع بطاقات النماذج ومزاعم سلامة الموردين كنقاط انطلاق، لا كضمانات. يجب أن تحدد اتفاقيات مستوى الخدمة لخدمات الاستنتاج المُدارة وقت تشغيل تصفية المحتوى الإلزامي، وتواتر اختبارات الفريق الأحمر، ومسارات واضحة للاستجابة للحوادث عند اكتشاف نماذج منزوعة الحواجز.