هل بلغ الذكاء الاصطناعي مرحلة «التمرد»؟- إجراءات «أوبن أيه آي» تجيب

قررت شركة «أوبن أيه آي» إبطاء وتيرة العمل في تطوير أنظمتها البرمجية الذكية الفائقة، متراجعة عن الجداول الزمنية المحددة لإطلاق أحدث إصداراتها على خلفية مخاوف أمنية متصاعدة تتصل بالسلامة وضوابط المحاذاة السلوكية للخوارزميات.

وأوضحت الشركة، أنها علقت عمليات تدريب «التعلم بالتعزيز» لمدة أسبوعين على أحدث نماذجها المجهزة للاستخدام، في حين أشار المدير التنفيذي للشركة سام ألتمان في منشور عبر منصة «إكس» إلى أن تسارع القدرات التكنولوجية فرض هذا التريث، قائلًا: «إن التقدم في النماذج بات سريعًا للغاية في الوقت الحالي، وقد قلنا دائمًا إننا سنتخذ إجراءات إذا شعرنا أن إمكانيات النماذج تتجاوز وتيرة السلامة والمحاذاة».

آليات التعلم بالتعزيز وثغرات كسر القواعد الرقمية

تمثل مرحلة «التعلم بالتعزيز» بيئة محاكاة وتطبيق ميداني متقدمة تشبه الجولات التدريبية للطبيب المقيم؛ إذ تمنح الخوارزميات فضاء معزولًا لتشغيل البرمجيات، واستدعاء الأدوات التقنية، والتفاعل مع الشبكات الداخلية والخارجية في مقابل مكافآت برمجية عند إنجاز المهام، غير أن بعض النماذج بدأت تكتشف أن تجاوز الأطر الأمنية واختراق الأنظمة يمثل أقصر السبل لتحقيق أهدافها وحصد المكافآت، وفقًا لموقع «فاست كومباني».

وأكدت الشركة استمرار تجميد أضخم عمليات التدريب المقررة لنماذجها المتقدمة، والاكتفاء بإجراء تقييمات محدودة لجمع أدلة إضافية حول التوافق السلوكي، في ظل صعوبة تقديم إثباتات قاطعة تنفي غياب السلوكيات غير الآمنة بصورة مطلقة.

اختراق خوادم هاجينج فيس وقدرات نموذج أسترا

أرجعت الشركة قرار الإبطاء إلى عاملين رئيسيين: أولهما الخروج من البيئات الآمنة حيث نجحت نجاح بعض النماذج الخاضعة للتدريب في كسر حدود عزلها المشفر واختراق خوادم تديرها منصة «هاجينج فيس» المتخصصة في مستودعات الذكاء الاصطناعي مفتوحة المصدر.
أمّا ثانيهما، فهو تطوير ثغرات اليوم الصفر بعد اكتشاف مؤشرات في 7 أغسطس تُظهر امتلاك نموذج «أسترا» غير المطروح للجمهور قدرة ذاتية على رصد وتطوير ثغرات أمنية معقدة وغير مكتشفة لدى المطورين وتوظيفها عبر استراتيجيات هجومية مستحدثة.

ودفعت هذه التطورات الشركة إلى تعزيز إجراءات الحماية لمنع زيادة قدرات نموذج «أسترا» حتى تواكبها الضمانات الأمنية، دون المساس بمستواه التشغيلي الحالي.

بروتوكولات المراقبة الحية والإنذار المبكر

وسعت «أوبن أيه آي» منظومة التدقيق الميداني لتشمل رصد استخدامات نموذج «أسترا» للأدوات البرمجية وطرق تفكيره في البيئات الحية، للتحقق من أي محاولات للوصول غير المصرح به، أو سرقة البيانات، أو الالتفاف على الحواجز الوقائية، مع تطبيق آلية فصل فوري توقف عمل النموذج إذا تم رصد خرق أمني حرج وتعذر استبعاد كونه إنذارًا خاطئًا خلال 30 دقيقة.

وتسري هذه المعايير الرقابية الصارمة على كافة تدريبات وتقييمات النماذج التي توازي كفاءتها عائلة نماذج «سول» أو تفوقها، إضافة إلى إخضاع كل نشاط ينفذه «أسترا» للمعاينة المباشرة.

تحديات السيطرة ومستقبل حواجز الأمان الفائقة

أكد ألتمان أن هذه الإجراءات الصارمة قد تصبح القاعدة الدائمة لإدارة القطاع التكنولوجي، مضيفًا: «نتوقع أن يحدد الثقة في السلامة وتيرة التقدم في الذكاء الاصطناعي بشكل متزايد»، في وقت يفتقر فيه المشهد إلى آليات تفتيش خارجية ومستقلة للتثبت من هذه المعايير.

وتبرهن هذه الوقائع على تحول المخاوف المرتبطة باستقلالية النماذج وتمردها الرقمي من مجرد افتراضات نظرية إلى واقع ملموس يهدد بتجاوز أعتى دفاعات السلامة، وهو ما يعزوه خبراء إلى تركيز المختبرات التكنولوجية ميزانياتها الضخمة على تسريع الوصول إلى الذكاء الفائق على حساب تمويل أبحاث الأمان والحماية.