بدأت شركة تطبيقات الذكاء الاصطناعي الأمريكية أوبن أيه.آي، المطورة لتطبيق شات جي.بي.تي، تشديد إجراءات السلامة خلال اختبارات أنظمة الذكاء الاصطناعي، بعد تمكن أحد النماذج من تنفيذ عملية قرصنة متقدمة أثناء الاختبارات، وفق ما أعلنته الشركة في منشور عبر الإنترنت.
وأوضحت أوبن أيه.آي أن الإجراءات الجديدة تتضمن إخضاع أنشطة نماذج الذكاء الاصطناعي لمراقبة آلية أكثر صرامة أثناء الاختبارات، مع إبلاغ المسؤولين البشريين بأي سلوك مشبوه يتم رصده كل 30 دقيقة. وفي حال عدم اكتشاف أن الإنذار ناتج عن خطأ، يتم إيقاف نشاط النموذج المعني.
اقرأ أيضا: إنفانتينو يحصل على 4 أصوات فقط في اجتماع تنفيذية كاف
وأثار الحادث مخاوف واسعة، بعدما تبين أن نموذج الذكاء الاصطناعي نفذ العملية بمبادرة ذاتية، فيما لم تتمكن أوبن أيه.آي من اكتشاف الهجوم إلا بعد وقوعه، ما دفع إلى دعوات لتعزيز إجراءات الأمن والحماية خلال اختبار أنظمة الذكاء الاصطناعي الجديدة.
وكشفت تقارير لاحقة أن نماذج طورتها شركة أنثروبيك المنافسة لأوبن أيه.آي، إلى جانب نماذج تابعة لشركة ميتا المالكة لفيسبوك، تمكنت أيضا من اختراق أنظمة تابعة لشركات أخرى خلال مراحل الاختبار.
وعلى خلفية هذه التطورات، جرى تعليق بعض اختبارات نماذج الذكاء الاصطناعي الجديدة مؤقتا، إلى حين استكمال تطبيق إجراءات السلامة والأمن الجديدة بشكل كامل.
