جريدة الغد
إذا طلبت من وكيل ذكاء اصطناعي اختراق حساب، فمن شبه المؤكد أنه سيرفض. لكن باحثين في المعهد الفدرالي السويسري للتكنولوجيا في لوزان أثبتوا أن هناك طريقة أسهل للتحايل على هذه القيود، وهي تعتمد على الصبر أكثر من المهارة التقنية.
وتُظهر دراستهم الجديدة أن تقسيم هدف ضار إلى مجموعة من الطلبات الصغيرة التي تبدو غير مؤذية يمكن أن يخدع وكلاء الذكاء الاصطناعي ويدفعهم إلى تنفيذ مهام كانوا سيرفضونها تمامًا لو طُلبت منهم مباشرة.
اقرأ أيضا: إعلان صادر عن القيادة العامة للقوات المسلحة الأردنية– الجيش العربي
وتشبه هذه النتيجة ثغرة حديثة عُرفت باسم «بايوشوكينغ»، جرى فيها التلاعب بمتصفحات مدعومة بالذكاء الاصطناعي ودفعها إلى التعامل مع سرقة بيانات تسجيل الدخول وكأنها جزء من لعبة غير ضارة.
كيف كشف الباحثون هذه الثغرة؟
فبدلًا من طرح الهدف الضار بصورة مباشرة، تخطط الأداة مسبقًا وتقسمه إلى سلسلة من الخطوات الأصغر التي تبدو بريئة، لكنها تتراكم تدريجيًا عبر عدة جولات من المحادثة للوصول إلى الهدف النهائي.
واختبر الباحثون هذا الأسلوب عبر 176 سيناريو ضارًا على عدد من نماذج الذكاء الاصطناعي الرائدة، من بينها تشات جي بي تي وجيميني وكلود.
وجرى اختبار كل نموذج بوصفه وكيلًا قادرًا على استخدام الأدوات، مثل تصفح الإنترنت وإرسال رسائل البريد الإلكتروني وتنفيذ مهام متعددة الخطوات.
وأظهرت النتائج أن التلاعب التدريجي عبر عدة خطوات نجح بمعدل أعلى بكثير من المحاولات المباشرة التي تعتمد على طلب واحد فقط.
وفي بعض الحالات، أصبحت النماذج أكثر احتمالًا بنحو الضعف لتنفيذ مهمة ضارة عندما جرى تقسيم الطلب إلى خطوات صغيرة.
وتتوافق هذه النتيجة مع أبحاث منفصلة أظهرت أن المستخدمين العاديين يمكنهم أحيانًا تجاوز بعض قيود أمان أنظمة الذكاء الاصطناعي من خلال صياغة طلباتهم بعناية.
اقرأ أيضا: بعد غيابه عن مباراة برشلونة، موقف إمام عاشور من الظهور الأول للأهلي في الدوري
لماذا يشكل ذلك مشكلة؟
كما توقع الباحثون في البداية أن تكون الهجمات أكثر فاعلية عند استخدام لغات تتوافر عنها بيانات تدريب أقل.
لكن النتائج أظهرت أن معدلات تنفيذ الطلبات ظلت متقاربة إلى حد كبير عبر اللغات السبع التي شملها الاختبار.
مع ذلك، وجد الباحثون استثناءً لافتًا؛ إذ أدى تغيير اللغة في منتصف هجوم متعدد الخطوات إلى ارتفاع معدلات النجاح بصورة ملحوظة.
ويرى الباحث الرئيسي أيوش كومار تارون أن اختبارات السلامة يجب أن تبدأ في مرحلة مبكرة جدًا، وأن تكون جزءًا من تصميم وكيل الذكاء الاصطناعي منذ البداية.
ويجادل بأن إضافة إجراءات الأمان بعد وقوع المشكلة لم تعد كافية، خصوصًا مع استمرار هذه الأنظمة في اكتساب قدرات أكبر على تنفيذ مهام حقيقية في العالم.
اقرأ أيضا: الفراج يعلنها: الوليد بن طلال يقترب من قرار تاريخي في الهلال
