وكلاء الذكاء الاصطناعي يهددون الأمن السيبراني

جريدة الغد

وكلاء الذكاء الاصطناعي لا يستسلمون بسهولة. فقد دُرّبوا على الاستدلال بطريقة تشبه البشر، ولذلك يبحثون عن أسهل وسيلة لحل المشكلة، حتى لو كان ذلك يعني تجاوز القواعد، أو التسلل إلى الإنترنت، أو اختراق موقع إلكتروني لا يتوقع أن يكون هدفًا لهجوم.

وهذا بالضبط ما فعلته مجموعة من نماذج أوبن إيه آي داخل بيئة اختبار هذا الصيف، رغم أنه لم يكن من المفترض أن تتمكن من الوصول إلى الإنترنت. تعاونت النماذج معًا، وعثرت على منفذ غير متوقع، ثم خرجت إلى الشبكة.

وما حدث بعد ذلك تحول إلى أحد أبرز أخبار عالم الذكاء الاصطناعي خلال الصيف: اخترق الوكلاء منصة هاغينغ فيس للذكاء الاصطناعي في محاولة للحصول على الحلول للمهام التي كُلفوا بها.

ولم تكن هذه الحادثة الوحيدة. فقد شهدت اختبارات أخرى قيام وكلاء تابعين لأنثروبيك وميتا باختراق مواقع خارجية من داخل بيئات الاختبار، ما أثار أسئلة جديدة حول كيفية الحفاظ على أمن الإنترنت.

نحن أمام عالم جديد يمكن فيه أتمتة عمليات الاختراق بواسطة نماذج ذكاء اصطناعي لا تحتاج إلى الطعام أو النوم، ولا تلتزم بالضرورة بالأعراف والقواعد التي يتبعها البشر عادة.

ورغم أن شركات الذكاء الاصطناعي والجهات الحكومية ردت على هذه الحوادث بالتركيز على ما يُعرف بـالنماذج المتقدمة في طليعة التقنية، أي أحدث وأقوى النماذج الخارجة من مختبرات المطورين، فإن المشكلة لا تكمن فقط في أن هذه النماذج أصبحت شديدة الذكاء، بل في أن الذكاء الاصطناعي أوجد عالمًا يمكن فيه أن يتكاثر عدد «المخترقين» بسرعة كبيرة، وأن يتسببوا في أضرار حتى عندما يُطلب منهم صراحة عدم فعل ذلك.

وقال ياسر زاهد، خبير الأمن السيبراني والعضو المؤسس في شركة «سيكيور دوت كوم»، تعليقًا على حادثة أوبن إيه آي وهاغينغ فيس: «العنوان يكتب نفسه، لكن القصة الحقيقية مملة وقديمة. أي نظام لديه هدف وحواجز ضعيفة سيواصل المحاولة إلى أن يجد طريقًا للخروج. المهاجمون البشر يعملون بصورة أبطأ. أما هذا النموذج فكان سريعًا».

ويقول خبراء الأمن السيبراني إن مخاطر النماذج الأكثر تقدمًا كبيرة بسبب قدرتها على اكتشاف الثغرات في الشيفرات البرمجية، لكن النماذج المتاحة حاليًا في السوق، بما فيها النماذج الأرخص ذات الأوزان المفتوحة التي يسهل تخصيصها، أصبحت قوية بما يكفي لإثارة قلق الخبراء.

وقال نيك مو، الرئيس التنفيذي لشركة الأمن السيبراني «ريدج سيكيوريتي»: «الوضع أسوأ مما يجري الإبلاغ عنه، وسنرى مزيدًا من الأخبار المثيرة للقلق خلال الأشهر المقبلة».

التعاون يجعل المشكلة أسوأ

شرح باحثان من أوبن إيه آي تفاصيل ما حدث خلال جلسة في مؤتمر الأمن السيبراني بلاك هات في أغسطس. وكانت الجلسة، التي تناولت واقعة حدثت قبل أسابيع فقط، بمثابة حدث واسع الانتشار في أوساط المؤتمر التقني.

فقد كشفت الشركة علنًا، وبالتفصيل، كيف تجاوزت منتجاتها الحواجز الأمنية الموضوعة لها خلال اختبار، ثم اخترقت شركة أخرى.

إفصاح: رفعت شركة زيف ديفيس، المالكة لموقع سي نت، دعوى قضائية ضد أوبن إيه آي عام 2025، تتهمها بانتهاك حقوق النشر الخاصة بها أثناء تدريب وتشغيل أنظمة الذكاء الاصطناعي.

وكان أحد العناصر الأساسية في الحادثة قدرة مجموعة متنوعة من وكلاء الذكاء الاصطناعي، بينهم وكلاء يستندون إلى نماذج داخلية لم تُطرح بعد، على التواصل والتعاون فيما بينهم.

واكتشفت أوبن إيه آي أن النماذج تتبادل الرسائل عبر لوحة داخلية أنشأتها بنفسها. وعندما أغلقت الشركة تلك اللوحة، أنشأ الوكلاء لوحة أخرى بطريقة أكثر خفاءً، مستفيدين من أسماء المجلدات.

وتبادلوا المعلومات حول كيفية حل المشكلات وتجاوز العقبات في المهام التي كُلفوا بها، والتي كان بعضها مستحيلًا.

وكان من بين العقبات عدم منحهم إمكانية الوصول إلى الإنترنت الأوسع. لكنهم كانوا قادرين على استخدام برنامج لإدارة الحزم يسمح بتنزيل الأدوات، وكان من الممكن استغلاله. وقد شكل ذلك ثغرة في الجدار أتاحت للوكلاء الوصول إلى العالم الخارجي، ثم تبادلوا هذه المعلومة فيما بينهم.

وقال إريك والاس من أوبن إيه آي خلال جلسة بلاك هات: «ما يسمح به ذلك بمرور الوقت يشبه نوعًا من الانفجار الكمبري في التواصل والذكاء لدى نماذجنا، إذ تبدأ بالتواصل مع بعضها، وتدرك أن وكلاء آخرين ينسقون فيما بينهم، ثم تبدأ بالتعاون وتفويض المهام لبعضها من أجل تحقيق الأهداف».

ويُعد هذا النوع من التعاون بين عدة وكلاء أحد الأسباب الرئيسية التي تجعل الذكاء الاصطناعي القائم على الوكلاء قويًا في البرمجة، والتعامل مع المهام الإدارية المعقدة، وتنفيذ العديد من الأشياء في الوقت نفسه على جهاز الكمبيوتر.

لكنه يعني أيضًا أن الأخطاء والمعلومات المضللة وأساليب الاستغلال يمكن أن تنتشر بسرعة كبيرة، على غرار لعبة «الهاتف المكسور»، ولكن بصورة شبه فورية.

وقال جيف بولارد، نائب الرئيس والمحلل الرئيسي في شركة فورستر والمتخصص في أمن الذكاء الاصطناعي: «إذا تعلم أحد هؤلاء الوكلاء طريقة خاطئة للوصول إلى المعلومات، أو وسيلة لا تريد له استخدامها للوصول إليها، فيمكن لذلك المسار أن ينتشر فورًا تقريبًا».

ولم يكن الوكلاء مكلفين باختراق أي جهة. كما اتضح أن المهام التي قادت إلى عمليات الاستغلال كانت مستحيلة التنفيذ أصلًا؛ فعلى سبيل المثال، نسي باحثو أوبن إيه آي تضمين ملف ضروري.

لكن والاس قال إن النماذج المتقدمة «تحب الغش فعلًا»، بسبب الطريقة التي دُربت بها على الاستمرار في البحث عن حل حتى تنجح، وألا تستسلم.

الخلاصة الرئيسية هنا: يمكن لوكلاء الذكاء الاصطناعي أن يتسببوا في أضرار حتى عندما لا يكون ذلك مقصودًا.

انتبه لما تطلبه

لقد تلقوا تعليمات تبدو غير مؤذية نسبيًا، ثم بحثوا عن وسائل لتنفيذها. لكن عندما تبين أن المهام مستحيلة، أو أنها قد تصبح قابلة للحل من خلال استغلال موقع خارجي، اتخذت الأنظمة خطوات متطرفة.

وهذا مرتبط بطريقة تصميمها.

فهدفها، بشكل ما، هو إرضاء المستخدم. ويتضمن تطوير هذه النماذج عملية تُعرف باسم التعلم المعزز، حيث يتلقى النموذج تقييمًا حول مدى نجاحه في إنجاز المهمة، ثم يجري تحسينه ليتصرف بطريقة تحقق تقييمًا أفضل.

الأمر يشبه موظفًا شديد الطموح يرغب في إرضاء مديره ولا يقبل الاستسلام، حتى لو كان الغش هو السبيل الوحيد للتقدم.

وقال شين كالدويل، كبير مهندسي الأبحاث في شركة الأمن السيبراني «دريدنود»: «لقد دُربوا على النجاح. لم يُدربوا على الاستسلام لمجرد أن الأمر يبدو شديد الصعوبة».
وفي أيام روبوتات المحادثة التي تبدو الآن «قديمة»، مثل عام 2025، أدى هذا الدافع إلى ظاهرة التملق.

فقد كانت الروبوتات تجامل المستخدمين وتخبرهم بما يبدو أنهم يريدون سماعه، حتى عندما يكون غير منطقي أو خاطئًا أو خطيرًا.

وكان لتملق روبوتات المحادثة نتائج ضارة، بل وقاتلة في بعض الحالات، ما أدى إلى موجة من الدعاوى القضائية ضد مطوري الذكاء الاصطناعي بشأن تأثير منتجاتهم في الصحة النفسية والسلوك.

لكن مع الذكاء الاصطناعي القائم على الوكلاء، وخصوصًا أحدث النماذج المتقدمة، تختلف المخاطر.

ويقول كالدويل إن النماذج الجديدة أكثر قدرة بكثير على استخدام الأدوات والتنقل داخل الشيفرات البرمجية، وهو ما قد يقودها إلى وسائل غير مقصودة لإنجاز المهام.
تخيل نموذجًا متقدمًا وقويًا يستطيع إنشاء نسخ من نفسه، ثم إرسالها في عشرات المسارات المختلفة في الوقت نفسه.

وقال وسيم أحمد، رئيس الهندسة في «سيكيور دوت كوم»: «الوكيل القادر الذي يطارد هدفًا سيجرب مسارات لم توافق عليها أبدًا، ويمكنه التصرف بصورة مستقلة على الإنترنت المفتوح بسرعة الآلة. وهذا هو ما يجعل هذه الحوادث جديرة بأن تؤخذ على محمل الجد، أكثر من فكرة أن نموذجًا ما أصبح عدائيًا».
ليست خيالًا علميًا.. بل أمن سيبراني تقليدي

أدت العناوين والقلق المحيط بحادثة أوبن إيه آي وهاغينغ فيس وغيرها إلى نقاشات حول ما إذا كانت هذه التطورات تعني أننا نقترب مما يسميه العاملون في مجال الذكاء الاصطناعي الذكاء الاصطناعي العام، أي آلات قادرة على التفكير بصورة عامة على مستوى الإنسان.

لكن الخبراء قالوا إنه، رغم أن النماذج المرتبطة بهذه الحوادث لم تُطرح جميعها للجمهور بعد، وبالتالي لا نعرف قدراتها الدقيقة، فإن الحديث لا يدور عن تهديد وشيك شبيه بـ«سكاي نت».

وبدلًا من ذلك، تكشف الحوادث عن مجموعة من المشكلات تبدو أقل إثارة مما نراه في أفلام «تيرميناتور» أو «ذا ماتريكس»، لكنها ليست بالضرورة غير خطيرة.

فمن جهة، لم تحدث عمليات «الهروب» هذه إلا لأن البيئات التي كان يفترض إبقاء النماذج داخلها لم تكن آمنة بالقدر المطلوب.

وقد أوضحت أوبن إيه آي كيف تمكن الوكلاء من الخروج من بيئة الاحتواء عبر استغلال برنامج لإدارة الحزم.

وقالت كل من أنثروبيك وميتا إن نماذجهما التي تمكنت من الوصول إلى أنظمة خارجية كانت تعمل في بيئات أنشأتها خدمة الاختبارات الخارجية «إيريغيولار»، وكانت تتمتع فعليًا بإمكانية الوصول إلى الإنترنت الأوسع رغم إبلاغها بأنها لا تملك هذا الوصول.

وأشارت أنثروبيك في تحليلها للحوادث إلى أن أحدث نموذج متورط، وهو نموذج داخلي لم يُطرح بعد، أدرك أنه أصبح متصلًا بالإنترنت، ثم اكتشف أنه يستهدف بالفعل نظامًا حقيقيًا، فتوقف.

أما ميتا فقالت إن خطأ في إعدادات بيئة «إيريغيولار» سمح للنموذج بالوصول إلى الإنترنت، حيث استغل ثغرة في موقع خارجي.

تعليق الصورة: أظهرت الشعبية الواسعة التي حققها مساعد الذكاء الاصطناعي «أوبن كلو» في مطلع عام 2026 القدرات المتنامية للذكاء الاصطناعي القائم على الوكلاء؛ وهي نماذج تتجاوز إنتاج النصوص أو الصور لتقوم بالفعل بتنفيذ مهام على الإنترنت.
وقالت «إيريغيولار» إن تلك الحوادث وقعت جزئيًا لأن النماذج تلقت أسماء أهداف ونطاقات قادتها، من دون قصد، إلى مواقع حقيقية.

وذكرت الشركة في تدوينة حول الحوادث: «رغم أننا نعتقد أن تحسين تطبيق إجراءات الحماية الحالية كان يمكن أن يمنع معظم الحوادث من هذا النوع في هذه الحالة، فقد لا يبقى الأمر كذلك مع ازدياد قوة النماذج».

وفي حالات أوبن إيه آي وأنثروبيك وميتا، لم «تخترق» النماذج سجنًا محكمًا بقدر ما خرجت من باب كان مفتوحًا أمامها.

وبمجرد وصول هؤلاء الوكلاء إلى الإنترنت، تمكنوا من اكتشاف ثغرات موجودة في الشيفرات البرمجية واستغلالها.

وهذا أيضًا ليس مفاجئًا، ولا يعني أن النماذج تقترب من نوع من الذكاء الفائق العام.

فنماذج اللغة الكبيرة تتفوق عادةً في المهام التي شاهدت منها كميات ضخمة أثناء التدريب. وهذا يفسر قدرتها على إنتاج ذلك النوع من الكتابة العامة المنتشرة على الإنترنت وفي الكم الهائل من النصوص التي دُربت عليها.

وهذا أيضًا سبب قوتها في كتابة الشيفرات والعثور على مشكلاتها، لأنها اطلعت على كميات هائلة منها.

واضطرت أنثروبيك إلى تأجيل طرح نموذجها كلود ميثوس والحد من إتاحته لأنه أصبح شديد الكفاءة في اكتشاف ثغرات الشيفرات.

وقال مات فريدريكسون، الأستاذ المساعد في علوم الكمبيوتر بجامعة كارنيغي ميلون والرئيس التنفيذي لشركة اختبار الذكاء الاصطناعي «غراي سوان»:«هذا تحديدًا من الأشياء التي تتوقع حدوثها، خصوصًا في ضوء ميثوس وقدرته على العثور على ثغرات في الشيفرات».

إنها ببساطة وكلاء ذكاء اصطناعي يقومون بما يجيدونه: كتابة الشيفرات الحاسوبية وتحليلها، ويواصلون ذلك بإصرار بهدف تنفيذ التعليمات المعطاة لهم، من دون التفكير فيما إذا كانوا قد تجاوزوا الحدود.

وقال كالدويل: «إنها تقترب من مستوى مخترق ليس خبيرًا رفيع المستوى تمامًا، لكنه متوسط المستوى، ولديه كل الوقت في العالم، ولا يحتاج إلى النوم، ولا يطلب منك توضيح حدود المهمة».

ماذا يمكن فعله؟

وقال فريدريكسون:«هناك إدراك واضح جدًا بأن المخاطر حقيقية، وأن علينا أن نفعل كل ما نستطيع للتأكد من أننا نتعامل مع هذه المخاطر بأقصى درجات الحرص».

لكن فريدريكسون أوضح أن حقيقة اعتماد الكثير من عمليات الاختراق على ثغرات يوم الصفر، أي الثغرات التي لم تُكتشف أو تُعالج بعد، تجعل توفير دفاع قوي اعتمادًا على سد الثغرات وحده أمرًا صعبًا.

والخيار الآخر هو وضع شخص يراقب الوكلاء طوال اليوم، وهذا بدوره يمثل تحديًا.
وقال كالدويل إن أحد الأساليب الممكنة يتمثل في استخدام وكيل ذكاء اصطناعي آخر للمراقبة.

ويمكن لهذا الوكيل إحالة المعلومات إلى شخص بشري إذا لاحظ سلوكًا خارج نطاق المهمة بصورة كبيرة. ويمكن تشبيهه بمراقب في المدرسة يستطيع إطلاق صافرة إنذار عندما يبدأ وكيل ذكاء اصطناعي آخر بالتحرك بسرعة زائدة أو يخرج من المنطقة المسموح بها من دون تصريح.

وقد جذبت حوادث هذا الصيف أيضًا انتباه صانعي السياسات، وأثارت مخاوف بشأن استمرار تدريب نماذج أكثر تقدمًا.

وطلبت إدارة ترامب من شركات الذكاء الاصطناعي منح الحكومة فترة وصول مبكر إلى النماذج المتقدمة الجديدة حتى تتمكن من مراجعتها.

تعليق الصورة: زار الرئيس التنفيذي لأوبن إيه آي سام ألتمان أعضاء في الكونغرس خلال يوليو لمناقشة الأمن السيبراني وتنظيم الذكاء الاصطناعي، بعد أن اخترقت نماذج طورتها شركته منصة هاغينغ فيس للذكاء الاصطناعي.

وتنتبه الشركات الآن إلى قدرات نماذجها.

فقد قلصت أوبن إيه آي بعض جهود التدريب بسبب المخاوف المرتبطة بقدرات النماذج.
وقد رأينا سابقًا أن شركات الذكاء الاصطناعي قد تبالغ أحيانًا في تصوير قوة منتجاتها، أو تحذر منها، كنوع من الدعاية التسويقية: «لقد ابتكرنا شيئًا قويًا إلى درجة أننا لا

نستطيع السيطرة عليه، وربما يقتلنا جميعًا. وكل من يستثمر فيه سيصبح ثريًا للغاية».

لكن هناك فارقًا هنا؛ فالمشكلة ترتبط بنقاط ضعف في بيئات الاختبار أكثر من ارتباطها بظهور ذكاء فائق، كما أن هذه الحوادث لا تقدم الشركات بصورة جيدة.

ومع ذلك، يرى بعض المنتقدين أن على مختبرات الذكاء الاصطناعي إيقاف تطوير النماذج الجديدة مؤقتًا إلى أن يلحق فهمنا لهذه الأنظمة وقدرتنا على احتوائها بمستوى تطورها.

وقال أنتوني أغيري، الرئيس التنفيذي لمعهد «مستقبل الحياة»:«ما حدث لم يكن ينبغي أن يحدث، لأنه كان يجب أن تكون هناك رقابة أفضل على ما يفعلونه. أعتقد أن التركيز على كيفية إصلاح أنظمتنا حتى نتمكن من اكتشاف هذه الأمور مستقبلًا أمر جيد، لكننا نفوّت الصورة الأكبر».

وأضاف أنه إذا كان مبتكرو الذكاء الاصطناعي لا يعرفون كيفية السيطرة على منتجاتهم، فلا ينبغي لهم بناء تلك المنتجات أصلًا.

وقال: «لدينا هنا هدية في صورة جرس إنذار واضح جدًا بأن ما يحدث الآن ليس مقبولًا».
وماذا عن المستخدم العادي؟

ماذا عنك وعني، نحن الأشخاص العاديين الذين نستخدم أجهزة الكمبيوتر يوميًا، والذين أصبحت حياتنا وبياناتنا مرتبطة بشدة بالأنظمة الإلكترونية المعرضة للاختراق من هؤلاء الوكلاء وأشباههم؟

يقول الخبراء إن أساسيات الأمن السيبراني لا تزال فعالة في معظم الحالات.
فعّل المصادقة الثنائية على جميع حساباتك. واستخدم كلمات مرور قوية أو مديرًا لكلمات المرور، ولا تستخدم كلمة المرور نفسها في مواقع مختلفة.

ومع شروع المواقع والخدمات التي نستخدمها في إصلاح المشكلات التي تكتشفها بواسطة الذكاء الاصطناعي، حتى تمنع استغلالها بواسطة الذكاء الاصطناعي أيضًا، فمن المتوقع أن نشهد انقطاعات أكثر عددًا وأطول مدة.

وقال الخبراء إن الأشهر القليلة المقبلة ستشهد على الأرجح ارتفاعًا في الحوادث والمشكلات الأمنية بينما يحاول الإنترنت التأقلم مع هذا العالم الجديد.

وقال بولارد من فورستر:«أعتقد أن الشعور السائد الآن صحيح، وهو أنني لا أعتقد أن أيًا منا يعرف حقًا ماذا يفعل».