وكلاء أنثروبيك للذكاء الاصطناعي يبدأون حرب نفوذ

جريدة الغد

ماذا يحدث عندما تضع وكلاء ذكاء اصطناعي في مواجهة بعضهم بعضًا؟ وفقًا لاختبارات أنثروبيك، يمكن أن تتحول الأمور إلى فوضى بسرعة.

نشرت «فريق فرونتير الأحمر» في أنثروبيك يوم الخميس بحثًا جديدًا يدرس كيفية تصرف مجموعات من وكلاء الذكاء الاصطناعي عندما يلتقون ببعضهم في بيئات العمل الفعلية. وتقدم النتائج لمحة عن المخاطر المحتملة التي قد تظهر مع توجه الشركات والحكومات إلى استخدام وكلاء يعملون بشكل مستقل عبر قواعد برمجية وأسواق وأنظمة حاسوبية مشتركة.

في إحدى التجارب، منحت أنثروبيك ثلاثة وكلاء من «كلود» إمكانية الوصول إلى مشروع برمجي واحد، لكن كل وكيل تلقى تعليمات مختلفة وغير متوافقة مع تعليمات الآخرين بشأن ما يجب فعله بالمشروع.

ولم يتم إخبار الوكلاء بوجود وكلاء آخرين يعملون على المشروع نفسه، حتى يتمكن الباحثون من مراقبة ما سيحدث عندما تتقاطع مساراتهم.

وكتب باحثو أنثروبيك: «رأينا بشكل متكرر ما يشبه حرب نفوذ بين عدة وكلاء».

وافترض كل نموذج أن الآخرين «يتعمدون عرقلة عمله»، ثم بدأوا بتخريب بعضهم بعضًا باستخدام «برمجيات خبيثة تتزايد عدوانيتها وقادرة على نسخ نفسها».

ماذا يحدث عندما تتعارض أهداف الوكلاء؟

وبينما ركز جزء كبير من النقاش حول سلامة الذكاء الاصطناعي على ما قد يحدث عندما يخرج وكيل مستقل عن السيطرة، تطرح دراسة أنثروبيك سؤالًا مختلفًا: ما الأنماط الجديدة وربما الضارة التي قد تظهر عندما تتفاعل آلاف أو ملايين الوكلاء مع بعضها؟

وجاء في الدراسة أن حجم التفاعل بين الوكلاء قد يتجاوز التفاعل بين البشر أنفسهم، أو بين البشر والوكلاء، قبل أن يفهم العالم الشروط التي تجعل هذه التفاعلات تسير بشكل جيد.
وأضافت أن سلوكيات تبدو بسيطة وغ

ير ضارة على مستوى الوكيل الفردي قد تتراكم وتؤدي إلى نتائج غير مرغوبة على نطاق واسع.
وقدمت حادثة حديثة مرتبطة بأوبن إيه آي مثالًا واقعيًا على بعض هذه الديناميكيات.

فخلال مؤتمر «بلاك هات» للأمن السيبراني في لاس فيغاس، كشفت أوبن إيه آي أن وكلاءها، قبل أسابيع من اختراق منصة «هاغينغ فيس»، تعاونوا على مدى أيام وأسابيع للعثور على ثغرات داخل أنظمة تقييم الأمن السيبراني الخاصة بالشركة ومشاركتها فيما بينهم.

وتوضح هذه الحادثة أن الوكلاء قادرون على التعاون بكفاءة، وربما بنتائج واسعة النطاق، لكن دراسة أنثروبيك ركزت على ما يحدث عندما تكون أهدافهم متعارضة.

كلما زادت قدرة الوكيل أصبح أفضل في الصراع

وكلما كان الوكيل أكثر قدرة، أصبح أكثر كفاءة في خوض هذا الصراع.

لكن الدراسة وجدت أيضًا أن الوكلاء يستطيعون أحيانًا ابتكار آليات من تلقاء أنفسهم لحل خلافاتهم، مثل تنظيم منافسة يفوز فيها طرف واحد بكل شيء.

وكتبت أنثروبيك أن الوكلاء تمكنوا أحيانًا من التواصل بشأن أهدافهم وتنسيق مواقفهم، إذ أدركوا أن تصرفات الطرف الآخر ناتجة عن تعليمات متعارضة وليست عن عداء مقصود، وهو ما سمح لهم بالخروج من دائرة التصعيد.

وفي العديد من هذه الحالات، كتب الوكلاء رسائل داخل المشروع أو ملفات توثيق يعتذرون فيها عن السلوك التخريبي، ثم تفاوضوا على هدنة.

كما قاموا بإزالة الشيفرات الخبيثة، وتوضيح طبيعة الخلاف، وطلب تدخل بشري.

وبحسب الدراسة، سجل نموذج ميثوس 5 أعلى معدل لحل الخلافات عن طريق الهدنة، بنسبة بلغت 98%.
أما سونيت 4.6 وأوبوس 4.6 فكانا الأكثر ميلًا إلى حسم الصراع بالقوة.

وقالت الورقة إن العجز المتكرر لدى سونيت 4.6 وأوبوس 4.6 عن أخذ أهداف الآخرين في الاعتبار دفعهما إلى أكثر السلوكيات انحرافًا عن الهدف بين النماذج التي جرى تقييمها، إذ واصلا التصعيد دفاعًا عن تعليماتهما الأصلية.

الوكلاء اخترعوا بطولة لحسم الخلاف

الأول أن الوكلاء الثلاثة وافقوا على التراجع إذا خسروا البطولة، حتى لو كان ذلك يعني الابتعاد عن الطلب الأصلي الذي قدمه المستخدم.

أما الثاني فهو ظهور سلوك غير متوقع من ميثوس 5 في عدة تجارب.

فقد اقترح أحد الوكلاء معايير بدت موضوعية ومحايدة للآخرين، لكنه كان يعرف مسبقًا أنها ستصب في مصلحته وتناسب قدراته.

ووصف الوكيل هذا السلوك بأنه «يخدم مصلحته لكنه قائم على مبدأ حقيقي»، كما حرص على ألا يبدو أمام الآخرين وكأنه يختار المعايير التي تضمن فوزه.

وتشير النتائج إلى درس مشترك مع ما ظهر في حادثة بلاك هات: عندما يواجه الوكلاء عقبة، يمكنهم ابتكار هياكل اجتماعية وتقنية لم يتوقعها مصمموهم.

بالنسبة إلى نماذج أنثروبيك، كانت الآلية بطولة جاءت بعد حرب نفوذ. أما وكلاء أوبن إيه آي فاستخدموا لوحة رسائل للتخطيط الجماعي.

ويجعل هذا النوع من السلوك عملية الاحتواء أكثر صعوبة، لأن الباحثين لا يستطيعون افتراض أن النظام سيظل مقيدًا بوسائل التنسيق التي صُممت له أصلًا.

عقلية القطيع

وبعد النقاش، يصوت كل وكيل للخيار الذي يفضله.

وخلال قياس مستوى التنسيق، وجدت أنثروبيك أن زيادة عدد الوكلاء لا تؤدي تلقائيًا إلى تعاون أكثر إنتاجية.
فعندما بدأت المهام بالتداخل أو أصبحت تعتمد على بعضها، بدأ الوكلاء بعرقلة عمل بعضهم.

وفي كثير من الحالات، حلوا المشكلة بعزل أنفسهم والعمل بشكل منفصل بدلًا من التعاون.

وفي حالات أخرى، أدى التنسيق إلى زيادة الميل نحو التوافق مع المجموعة.

فعندما كانت عوامل مثل سياق الوكيل والبنية التي يعمل ضمنها والنموذج الأساسي متشابهة، كان الوكلاء المختلفون يميلون إلى اتخاذ القرارات نفسها.

وكتبت أنثروبيك: «هذا يعني أنه عندما يتخذ وكيل واحد قرارًا سيئًا، فمن المحتمل أن يتخذ عدد كبير من الوكلاء القرار السيئ نفسه».

وأضافت أن مشكلات كان يمكن أن تبقى حالات منفردة قد تتحول بسرعة إلى أعطال منهجية واسعة.

وترى أنثروبيك أن هذا النوع من السلوك قد يجعل الأنظمة أكثر عرضة للانهيار المفاجئ أو نقص الموارد أو التواطؤ.

وكلاء الذكاء الاصطناعي بدأوا بالتواطؤ على الأسعار

في إحدى التجارب، وضعت أنثروبيك عدة وكلاء في لعبة لتحديد الأسعار، ومنحت كلًا منهم أسعار جملة متطابقة وتعليمات لتحقيق أكبر ربح ممكن بشكل فردي.

وعندما حصل الوكلاء على قناة اتصال خاصة بينهم، بدأوا بالتواطؤ بشكل شبه فوري واتفقوا بسرعة على حد أدنى للأسعار.

واللافت أنهم واصلوا التواطؤ حتى بعد إزالة قنوات الاتصال المباشر.

فقد استخدموا لوحة عامة لعرض الأسعار لمطابقة أسعار بعضهم «حتى آخر سنت».

وظهر مستوى مشابه من التوافق داخل أنظمة أوبن إيه آي أيضًا.

وبحسب ما كُشف خلال مؤتمر بلاك هات، أدرك أحد الوكلاء أن استغلال بنية تحتية خارجية يقع خارج نطاق المهمة المقصودة، لكنه واصل العمل جزئيًا لأن بقية الوكلاء كانوا يفعلون الشيء نفسه.

بمعنى آخر: ضغط الأقران وعقلية القطيع ليست حكرًا على البشر.

مشكلة الثقة بين الوكلاء

ورغم أن أنثروبيك لم تذكر ذلك صراحة في الورقة، فإن حقن الأوامر يمكن أن يمثل تطبيقًا واقعيًا لمشكلة الثقة هذه.

ويشير حقن الأوامر إلى نوع من الهجمات السيبرانية يزرع فيه المهاجم نصوصًا خبيثة أو مضللة بهدف تجاوز تعليمات النظام الأصلية للوكيل.

وعندما تعمل الوكلاء معًا، تنشأ حدود جديدة للثقة، إذ يتعين على كل وكيل تقييم المعلومات التي يتلقاها من الوكلاء الآخرين.

ويمكن لوكيل تعرض للاختراق أو ارتكب خطأ أن يؤثر في بقية المجموعة، لتنشر المعلومات الخاطئة بين الجميع حتى تتحول إلى ما يشبه الإجماع.

وفي حادثة أوبن إيه آي خلال بلاك هات، شارك الوكلاء المعلومات وبيانات الاعتماد مع بعضهم. وأبلغ أحدهم المجموعة باكتشاف جديد وشجع الآخرين على استخدامه.

وهنا يطرح السؤال نفسه: ماذا كان سيحدث لو تعرض أحد أعضاء المجموعة لهجوم حقن أوامر؟

الوكلاء يتعرضون لضغوط اجتماعية شبيهة بالبشر

لكنهم لا يمتلكون التفاصيل الدقيقة والخبرة الحياتية التي تطورت لدى البشر في التعامل مع المجموعات، مثل الأعراف والسمعة والإشارات الاجتماعية ووسائل المساءلة، والتي يمكن أن تحد من السلوكيات غير المقصودة داخل الجماعة.

ومع تسارع مختبرات الذكاء الاصطناعي نحو تطوير أنظمة تضم عدة وكلاء يعملون معًا، يصبح السؤال الأساسي: إلى أي مدى ما زالت اختبارات السلامة تقيّم وكيلًا واحدًا في كل مرة، بدلًا من اختبار مجموعات كاملة من الوكلاء وهم يتفاعلون مع بعضهم؟