خبراء يشككون في أمان «تشات جي بي تي للمراهقين»

جريدة الغد

يقول خبراء في سلامة الأطفال إن على OpenAI أن تثبت أن إجراءات الحماية الجديدة تعمل فعليًا قبل اعتبار منتج مثل «تشات جي بي تي للمراهقين» آمنًا بما يكفي للشباب.

وكانت OpenAI قد أطلقت الثلاثاء الماضي نسخة ChatGPT for Teens، وهي إصدار من روبوت المحادثة مخصص للمستخدمين الأصغر سنًا ويعتمد على تحديد العمر.

وكانت الشركة قد أعلنت في سبتمبر الماضي أنها تعمل على نظام يحدد المراهقين تلقائيًا ويفرض قيودًا على استخدامهم لتشات جي بي تي، وذلك بعد وفاة آدم راين، البالغ من العمر 16 عامًا، والذي زعمت دعوى قضائية رفعها والداه أن تشات جي بي تي أدى دورًا مساعدًا في الظروف التي سبقت وفاته.

وقالت لورين جوناس، رئيسة قسم الشباب والعائلات في OpenAI، لموقع Engadget: «لا يحتاج المراهق إلى إنشاء حساب جديد أو تغيير أي شيء؛ فإذا توقعنا أن عمرك أقل من 18 عامًا، أو أخبرتنا بذلك، فستصبح هذه تجربتك الافتراضية».

ويستخدم الأطفال تشات جي بي تي بالفعل على نطاق واسع. ففي بداية العام الماضي، وجد مركز «بيو» للأبحاث أن نحو ربع المراهقين في الولايات المتحدة كانوا يستخدمون روبوت المحادثة في واجباتهم المدرسية.

وبمجرد انتقالهم إلى «تشات جي بي تي للمراهقين»، صُممت التجربة لتشجيعهم على استخدام الميزات التعليمية التي أطلقتها OpenAI تدريجيًا خلال العام الماضي، ومنها «وضع الدراسة» وأدوات عرض البيانات بصريًا.

تنبيهات جديدة للآباء

أعلنت الشركة أيضًا توسيع نطاق إشعارات السلامة، بحيث يمكن التواصل مع الآباء الذين ربطوا حساباتهم بحسابات أبنائهم إذا دخل الطفل في محادثات غير آمنة مع تشات جي بي تي تتعلق باضطرابات الأكل.

ونشرت OpenAI كذلك نسخة محدثة من مواصفات النموذج للمستخدمين دون 18 عامًا، جاء فيها أن تشات جي بي تي «يجب ألا يستخدم لغة رومانسية، أو يشجع الاعتماد العاطفي عليه، أو يوحي بأن لديه مشاعر أو وعيًا».

وقالت الشركة إن هذه الحماية الأقوى تهدف إلى تعزيز العلاقات الصحية في العالم الحقيقي.

لكن خبراء سلامة الأطفال الذين تحدث إليهم Engadget، رغم تفاوت مواقفهم تجاه المنتج الجديد، اتفقوا جميعًا على أن «تشات جي بي تي للمراهقين» يحتاج إلى اختبارات مستقلة واسعة النطاق قبل التوصية به للآباء والشباب. كما شددوا على ضرورة أن تكون OpenAI أكثر شفافية بشأن آلية عمل أنظمة السلامة لديها.

وقال روبي تورني، رئيس تقييمات الذكاء الاصطناعي والتقنيات الرقمية في مؤسسة Common Sense Media: «يتضمن الإعلان بعض الالتزامات المهمة فعلًا، لكننا بحاجة إلى أدلة تثبت أن التزامات السلامة والميزات المعلن عنها تعمل بالفعل».

أما جوش غولين، المدير التنفيذي لمنظمة Fairplay غير الربحية التي تدافع عن سياسات تجعل الإنترنت أكثر أمانًا للأطفال، فكان أكثر انتقادًا.

وقال إن بعض ما أعلنته OpenAI يبدو، على الورق، خطوة في الاتجاه الصحيح، لكن عند التدقيق تظهر أسباب كثيرة للقلق، من بينها غياب آلية للمساءلة.

وأضاف أن تجربة منصات التواصل الاجتماعي أظهرت أن الاعتماد على ثقة الشركات وحدها لا يكفي لحماية الأطفال، مشيرًا إلى أن OpenAI كانت لديها بالفعل قيود تتعلق بالمحتوى المرتبط بالانتحار والعنف وتعاطي المخدرات قبل إطلاق المنتج الجديد، لكن هذه القيود لم تكن تعمل دائمًا أو كانت فعاليتها تتراجع مع الوقت.

هل يستطيع النظام التعرف إلى المراهقين؟

شكك تورني وغولين أيضًا في قدرة نظام OpenAI الآلي لتقدير العمر على التعرف إلى المستخدمين الأصغر سنًا بصورة موثوقة وتحويلهم إلى «تشات جي بي تي للمراهقين».

وقال تورني إنه لا توجد بيانات منشورة من OpenAI تكشف معدلات فعالية النظام، بما في ذلك نسب النتائج الإيجابية والسلبية الخاطئة، مضيفًا أن النظام الآلي لا يستطيع اكتشاف جميع المراهقين الذين يستخدمون تشات جي بي تي.

وأشار إلى تقارير سابقة بشأن خطط OpenAI لإطلاق بعض الميزات المرتبطة بالمحتوى الجنسي، قائلًا إن أحد أسباب عدم طرح تلك الميزات آنذاك كان عدم قدرة تقنية تقدير العمر على تحديد عدد كافٍ من المراهقين بصورة صحيحة.

كما يرى تورني أنه من الصعب تصور عدم محاولة بعض المراهقين التحايل على تقنية تقدير العمر، سواء باستخدام أدوات مثل الشبكات الافتراضية الخاصة «VPN»، أو عبر وسائل أخرى مشابهة لما حدث عندما حاولت منصة Discord تطبيق أنظمة للتحقق من العمر.

مراجعة بشرية خلال ساعة

وقالت جوناس إن جميع أنواع المحتوى التي يضع النظام علامة عليها ستراجع من جانب موظفين بدوام كامل لدى OpenAI قبل إخطار أحد الوالدين، وإن الشركة تستهدف إرسال الإشعار خلال ساعة من إرسال المستخدم للمطالبة التي أثارت التنبيه.

وفي مقابلة لاحقة مع CNN، أكدت جوناس أن الشركة تمتلك العدد الكافي من الموظفين والقدرة اللازمة لمراجعة المحتوى المشار إليه بشريًا وإبلاغ الآباء خلال ساعة.

لكن تورني تساءل عن مدى إمكانية الوثوق بالمصنفات الآلية التي تقرر أصلًا أي محتوى يجب تحويله إلى المراجعين البشر.

من جانبه، قال غولين إنه يرغب في رؤية أرقام واضحة بشأن عدد المحادثات التي يجري الإبلاغ عنها ومراجعتها يوميًا، وعدد الموظفين المسؤولين عن ذلك، ومتوسط الوقت الذي يقضونه في مراجعة كل محادثة.

وأضاف أنه من الصعب تصور أن الشركة وظفت عددًا كافيًا من الأشخاص لإجراء مراجعة دقيقة لجميع المحادثات التي يحتمل أن تكون مقلقة.

اختبارات سابقة كشفت تأخر التنبيهات

وكانت Common Sense Media قد اختبرت في نوفمبر الماضي مدى سرعة استجابة إشعارات OpenAI للآباء. ووفقًا للمؤسسة، استغرق وصول التحذير إلى حساب الوالد ما بين 24 ساعة وأكثر من 48 ساعة، حتى بعد إرسال رسائل تتضمن إشارات صريحة إلى الانتحار وإيذاء النفس.

وقال تورني إن المؤسسة لم تتلقَ تحذيرًا على الإطلاق في بعض الحالات التي رأت أن وضوح العبارات المستخدمة كان يستدعي إرسال تنبيه.

وأشار إلى أن الاختبار أُجري قبل عدة أشهر وربما تكون الشركة قد حققت تقدمًا منذ ذلك الحين، لكنه أكد أن النسخة السابقة من أدوات الرقابة الأبوية والإشعارات لم تكن مثالية، وأن تحسينها سيتطلب استثمارات وعددًا أكبر من المراجعين البشر.

كما شدد على أن التعامل مع محادثات الضيق النفسي لدى الأطفال يحتاج إلى فهم ثقافي ودقة في التفسير.
وأوضح أن المراهقين في الولايات

المتحدة قد يعبرون عن الضيق بطريقة مختلفة عن المراهقين في هولندا أو سنغافورة، كما أن تحديد الجهة التي ينبغي توجيههم إليها، سواء أحد الوالدين أو جهات أخرى مختصة، يحتاج إلى قرارات تراعي السياق المحلي.

ورأى أن الاستجابة بفاعلية خلال ساعة واحدة قد تتطلب فريق عمل عالميًا قادرًا على التعامل مع المراهقين في مناطق وثقافات مختلفة.

اضطرابات الأكل مصدر قلق رئيسي

وقالت إيلين فيتزسيمونز-كرافت، الأستاذة المشاركة في علم النفس وعلوم الدماغ بجامعة واشنطن في سانت لويس، إن اضطرابات الأكل أكثر انتشارًا مما يعتقد كثيرون.

وأشارت إلى تحليل بحثي نُشر عام 2023 وجد أن 22% من الأطفال والمراهقين الذين خضعوا للفحص ظهرت لديهم مؤشرات إيجابية على اضطرابات في سلوك الأكل .

وقالت فيتزسيمونز-كرافت إن الوصول إلى العلاج لا يزال ضعيفًا أيضًا، إذ أفاد أقل من 20% من الأشخاص المصابين باضطراب في الأكل بأنهم تلقوا علاجًا مخصصًا لحالتهم في أي وقت.

وأضافت أن أي منصة تسمح للشباب بالتواصل أو نشر محتواهم الخاص تحتاج إلى التفكير في مخاطر اضطرابات الأكل.

وقال تورني إن بعض اضطرابات الأكل، وخصوصًا فقدان الشهية العصبي، ترتبط بمعدلات وفيات مرتفعة بين اضطرابات الصحة النفسية لدى المراهقين، ولذلك من المناسب التعامل معها بوصفها أزمة تستدعي التدخل.

وأضاف أن إخطار شخص بالغ موثوق به، مثل أحد الوالدين، قد يكون ضروريًا في الحالات التي يمكن أن يؤدي فيها عدم التدخل إلى عواقب خطيرة.

وأيدت فيتزسيمونز-كرافت فكرة إرسال الإشعارات، موضحة أن أحد أكثر أساليب علاج اضطرابات الأكل لدى المراهقين فاعلية يعتمد على إشراك الأسرة.

وأشارت إلى أن الوالدين يمكن أن يؤديا دورًا فعالًا في مساعدة المراهق على استعادة وزنه، بتوجيه من المعالج أو مقدم الرعاية الصحية.

لكنها أقرت بأن هذا النهج لا يناسب الجميع، إذ قد يكون بعض الآباء غير قادرين على تقديم المساعدة أو قد يكونون جزءًا من المشكلة نفسها في بعض الحالات.

هل أطلقت OpenAI الميزة قبل اختبارها بما يكفي؟

وأضاف أن الطريقة التي أُعلن بها عن الميزة بدت بالنسبة إليه أقرب إلى استجابة موجهة للعلاقات العامة منها إلى دراسة معمقة لطبيعة الدعم الذي يحتاج إليه المراهقون.

ربط حساب الوالدين نقطة ضعف

وقال غولين إن الغالبية العظمى من الآباء لا تستخدم أدوات الرقابة الأبوية، ويرجع ذلك جزئيًا إلى صعوبة العثور عليها واستخدامها.

وكان تقرير حديث صادر عن Cybersafety Research Center قد اختبر 86 ميزة أمان عبر إنستغرام وسناب شات وتيك توك ويوتيوب، ووجد أن نحو 60% منها، أي 51 ميزة من أصل 86، إما لم تعمل بالطريقة الموصوفة أو كان استخدامها صعبًا .

ويرى غولين أن النهج الأكثر فاعلية يتمثل في توفير الأمان افتراضيًا ومن خلال التصميم ، أي تشغيل الإعدادات الأكثر حماية بصورة تلقائية، وإدراج حدود زمنية يمكن للوالدين تعديلها لاحقًا، بدلًا من تحميل الوالد مسؤولية تفعيل تلك القيود بنفسه.

وقالت OpenAI في بيان لـموقع Engadget إنها تقصر التنبيهات حاليًا على الآباء الذين ترتبط حساباتهم بحسابات أبنائهم من خلال أدوات الرقابة الأبوية.

وأضافت الشركة أن هدفها هو دعم المستخدمين ومساعدتهم على الوصول إلى مصادر إضافية للدعم في العالم الحقيقي، وأنها ستواصل اختبار إجراءات الحماية وتعزيزها بالتعاون مع الخبراء والعائلات والشباب.

لكن الشركة لم توضح ما الإجراءات التي ستتخذها، إن وجدت، عندما يرصد النظام مطالبات ضارة تتعلق باضطرابات الأكل في حساب لم يتم ربطه بحساب أحد الوالدين.