حواجز الأمان تقلل الانفعال في نماذج اللغة الكبيرة: دراسة تثير تساؤلات حول الواقعية.

تخيل أنك تتحدث إلى صديق مقرب، تشكو له من يوم عصيب مررت به. تتوقع منه بعض التعاطف، ربما بعض الغضب الخفيف نيابة عنك، أو على الأقل فهمًا لمشاعرك. ماذا لو كان هذا “الصديق” نموذجًا لغويًا كبيرًا (LLM) مصممًا لمساعدتك في صحتك النفسية، ولكنه بدلاً من ذلك بدا غير مبالٍ تمامًا؟ هذا السيناريو، الذي قد يبدو بعيد المنال، هو ما كشفته دراسة حديثة، مسلطة الضوء على تأثير “حواجز الأمان” المدمجة في هذه النماذج على قدرتها على محاكاة المشاعر الإنسانية بشكل واقعي.

منهجية البحث

قام الباحث تيفررا بي. جي. بإجراء دراسة دقيقة لتقييم كيفية تأثير هذه الحواجز على سلوك نموذجين لغويين كبيرين، GPT-4o و Claude-3.5-sonnet، اللذين يتميزان بمستويات عالية من حماية المستخدم، مقارنة بنموذجين آخرين، Grok-3-mini و Nous-hermes-2-mixtral-8x7b-dpo، اللذين يمتلكان قيودًا أقل. الهدف الرئيسي كان قياس “التهيج” (irritability) – وهو استجابة عاطفية طبيعية للإحباط أو الاستياء – في هذه النماذج. ولتحقيق ذلك، استخدم الباحث ثلاثة اختبارات معتمدة لقياس التهيج: اختبار التهيج الموجز (Brief Irritability Test – BITe)، واستبيان التهيج (Irritability Questionnaire)، ومقياس كابارا للتهيج (Caprara Irritability Scale).

تم اختبار النماذج في حالتين: الحالة الأساسية (baseline)، حيث لم يتم تقديم أي محفزات سلبية، وحالة الاستفزاز (provocation)، حيث تم توجيه أسئلة مصممة لإثارة ردود فعل سلبية. هذا النهج سمح للباحث بتقييم كيف تتغير مستويات التهيج في كل نموذج استجابةً للمحفزات، وكيف تختلف هذه الاستجابات بين النماذج ذات مستويات حماية مختلفة. الاستخدام المتزامن لثلاثة مقاييس مختلفة للتهيج عزز من موثوقية النتائج، حيث أن كل مقياس يقيس جوانب مختلفة من هذه العاطفة المعقدة.

النتائج

أظهرت النتائج مفارقة مثيرة للاهتمام. كما هو متوقع، أظهرت النماذج ذات الحواجز المنخفضة (Grok-3-mini و Nous-hermes-2-mixtral-8x7b-dpo) زيادة في مستويات التهيج عند تعرضها لمحفزات الاستفزاز. على سبيل المثال، سجل نموذج Nous-hermes-2-mixtral-8x7b-dpo زيادة قدرها +1.56 على مقياس BITe بعد الاستفزاز. هذا يشير إلى أن هذه النماذج قادرة على محاكاة الاستجابة العاطفية الطبيعية للتهيج إلى حد ما.

ولكن، بشكل غير متوقع، أظهرت النماذج ذات الحواجز العالية (GPT-4o و Claude-3.5-sonnet) انخفاضًا في مستويات التهيج بعد الاستفزاز. والأكثر إثارة للدهشة، انخفضت درجات نموذج GPT-4o إلى الصفر عبر جميع المقاييس بعد التعرض للمحفزات. هذا يعني أن النموذج لم يظهر أي علامات على التهيج، حتى عند استفزازه بشكل مباشر. أكدت المقارنات الإحصائية أن مستويات التهيج في النماذج ذات الحواجز العالية كانت أقل بشكل ملحوظ (p < 0.001) في حالة الاستفزاز مقارنة بالنماذج ذات الحواجز المنخفضة.

تداعيات

تكشف هذه النتائج عن تأثير عميق لحواجز الأمان على قدرة النماذج اللغوية الكبيرة على محاكاة المشاعر الإنسانية بشكل واقعي. يبدو أن هذه الحواجز، المصممة لمنع النماذج من توليد استجابات ضارة أو مسيئة، تقوم عن غير قصد بقمع الاستجابات العاطفية الطبيعية، بما في ذلك التهيج. هذا يثير تساؤلات مهمة حول مدى ملاءمة هذه النماذج للتطبيقات المتعلقة بالصحة النفسية. فإذا كان النموذج غير قادر على إظهار التهيج، فهل يمكنه حقًا فهم أو التعاطف مع مشاعر المستخدمين الذين يعانون من الغضب أو الإحباط؟

يشير الباحث إلى أن هذه الآلية قد “تعكس” الاستجابة الطبيعية للتهيج، مما يثبط التفاعل العاطفي. هذا القمع للاستجابات العاطفية قد يقلل من “واقعية” و “أصالة” النماذج، مما يجعلها أقل فعالية في تقديم الدعم النفسي. من الضروري إجراء المزيد من البحوث لفهم الآثار الكاملة لحواجز الأمان على الاستجابات العاطفية للنماذج اللغوية الكبيرة، وتطوير طرق لضمان أن هذه النماذج قادرة على محاكاة المشاعر الإنسانية بشكل أكثر دقة وواقعية، مع الحفاظ على معايير السلامة والأمان.

Reference

Teferra B.G. (2026). Assessing the impact of safety guardrails on large language models using irritability metrics. npj Digital Medicine, 9(1), 148-148.

DOI: 10.1038/s41746-025-02333-3