مقدمة إلى أشجار التصنيف والانحدار

شهدت مسيرة التعلم الإحصائي والتعلم الآلي عبر العقود الأخيرة تحولات ثورية أعادت تشكيل فلسفة استنباط المعرفة من البيانات المعقدة؛ حيث برزت الحاجة الملحة لتجاوز الأطر البارامترية الكلاسيكية التي طالما فرضت افتراضات هيكلية صارمة على طبيعة العلاقات بين المتغيرات. وفي هذا الفضاء المعرفي المتطور، ظهرت خوارزمية أشجار التصنيف والانحدار المعروفة اختصاراً باسم CART (Classification and Regression Trees) كواحدة من أكثر المنهجيات ابتكاراً ورسوخاً في التحليل الاستكشافي والتنبؤي. تقدم هذه الخوارزمية صياغة رياضية وخوارزمية فريدة تتيح تجزئة فضاء المتغيرات المستقلة إلى مناطق متجانسة محلياً، مما يتيح نمذجة العلاقات غير الخطية والتفاعلات المعقدة عالية الرتبة دون الحاجة إلى توصيف قبلي لمعادلات الارتباط.

تستند فلسفة أشجار القرار إلى محاكاة المنطق الاستدلالي البشري القائم على الشروط المتسلسلة وقواعد “إذا-فإن” (If-Then rules)، غير أنها تعتمد في الوقت ذاته على أسس إحصائية متينة تدمج بين نظرية المعلومات، ونظرية الاحتمالات، والاستمثال الرياضي التوافقي. وسواء أكان الهدف هو التنبؤ بمتغير فئوي نوعي في سياق التصنيف الإحصائي، أو تقدير استجابة كمية مستمرة في سياق الانحدار، فإن نماذج CART تقدم إطاراً موحداً يجمع بين الكفاءة الحسابية الفائقة، والقدرة التفسيرية البديهية، والمتانة العالية في مواجهة التحديات التجريبية الشائعة كفقدان البيانات والملوثات الشاذة.

يهدف هذا المقال الأكاديمي الشامل إلى تقديم تفكيك منهجي معمق لبنية أشجار التصنيف والانحدار، متتبعاً نشأتها التاريخية، وصياغاتها الجبرية والرياضية، وخوارزميات التقسيم الثنائي والتقليم الرياضي، إلى جانب استعراض تطبيقاتها المتطورة في مجالات متنوعة كالقياس السلوكي والتشخيص الإكلينيكي والذكاء الاصطناعي القابل للتفسير. ومن خلال هذا التحليل، نكشف عن الآليات الدقيقة التي جعلت من هذه الخوارزمية اللبنة الأساسية لأعظم النماذج التجميعية المعاصرة مثل الغابات العشوائية ونماذج تعزيز التدرج فائق الكفاءة.

1. المفاهيم الأساسية والنشأة التاريخية لأشجار التصنيف والانحدار (CART)

1.1 التطور التاريخي للخوارزمية وإسهامات بريمان وزملائه

تعود الجذور المعرفية والمنهجية لأشجار التصنيف والانحدار إلى منتصف سبعينيات وأوائل ثمانينيات القرن العشرين، وهي الفترة التي شهدت اصطدام علماء الإحصاء التطبيقي بحدود النماذج البارامترية التقليدية كالانحدار الخطي المتعدد وتحليل التمايز الخطي لفيشر عند التعامل مع قواعد البيانات الواقعية غير المتجانسة. وفي عام 1984، قدم الرباعي البارز في علوم الإحصاء: ليو بريمان (Leo Breiman)، وجيروم فريدمان (Jerome Friedman)، وريتشارد أولشن (Richard Olshen)، وتشارلز ستون (Charles Stone)، كتابهم المرجعي التاريخي المعنون Classification and Regression Trees، والذي دشن رسمياً ميلاد خوارزمية CART وأحدث نقلة إبستمولوجية حاسمة في الأوساط الأكاديمية.

شكل هذا الإسهام المشترك تحولاً جوهرياً من مدرسة الاستدلال الإحصائي الكلاسيكية التي تعتمد على التحقق من الفرضيات المقيدة والتوزيعات الاحتمالية المفترضة مسبقاً (مثل التوزيع الطبيعي المتعدد وتجانس التباين)، إلى مدرسة “التعلم الإحصائي الخوارزمي الموجه بالبيانات”. وقد جادل بريمان في أطروحاته اللاحقة بأن حصر التحليل الإحصائي في نماذج مسبقة الصنع غالباً ما يؤدي إلى استنتاجات مضللة حول الطبيعة المعقدة للظواهر الحيوية والاجتماعية والهندسية، مؤكداً أن بنية البيانات الحقيقية هي التي ينبغي أن تملي شكل النموذج عبر خوارزميات استكشافية غير معلمية (Non-parametric Algorithms).

تجلت الأهمية المعرفية لخوارزمية CART في قدرتها الفائقة على تمثيل التفاعلات المعقدة بين المتغيرات والأنماط اللاخطية دون اشتراط دمج حدود التفاعل الرياضية يدوياً بواسطة الباحث. وقد انتقلت الخوارزمية عبر العقود من كونها بناءً رياضياً نظرياً يعالج على حواسيب مركزية ضخمة إلى ركيزة خوارزمية محورية في حزم البرمجيات الإحصائية المتقدمة مثل مكتبات بيئة R ولغة Python، لتصبح حجر الزاوية الذي شيدت عليه لاحقاً أعقد بنى التعلم المجمع في علوم البيانات المعاصرة.

1.2 التعريف المنهجي لأشجار القرار وفلسفتها الحسابية

تُعرف شجرة القرار من المنظور المنهجي بأنها تمثيل بياني وخوارزمي متعدد المستويات يُستخدم لتقسيم فضاء المتغيرات المستقلة متعدد الأبعاد إلى فضاءات فرعية مستطيلة متراكبة ومتمايزة، بحيث تكون الملاحظات الإحصائية الواقعة داخل كل فضاء فرعي متجانسة قدر الإمكان فيما يتعلق بالمتغير التابع المستهدف. وتستند الفلسفة الحسابية للشجرة إلى مبدأ “فرق تسد” (Divide and Conquer)، حيث يتم حل المشكلة التنبؤية المعقدة الشاملة عن طريق تفكيكها تكرارياً إلى سلسلة من القرارات الفرعية البسيطة التي تتخذ بناءً على متغير تنبؤي واحد وعتبة عددية محددة في كل مرحلة.

يبرز هنا الفارق الجوهري بين النمذجة الإحصائية التفسيرية والنمذجة التنبؤية القائمة على الأشجار؛ فبينما تسعى النماذج التفسيرية إلى تقدير معاملات معلمية كلية تعبر عن متوسط التأثير الهامشي لمتغير مستقل مع تثبيت باقي المتغيرات، تركز أشجار القرار على الاستيفاء المحلي (Local Approximation). تدرك الشجرة أن تأثير المتغير التنبؤي قد يختلف جذرياً باختلاف النطاق الذي يتحرك فيه متغير تنبؤي آخر، مما يمنحها مرونة بالغة في التكيف مع تضاريس البيانات الحقيقية ذات السلوكيات المتذبذبة والمتقطعة.

تتميز CART بأنها خوارزمية تقسيم ثنائي متعاقب (Recursive Binary Splitting)، وهي آلية تحاكي التسلسل المنطقي الشرطي للإدراك البشري. فكل عقدة داخلية في الشجرة تمثل سؤالاً اختبارياً ثنائياً يؤدي إلى تفرع حتمي باتجاهين لا ثالث لهما، مما يجعل المسارات الاستنتاجية من أعلى الشجرة إلى أسفلها بمثابة شبكة متسقة من القواعد المنطقية الواضحة التي يمكن مراجعتها وتدقيقها بدقة وسلاسة تفوق سائر خوارزميات التعلم الآلي الصندوقية المعقدة.

1.3 التمييز الوظيفي بين أشجار التصنيف وأشجار الانحدار

يكمن التمايز الوظيفي الأساسي داخل إطار CART في طبيعة المتغير التابع الخاضع للنمذجة؛ إذ يُطلق مصطلح “أشجار التصنيف” (Classification Trees) عندما يكون المتغير المستهدف متغيراً فئوياً نوعياً، سواء أكان ثنائياً (مثل وجود المرض من عدمه، التخلف عن السداد المالي مقابل الالتزام) أو متعدد الفئات (مثل الأنماط السلوكية، التشخيصات السريرية المتعددة). في المقابل، يُطلق مصطلح “أشجار الانحدار” (Regression Trees) عندما يكون المتغير المستهدف متغيراً كمياً مستمراً أو فاصلياً (مثل معدلات الرواتب، ضغط الدم الانقباضي، كميات الإنتاج الزراعي).

ينعكس هذا التمايز الوظيفي بصورة مباشرة على أهداف التحسين الإحصائي والدوال الرياضية المستخدمة لتقييم جودة التقسيم في كل مرحلة من مراحل نمو الشجرة. ففي أشجار التصنيف، يكون الهدف الإحصائي هو تقليل درجة “عدم النقاء” (Impurity Reduction) داخل العقد الناتجة عن التقسيم، عبر استخدام معايير احتمالية مثل مؤشر جيني أو مقياس الإنتروبيا المعلوماتية. أما في أشجار الانحدار، فيتحول الهدف إلى تصغير تشتت الأخطاء العددية حول المركز الإحصائي، وعادة ما يُقاس ذلك بتقليل مجموع مربعات البواقي (Residual Sum of Squares – RSS) أو تقليل التباين الداخلي لكل عقدة فرعية.

يتجسد الفارق النهائي في كيفية توليد التنبؤ للملاحظات الجديدة غير المشاهدة؛ حيث تقدم أشجار التصنيف مخرجات في صورة توزيع احتمالي ترجيحي لانتماء الملاحظة لكل فئة من الفئات المستهدفة، وتُسند الملاحظة إلى الفئة ذات الاحتمال الراجح (الفئة الأكثر تكراراً في العقدة الطرفية). بينما تقدم أشجار الانحدار تقديراً عددياً نقطياً ثابتاً محلياً، يمثل في أغلب الحالات المتوسط الحسابي لقيم المتغير التابع لجميع الملاحظات التي استقرت في تلك العقدة الطرفية المحددة، مما يمنح كل نوع منهما تكيفاً رياضياً دقيقاً مع بنية المسألة قيد الدراسة.

2. البنية الهيكلية والمصطلحات الرياضية لأشجار القرار

2.1 المكونات الطوبولوجية للشجرة (العقد والأطراف)

تتشكل البنية الطوبولوجية لشجرة القرار من هيكل شجري مقلوب هندسياً، تتوضع فيه نقطة البداية في الأعلى وتتجه التفرعات نزولاً نحو القواعد النهائية. تسمى نقطة الانطلاق الأساسية بـ العقدة الجذرية (Root Node)، وهي العقدة التي تحتوي على كامل مفردات العينة الإحصائية المدخلة دون أي تجزئة، وتكون نسبة عدم النقاء أو التباين فيها في أعلى مستوياتها، ومنها يتم تدشين أول وأهم اختبار شرطي لفرز البيانات إلى مسارين فرعيين أوليين.

تلي العقدة الجذرية سلسلة من العقد الداخلية أو عقد القرار (Internal/Decision Nodes)، وهي العقد البينية التي تستقبل جزءاً من البيانات الناتجة عن التقسيمات السابقة وتجري بدورها اختبارات شرطية جديدة على متغيرات مستمرة أو فئوية إضافية. تمثل كل عقدة داخلية نقطة تفرع منطقية تزيد من تجانس العينات الفرعية مع كل مستوى هبوط في الهيكل الشجري، وهي بمثابة المرشحات الرياضية التي تصفي فضاء البيانات خطوة تلو الأخرى.

تستقر الشجرة في نهايات مساراتها عند العقد الطرفية أو الأوراق (Terminal Nodes / Leaves)، وهي العقد النهائية التي لا تخضع لأي انقسام إضافي. تحتوي هذه الأوراق على المخرجات التنبؤية الحاسمة؛ فإما أن تحتوي على التسمية الفئوية المرجحة ونسب الاحتمالات المرتبطة بها في مهام التصنيف، أو تحتوي على القيمة العددية المتوقعة في مهام الانحدار. وترتبط هذه المكونات ببعضها عبر الفروع والروابط (Branches/Edges)، وهي النواقل المنطقية التي تمثل تحقق الشروط الرياضية الموجهة لمسار تدفق الملاحظات نحو الأوراق النهائية.

2.2 التمثيل الرياضي لتقسيم فضاء المتغيرات

من المنظور الهندسي الرياضي، تفترض خوارزمية CART أن البيانات تتوضع داخل فضاء خصائص متعدد الأبعاد يرمز له بـ X، حيث يمثل كل بعد متغيراً من المتغيرات التنبؤية المستقلة X₁, X₂, …, X_p. يتمثل عمل الخوارزمية في تجزئة هذا الفضاء الكلي إلى M من المناطق الفضائية الفرعية المتعامدة والمستطيلة التي يطلق عليها اسم “المستطيلات الفائقة” (Hyper-rectangles) ويرمز لها بـ R₁, R₂, …, R_M، بحيث تحقق هذه المناطق خاصيتين رياضيتين: الاتحاد الشامل لكافة المناطق يعيد إنتاج الفضاء الكلي الأصلي، والتقاطع بين أي منطقتين مختلفتين هو فضاء خالٍ تماماً (Disjoint Regions).

تتميز حدود التقسيم التي تنتجها خوارزمية CART بكونها متوازية بصورة صارمة مع محاور المتغيرات الإحداثية (Axis-aligned splits). يعود ذلك إلى أن الخوارزمية تختبر متغيراً واحداً في كل خطوة تقسيم، وتضع حداً فاصلاً على شكل معادلة خطية عمودية على محور ذلك المتغير بصيغة X_j ≤ s مقابل X_j > s، حيث يمثل X_j المتغير المختار ويمثل s القيمة العتبية أو نقطة القطع العددية. ينتج عن هذا التوجه تجزيء فضاء البيانات إلى شبكة من الصناديق الهندسية متوازية الأضلاع في الأبعاد الثنائية والمتعددة.

رياضياً، يمكن صياغة دالة التنبؤ الكلية لشجرة القرار f(X) باعتبارها تركيباً خطياً لدوال المؤشر (Indicator Functions) المعرفة على المناطق الهندسية الناتجة، وتكتب وفق الصيغة التالية:

f(X) = ∑_m=1^M c_m · I(X ∈ R_m)

حيث تمثل I(·) دالة المؤشر التي تأخذ القيمة 1 إذا كانت الملاحظة X تنتمي إلى المنطقة الفرعية R_m وتأخذ القيمة 0 خلاف ذلك، بينما يمثل الثابت c_m القيمة التنبؤية المقدرة محلياً والمخصصة لتلك المنطقة المحددة، مما يوضح أن الشجرة تعمل كدالة ثابتة على أجزاء (Piecewise Constant Function).

2.3 الخصائص الهندسية والمنطقية للبنية الشجرية

تمتلك شجرة القرار خصائص هيكلية ومنطقية تجعلها فريدة في نظرية الرسوم البيانية (Graph Theory)؛ فهي تمثل رسماً بيانياً موجهاً عديم الحلقات (Directed Acyclic Graph – DAG)، حيث تتدفق المعلومات والقرارات باتجاه أحادي من الجذر نحو الأوراق دون إمكانية للارتداد العكسي أو تشكل دوائر مغلقة. يضمن هذا الهيكل الهرمي الصارم كفاءة استدلالية متناهية تبلغ درجة تعقيدها الزمني O(d) أثناء مرحلة التنبؤ، حيث يمثل d عمق الشجرة أو أطول مسار بين الجذر والورقة، وهو رقم لوغاريتمي ضئيل جداً يتيح الاستجابة التنبؤية اللحظية في التطبيقات فائقة السرعة.

تنفرد خوارزمية CART عن غيرها من خوارزميات أشجار القرار المبكرة (مثل ID3 و C4.5) بخاصية الثنائية الصارمة (Strictly Binary Trees)؛ حيث ينقسم كل مسار في كل عقدة إلى فرعين اثنين حصراً. وإذا كان المتغير المستقل فئوياً ويحتوي على أكثر من مستويين، تعيد الخوارزمية تجميع هذه المستويات في مجموعتين ثنائيتين متكاملتين للحفاظ على الطبيعة الثنائية للهيكل الشجري، وهو ما يقلل من تشتت العينات السريع الذي كانت تعاني منه الأشجار متعددة الفروع ويحافظ على حجم عينة كافٍ في العقد العميقة لدعم القرارات الإحصائية اللاحقة.

تتمتع هذه البنية بتوافق إدراكي مباشر مع أساليب التفكير البشري، حيث يمكن تحويل أي شجرة قرار معقدة بالكامل إلى مصفوفة متسقة من القواعد المنطقية التي تتخذ صيغة “إذا-فإن” (If-Then Production Rules). يرتبط كل مسار فريد يمتد من العقدة الجذرية وصولاً إلى ورقة طرفية معينة بقاعدة شرطية جامعة تستخدم معاملات الوصل المنطقي (AND)، ولا تتأثر بالترتيب الشجري طالما تحققت شروط العتبات، مما يمنح الشجرة موثوقية عالية لدى الخبراء في الميادين التطبيقية الصارمة كالطب والقانون والتمويل.

3. أشجار الانحدار (Regression Trees): الآليات والتطبيقات الحسابية

3.1 معايير التقسيم ودالة الهدف في شجرة الانحدار

عندما تكون المتغيرات المستهدفة كمية مستمرة، تعتمد خوارزمية أشجار الانحدار على مبادئ الاستمثال الرياضي القائمة على تقليل الأخطاء التربيعية؛ حيث يُتخذ معيار مجموع مربعات البواقي (Residual Sum of Squares – RSS)، كدالة هدف أساسية يتم تصغيرها في كل خطوة تقسيم. يعبر هذا المعيار عن مدى تباعد القيم الحقيقية للملاحظات داخل كل منطقة عن القيمة التنبؤية الممثلة لتلك المنطقة، ويقاس رياضياً عبر المعادلة الكلية التالية:

RSS = ∑_m=1^M ∑_{i ∈ Rm} (y_i – ŷ_Rm)²

حيث يمثل y_i القيمة الحقيقية للمتغير التابع للملاحظة i، بينما يمثل ŷ_Rm المقدر التنبؤي المحسوب للمنطقة الفرعية R_m التي استقرت فيها تلك الملاحظة.

يبرهن التحليل الرياضي عبر حساب التفاضل والتكامل أن القيمة المثلى للثابت c_m (أو ŷ_Rm) التي تحقق أدنى قيمة ممكنة لدالة مجموع مربعات البواقي داخل المنطقة R_m هي ببساطة المتوسط الحسابي (Sample Mean) لقيم المتغير التابع لجميع الملاحظات التدريبية الواقعة ضمن تلك المنطقة، أي أن:

ŷ_Rm = (1 / N_m) · ∑_{i ∈ Rm} y_i

حيث يمثل N_m عدد الملاحظات الكلي المستقرة في العقدة أو المنطقة R_m. وبناءً على ذلك، يتمحور الهدف الإحصائي لكل تقسيم فرعي حول تعظيم التجانس الداخلي للمجموعات عبر تقليص التباين الكلي للبواقي التربيعية إلى أقصى حد ممكن.

3.2 الخطوات الحسابية لاختيار نقطة القطع المثلى

لتحقيق أدنى تباين تربيعي ممكن، تطبق الخوارزمية مسحاً شجاعاً وتكرارياً على كافة المتغيرات التنبؤية المتاحة. في كل عقدة خاضعة للتقسيم، تبحث الخوارزمية عن زوج الاستمثال المكون من: المتغير التنبؤي j ونقطة القطع العتبية s، اللذين يقسمان فضاء الملاحظات في تلك العقدة إلى فضاءين نصفيين: R₁(j, s) = {X | X_j ≤ s} و R₂(j, s) = {X | X_j > s}، بحيث يُحقق هذا التقسيم أدنى مجموع ممكن للبواقي التربيعية المشتركة عبر حل مسألة الاستمثال الصغرى التالية:

min_{j, s} [ ∑_{i: xi ∈ R1(j, s)} (y_i – ŷ_R1)² + ∑_{i: xi ∈ R2(j, s)} (y_i – ŷ_R2)² ]

حيث يمثل ŷ_R1 متوسط المتغير التابع للملاحظات في المنطقة الأولى، و ŷ_R2 متوسطه للملاحظات في المنطقة الثانية.

تتم العملية الحسابية بفرز قيم كل متغير متصل X_j تصاعدياً، ثم حساب نقاط المنتصف بين كل قيمتين متتاليتين كنقاط قطع مرشحة s. وبعد ذلك، يُحسب مقدار “التخفيض في مجموع مربعات الأخطاء” (Error Reduction ΔRSS) الناتج عن كل نقطة مرشحة، والمحدد بالمعادلة:

ΔRSS = RSS_Parent – (RSS_Left + RSS_Right)

وتختار الخوارزمية في النهاية النقطة والمتغير اللذين يعظمان مقدار هذا التخفيض (ΔRSS)، ليتم اعتمادهما رسمياً كمعيار تفرع للعقدة الحالية، ثم تُعاد الكرة على العقد الفرعية الجديدة بصورة متكررة.

3.3 دراسة حالة تفصيلية: نمذجة الرواتب والمتغيرات المستمرة

لتوضيح الآلية التطبيقية لأشجار الانحدار، نفترض دراسة حالة تهدف إلى التنبؤ بالدخل السنوي (بالآلاف من الدولارات) لمجموعة من المهندسين بالاعتماد على متغيرين مستمرين: سنوات الخبرة المهنية (X₁: Years) ومعدل تقييم الإنجاز الوظيفي السنوي (X₂: Score من 1 إلى 100). تبدأ الخوارزمية عند العقدة الجذرية بمسح جميع الملاحظات وليكن عددها N = 200 مهندس بمتوسط دخل كلي قدره 65 ألف دولار ومجموع بواقي تربيعية مرتفع.

في الخطوة الأولى، تختبر الخوارزمية جميع نقاط القطع الممكنة لمتغيري الخبرة ومعدل الإنجاز؛ فتجد أن أفضل تخفيض للأخطاء التربيعية يتحقق عند المتغير (سنوات الخبرة) عند نقطة القطع Years ≤ 4.5. ينقسم فضاء البيانات إلى مجموعتين: المجموعة اليسرى (مهندسون ذوو خبرة منخفضة، N₁ = 80) بمتوسط دخل متوقع قدره 42 ألف دولار، والمجموعة اليمنى (مهندسون ذوو خبرة متقدمة، N₂ = 120) بمتوسط دخل قدره 80 ألف دولار.

في الخطوة التالية، تعيد الخوارزمية تطبيق التقسيم الثنائي المتكرر على كل فرع؛ فيخضع الفرع الأيمن للتقسيم بناءً على معدل الإنجاز عند العتبة Score ≤ 75، مما يفرز شريحة ذات تقييم إنجاز مرتفع (Score > 75) يرتفع متوسط دخلها المتوقع إلى 95 ألف دولار، وشريحة أخرى بمتوسط 68 ألف دولار. ينتج عن هذه العملية شجرة انحدار نهائية تحدد بدقة شرائح الدخل المتوقعة عبر حدود هندسية واضحة، حيث تعامل كل فئة مهنية بناءً على تفاعل سنوات الخبرة مع مستويات الإنجاز دون الحاجة إلى افتراض نموذج خطي كلاسيكي جامد يفرض معدل زيادة ثابت ومستمر على طول المدى الوظيفي.

4. أشجار التصنيف (Classification Trees): المقاييس ومعايير التوزيع

4.1 مؤشر شوائب جيني (Gini Impurity)

في أشجار التصنيف، يعد مؤشر شوائب جيني (Gini Impurity) المعيار الأكثر شهرة واستخداماً في خوارزمية CART الكلاسيكية؛ إذ يقيس هذا المؤشر درجة عدم التجانس الفئوي لعقدة معينة، أو احتمالية تصنيف ملاحظة تم اختيارها عشوائياً من العقدة تصنيفاً خاطئاً إذا تم وسمها عشوائياً بناءً على التوزيع الاحتمالي للفئات داخل تلك العقدة نفسها. يُصاغ مؤشر جيني للعقدة t رياضياً وفق المعادلة التالية:

Gini(t) = 1 – ∑_k=1^K p(k|t)² = ∑_k=1^K p(k|t) · (1 – p(k|t))

حيث يمثل K العدد الكلي للفئات المستهدفة، بينما يمثل p(k|t) النسبة المئوية أو الاحتمال التجريبي للملاحظات المنتمية للفئة k داخل العقدة t.

يتراوح المدى العددي لمؤشر جيني بين الصفر وقيمة عليا ترتبط بعدد الفئات؛ إذ يصل المؤشر إلى قيمته الدنيا المطلقة Gini(t) = 0 عندما تكون العقدة في حالة “نقاء تام” (Pure Node)، أي عندما تنتمي جميع الملاحظات بداخلها إلى فئة واحدة فقط، مما يعني انعدام الشوائب أو عدم اليقين. في المقابل، يبلغ المؤشر قيمته القصوى في حالة التصنيف الثنائي (K = 2) عند Gini(t) = 0.5 عندما تتوزع الملاحظات بالتساوي المطلق بين الفئتين (50% لكل فئة)، بينما تبلغ القيمة القصوى في حالة التصنيف المتعدد (1 – 1/K).

يمتاز مؤشر جيني بكفاءة حسابية فائقة وسرعة معالجة استثنائية داخل الخوارزميات البرمجية، ويعود الفضل في ذلك إلى اعتماده التام على العمليات الحسابية الجبرية البسيطة كالجداء والطرح وتجنبه للعمليات التحليلية المعقدة مثل اللوغاريتمات، مما يجعله الخيار الافتراضي في مكتبات التعلم الآلي الكبرى كـ Scikit-Learn عند بناء أشجار التصنيف الضخمة.

4.2 الإنتروبيا ومكسب المعلومات (Entropy and Information Gain)

يعد مقياس الإنتروبيا (Entropy) المرتكز الأساسي البديل لقياس الشوائب في أشجار القرار، وهو مفهوم مستمد مباشرة من نظرية المعلومات لشينون (Shannon’s Information Theory). تعبر الإنتروبيا عن درجة الفوضى أو العشوائية أو مقدار عدم اليقين المتأصل في النظام الاحتمالي للعقدة، وتعرف الصيغة الرياضية لإنتروبيا العقدة t بالمعادلة التالية:

Entropy(t) = – ∑_k=1^K p(k|t) · log₂(p(k|t))

حيث يفرض الاصطلاح الرياضي أن 0 · log₂(0) = 0 للمحافظة على الاتساق عند غياب إحدى الفئات تماماً عن العقدة.

يُقاس التحسن الناتج عن إجراء أي تقسيم محتمل عبر حساب مكسب المعلومات (Information Gain – IG)، والذي يمثل الفرق بين إنتروبيا العقدة الأصلية (الأم) ومجموع الإنتروبيا المرجحة للعقد الفرعية (الأبناء) الناتجة عن التقسيم، ويحسب رياضياً كالآتي:

IG(Parent, Split) = Entropy(Parent) – [ (N_Left / N) · Entropy(Left) + (N_Right / N) · Entropy(Right) ]

حيث يمثل N عدد الملاحظات الكلي، وتسعى الخوارزمية إلى تعظيم مكسب المعلومات لاختيار أفضل نقطة قطع تزيل أقصى قدر ممكن من عدم اليقين المعرفي.

عند المقارنة الدقيقة بين سلوك مؤشر جيني وسلوك دالة الإنتروبيا، نجد أنهما يسلكان مسارات متطابقة تقريباً في أغلب السيناريوهات العملية؛ حيث يعاقب كلاهما العقد غير النقية ويصلان للصفر عند النقاء المطلق. غير أن دالة الإنتروبيا تميل رياضياً إلى فرض عقوبات أشد قسوة على العقد غير المتوازنة وتستغرق وقتاً حسابياً أطول نظراً لعمليات الحساب اللوغاريتمي المتكررة، ونادراً ما ينتج عن الاختيار بينهما فارق جوهري في دقة النماذج النهائية بعد التقليم.

4.3 معدل خطأ التصنيف (Classification Error Rate)

يعد معدل خطأ التصنيف (Misclassification Error Rate) المقياس الأكثر بساطة وبداهة بين مقاييس عدم النقاء؛ إذ يقيس مباشرة النسبة المئوية للملاحظات التي لا تنتمي إلى الفئة الغالبة (Modal Class) في العقدة المعنية، ويعبر عنه رياضياً بالصيغة التالية:

Error(t) = 1 – max_k [ p(k|t) ]

حيث تمثل max_k [ p(k|t) ] الاحتمال التجريبي للفئة الأكثر تكراراً داخل العقدة t. فإذا كانت العقدة تحتوي على 80% من الفئة الأولى و20% من الفئة الثانية، فإن معدل خطأ التصنيف في هذه العقدة هو 0.20.

على الرغم من البداهة الظاهرة لهذا المقياس، إلا أنه يعاني من قصور منهجي حاد يجعله غير مناسب للاستخدام كمعيار لتوجيه نمو الشجرة واختيار التقسيمات؛ ويرجع ذلك إلى افتقاره للحساسية الكافية للتغيرات في التوزيع الاحتمالي للفئات داخل العقد الفرعية. فعلى سبيل المثال، إذا كان لدينا عقدة تحتوي على 400 ملاحظة موزعة بالتساوي (200 من الفئة A و 200 من الفئة B)، فإن معدل الخطأ الابتدائي هو 0.50. فإذا قمنا بتقسيم نتج عنه عقدتان: الأولى (100 من A و 300 من B) والثانية (100 من A و 0 من B)، فإن معدل الخطأ الكلي المرجح يظل ثابتاً عند 0.25 كما هو في تقسيمات أخرى أقل جودة، بينما يعكس مؤشر جيني ومكسب المعلومات تحسناً كبيراً لصالح التقسيم الذي يعزل فئة نقية تماماً.

لهذا السبب الجوهري، تستبعد خوارزمية CART معدل خطأ التصنيف أثناء مرحلة بناء الشجرة وتوليد الفروع، لكنها تحتفظ به وتوظفه بقوة كمعيار حاسم في مرحلة تقليم الأشجار (Pruning) وفي التقييم النهائي للأداء التنبؤي على مجموعات بيانات التحقق الخارجية المستقلة (Cross-Validation / Test Sets).

5. خوارزميات التقسيم الثنائي المتكرر (Recursive Binary Splitting)

5.1 طبيعة الخوارزمية الجشعة (Greedy Algorithm)

تعتمد خوارزمية CART في جوهرها التنفيذي على استراتيجية الاستمثال المعروفة في علوم الحاسوب بـ الخوارزمية الجشعة (Greedy Algorithm). وتتجلى هذه الطبيعة الجشعة في كون الخوارزمية تبحث عن التقسيم الأفضل والأمثل الذي يحقق أعلى تحسين فوري ومحلي في معيار النقاء أو تقليل الخطأ عند الخطوة الراهنة تحديداً، دون أن تأخذ في الحسبان ما إذا كان هذا القرار سيؤدي إلى نتائج أفضل أو أسوأ على مستوى الشجرة الكلي في المراحل والخطوات اللاحقة.

تتيح هذه الاستراتيجية الجشعة سرعة حسابية فائقة تمكن الخوارزمية من معالجة مجموعات البيانات الضخمة التي تحتوي على مئات المتغيرات وآلاف الملاحظات؛ إذ إن البديل الرياضي الذي يضمن الحل الأمثل عالمياً (Globally Optimal Tree) يتطلب مسحاً توافقياً شاملاً لجميع التوليفات والتقسيمات الشجرية الممكنة عبر كافة المستويات، وهي مسألة تصنف رياضياً ضمن المسائل المستعصية غير قطعية الحتمية من الدرجة متعددة الحدود (NP-Complete Problems)، مما يجعل تنفيذها مستحيلاً من الناحية العملية على الحواسيب التقليدية.

بالرغم من هذه الميزة الحسابية، فإن الجشع الخوارزمي ينطوي على مخاطرة الوقوع في نهايات صغرى محلية غير مثالية (Sub-optimal Local Minima). فقد تفوت الخوارزمية تقسيماً قد يبدو متواضع الفائدة في الخطوة الحالية، ولكنه كان سيفتح المجال أمام تقسيمات تالية بالغة القوة والبراعة في كشف التفاعلات الدقيقة، وهو القصور الهيكلي الذي استدعى لاحقاً ابتكار تقنيات التقليم المتقدمة والنماذج التجميعية للتعويض عن هذا النقص المنهجي.

5.2 شروط ومعايير إيقاف نمو الشجرة

نظراً لأن التقسيم الثنائي المتكرر يمكن أن يستمر نظرياً حتى تصبح كل ورقة في الشجرة حاوية على ملاحظة إحصائية واحدة فقط (مما يؤدي إلى نقاء مصطنع بنسبة 100% ونمو شجرة فائقة التعقيد)، كان لزاماً وضع ضوابط ومعايير توقيف حازمة (Stopping Rules) تمنع استمرار الخوارزمية في التفرع العبثي. تتضمن هذه الشروط الهيكلية ما يلي:

• الحد الأدنى لعدد الملاحظات للتقسيم (Min Samples Split): وهو عتبة عددية تشترط احتواء العقدة الحالية على عدد أدنى محدد من الملاحظات للسماح بإجراء اختبارات التجزئة عليها، ويمنع تجزئة العقد الضئيلة التي لا تمتلك وزناً إحصائياً كافياً.
• الحد الأدنى لعدد الملاحظات في الأوراق (Min Samples Leaf): وهو قيد يفرض أن تنتج عن أي عملية تقسيم عقدتان فرعيتان تحتوي كل واحدة منهما على الأقل على عدد محدد من الملاحظات، مما يمنع عزل الحالات الفردية الشاذة في أوراق منفصلة.
• العمق الأقصى للشجرة (Maximum Depth): وهو سقف هيكلي يحدد أطول مسار مسموح به بين العقدة الجذرية وأي ورقة طرفية، مما يحد مسبقاً من القدرة التوافقية للشجرة ويحفظ بساطتها المعرفية.
• بلوغ النقاء التام (Zero Impurity): وهو شرط التوقف الطبيعي، حيث يتوقف التفرع تلقائياً عند وصول العقدة إلى مؤشر جيني أو إنتروبيا تساوي صفراً، أو انعدام التباين في شجرة الانحدار.
• الحد الأدنى للتخفيض في الشوائب (Min Impurity Decrease): وهو شرط يمنع التقسيم إذا كان مقدار التحسن في دالة الهدف أقل من قيمة عتبية صغيرة محددة مسبقاً.

5.3 التحديات الحسابية للتقسيم المتكرر

يواجه التطبيق العملي للتقسيم الثنائي المتكرر تحديات حسابية معقدة تتعلق بإدارة الموارد الزمنية والمكانية للذاكرة الحاسوبية؛ إذ يبلغ التعقيد الزمني لتدريب شجرة القرار التقليدية حوالي O(p · N · log N · d)، حيث يمثل p عدد المتغيرات التنبؤية، و N عدد الملاحظات في العينة، و d عمق الشجرة. وتبرز عنق الزجاجة الحسابي بصفة خاصة في عمليات الفرز المتكررة للقيم المستمرة عند كل عقدة داخلية لتحديد نقاط القطع المثلى.

إضافة إلى التعقيد الزمني، تبرز معضلة إحصائية بالغة الخطورة تُعرف بـ التحيز نحو المتغيرات متعددة القيم (Selection Bias). تنحاز خوارزميات CART وغيرها من أشجار القرار بطبيعتها نحو تفضيل المتغيرات المستمرة أو المتغيرات الفئوية الاسمية التي تحتوي على عدد هائل من المستويات والفئات الفرعية (مثل الرمز البريدي أو أرقام الهويات) مقارنة بالمتغيرات الثنائية ذات الفئتين؛ والسبب في ذلك يعود إلى أن المتغيرات متعددة القيم تقدم عدداً هائلاً من نقاط التقسيم المرشحة، مما يمنحها ميزة احتمالية احتيالية لتعظيم مقاييس النقاء بمحض الصدفة الإحصائية دون وجود تأثير سببي حقيقي في المجتمع الإحصائي الأصلي.

للتغلب على هذه التحديات، تُطبق استراتيجيات المعالجة المسبقة الحديثة كتقنية التجميع الحسابي في حاويات رقمية (Binning/Histogram-based Splitting) الشائعة في الخوارزميات المتقدمة، مع فرض عقوبات إحصائية على المتغيرات ذات درجات الحرية العالية لتصحيح التحيز وضمان العدالة في اختيار الميزات التنبؤية المؤثرة.

6. تقنيات تقليم الأشجار (Tree Pruning) وضبط فرط التخصيص (Overfitting)

6.1 ظاهرة فرط التخصيص والمفاضلة بين الانحياز والتباين (Bias-Variance Tradeoff)

تعاني أشجار القرار غير المقيدة من ميل متأصل نحو الإصابة بظاهرة فرط التخصيص أو الملاءمة المفرطة (Overfitting)؛ حيث تمتلك الشجرة العميقة قدرة حسابية هائلة على حفظ العينة التدريبية بدقة متناهية والتكيف مع أدق تفاصيلها وتقلباتها العشوائية، متضمنة في ذلك الضوضاء والشوائب غير الحقيقية. ويؤدي ذلك إلى توليد شجرة شديدة التعقيد والتفرع تظهر أداءً نموذجياً مثالياً على بيانات التدريب، لكنها تفشل فشلاً ذريعاً وتنهار دقتها التنبؤية عند تطبيقها على بيانات تجريبية جديدة لم تشاهدها الخوارزمية من قبل.

يمكن تفسير هذه الظاهرة بعمق من خلال الإطار النظري لـ المفاضلة بين الانحياز والتباين (Bias-Variance Tradeoff)؛ فالأشجار الضحلة جداً ذات التفرعات القليلة تتسم بـ انحياز مرتفع (High Bias) وتباين منخفض؛ لأنها تبسط الواقع بصورة مفرطة وتعجز عن استيعاب البنى اللاخطية الكامنة في البيانات (Underfitting). في المقابل، تتسم الأشجار العميقة ذات الأوراق المتعددة بـ تباين مرتفع للغاية (High Variance) وانحياز منخفض؛ إذ إن أي تغيير طفيف أو تبديل محدود في عينة البيانات التدريبية سيؤدي إلى إعادة هيكلة جذرية لكافة تقسيمات وفروع الشجرة بصورة جذرية.

يتطلب الوصول إلى النموذج الأمثل إيجاد نقطة التوازن الهيكلية التي تحقق الحجم والشكل الشجري الأكثر رشاقة، والذي يقلل الخطأ الإجمالي المكون من مجموع مربعات الانحياز والتباين معاً، وهو ما لا يمكن تحقيقه بمجرد استخدام شروط التوقف المبكرة، بل يستدعي تدشين عملية منهجية عكسية تعرف بتقليم الأشجار.

6.2 تقليم تعقيد التكلفة (Cost-Complexity Pruning / Weakest Link)

ابتكر ليو بريمان وزملاؤه المنهجية الرياضية الرائدة المعروفة بـ تقليم تعقيد التكلفة (Cost-Complexity Pruning)، وتعرف أيضاً باسم تقليم الحلقة الأضعف (Weakest-link Pruning). تنطلق هذه المنهجية من بناء شجرة أولية ضخمة وكاملة النمو يرمز لها بـ T₀، ثم الشروع في تقليص حجمها تدريجياً عبر حذف الفروع والأوراق التي تقدم مساهمة هامشية ضئيلة في الدقة التنبؤية مقارنة بالتعقيد الهيكلي الذي تفرضه على النموذج.

تعتمد المنهجية على دالة هدف رياضية مقيدة تتضمن معامل تعقيد التكلفة (Complexity Parameter) ويرمز له بالحرف الإغريقي ألفا (α ≥ 0)، وتصاغ دالة التكلفة للشجرة الفرعية T على النحو التالي:

R_α(T) = R(T) + α · |T|

حيث يمثل R(T) معدل الخطأ الكلي للشجرة (سواء أكان مجموع مربعات البواقي في الانحدار أو معدل خطأ التصنيف في التصنيف)، بينما يمثل |T| تعقيد الشجرة مقاساً بالعدد الكلي للأوراق الطرفية فيها، ويمثل α وزن العقوبة الرياضية المفروضة على كل ورقة إضافية تتضمنها الشجرة.

عندما تكون α = 0، تتطابق الدالة مع الشجرة الأصلية الكاملة T₀ لأن العقوبة منعدمة. ومع زيادة قيمة α تدريجياً وبصورة مستمرة نحو المالانهاية، تفرض الخوارزمية ثمناً باهظاً على الحجم؛ مما يدفعها إلى طي وحذف الفروع الأضعف تأثيراً في تحسين R(T) تباعاً، منتجة سلسلة هرمية متداخلة من الأشجار الفرعية المرشحة {T₀ ⊃ T₁ ⊃ T₂ ⊃ … ⊃ T_k} حتى نصل إلى الشجرة الجذرية البسيطة المكونة من عقدة واحدة.

6.3 التحقق المتقاطع (Cross-Validation) لتحديد حجم الشجرة الأمثل

تتمثل المرحلة الحاسمة في تقليم تعقيد التكلفة في اختيار القيمة المثلى للمعامل α التي تنتج الشجرة الفرعية ذات أعلى قدرة على التعميم خارج العينة التدريبية. ولتحقيق ذلك بأعلى درجات الموثوقية الإحصائية، يُستخدم التحقق المتقاطع متعدد الطيات (K-Fold Cross-Validation)؛ حيث تقسم البيانات عشوائياً إلى K من الأجزاء المتساوية (عادة 5 أو 10 طيات)، ويتم تدريب النماذج على K-1 من الأجزاء وتقييم مسار الخطأ على الجزء المستبعد، وتكرر العملية دورياً عبر كافة الطيات.

يتم رسم منحنى بياني يوضح العلاقة بين قيم α ومعدل خطأ التحقق المتقاطع المقدر (CV Error). وغالباً ما ينصح الباحثون بتطبيق قاعدة الخطأ المعياري الواحد (1-SE Rule / One Standard Error Rule)؛ والتي تنص على عدم اختيار الشجرة التي تحقق أدنى خطأ مطلق بالضرورة إذا كان الفارق الإحصائي طفيفاً، بل اختيار أبسط وأصغر شجرة فرعية يقع خطؤها التنبؤي ضمن نطاق خطأ معياري واحد من أدنى خطأ تم تسجيله، التزاماً بـ مبدأ نصل أوكام (Occam’s Razor) الفلسفي الذي يفضل النماذج التفسيرية الأكثر بساطة وإيجازاً ما لم يثبت تفوق النماذج المعقدة إحصائياً بشكل قاطع.

تضمن هذه المقاربة الصارمة تحييد مخاطر الانحياز التجريبي، والتأكد من أن الشجرة المعتمدة نهائياً تعكس البنية الحقيقية المستقرة في الظاهرة الخاضعة للدراسة، وليست مجرد انعكاس للتقلبات العشوائية في العينة المدروسة.

7. التعامل مع المتغيرات المعقدة والبيانات المفقودة في خوارزميات CART

7.1 التعامل مع المتغيرات الفئوية الاسمية والترتيبية

تمتلك خوارزمية CART قدرة ذاتية على استيعاب المتغيرات المستقلة غير العددية بمرونة فائقة ودون الحاجة المسبقة إلى تحويلها القسري إلى متغيرات وهمية (Dummy Variables) كما هو الحال في نماذج الانحدار التقليدي. غير أن منهجية التعامل تختلف جوهرياً باختلاف الطبيعة القياسية للمتغير الفئوي بين المستويات الترتيبية والاسمية.

في حالة المتغيرات الترتيبية (Ordinal Variables) التي تمتلك رتباً طبيعية متسلسلة (مثل: مستوى التعليم: ابتدائي، ثانوي، جامعي، دراسات عليا)، تحافظ الخوارزمية بصرامة على هذا الترتيب المنطقي، وتقوم بفرز المستويات رتبياً وتختبر فقط نقاط التقسيم التي لا تخل بالتتابع، كأن تقارن (ابتدائي وثانوي) في جانب مقابل (جامعي وعليا) في الجانب الآخر.

أما في حالة المتغيرات الاسمية متعددة الفئات (Nominal Variables) الخالية من أي ترتيب ذاتي (مثل: التخصص الأكاديمي، الجنسية، نوع الصناعة)، فإن الخوارزمية تواجه تحدياً رياضياً يتمثل في الانفجار التوافقي (Combinatorial Explosion). فإذا كان المتغير الاسمي يحتوي على L من المستويات الفئوية المختلفة، فإن عدد الطرق الممكنة لتقسيم هذه الفئات إلى مجموعتين فرعيتين ثنائيتين هو:

2^(L-1) – 1

وهو رقم يتصاعد أسياً بسرعة هائلة؛ فإذا كان L = 15 فئة، يوجد أكثر من 16 ألف تقسيم مرشح لهذا المتغير وحده عند العقدة الواحدة!

لحل هذه المعضلة الحسابية، قدم بريمان وفريدمان إثباتاً رياضياً عبقرياً لأشجار التصنيف الثنائي وأشجار الانحدار؛ حيث يتم ترتيب الفئات الاسمية تصاعدياً بناءً على متوسط قيمة المتغير التابع (في الانحدار) أو بناءً على النسبة المئوية لانتماء الفئة إلى الصنف المستهدف (في التصنيف الثنائي). وبهذا التحويل الذكي، تتحول المسألة التوافقية المعقدة إلى مسألة فرز خطي بسيطة ذات تعقيد L – 1 فقط من نقاط القطع المرشحة، مما يحقق الحل الأمثل رياضياً بكفاءة مذهلة دون المساس بدقة النماذج الناتجة.

7.2 آلية المتغيرات البديلة (Surrogate Splits) لمعالجة القيم المفقودة

تعد مشكلة البيانات المفقودة (Missing Data) من أعقد المعضلات التطبيقية التي تواجه ممارسي التعلم الآلي؛ حيث تلجأ أغلب الخوارزميات الكلاسيكية إما إلى الحذف الإجمالي للحالات التي تتضمن قيماً مفقودة (Listwise Deletion) مما يتسبب في إهدار أحجام هائلة من العينات وفقدان القوة الإحصائية، أو اللجوء إلى التعويض الحسابي التقليدي (Imputation) كاستبدال المفقود بالمتوسط أو الوسيط، مما قد يشوه التوزيعات الطبيعية للمتغيرات.

انفردت خوارزمية CART بابتكار حل منهجي أصيل مدمج داخل البنية الخوارزمية يُعرف باسم المتغيرات البديلة (Surrogate Splits). تعمل هذه الآلية في مرحلتين متكاملتين:

• أثناء تدريب العقدة، تحدد الخوارزمية التقسيم الأساسي الأمثل (Primary Split) باستخدام الملاحظات المتوفرة بالكامل للمتغير الفائز وليكن X₁.
• تقوم الخوارزمية فوراً بمسح كافة المتغيرات المستقلة الأخرى المتبقية في البيانات، والبحث عن أفضل متغير عتبوي بديل X_surrogate قادر على محاكاة وتكرار نفس نمط التقسيم والتوزيع الذي أحدثه المتغير الأساسي على العينات بأعلى دقة توافقية ممكنة.

تُرتب المتغيرات البديلة تنازلياً وفق درجة ارتباطها التشابهي وتوافقها مع التقسيم الأساسي. وعند تدفق ملاحظة جديدة يراد التنبؤ بها وتفتقر لقيمة المتغير الأساسي X₁ عند تلك العقدة، تتجاوز الشجرة هذا النقص بسلاسة عبر استخدام المتغير البديل الأول لتوجيه الملاحظة نحو الفرع الأيمن أو الأيسر. وإذا كان المتغير البديل الأول مفقوداً أيضاً للملاحظة ذاتها، تنتقل الخوارزمية للمتغير البديل الثاني، وهكذا دواليك. وإذا فُقدت جميع البدائل، تُرسل الملاحظة ببساطة إلى الفرع الذي استقبل الأغلبية العددية من بيانات التدريب، مما يمنح CART متانة استثنائية تجعلها قادرة على العمل دون انقطاع حتى في البيئات المليئة بالفجوات المعلوماتية.

7.3 حساسية النماذج للبيانات الشاذة والمتطرفة

تمتلك نماذج أشجار التصنيف والانحدار مناعة إحصائية متميزة وحصانة فريدة ضد القيم الشاذة والمتطرفة (Outliers) الواقعة في فضاء المتغيرات المستقلة X. وينبع هذا الصمود الهيكلي من حقيقة أن خوارزمية CART تعتمد على الترتيب الرتبي (Rank-order) للقيم عند اختيار نقاط القطع، وليس على القيم العددية المطلقة أو المسافات الإقليدية المجردة كما في خوارزميات الانحدار الخطي أو الشبكات العصبية أو خوارزمية الجار الأقرب (KNN).

لتوضيح ذلك، إذا كان لدينا متغير يمثل الدخل ويتضمن قيماً تتراوح بين 20 ألفاً و 100 ألف دولار، مع وجود حالة شاذة متطرفة جداً تبلغ 10 ملايين دولار، فإن خوارزمية الشجرة ستعامل هذه القيمة الشاذة باعتبارها مجرد قيمة تقع في أقصى الترتيب التصاعدي وتضع حداً فاصلاً مثل Income > 95,000؛ دون أن يؤدي الرقم الفلكي إلى سحب حد القرار أو تشويهه كما يحدث في الانحدار الخطي الذي تتأثر معاملاته بشدة بعزوم الالتواء الإحصائي الناتجة عن القيم المتطرفة.

ومع ذلك، يجب التمييز بدقة بين تأثير القيم المتطرفة في المتغيرات المستقلة وتأثيرها إذا وقعت في المتغير التابع المستمر (y) في أشجار الانحدار؛ حيث تكون الشجرة أكثر حساسية للقيم الشاذة في الاستجابة نظراً لاعتماد دالة الهدف على المتوسطات الحسابية والمربعات التراجعية (RSS) التي تضخم الانحرافات الضخمة. وفي مثل هذه البيئات الملوثة بالضوضاء، يلجأ الإحصائيون إلى تعديل دالة الخسارة في أشجار الانحدار عبر استبدال معيار RSS بمعيار انحرافات المطلق الأدنى (Least Absolute Deviations – LAD) القائم على حساب الوسيط بدلاً من المتوسط، مما يستعيد المتانة الشاملة للنموذج في مواجهة أقسى الملوثات التجريبية.

8. المقارنة المنهجية بين نماذج الانحدار الخطي وأشجار القرار

8.1 افتراضات النمذجة والتركيب البنيوي للعلاقات

يمثل التباين المنهجي بين نماذج الانحدار الخطي الكلاسيكي وأشجار القرار انعكاساً للاختلاف الجذري بين النمذجة البارامترية الصارمة والنمذجة اللابارامترية المرنة. يرتكز الانحدار الخطي الكلاسيكي على حزمة من الافتراضات الصارمة وفق شروط غاوس-ماركوف (Gauss-Markov Assumptions)؛ والتي تشمل خطية العلاقة الهيكلية بين المتغيرات، والتوزيع الطبيعي للأخطاء العشوائية، وثبات تجانس تباين الأخطاء (Homoscedasticity)، والاستقلال التام وانعدام الارتباط الذاتي بين البواقي، وغياب التعددية الخطية التامة بين المتغيرات التنبؤية.

في المقابل، تتحرر أشجار التصنيف والانحدار (CART) تماماً من كافة هذه الافتراضات التوزيعية؛ فهي نماذج غير معلمية (Distribution-free) لا تفترض أي شكل وظيفي مسبق لدالة الانحدار، ولا تشترط اعتدالية البيانات أو تجانس تباينها، وتتعامل بكفاءة تامة مع البيانات الملتوية وغير المتناظرة. وإضافة إلى ذلك، تبرز القوة البنيوية لأشجار القرار في قدرتها التلقائية والذاتية على اكتشاف التفاعلات غير الخطية عالية الرتبة (High-order Interactions) دون أي تدخل يدوي من الباحث؛ فوجود متغير في فرع يقع أسفل عقدة تحكمها قيمة متغير آخر يمثل رياضياً تفاعلاً شرطياً دقيقاً، بينما يتطلب الانحدار الخطي من الباحث تخمين هذه التفاعلات وبناء حدود ضربية (Interaction Terms) بصورة مسبقة ومضنية.

8.2 دقة التنبؤ وقابلية التفسير (Interpretability vs. Accuracy)

تعد معضلة المفاضلة بين قابلية التفسير والدقة التنبؤية من المحاور المركزية في الإحصاء التطبيقي. تمنح أشجار القرار ميزة استثنائية في قابلية التفسير البصري والمعرفي (Visual Interpretability)؛ إذ يمكن عرض النموذج بالكامل على شكل مخطط انسيابي منطقي يفهمه المختص وغير المختص على حد سواء، وتتطابق قواعده مع طبيعة صنع القرار البشري المجزأ إلى مراحل شرطية، مما يمنحه تفوقاً ساحقاً على معاملات الانحدار التي تتطلب فهماً إحصائياً دقيقاً لمعنى “تغير بمقدار وحدة واحدة مع تثبيت باقي المتغيرات”.

غير أن التفوق التنبؤي بين النموذجين يظل محكوماً بالبنية التوليدية الحقيقية للبيانات في الواقع العملي، وهو ما يوضحه التحليل المقارن التالي:

• السيناريو الأول (تفوق الانحدار الخطي): إذا كانت العلاقة الحقيقية بين المتغيرات المستقلة والمتغير التابع علاقة خطية تجميعية ومستمرة بطبيعتها وفق المعادلة Y = β₀ + ∑ β_j X_j + ε، فإن الانحدار الخطي سيتفوق بوضوح على شجرة القرار؛ لأن الشجرة ستحاول تقريب الخط المستقيم المائل عبر سلسلة لا نهائية من الدرجات والمستطيلات المتقطعة (Step-like approximation)، مما يتطلب شجرة هائلة ومعقدة جداً للوصول إلى دقة الانحدار الخطي البسيط.
• السيناريو الثاني (تفوق شجرة القرار): إذا كانت العلاقة الحقيقية تتسم بالتقطع، أو وجود عتبات حرجة وقفزات مفاجئة (Threshold Effects)، أو تفاعلات شرطية معقدة من قبيل “لا يؤثر المتغير A إلا إذا كان المتغير B أكبر من قيمة معينة وكان المتغير C فئوياً سالباً”، فإن الانحدار الخطي سيفشل تماماً في التقاط هذه الديناميكية، بينما تبرع شجرة CART في اقتناصها وعزلها بدقة متناهية.

8.3 التحويلات الرياضية ومقاييس المتغيرات

تتجلى متانة أشجار القرار المنهجية في عدم تأثرها المطلق بـ التحويلات الرتيبة الصارمة (Monotonic Transformations) التي تجرى على المتغيرات التنبؤية المستقلة. فإذا قمنا بتطبيق تحويل لوغاريتمي log(X)، أو تحويل الجذور التربيعية √X، أو أي تحويل تصاعدي رتبي على أحد المتغيرات المستمرة، فإن بنية شجرة القرار الناتجة، ونقاط التقسيم النسبية، ودقة التنبؤات لن تتغير على الإطلاق؛ والسبب في ذلك أن ترتيب الملاحظات الإحصائية يظل ثابتاً لا يتغير، مما يجعل مقاييس شوائب جيني وانخفاض التباين متطابقة تماماً قبل التحويل وبعده.

يترتب على هذه الخاصية استغناء نماذج CART التام عن متطلبات التقييس والمعايرة (Feature Scaling / Standardization) مثل تحويل الدرجات المعيارية (Z-score Standardization) أو التحجيم بين الصفر والواحد (Min-Max Scaling)، والتي تعد متطلبات إلزامية لا غنى عنها في نماذج الانحدار المعاقب كـ (Lasso and Ridge Regression) والشبكات العصبية لتفادي طغيان المتغيرات ذات المدى العددي الضخم على حساب المتغيرات ذات المدى الصغير.

في المقابل، تتأثر نماذج الانحدار الخطي تأثراً جوهرياً بالتحويلات الرياضية ومقاييس الرسم؛ حيث تتغير قيم معاملات الانحدار المقدرة وأخطاؤها المعيارية ودلالتها الإحصائية وتفسيراتها الاقتصادية تبعاً لأي تبديل في وحدة قياس المتغيرات، مما يفرض جهداً تحليلياً مكثفاً في مرحلة تنظيف وهندسة البيانات لا تتطلبه أشجار القرار بالمرة.

9. مقاييس تقييم الأداء والتحقق من صحة نماذج CART

9.1 مقاييس جودة الملاءمة لنماذج التصنيف

يتطلب التحقق من كفاءة وجودة ملاءمة نماذج أشجار التصنيف استخدام ترسانة متكاملة من المقاييس المشتقة من مصفوفة الارتباك (Confusion Matrix)، والتي تفكك نتائج التنبؤ بالمقارنة مع القيم الواقعية إلى أربعة تصنيفات رئيسية: الإيجابي الصحيح (True Positive – TP)، والسلبي الصحيح (True Negative – TN)، والإيجابي الخاطئ (False Positive – FP)، والسلبي الخاطئ (False Negative – FN).

بناءً على هذه المصفوفة، يتم حساب المقاييس الإحصائية المعتمدة التالية:

• الدقة الكلية (Accuracy): (TP + TN) / (TP + TN + FP + FN)، وتقيس النسبة العامة للتنبؤات الصحيحة، ولكنها تصبح مقياساً خادعاً في مجموعات البيانات غير المتوازنة.
• الحساسية أو الاسترجاع (Sensitivity / Recall): TP / (TP + FN)، وتقيس قدرة الشجرة على كشف وتشخيص الحالات الإيجابية الفعلية وتفادي أخطاء النوع الثاني.
• النوعية أو التحديد (Specificity): TN / (TN + FP)، وتقيس كفاءة النموذج في استبعاد الحالات السلبية وتفادي الإنذارات الكاذبة (أخطاء النوع الأول).
• الدقة الإيجابية (Precision): TP / (TP + FP)، وتحدد نسبة الصحة الإحصائية عندما تصدر الشجرة حكماً إيجابياً.
• مقياس إف 1 (F1-Score): وهو المتوسط التوافقي الرياضي للدقة والاسترجاع: 2 · (Precision · Recall) / (Precision + Recall)، ويعد المعيار الأصدق لتقييم الشجرة عند التعامل مع عدم توازن الفئات (Imbalanced Classes) الحاد (كحالات كشف الاحتيال المالي أو الأمراض النادرة).

إضافة إلى ما سبق، يعد مقياس المساحة تحت منحنى خصائص تشغيل المستقبِل (Area Under the ROC Curve – AUC-ROC) المعيار الذهبي الشامل لتقييم القدرة التمييزية والتفريقية للشجرة عبر كافة عتبات الاحتمال الممكنة؛ حيث تعبر القيمة 0.5 عن نموذج عشوائي عديم الفائدة، بينما تعبر القيمة 1.0 عن نموذج تصنيفي مثالي الفصل والتشخيص.

9.2 مقاييس تقييم أداء نماذج الانحدار

في سياق أشجار الانحدار، يركز التقييم الإحصائي على قياس حجم وسلوك البواقي والانحرافات العددية بين القيم الحقيقية y_i والتنبؤات المقدرة للشجرة ŷ_i عبر عينة الاختبار المستقلة، وتتصدر المقاييس التالية واجهة التحليل:

• الجذر التربيعي لمتوسط مربعات الخطأ (Root Mean Squared Error – RMSE): ويحسب بالمعادلة √[ (1/N) ∑ (y_i – ŷ_i)² ]. يمتاز هذا المقياس بكونه يمتلك نفس وحدة قياس المتغير الأصلي، وبحساسيته وعقوبته الصارمة للأخطاء التنبؤية الكبيرة نظراً لتربيع الفروق، مما يجعله مثالياً في التطبيقات التي تكون فيها الأخطاء الفادحة ذات كلفة حرجة.
• متوسط الخطأ المطلق (Mean Absolute Error – MAE): ويحسب بالمعادلة (1/N) ∑ |y_i – ŷ_i|. يقدم مقياساً قوياً ومستقراً (Robust) لمتوسط حجم الانحراف دون تضخيم، ولا يتأثر بصورة حادة بوجود بعض القيم الشاذة في عينة الاختبار.
• معامل التحديد (R-squared / R²): ويحدد نسبة التباين الكلي في المتغير التابع التي استطاعت الشجرة تفسيرها ونمذجتها، ويصاغ رياضياً بالمعادلة: 1 – [ ∑ (y_i – ŷ_i)² / ∑ (y_i – ȳ)² ]، حيث يعبر الاقتراب من القيمة 1.0 عن جودة ملاءمة تفسيرية وتنبؤية ممتازة.

9.3 أهمية المتغيرات والتأثير النسبي (Variable Importance)

بالرغم من بساطة قراءة الفروع الفردية للشجرة، إلا أن تحديد الوزن النسبي الإجمالي لتأثير كل متغير مستقل عبر كامل أرجاء النموذج يتطلب حساب مقياس كمي موحد يطلق عليه أهمية المتغير (Variable Importance Metric). ابتكر ليو بريمان صياغة دقيقة لهذا المقياس في CART تعتمد على تجميع وحساب إجمالي التحسن أو التخفيض في دالة عدم النقاء (Gini Impurity أو RSS) الذي أحدثه المتغير في كل عقدة t تم اختياره فيها كمتغير تقسيم أساسي، وترجيح ذلك بحصة الملاحظات التي خضعت للتقسيم في تلك العقدة:

VI(X_j) = ∑_{t ∈ T} ΔI(t, X_j)

حيث تمثل ΔI(t, X_j) مقدار الانخفاض الفعلي في عدم النقاء الناتج عن استخدام المتغير X_j في تقسيم العقدة t.

تتفرد خوارزمية CART بميزة استثنائية مقارنة بالخوارزميات الأخرى؛ حيث تُدخل في حساب أهمية المتغير مساهماته بصفته متغيراً بديلاً (Surrogate Split) في العقد التي لم يفز فيها بالتقسيم الأساسي ولكنه كان بديلاً قريباً للمتغير الفائز. تضمن هذه الآلية عدم إغفال المتغيرات التنبؤية الهامة التي قد تحجبها ظاهرة التعدد الخطي التام (Masking Effect)، حيث يرتبط متغيران بقوة بالظاهرة، فيفوز أحدهما دائماً بفارق طفيف ويحجب الآخر تماماً عن الظهور في فروع الشجرة المرئية. وبفضل حساب مساهمات البدائل، يستعيد المتغير المحجوب حقه الإحصائي في سلم الأهمية، مما يجعل هذا المقياس أداة موثوقة لغربلة واختيار الميزات (Feature Selection) في الأبحاث الاستكشافية المتقدمة.

10. تطبيقات أشجار التصنيف والانحدار في النمذجة النفسية والسلوكية

10.1 التشخيص الإكلينيكي وتحديد المسارات العلاجية

احتلت أشجار التصنيف والانحدار موقعاً ريادياً في حقل علم النفس الإكلينيكي والطب النفسي المعاصر؛ نظراً لتطابق هيكلها المنطقي مع الممارسة السريرية الميدانية في التشخيص التفريقي للأمراض النفسية المعقدة. فبدلاً من الاعتماد على الدرجات الكلية المجمعة التي قد تخفي تبايناً سريرياً حرجاً، تتيح خوارزمية CART تحليل بطاريات الأعراض الشاملة لتصنيف الاضطرابات المعقدة كاضطراب الاكتئاب الجسيم، واضطراب ما بعد الصدمة، والفصام، عبر مسارات شجرية تحدد عتبات حادة من الأعراض الفارقة التي تنقل المريض من فئة تشخيصية لأخرى.

تستخدم الأشجار على نطاق واسع في بناء أنظمة دعم القرار السريري (Clinical Decision Support Systems) للتنبؤ باحتماليات الانتكاسات الحادة أو السلوكيات الانتحارية عالية الخطورة لدى المرضى؛ حيث تبرع الشجرة في كشف التفاعلات غير الخطية المعقدة بين العوامل البيئية الضاغطة (كفقدان العمل أو الصدمات الحياتية الحديثة) والاستعدادات الجينية والسمات الشخصية الكامنة (كالاندفاعية والعصابية). تتيح هذه القواعد المستخلصة للأطباء والمعالجين النفسيين تصميم مسارات علاجية موجهة فردياً (Personalized Interventions) تستهدف العقد الحيوية المحددة في ملف كل مريض بدقة متناهية.

10.2 القياس النفسي وتحليل استجابة الفقرة

في ميدان القياس النفسي والتربوي (Psychometrics)، وفرت أشجار القرار حلولاً غير معلمية متطورة لتجاوز قيود النماذج الكلاسيكية ونظرية استجابة الفقرة البارامترية (IRT). ويبرز تطبيقها بصفة خاصة في كشف وتوصيف ظاهرة الأداء التفاضلي للفقرة (Differential Item Functioning – DIF)؛ حيث تُستخدم أشجار التصنيف لتحديد ما إذا كانت فقرات الاختبار النفسي أو التحصيلي تنحاز بصورة غير عادلة ضد فئات مجتمعية معينة (بناءً على الجنس، العرق، أو الخلفية الاجتماعية والاقتصادية) بعد ضبط مستوى القدرة الكامنة للمستجيبين.

كما توظف خوارزميات CART في تجزئة وتقسيم المستجيبين إلى مجموعات فرعية متجانسة نفسياً (Latent Subgroups) تشترك في استراتيجيات تفكير أو تشوهات معرفية متطابقة، فضلاً عن دورها المحوري في تطوير الاختبارات التكيفية المحوسبة المختصرة (Computerized Adaptive Testing)؛ حيث تصمم فروع الشجرة مسار الاختبار ليقدم للمفحوص أسئلة متدرجة الصعوبة تتكيف لحظياً مع إجاباته السابقة للوصول إلى تقدير دقيق لسماته النفسية بأقل عدد ممكن من الفقرات، مما يقلل من إجهاد المفحوصين ويرفع من كفاءة القياس الإحصائي.

10.3 تحليل السلوك التنظيمي والتربوي

يمتد الأثر التطبيقي لأشجار التصنيف والانحدار بعمق إلى دراسات السلوك التنظيمي في بيئات العمل وإدارة الموارد البشرية؛ حيث توظف للتنبؤ بظواهر معقدة مثل: الاحتراق النفسي المهني (Burnout)، ومعدلات الدوران الوظيفي، والولاء التنظيمي. وتساعد الشجرة الإدارات والباحثين في اكتشاف التوليفات الحرجة من بيئات العمل المجهدة التي تفجر رغبة الاستقالة لدى الكفاءات، مثل اقتران انخفاض الاستقلالية الوظيفية بارتفاع ساعات العمل الإضافية وانعدام الدعم الإشرافي، كقاعدة استنتاجية شرطية واضحة المعالم.

وفي الحقل التربوي والتعليمي، تعد نماذج CART أداة لا غنى عنها في تحليلات التعلم التنبؤية (Learning Analytics) لتشخيص عوامل التعثر الدراسي والتسرب المدرسي والجامعي في مراحل مبكرة. ومن خلال التنقيب في سجلات التفاعل الرقمي والواجبات المنزلية والظروف الأسرية، تولد النماذج الشجرية إشارات إنذار مبكرة تتيح للمرشدين التربويين تصميم تدخلات سلوكية وأكاديمية استباقية ومخصصة لكل شريحة طلابية، مما يسهم بفاعلية في رفع معدلات النجاح والاحتفاظ الأكاديمي.

11. الامتدادات المتقدمة: من الشجرة المفردة إلى خوارزميات التجميع (Ensemble Methods)

11.1 تجميع الأكياس والغابات العشوائية (Bagging & Random Forests)

على الرغم من الأناقة المنهجية والقوة التفسيرية لأشجار القرار الفردية، إلا أن نقطة ضعفها القاتلة المتمثلة في التباين المرتفع والحساسية المفرطة لتقلبات العينة قادت ليو بريمان في عام 1996 و 2001 إلى تدشين ثورة طرق التجميع الإحصائي (Ensemble Learning). بدأت هذه الثورة بتقنية تجميع الأكياس (Bootstrap Aggregating – Bagging)؛ والتي تقوم على سحب مئات العينات التدريبية العشوائية مع الإحلال (Bootstrapping) من البيانات الأصلية، وبناء شجرة قرار كاملة النمو وغير مقلمة ومستقلة على كل عينة، ثم دمج وتجميع تنبؤات كافة الأشجار عبر التصويت الأغلبي (في التصنيف) أو المتوسط الحسابي (في الانحدار)، مما يؤدي رياضياً إلى تقليص هائل في تباين النموذج دون المساس بانحيازه المنخفض.

توج هذا المسار بابتكار خوارزمية الغابات العشوائية (Random Forests)؛ والتي أضافت طبقة عبقرية من التوزيع العشوائي لفك الارتباط التام بين الأشجار الفردية (De-correlating the trees). فبدلاً من السماح للشجرة بمسح كافة المتغيرات التنبؤية p عند كل عقدة، تُجبر الخوارزمية كل عقدة على اختيار أفضل تقسيم من بين مجموعة فرعية عشوائية وصغيرة من المتغيرات يرمز لها بـ m (حيث يتم اختيار m ≈ √p في التصنيف، و m ≈ p/3 في الانحدار).

يمنع هذا القيد العشوائي المتغيرات المهيمنة شديدة القوة من احتلال العقد الجذرية في كافة الأشجار، مما يولد تنوعاً هيكلياً مذهلاً بين آلاف الأشجار داخل الغابة. وتتحول الغابة العشوائية من مجرد نموذج فردي هش إلى قوة تنبؤية فائقة الصلابة والاستقرار تقدم دقة متقدمة للغاية تفوق الشجرة المفردة بمراحل شاسعة، وتعد اليوم من أمتن الخوارزميات القياسية في الذكاء الاصطناعي.

11.2 خوارزميات تعزيز التدرج (Gradient Boosting & XGBoost)

اتخذ مسار التجميع اتجاهاً فلسفياً ورياضياً مغايراً عبر مفهوم التعزيز (Boosting) الذي طوره جيروم فريدمان تحت اسم انحدار تعزيز التدرج (Gradient Boosting Machines – GBM). فبينما تبني الغابات العشوائية أشجارها بالتوازي وبصورة مستقلة، يبني التعزيز أشجاره بصورة متسلسلة وتتابعية (Sequential Learning)، حيث تُبنى كل شجرة جديدة خصيصاً لتصحيح الأخطاء والبواقي التنبؤية التي فشلت الأشجار السابقة في استيعابها.

تستخدم الخوارزمية تقنية انحدار التدرج الرياضي (Gradient Descent) لتحسين دالة خسارة عامة وقابلة للاشتقاق، حيث تمثل كل شجرة مضافة خطوة صغيرة باتجاه معاكس للتدرج السالب للأخطاء. وقد شهد هذا الإطار قفزات هندسية وحسابية عملاقة مع ظهور مكتبات برمجية فائقة التطور مثل XGBoost (Extreme Gradient Boosting)، و LightGBM، و CatBoost؛ والتي دمجت بين تقنيات التقليم المبني على المشتقات من الدرجة الثانية (Hessian matrices)، والتنظيم الرياضي الصارم لأوزان الأوراق (L1 and L2 Regularization)، والمعالجة الموزعة المتوازية على مستوى العتاد والمعالجات الرسومية.

تتربع نماذج تعزيز التدرج اليوم على عرش المنافسات الدولية لعلوم البيانات والتعلم الآلي على البيانات الجدولية (Tabular Data). ومع ذلك، فإن هذه القفزة الهائلة في الدقة التنبؤية تأتي على حساب فقدان القراءة البصرية المباشرة؛ حيث يتحول النموذج من شجرة بيانية واحدة سهلة التفسير إلى “صندوق أسود” يضم آلاف الأشجار المتشابكة التي يستحيل تتبعها يدوياً، مما يستدعي الاستعانة بأدوات تفسيرية متقدمة.

11.3 نماذج الأشجار البايزية المجمعة (BART)

تمثل نماذج الأشجار البايزية المجمعة (Bayesian Additive Regression Trees – BART) الامتداد الاحتمالي الأكثر تطوراً لدمج المنظور البايزي الصارم مع الهياكل الشجرية لخوارزمية CART. يُعرف نموذج BART بأنه نموذج مجموع تجميعي لابارامتري يتكون من عدد محدد من أشجار الانحدار (عادة بين 50 إلى 200 شجرة)، غير أن تدريب هذه الأشجار وتحديث بنيتها يتم وفق إطار إحصائي بايزي يعتمد على سلاسل ماركوف مونت كارلو (Markov Chain Monte Carlo – MCMC).

ينفرد نموذج BART بفرض توزيعات احتمالية قبلية (Prior Distributions) على كافة مكونات البنية الشجرية؛ وتتضمن هذه التوزيعات:

• توزيعاً قبلياً يضبط احتمالية تفرع العقدة عند عمق معين ويفرض عقوبات صارمة تحد من تضخم عمق الأشجار الفردية وتجعلها “أشجاراً ضعيفة ورشيقة” (Typically depth 2 or 3).
• توزيعاً قبلياً على قيم المعاملات والأوزان في الأوراق الطرفية لتقليص مساهمتها الفردية ومنع أي شجرة مفردة من السيطرة على التنبؤ الكلي.
• توزيعاً قبلياً على تباين الخطأ المتبقي لضمان استقرار التقدير الإحصائي.

تمنح هذه الصياغة البايزية نماذج BART ميزة فريدة تتفوق بها على الغابات العشوائية ونماذج التدرج؛ حيث تقدم للباحث تقديراً احتمالياً كاملاً لـ عدم اليقين (Uncertainty Quantification) عبر فترات الثقة والمصداقية البايزية (Credible Intervals) لكل تنبؤ نقطي. كما أصبحت نماذج BART اليوم الأداة الرائدة في حقل الاستدلال السببي (Causal Inference) وتقدير تأثيرات المعالجة غير المتجانسة (Heterogeneous Treatment Effects) في التجارب السريرية والسياسات الاقتصادية العامة.

12. المزايا والقيود والتوجيهات المستقبلية لأبحاث أشجار القرار

12.1 المزايا المنهجية التنافسية لخوارزميات CART

احتفظت خوارزميات CART بمكانتها كواحدة من أعظم الخوارزميات في تاريخ علوم البيانات بفضل حزمة من المزايا المنهجية التنافسية الفريدة التي قلما تجتمع في نموذج إحصائي واحد، وتتلخص هذه المزايا في النقاط الجوهرية التالية:

• الوضوح الإدراكي والقابلية الفائقة للتفسير: تقدم الشجرة تمثيلاً بيانياً يحاكي قواعد المنطق والاستنتاج البشري، مما يجعل النموذج شفافاً وقابلاً للمراجعة والتدقيق والاعتماد السلس من قبل صناع القرار في القطاعات الحساسة.
• المرونة في معالجة البيانات الهجينة: القدرة الفائقة على التعامل المتزامن مع المتغيرات المستمرة والفئوية الاسمية والترتيبية دون الحاجة لافتراضات خطية أو توزيعية مسبقة ودون اشتراط معالجات تحويل معقدة.
• المناعة ضد القيم المتطرفة والملوثات: عدم التأثر بالقيم الشاذة في المتغيرات المستقلة نتيجة الاعتماد على الترتيب الرتبي في التقسيم، والحصانة التامة ضد التحويلات الرتيبة للمتغيرات.
• الغربلة الذاتية للمتغيرات: القدرة على فرز المتغيرات ذات الأهمية الحقيقية وتجاهل المتغيرات غير المفيدة والمشتتة تلقائياً أثناء بناء الفروع.
• المعالجة الذاتية الأصيلة للبيانات المفقودة: عبر نظام المتغيرات البديلة المدمج الذي يحافظ على اكتمال العينات دون الحاجة لحذفها أو اللجوء لطرق التعويض المشوهة.

12.2 القيود المنهجية ونقاط الضعف الجوهرية

في مقابل المزايا المبهرة السابقة، تواجه خوارزميات CART الكلاسيكية عدداً من القيود ونقاط الضعف المنهجية الجوهرية التي يجب على الباحثين والممارسين استيعابها والتعامل معها بحذر نقدي بالغ:

• عدم الاستقرار الهيكلي والهشاشة العالية (High Instability): تعد الشجرة نموذجاً عالي التباين؛ حيث إن إحداث تغيير طفيف جداً في عينة البيانات التدريبية (كإضافة أو حذف بضع ملاحظات) قد يؤدي إلى اختيار متغير مختلف تماماً عند العقدة الجذرية، مما يسبب تأثيراً متسلسلاً يعيد هيكلة شكل الشجرة وفروعها بالكامل بصورة جذرية.
• العجز عن التقاط العلاقات الخطية البسيطة بسلاسة: تفشل الشجرة المفردة في تمثيل العلاقات الخطية المائلة السلسة، وتضطر لتقريبها عبر مسارات درجية مجزأة وغير فعالة تتطلب تعقيداً شجرياً هائلاً.
• التحيز نحو المتغيرات متعددة المستويات: الميل التلقائي لتفضيل المتغيرات المستمرة وتلك التي تمتلك فئات اسمية متعددة على حساب المتغيرات الثنائية ذات الفئتين أثناء المفاضلة بين نقاط التقسيم.
• الوقوع في الحلول الصغرى المحلية: نظراً لاعتمادها على الاستراتيجية الجشعة في التقسيم، تفقد الخوارزمية القدرة على ضمان الوصول إلى الشجرة المثلى عالمياً.
• انعدام القدرة على الاستقراء الخارجي (Lack of Extrapolation): تعجز أشجار الانحدار تماماً عن التنبؤ بأي قيم تقع خارج النطاق العددي الأصلي المشاهد في بيانات التدريب (تنبؤ ثابت محلياً لا يتجاوز أقصى أو أدنى قيمة مسجلة في الأوراق).

12.3 الآفاق المستقبلية في الذكاء الاصطناعي القابل للتفسير (XAI)

مع تصاعد التوجه العالمي الصارم نحو حوكمة خوارزميات الذكاء الاصطناعي وفرض متطلبات الشفافية وقوانين “الحق في التفسير” (Right to Explanation)، انفتحت آفاق بحثية وتطبيقية واسعة تعيد أشجار القرار إلى قلب المشهد المعاصر ضمن حقل الذكاء الاصطناعي القابل للتفسير (Explainable AI – XAI). وتتبلور التوجهات المستقبلية لأبحاث CART في ثلاثة مسارات محورية:

أولاً، توظيف أشجار القرار كـ نماذج بديلة عالمية أو محلية (Global/Local Surrogate Models) لفك غموض وتفسير سلوك النماذج الصندوقية المعقدة كالشبكات العصبية العميقة ونماذج التعزيز الضخمة؛ حيث تُدرب شجرة قرار شفافة على محاكاة مخرجات النموذج المعقد لاستخراج القواعد المنطقية التقريبية التي تفسر قراراته للجهات الرقابية والمستخدمين.

ثانياً، دمج قيود العدالة الخوارزمية والأخلاقيات البحثية (Fairness Constraints) داخل دوال هدف التقسيم والتقليم في CART؛ بحيث يتم تحسين معايير شوائب جيني وانخفاض التباين بالتوازي مع معاقبة التقسيمات التي تكرس التمييز غير العادل ضد الأقليات أو الفئات المحمية قانونياً، مما يضمن توليد أشجار قرارات تتسم بالدقة العالية والعدالة الأخلاقية المدمجة ذاتياً.

ثالثاً، تطوير النماذج الهجينة السببية (Causal & Optimal Trees) بالاعتماد على خوارزميات الاستمثال الرياضي للبرمجة الخطية الصحيحة المتطورة (Mixed-Integer Linear Programming – MILP) وتقنيات الذكاء الاصطناعي التوليدي، والتي تتيح للمرة الأولى بناء أشجار قرار مثلى عالمياً في زمن قياسي، تجمع بين القوة التنبؤية الفائقة لنماذج التعلم العميق، والأصالة الاستدلالية للنماذج السببية، والشفافية البصرية المطلقة التي انفردت بها أشجار CART منذ نشأتها الأولى.

خلاصة التحليل المنهجي

تمثل أشجار التصنيف والانحدار (CART) إحدى الركائز المعرفية الأكثر تأثيراً واستدامة في تاريخ التعلم الإحصائي والتعلم الآلي. فمن خلال صياغتها الرياضية المتينة القائمة على التجزئة الثنائية المتكررة لفضاء المتغيرات، استطاعت هذه المنهجية أن تجسر الهوة التاريخية بين الدقة الحسابية غير البارامترية وقابلية التفسير المنطقي البديهي. وعلى الرغم من التحديات الهيكلية المتمثلة في التباين المرتفع والحساسية لتقلبات العينات، فإن مرونة CART الفائقة وقدرتها على استيعاب البيانات الهجينة والملوثة جعلت منها اللبنة الرياضية والأساس النظري الصلب الذي انبثقت منه أعظم الثورات الخوارزمية المعاصرة كالغابات العشوائية ونماذج تعزيز التدرج فائق الكفاءة. ومع التقدم المتسارع نحو الذكاء الاصطناعي الشفاف والقابل للتفسير، تظل مبادئ CART المرجعية الأكثر رسوخاً وموثوقية في توجيه البحوث الاستدلالية ودعم القرارات التشخيصية والإنسانية المعقدة.

References

• Breiman, L., Friedman, J. H., Olshen, R. A., & Stone, C. J. (1984). Classification and Regression Trees. Wadsworth & Brooks/Cole Advanced Books & Software. https://doi.org/10.1201/9781315139470
• Breiman, L. (1996). Bagging predictors. Machine Learning, 24(2), 123–140. https://doi.org/10.1007/BF00058655
• Breiman, L. (2001). Random forests. Machine Learning, 45(1), 5–32. https://doi.org/10.1023/A:1010933404324
• Chen, T., & Guestrin, C. (2016). XGBoost: A scalable tree boosting system. In Proceedings of the 22nd ACM SIGKDD International Conference on Knowledge Discovery and Data Mining (pp. 785–794). https://doi.org/10.1145/2939672.2939785
• Chipman, H. A., George, E. I., & McCulloch, R. E. (2010). BART: Bayesian additive regression trees. The Annals of Applied Statistics, 4(1), 266–298. https://doi.org/10.1214/09-AOAS285
• Friedman, J. H. (2001). Greedy function approximation: A gradient boosting machine. The Annals of Statistics, 29(5), 1189–1232. https://doi.org/10.1214/aos/1013203451
• Hastie, T., Tibshirani, R., & Friedman, J. (2009). The Elements of Statistical Learning: Data Mining, Inference, and Prediction (2nd ed.). Springer. https://doi.org/10.1007/978-0-387-84816-7
• James, G., Witten, D., Hastie, T., & Tibshirani, R. (2021). An Introduction to Statistical Learning: with Applications in R (2nd ed.). Springer. https://doi.org/10.1007/978-1-0716-1418-1
• Rudin, C. (2019). Stop explaining black box machine learning models for high stakes decisions and use interpretable models instead. Nature Machine Intelligence, 1(5), 206–215. https://doi.org/10.1038/s42256-019-0048-x
• Shannon, C. E. (1948). A mathematical theory of communication. The Bell System Technical Journal, 27(3), 379–423. https://doi.org/10.1002/j.1538-7305.1948.tb01338.x
• Strobl, C., Malley, J., & Tutz, G. (2009). An introduction to recursive partitioning: Rationale, application, and characteristics of classification and regression trees, bagging, and random forests. Psychological Methods, 14(4), 323–348. https://doi.org/10.1037/a0016973