مقدمة إلى التجميع في تعلم الآلة

يُمثّل تطور تعلم الآلة خلال العقود الأخيرة رحلة مستمرة للبحث عن التوازن الأمثل بين القدرة الاستيعابية للنماذج الرياضية ودقتها التنبؤية عند تطبيقها على بيانات غير مرئية. في بدايات الاستدلال الإحصائي، سادت النماذج البسيطة ذات القيود الخطية الصارمة؛ إلا أن تدفق البيانات المعقدة وعالية الأبعاد فرض ضرورة ابتكار خوارزميات غير خطية مرنة قادرة على التقاط التفاعلات المتشابكة بين المتغيرات. وفي هذا السياق، برزت أشجار القرار (Decision Trees) بوصفها إحدى أكثر الأدوات التنبؤية بديهية وقوة، لكنها سرعان ما واجهت معضلة جوهرية تمثلت في التباين العالي وحساسيتها المفرطة لأدنى تغير في بيانات التدريب.

ولمعالجة هذا التحدي البنيوي، شهدت الأوساط الإحصائية ثورة منهجية في تسعينيات القرن العشرين مع ظهور مفهوم “تعلم المجموعات” (Ensemble Learning). كان الهدف الأساسي هو تجاوز حدود النماذج الفردية عبر دمج تنبؤات نماذج متعددة لتحقيق استقرار إحصائي وأداء تنبؤي يفوق قدرة أي نموذج منفرد. ويقف أسلوب التجميع بالاستبدال أو التجميع المجمّع، المعروف اصطلاحاً باسم Bagging (وهو اختصار لـ Bootstrap Aggregating)، على رأس هذه المنهجيات بوصفه إطاراً نظرياً وعملياً بارعاً يُسخّر مبادئ إعادة المعاينة الإحصائية لترويض تشتت النماذج المعقدة دون الإخلال بقدرتها على فهم الأنماط العميقة.

يهدف هذا الدليل المرجعي الشامل إلى تقديم تحليل أكاديمي وتطبيقي معمق لتقنية Bagging في تعلم الآلة. سنستعرض الجذور النظرية للخوارزمية، وتفكيك معادلة التوازن بين التباين والانحياز، والخطوات الإجرائية التفصيلية لتدريب وتجميع النماذج، إضافة إلى آليات التقييم الداخلي عبر عينات “خارج الحقيبة” (Out-of-Bag). كما سيتناول المقال مقارنات هيكلية مع تقنيات التعلم التجميعي الأخرى، والتطبيقات الواقعية في قطاعات الرعاية الصحية والمالية والرؤية الحاسوبية، وصولاً إلى أفضل الممارسات البرمجية والآفاق المستقبلية في عصر التعلم العميق والبيانات المتدفقة.

1. السياق التاريخي والأسس النظرية للتعلم الآلي غير الخطي وأشجار القرار

1.1 الانتقال من النماذج الخطية إلى النماذج غير الخطية

اعتمدت النمذجة الإحصائية الكلاسيكية لسنوات طويلة على فرضيات خطية صارمة، تجلت بوضوح في نماذج الانحدار الخطي المتعدد (Multiple Linear Regression) والانحدار اللوجستي. تفترض هذه النماذج وجود علاقة طردية أو عكسية مستقيمة بين المتغيرات المستقلة والمتغير التابع، مع افتراض استقلالية الأخطاء وتوزيعها الطبيعي المتجانس. وعلى الرغم من الكفاءة الحسابية العالية وسهولة تفسير المعاملات في هذه النماذج، إلا أنها تعاني من عجز هيكلي واضح عندما تواجه مجموعات بيانات واقعية تتسم بالتعقيد وعدم الخطية، حيث تتفاعل المتغيرات بطرق ديناميكية لا يمكن اختزالها في معادلة خطية ذات مستويات ثابتة.

تتميز البيانات في العالم الحقيقي بوجود علاقات غير رتيبة (Non-monotonic)، وتأثيرات عتبية (Threshold effects)، وتفاعلات تفاعلية متعددة الأطراف (High-order interactions). فعلى سبيل المثال، قد لا يكون تأثير متغير ما خطياً ومستمراً، بل ينشط فقط عند تجاوز قيمة حرجة معينة بالتزامن مع تحقق شرط في متغير آخر تماماً. لمواجهة هذه الظواهر المعقدة، كان لزاماً على مجتمع الذكاء الاصطناعي والإحصاء تطوير خوارزميات مرنة تمتلك القدرة على تكييف بنيتها وفقاً لطبيعة البيانات المتاحة دون الحاجة إلى فرض صيغ رياضية مسبقة، وهو ما مهد الطريق لظهور خوارزميات التقسيم الفضائي التكراري.

يُمثل مفهوم التقسيم التكراري للمساحات الميزية (Recursive Feature Space Partitioning) النواة الفلسفية للتحول نحو النمذجة غير الخطية. فبدلاً من محاولة رسم مستوٍ فائق (Hyperplane) واحد يعبر فضاء البيانات للفصل بين الفئات أو تقدير القيم، تقوم الخوارزميات غير الخطية بتقسيم فضاء المتغيرات إلى مناطق متعامدة متعددة وأصغر حجماً، بحيث تصبح كل منطقة محلية متجانسة قدر الإمكان فيما يتعلق بالمتغير الهدف. يتيح هذا النهج توليد حدود قرار تكيفية بالغة التعقيد، مما يسمح بنمذجة الظواهر غير الخطية بدقة متناهية ودون افتراضات مسبقة حول توزيع البيانات الأساسية.

1.2 بنية ومفاهيم أشجار التصنيف والانحدار (CART)

تبلورت منهجية أشجار القرار بشكلها المعياري الحديث من خلال الأبحاث الرائدة التي قدمها ليو بريمان وزملاؤه في ثمانينيات القرن العشرين عبر خوارزمية CART (Classification and Regression Trees). تُبنى شجرة القرار هيكلياً على شكل رسم بياني شجري ثنائي يتألف من عقدة جذرية (Root Node)، وعقد داخلية تمثل اختبارات منطقية على سمات محددة، وفروع تمثل مخرجات تلك الاختبارات، وعقد طرفية أو أوراق (Leaf Nodes) تتضمن التنبؤ النهائي سواء كان تصنيفاً فئوياً أو قيمة رقمية مستمرة.

تعتمد عملية بناء الشجرة على خوارزمية شرهة (Greedy Algorithm) تعمل بأسلوب التقسيم الثنائي التكراري من الأعلى إلى الأسفل. وفي كل عقدة، تبحث الخوارزمية عبر كافة المتغيرات المتاحة وكافة نقاط التقسيم الممكنة لاختيار التقسيم الذي يُعظم نقاء العقد الفرعية الناتجة. في مسائل التصنيف، يُقاس هذا النقاء رياضياً باستخدام معايير متقدمة مثل مقياس شوائب جيني (Gini Impurity) الذي يقيس احتمالية تصنيف عنصر تم اختياره عشوائياً بشكل خاطئ، أو عبر الإنتروبيا ومكسب المعلومات (Information Gain) المستند إلى النظرية الشانونية للمعلومات. أما في مسائل الانحدار، فيتم الاستناد إلى تقليل مجموع مربعات الأخطاء (Sum of Squared Errors – SSE) أو متوسط مربع الخطأ (MSE) للوصول إلى مجموعات فرعية متقاربة القيمة إلى أقصى حد.

تكمن القوة الاستثنائية لأشجار القرار في قدرتها الفريدة على بناء حدود تنبؤية تكيفية متعددة الأبعاد داخل فضاء السمات. ونظراً لأن كل قاعدة تقسيم تُطبق بشكل مستقل داخل المنطقة التي أنشأتها التقسيمات السابقة، تستطيع الشجرة تمثيل تفاعلات بالغة التعقيد تلقائياً دون الحاجة إلى هندسة يدوية لميزات التفاعل (Interaction terms). هذا التمثيل الهندسي الصندوقي يمنح أشجار CART قدرة استثنائية على محاكاة المنطق البشري الاستدلالي، حيث يمكن التعبير عن أي مسار من الجذر إلى الورقة كسلسلة متسلسلة من شروط “إذا تحقق كذا… فإن النتيجة كذا”.

1.3 إشكالية التباين العالي (High Variance) في الأشجار الفردية

على الرغم من الأناقة المفاهيمية والمرونة الفائقة لأشجار القرار الفردية، إلا أنها تعاني من عيب إحصائي بنيوي خطير يتمثل في عدم الاستقرار الهيكلي أو ما يُعرف بـ التباين العالي (High Variance). تُعد أشجار القرار خوارزميات غير مستقرة بالتعريف الإحصائي؛ إذ إن تغييراً طفيفاً للغاية في بيانات التدريب (مثل حذف أو تعديل بضع ملاحظات) قد يؤدي إلى اختيار سمة تقسيم مختلفة تماماً عند العقدة الجذرية، مما يطلق تأثيراً تسلسلياً (Cascading Effect) يُغير البنية الهندسية لكامل الشجرة اللاحقة وجميع قواعدها التنبؤية.

تتفاقم هذه المعضلة عندما تُترك الشجرة لتنمو إلى أعماق كبيرة دون فرض قيود تقليم صارمة. تسعى الخوارزمية الشرهة أثناء التعمق إلى تكرار الانقسامات حتى تصبح كل ورقة نقية تماماً، مما يدفع النموذج إلى حفظ التشوهات الإحصائية، والضوضاء العشوائية، والخصائص الفريدة لعينة التدريب بدلاً من استيعاب النمط البنيوي العام للمجتمع الإحصائي الأصلي. وتُعرف هذه الحالة بظاهرة الإفراط في التخصيص (Overfitting)، حيث يسجل النموذج دقة مثالية تقارب 100% على بيانات التدريب، مصحوبة بفشل ذريع وغير متوقع عند محاولة التعميم على بيانات جديدة ومستقلة.

ينعكس التباين العالي بشكل مباشر على انخفاض قدرة النموذج على التعميم (Generalization Capability)، مما يحد من الاعتماد على الشجرة الفردية المعمقة في التطبيقات الحساسة وعالية المخاطر. فبينما يمتلك هذا النموذج انحيازاً (Bias) منخفضاً جداً نظراً لقدرته على تمثيل أشكال شديدة التعقيد، فإن خطأ التباين المتضخم يجعله يتأرجح بعنف بين بيئات الاختبار المختلفة. وقد دفع هذا القصور الجوهري الباحثين إلى التفكير في أساليب رياضية مبتكرة تُمكّن من الاستفادة من الانحياز المنخفض للأشجار المعمقة دون دفع ضريبة التباين المفرط، وهو ما قاد مباشرة إلى ولادة تقنيات التعلم التجميعي.

2. المفهوم الجوهري لأسلوب التجميع المجمّع (Bootstrap Aggregating – Bagging)

2.1 التعريف المنهجي لتقنية Bagging وتاريخ نشأتها

في عام 1996، نشر عالم الإحصاء الشهير بجامعة كاليفورنيا – بيركلي، ليو بريمان (Leo Breiman)، ورقته البحثية المفصلية بعنوان “Bagging Predictors” في مجلة Machine Learning. قدم بريمان في هذا العمل إطاراً إحصائياً مبتكراً يدمج مفهوم المعاينة الحسابية التكرارية مع التجميع التنبؤي، مصيغاً المصطلح الشهير Bagging كاختصار تركيبي لعبارة Bootstrap Aggregating. استند بريمان في أطروحته إلى بديهية إحصائية مفادها أن دمج مخرجات مجموعة من النماذج التنبؤية غير المستقرة يؤدي إلى إلغاء التذبذبات الفردية وتحقيق تنبؤ مركب أكثر استقراراً ودقة.

تتمحور الفلسفة الجوهرية لمنهجية Bagging حول استغلال “حكمة الجمهور الإحصائية” (Wisdom of Crowds) في الحوسبة؛ حيث يتم تدريب عدد كبير من المقدرات الأساسية (Base Learners) ذات الأداء المتذبذب بشكل مستقل تماماً على إصدارات مختلفة من مجموعة البيانات الأصلية. لا تسعى التقنية إلى تعديل خوارزمية التعلم الأساسية نفسها، بل تُغير البيئة الإحصائية للبيانات المقدمة لكل نموذج، ومن ثم تُدمج نتائجها معاً في نموذج تنبؤي قوي (Strong Learner) يتميز بمرونة عالية وثبات إحصائي فائق.

يُمثل Bagging الركيزة الأساسية الأولى في شجرة عائلة تعلم المجموعات (Ensemble Learning)، إلى جانب أساليب التعزيز (Boosting) والتكديس (Stacking). وما يميز Bagging هيكلياً هو اعتماده على التدريب المتوازي المتجانس، حيث تعمل كافة المقدرات بشكل متزامن دون أي اعتمادية خطية أو زمنية فيما بينها، مما جعلها نموذجاً مثالياً للحوسبة الموزعة وفتح آفاقاً رحبة لمعالجة البيانات الضخمة التي كانت تعجز عنها الخوارزميات التقليدية المفردة.

2.2 آليات المعاينة الإحصائية بالاستبدال (Bootstrap Sampling)

يرتكز أسلوب Bagging في جوهره على تقنية المعاينة بالاستبدال المعروفة باسم بوتستراب (Bootstrap)، والتي ابتكرها الإحصائي البارز برادلي إيفرون (Bradley Efron) عام 1979. تتمثل هذه العملية في سحب عينات فرعية متكررة من مجموعة البيانات الأصلية ذات الحجم $N$، بحيث تحتوي كل عينة فرعية جديدة على نفس العدد $N$ من الملاحظات بالضبط، ولكن مع السماح بتكرار السحب لنفس الملاحظة عدة مرات (Sampling with Replacement). وهذا يعني أنه في كل عملية سحب لمفردة واحدة، تمتلك جميع الملاحظات في المجموعة الأصلية احتمالية متساوية ومستقلة للاختيار تبلغ $1/N$.

تؤدي هذه الآلية العشوائية البسيطة إلى توليد تنوع إحصائي غني بين العينات الفرعية المولدة؛ إذ تتضمن كل عينة بوتستراب تكرارات متعددة لبعض الملاحظات الأصلية، في حين تغيب ملاحظات أخرى تماماً عن تلك العينة المحددة. ومن الناحية الاحتمالية، فإن هذا التباين الإحصائي المصطنع بين مجموعات التدريب الفرعية يُحاكي تجربة سحب عينات مستقلة متعددة من المجتمع الإحصائي الحقيقي الكلي دون الحاجة إلى تكبد تكاليف جمع بيانات حقيقية إضافية، وهو جوهر القوة الكامنة وراء الاستدلال البوتسترابي.

يوفر هذا التنوع في مجموعات البيانات الفرعية الأساس الرياضي لاستقلالية النماذج الفردية المدربة عليها. فعلى الرغم من أن كافة النماذج تستخدم نفس الخوارزمية البنيوية (مثل شجرة CART)، إلا أن كل نموذج يرى تركيبة مختلفة من البيانات، ويركز على مجموعات فرعية متباينة من العلاقات الإحصائية، مما يجعل أخطاء التنبؤ الناتجة عن كل نموذج غير مترابطة نسبياً (Partially De-correlated)، وهو الشرط الأساسي الذي يُمكّن خطوة التجميع اللاحقة من إخماد التباين الإجمالي بفعالية رياضية مذهلة.

2.3 آليات دمج المخرجات والتنبؤات (Aggregating)

تُمثل مرحلة التجميع (Aggregating) الشق الثاني والمكمل لعملية Bagging؛ فبعد تدريب $B$ من المقدرات الأساسية المستقلة على عينات البوتستراب المختلفة، تُمرر بيانات الاختبار غير المرئية عبر جميع هذه النماذج في وقت واحد للحصول على مجموعة من التنبؤات الفردية المنفصلة. تتولى دالة التجميع الرياضية دمج هذه المخرجات المتعددة في قرار نهائي واحد يعبر عن التوافق الإحصائي للمجموعة ككل.

في مسائل الانحدار (Regression)، حيث يكون المتغير التابع مستمراً وقابلاً للقياس الكمي، تُطبق دالة المتوسط الحسابي البسيط (Simple Averaging) لدمج التنبؤات. رياضياً، إذا كان لدينا $B$ من النماذج التنبؤية، ويُعطي كل نموذج تنبؤاً قيمته $\hat{f}_b(x)$ لنقطة البيانات $x$، فإن التنبؤ النهائي للمجموعة $\hat{f}_{\text{bag}}(x)$ يُصاغ كما يلي:

$$\hat{f}_{\text{bag}}(x) = \frac{1}{B} \sum_{b=1}^{B} \hat{f}_b(x)$$

أما في مسائل التصنيف (Classification)، فتعتمد آلية التجميع على نوع المخرجات التي توفرها النماذج الأساسية؛ فإذا كانت المخرجات فئوية بحتة، يُستخدم التصويت الأغلبي الصارم (Majority Voting أو Hard Voting)، حيث تُسند نقطة البيانات إلى الفئة التي حازت على أكبر عدد من أصوات المقدرات الفردية. أما إذا كانت النماذج الأساسية قادرة على تقدير الاحتمالات الشرطية للفئات، فيُفضل تطبيق التصويت المرجح بالاحتمالات (Soft Voting)، والذي يحسب متوسط الاحتمالات التنبؤية التي ولدتها كافة النماذج لكل فئة، ثم يختار الفئة ذات الاحتمال المركب الأعلى، مما يمنح وزناً أكبر للقرارات التي تتسم بمستويات ثقة إحصائية مرتفعة.

يُحدث هذا الدمج الرياضي البسيط أثراً إحصائياً عميقاً ومباشراً على استقرار التنبؤات النهائية؛ فالأخطاء العشوائية الفردية الناتجة عن إفراط بعض النماذج في التخصيص لمناطق محددة من فضاء البيانات تميل إلى إلغاء بعضها البعض عند أخذ المتوسط أو التصويت التراكمي. هذا التحييد المتبادل للأخطاء يُقلل من التذبذب الحاد في دالة التنبؤ، مما ينتج حدود قرار بالغة النعومة والاستقرار تفوق بكثير ما يمكن أن تحققه أي شجرة قرار مفردة.

3. معادلة التوازن بين التباين والانحياز (Bias-Variance Tradeoff) ودور Bagging

3.1 تفكيك مكونات الخطأ الرياضي في النماذج التنبؤية

في النظرية الإحصائية لتعلم الآلة، يُعد مفهوم معادلة التوازن بين التباين والانحياز (Bias-Variance Tradeoff) الإطار المفاهيمي الأساسي لفهم وتحليل أداء الخوارزميات التنبؤية وخطأ التعميم. عند تدريب نموذج إحصائي $\hat{f}(x)$ لتقدير دالة حقيقية $y = f(x) + epsilon$، حيث $epsilon$ يمثل الضجيج العشوائي غير القابل للاختزال بمتوسط صفري وتباين $\sigma^2$، يمكن تفكيك القيمة المتوقعة لخطأ مربع التنبؤ (Expected Mean Squared Error) عند نقطة معينة رياضياً إلى ثلاثة مكونات أساسية ومستقلة:

$$\mathbb{E}\left[(y – \hat{f}(x))^2\right] = \left(\text{Bias}\left[\hat{f}(x)\right]\right)^2 + \text{Var}\left[\hat{f}(x)\right] + \sigma^2$$

حيث تُعرّف هذه المكونات على النحو التالي:

• مربع الانحياز $(\text{Bias}^2)$: يقيس مدى ابتعاد متوسط تنبؤات النموذج عبر عينات التدريب المختلفة عن القيمة الحقيقية للدالة المستهدفة. يعكس الانحياز المرتفع عدم قدرة بنية النموذج على تمثيل العلاقات المعقدة في البيانات، وهو ما يُعرف بنقص التخصيص (Underfitting).
• التباين $(\text{Variance})$: يقيس مدى حساسية وتغير تنبؤات النموذج عند إعادة تدريبه على مجموعات بيانات مختلفة مسحوبة من نفس المجتمع الإحصائي. يعكس التباين المرتفع إفراط النموذج في التكيف مع عينة التدريب المعينة، وهو ما يُعرف بالإفراط في التخصيص (Overfitting).
• الخطأ غير القابل للاختزال $(\sigma^2)$: يمثل التباين الطبيعي الكامن في النظام الإحصائي أو الضوضاء العشوائية الناتجة عن قياسات غير مكتملة، ولا يمكن لأي نموذج خوارزمي تجاوزه مهما بلغت دقته.

تفرض العلاقة التقليدية بين التعقيد والخطأ تبادلاً حتمياً؛ فالنماذج الخطية البسيطة تمتلك انحيازاً عالياً وتبايناً منخفضاً، بينما تتموضع أشجار القرار المعمقة غير المقلمة في أقصى الطرف المقابل من المصفوفة، حيث تتميز بانحياز منخفض للغاية نظراً لمرونتها الفائقة في تمثيل أصعب الدوال، مقترناً بتباين متضخم يجعلها عرضة للانهيار التنبؤي عند مواجهة بيانات جديدة. وهنا تكمن المعضلة التي سعى أسلوب Bagging إلى حلها رياضياً.

3.2 الأثر الرياضي لأسلوب Bagging في تقليل التباين

يقدم التحليل الرياضي لأسلوب Bagging دليلاً قاطعاً على قدرته الفريدة في خفض تباين النموذج دون التأثير سلباً على انحيازه. لتوضيح هذا البرهان، لنفترض أن لدينا مجموعة من $B$ مقدرات تنبؤية متطابقة التوزيع ومستقلة إحصائياً (i.i.d)، بحيث يمتلك كل مقدر فرعي تبايناً فردياً مقداره $\text{Var}[\hat{f}_b(x)] = \sigma_0^2$. عندما نقوم بإنشاء المقدر المجمع عبر حساب المتوسط الحسابي $\hat{f}_{\text{bag}}(x) = \frac{1}{B}\sum_{b=1}^{B} \hat{f}_b(x)$، فإن تباين التنبؤ النهائي يُحسب بالعلاقة الكلاسيكية لمتوسط المتغيرات العشوائية المستقلة:

$$\text{Var}\left[\hat{f}_{\text{bag}}(x)\right] = \text{Var}\left[\frac{1}{B}\sum_{b=1}^{B} \hat{f}_b(x)\right] = \frac{1}{B^2} \sum_{b=1}^{B} \text{Var}[\hat{f}_b(x)] = \frac{1}{B^2} (B \sigma_0^2) = \frac{\sigma_0^2}{B}$$

يُظهر هذا الاشتقاق أنه في الحالة المثالية للاستقلالية التامة، يقل التباين التراكمي بمقدار يتناسب طردياً مع عدد النماذج $B$، متجهاً نحو الصفر عندما يقترب $B$ من اللانهاية. ومع ذلك، في التطبيقات الواقعية لتقنية Bagging، لا تكون عينات البوتستراب مستقلة استقلالاً تاماً نظراً لاشتقاقها جميعاً من نفس مجموعة البيانات الأصلية، مما يُنتج معامل ارتباط إيجابي بين النماذج يُرمز له بـ $rho$. وفي هذه الحالة الأكثر واقعية، يُصاغ تباين النموذج المجمع وفق معادلة التغاير الشاملة:

$$\text{Var}\left[\hat{f}_{\text{bag}}(x)\right] = \rho \sigma_0^2 + \frac{1 – \rho}{B} \sigma_0^2$$

تكشف هذه المعادلة المحورية بوضوح أن زيادة عدد النماذج $B$ تُمكّن من إزالة الشق الثاني $\frac{1 – \rho}{B} \sigma_0^2$ بالكامل، في حين يظل الحد الأدنى للتباين مقيداً بمقدار الترابط البيني $\rho \sigma_0^2$. وعلى الرغم من وجود هذا الحد الإحصائي الأدنى، فإن الانخفاض المحقق في التشتت الإجمالي يكون هائلاً مقارنة بالنموذج الفردي، مما يُتيح للممارسين الوصول إلى مستويات استقرار استثنائية دون التضحية بالقدرة الاستيعابية للخوارزمية الأساسية.

3.3 الحفاظ على استقرار مستوى الانحياز المنخفض

من المزايا الإحصائية الحاسمة لأسلوب Bagging هو أنه يُخفض التباين بفعالية دون أن يتسبب في زيادة ملموسة لمستوى الانحياز. لفهم هذا السلوك الرياضي، نقوم بحساب القيمة المتوقعة لتنبؤات نموذج Bagging المجمع:

$$\mathbb{E}\left[\hat{f}_{\text{bag}}(x)\right] = \mathbb{E}\left[\frac{1}{B}\sum_{b=1}^{B} \hat{f}_b(x)\right] = \frac{1}{B}\sum_{b=1}^{B} \mathbb{E}\left[\hat{f}_b(x)\right]$$

بما أن كل عينة بوتستراب تمثل توزيعاً تقريبياً غير منحاز للمجتمع الأصلي، فإن كل مقدر أساسي $\hat{f}_b(x)$ يمتلك نفس القيمة المتوقعة لنموذج تم تدريبه على البيانات الأصلية، أي أن $\mathbb{E}[\hat{f}_b(x)] \approx \mathbb{E}[\hat{f}_{\text{single}}(x)]$. وعليه، تصبح القيمة المتوقعة لـ Bagging مطابقة تقريباً للنموذج الفردي، مما يعني أن:

$$\text{Bias}\left[\hat{f}_{\text{bag}}(x)\right] \approx \text{Bias}\left[\hat{f}_{\text{single}}(x)\right]$$

تفسر هذه النتيجة الإحصائية شرطاً جوهرياً لنجاح تقنية Bagging: يجب أن يكون المتعلم الأساسي (Base Learner) نموذجاً غنياً وذا انحياز منخفض جداً، مثل أشجار القرار المعمقة التي تُترك لتنمو بحرية تامة دون تقليم. فإذا استُخدمت نماذج ذات انحياز مرتفع (مثل الانحدار الخطي أو أشجار القرار المحدودة بعمق واحد)، فإن Bagging لن يتمكن من خفض ذلك الانحياز، وسيظل الأداء التنبؤي الإجمالي ضعيفاً ومقيداً بقصور النموذج الأساسي.

يوضح هذا التحليل التمايز الجوهري بين استراتيجية Bagging الموجهة بالكامل نحو استئصال التباين، وبين الاستراتيجيات التجميعية الأخرى مثل Boosting التي تستهدف تخفيض الانحياز تدريجياً عبر معالجة أخطاء النماذج الضعيفة. إن الجمع بين الانحياز المنخفض للأشجار العميقة والانخفاض الحاد في التباين المحقق عبر التجميع الإحصائي هو السر الرياضي الذي جعل من Bagging إحدى أنجح وأقوى الخوارزميات في تاريخ تعلم الآلة.

4. الخطوات الخوارزمية والإجرائية لتنفيذ أسلوب Bagging

4.1 المرحلة الأولى: توليد العينات وإعداد البيانات المتوازية

تبدأ الدورة الإجرائية لخوارزمية Bagging بمرحلة التهيئة الإحصائية وإعداد البيانات، حيث يحدد المستخدم معلمين رئيسيين: العدد الإجمالي للمقدرات الأساسية المطلوب تدريبها، والمشار إليه رياضياً بالرمز $B$ (أو n_estimators في الحزم البرمجية)، وحجم العينة الفرعية المراد سحبها $N’$ والتي تكون افتراضياً مساوية لحجم مجموعة التدريب الكلية $N$. يتم توفير مجموعة البيانات التدريبية الأساسية $\mathcal{D} = {(x_1, y_1), (x_2, y_2), dots, (x_N, y_N)}$ التي تحتوي على مصفوفة السمات والمتغير الهدف.

في الخطوة التالية، تُولد الخوارزمية $B$ عينة تدريبية جديدة ومستقلة، يُرمز لكل منها بـ $\mathcal{D}_b^*$. تُنشأ كل عينة بواسطة سحب عشوائي منتظم $N$ مرة مع الإرجاع (Replacement) من المجموعة الأصلية $\mathcal{D}$. نظراً لأن عملية السحب تعتمد على توليد أرقام عشوائية زائفة مستقلة، فإن هذه المرحلة تتصف بقابلية تامة للتنفيذ المتزامن والموزع؛ حيث يمكن توليد وحفظ أو توجيه كافة عينات البوتستراب عبر خيوط المعالجة المتعددة (CPU Threads) أو العقد الحاسوبية (Compute Nodes) دون أي اختناقات إجرائية أو حاجة لمزامنة البيانات بين العمليات.

4.2 المرحلة الثانية: تدريب المقدرات الأساسية المستقلة (Base Learners)

بمجرد اكتمال تجهيز عينات البوتستراب، تنطلق مرحلة التدريب الفعلي للمقدرات الفردية. في هذه المرحلة، يتم إنشاء كائن مستقل من خوارزمية التعلم الأساسية لكل عينة بوتستراب $\mathcal{D}_b^*$، ليصبح لدينا أسطول من النماذج المتطابقة في البنية الخوارزمية والمتباينة في الأوزان والمعلمات التنبؤية، ويُرمز لها بـ ${\hat{f}_1, \hat{f}_2, dots, \hat{f}_B}$.

تتميز هذه الخطوة بعدة خصائص هيكلية حاسمة لضمان الفعالية القصوى للتقنية:

• الاستقلالية المعمارية التامة: يُدرب كل نموذج $\hat{f}_b$ بمعزل تام عن بقية النماذج الأخرى، ولا يتم تبادل أي معلومات أو أوزان أو مؤشرات أداء بين النماذج أثناء عملية التحسين، مما يتيح استغلالاً مثالياً للبنى التحتية متعددة الأنوية (Parallel Computing).
• عدم تقييد نمو النماذج: عند استخدام أشجار القرار كمتعلمات أساسية، يتم تعمد ترك الأشجار لتنمو إلى أقصى عمق ممكن (أو حتى الوصول إلى الحد الأدنى من نقاء الأوراق)، مع تعطيل آليات التقليم المبكر (Pre-pruning)، لضمان تقليل الانحياز الفردي إلى الصفر تقريباً.
• معالجة السمات دون قيود مفرطة: في أسلوب Bagging التقليدي، تُتاح كافة السمات والمتغيرات المدخلة لكل نموذج عند كل نقطة تقسيم دون حظر أو تقييد عشوائي، معتمدة بالكامل على التنوع الناتج عن عينات البيانات لإحداث الفروق البنيوية بين الأشجار.

4.3 المرحلة الثالثة: حساب التنبؤ المجمع والتقييم النهائي

تُمثل المرحلة الثالثة ذروة العملية الخوارزمية، حيث تُستقبل نقطة بيانات جديدة أو مجموعة مصفوفات اختبارية غير مرئية $x_{\text{test}}$. يتم تمرير هذه النقطة بشكل متزامن عبر كافة النماذج الفردية $B$ التي تم تدريبها مسبقاً، ليقوم كل نموذج بتوليد استجابته المنفصلة $\hat{y}_b = \hat{f}_b(x_{\text{test}})$.

تتولى الخوارزمية بعد ذلك تفعيل دالة الدمج المناسبة لطبيعة المسألة وفق الآليات التالية:

• في مسائل الانحدار: تُحسب القيمة التنبؤية المركبة كمتوسط حسابي دقيق لكافة القيم الرقمية المستخرجة:
  $$\hat{y}_{\text{final}} = \frac{1}{B} \sum_{b=1}^{B} \hat{y}_b$$
• في مسائل التصنيف: يُجرى فرز وتعداد الأصوات التنبؤية للفئات المختلفة، وتُحسب النتيجة عبر تطبيق دالة المنوال (Mode) لتحديد الفئة الأكثر تكراراً في حالة التصويت الصلب:
  $$\hat{y}_{\text{final}} = arg\max_{c in \mathcal{C}} \sum_{b=1}^{B} \mathbb{I}(\hat{y}_b = c)$$
  أو عبر حساب المتوسط الحسابي لمتجهات الاحتمالات المقدرة للفئات واختيار الفئة المقابلة للقيمة الاحتمالية القصوى في حالة التصويت المرن.

يتميز هذا التنبؤ التجميعي بتوفيره مقاييس ثقة إحصائية إضافية؛ ففي مسائل التصنيف على سبيل المثال، لا تقتصر مخرجات Bagging على تحديد الفئة الفائزة فحسب، بل يمكن استخدام نسبة الأصوات التي حصلت عليها الفئة كمؤشر واقعي على درجة يقين النموذج التنبؤي (Prediction Confidence)، وهو ما يفتقر إليه النموذج الفردي التقليدي.

5. التقييم الداخلي باستخدام عينات خارج الحقيبة (Out-of-Bag – OOB)

5.1 الأساس الاحتمالي والرياضي لملاحظات OOB

من أروع الخصائص الإحصائية المصاحبة لآلية المعاينة بالاستبدال في تقنية Bagging هي التوليد التلقائي لبيانات تحقق مستقلة تُعرف باسم عينات خارج الحقيبة (Out-of-Bag Observations – OOB). بما أن كل عينة بوتستراب تُبنى عبر سحب $N$ من العناصر مع الإرجاع من مجموعة بيانات حجمها $N$، فإن احتمالية عدم اختيار ملاحظة معينة محددة في عملية سحب فردية واحدة تساوي تماماً $(1 – \frac{1}{N})$.

وبما أن عمليات السحب الـ $N$ مستقلة تماماً عن بعضها البعض، فإن احتمالية بقاء هذه الملاحظة المحددة خارج عينة البوتستراب بالكامل بعد استكمال كافة عمليات السحب تُعبر عنها المعادلة الأسية التالية:

$$P(\text{Observation is OOB}) = \left(1 – \frac{1}{N}\right)^N$$

عندما يكون حجم مجموعة البيانات كبيراً بما يكفي ($N to \infty$)، يمكن حساب النهاية الرياضية لهذه الصيغة باستخدام التعريف الكلاسيكي للثابت النيبيري الرياضي الشهير $e$:

$$\lim_{N to \infty} \left(1 – \frac{1}{N}\right)^N = \frac{1}{e} \approx \frac{1}{2.71828} \approx 0.367879 \approx 36.8%$$

يُثبت هذا الاشتقاق الرياضي الأنيق حقيقة إحصائية بالغة الأهمية: في كل دورة تدريبية لنموذج فردي داخل Bagging، تبقى حوالي 36.8% من البيانات الأصلية خارج نطاق تدريب ذلك النموذج تماماً، بينما يتم تدريب النموذج على ما يقارب 63.2% فقط من الملاحظات الفريدة المكررة. تُمثل هذه البيانات المستبعدة عينة تحقق نقية ومستقلة إحصائياً بالنسبة لذلك المقدر المحدد، دون الحاجة إلى اقتطاع أي جزء من مجموعة البيانات الأصلية بشكل مسبق.

5.2 حساب خطأ OOB واستخدامه في التحقق من صحة النموذج

تستغل خوارزمية Bagging عينات OOB لابتكار آلية تقييم داخلي بالغة القوة والدقة لحساب خطأ التعميم دون الحاجة إلى استخدام مجموعات اختبار منفصلة أو إجراءات تحقق متقاطع معقدة. تتم العملية الإجرائية لتقدير خطأ OOB (Out-of-Bag Error) عبر الخطوات التالية:

1. لكل ملاحظة تدريبية $(x_i, y_i)$ في مجموعة البيانات الأصلية $\mathcal{D}$، يتم تحديد كافة المقدرات الأساسية الفردية التي لم تتضمن هذه الملاحظة في عينات البوتستراب الخاصة بها أثناء التدريب. يُرمز لمجموعة هذه النماذج بـ $\mathcal{B}_i \subset {1, dots, B}$.
2. يتم تمرير النقطة $x_i$ حصرياً عبر نماذج المجموعة $\mathcal{B}_i$ فقط لحساب تنبؤ مجمع خاص بتلك النقطة، يُرمز له بـ $\hat{y}_i^{\text{OOB}}$، باستخدام المتوسط الحسابي أو التصويت الأغلبي.
3. تُكرر هذه الخطوة لكافة الملاحظات التدريبية في النظام، مما يولد تنبؤاً مستقلاً ونقياً لكل نقطة بيانات تم إنشاؤه بواسطة نماذج لم ترَ تلك النقطة قط أثناء تدريبها.
4. يُحسب مقياس الخطأ التراكمي الشامل (مثل متوسط مربعات الخطأ MSE أو معدل الخطأ التصنيفي) عبر مقارنة التنبؤات $\hat{y}_i^{\text{OOB}}$ مع القيم الفعلية $y_i$ لكافة العناصر:
   $$\text{OOB Error} = \frac{1}{N} \sum_{i=1}^{N} \mathcal{L}(y_i, \hat{y}_i^{\text{OOB}})$$

أثبتت الدراسات الإحصائية المقارنة أن مقياس خطأ OOB يُمثل تقديراً دقيقاً وغير منحاز لخطأ الاختبار الحقيقي، وهو يكافئ رياضياً إجراء التحقق المتقاطع من نوع $K$-Fold Cross-Validation ولكنه يتم بشكل ضمني وتلقائي كجزء لا يتجزأ من تدريب خوارزمية Bagging، مما يجعله معياراً مثالياً لضبط المعلمات الفائقة وإيقاف التدريب عند استقرار الأداء.

5.3 المزايا الحسابية لتقدير OOB في مجموعات البيانات الضخمة

يوفر اعتماد مقياس OOB فوائد ومزايا تشغيلية هائلة لعلماء البيانات ومهندسي تعلم الآلة، لا سيما عند التعامل مع مجموعات البيانات الضخمة (Big Data) التي تفرض قيوداً زمنية وحسابية قاسية. في الإجراءات التقليدية، يتطلب تقييم النماذج تنفيذ التحقق المتقاطع (K-Fold CV)، وهو ما يعني إعادة تدريب المجموعة التجميعية الكاملة $K$ مرات متتالية، مما يضاعف التكلفة الزمنية والحسابية بمقدار $K$ أضعاف (على سبيل المثال، تدريب 10 مجموعات تجميعية منفصلة عند استخدام 10-Fold CV).

في المقابل، يلغي تقدير OOB هذه التكلفة المضاعفة تماماً؛ إذ يتم احتساب خطأ التعميم في خطوة خوارزمية واحدة موازية لمسار التدريب الأساسي دون الحاجة إلى تدريب أي نماذج إضافية. كما يتيح الاستفادة الكاملة بنسبة 100% من البيانات المتاحة لتدريب المقدرات وتطويرها، متفادياً إهدار جزء من البيانات القيمة في مجموعات اختبار ثابتة ومنفصلة، وهي ميزة حيوية واستثنائية تبرز قيمتها العالية في المشاريع الطبية والتطبيقية التي تعاني من شح العينات المتاحة وصعوبة جمعها.

6. المقارنة البنيوية بين أسلوب Bagging وأساليب تعلم المجموعات الأخرى

6.1 المقارنة الجوهرية بين Bagging وأسلوب التعزيز (Boosting)

يُمثل كل من Bagging والتعزيز (Boosting) الركيزتين الأكثر شهرة وتأثيراً في أدبيات تعلم المجموعات، إلا أنهما ينبثقان من فلسفتين إحصائيتين مختلفتين تماماً لمعالجة أخطاء التنبؤ وتوزيع البيانات.

تتمحور الفروق الجوهرية بين المنهجين حول النقاط المعمارية والإحصائية التالية:

• هيكلية التدريب (Training Architecture): يعتمد Bagging على تدريب متوازٍ ومستقل تماماً للمقدرات، حيث لا يعلم أي نموذج بوجود النماذج الأخرى. في المقابل، يتبع Boosting مساراً تدريبياً تسلسلياً وتكيفياً (Sequential & Adaptive)، حيث يُبنى كل نموذج جديد لتصحيح الأخطاء المحددة والقصور الذي وقعت فيه النماذج السابقة عبر إعادة توزين العينات أو حساب المشتقات المتبقية (Residuals).
• الهدف الإحصائي الأساسي: يركز Bagging على تخفيض التباين (Variance Reduction) لنماذج أساسية معقدة وشديدة الحساسية ولكنها ذات انحياز منخفض. بينما يركز Boosting بالدرجة الأولى على تخفيض الانحياز (Bias Reduction) عبر تجميع نماذج أساسية بسيطة وضعيفة جداً (مثل جذوع الأشجار Decision Stumps) وتحويلها تدريجياً إلى نموذج قوي.
• الحساسية للضوضاء والقيم المتطرفة (Robustness to Noise): يتميز Bagging بمقاومة ومتانة استثنائية تجاه البيانات الملوثة بالضجيج والقيم الشاذة (Outliers)، حيث يتم امتصاص وتخفيف أثرها بفضل أخذ المتوسطات والتصويت التراكمي. بينما يُعد Boosting شديد الحساسية وعرضة للتدهور السريع في بيئات البيانات غير النقية، نظراً لتركيزه الخوارزمي المستمر على العينات الصعبة والشاذة التي تفشل النماذج في تصنيفها.

6.2 الفروق الدقيقة بين Bagging التقليدي والغابات العشوائية (Random Forests)

تُعد خوارزمية الغابات العشوائية (Random Forests)، التي طورها أيضاً ليو بريمان بالتعاون مع أديل كاتلر (Adele Cutler) عام 2001، الامتداد التطويري المباشر والأكثر شهرة لأسلوب Bagging المطبق على أشجار القرار. وعلى الرغم من تشابههما الكبير في الاعتماد على عينات البوتستراب والتصويت التراكمي، إلا أن هناك فرقاً معمارياً دقيقاً يُحدث فارقاً إحصائياً جوهرياً في الأداء.

في أسلوب Bagging التقليدي المطبق على الأشجار، يُسمح لكل شجرة بالبحث في كافة المتغيرات والميزات المتاحة ($p$) لاختيار أفضل نقطة انقسام عند كل عقدة داخلية. تؤدي هذه الآلية إلى ظهور معضلة الارتباط البيني بين الأشجار؛ فإذا كانت مجموعة البيانات تحتوي على سمة واحدة أو سمتين ذواتي قوة تنبؤية طاغية جداً، فإن معظم الأشجار المستقلة ستختار نفس هذه السمات في العقد العليا، مما يجعل هياكل الأشجار متشابهة وتنبؤاتها مرتبطة إحصائياً بدرجة عالية ($rho$ مرتفعة)، وهو ما يحد من قدرة الخوارزمية على خفض التباين التراكمي إلى أدنى حدوده الممكنة.

تغلبت الغابات العشوائية على هذا القصور عبر إدخال ما يُعرف بـ عشوائية الميزات (Feature Subsampling / Random Subspace Method)؛ حيث تُجبر الخوارزمية كل عقدة داخل كل شجرة على اختيار أفضل تقسيم من بين مجموعة فرعية عشوائية من السمات حجمها $m \approx \sqrt{p}$ في التصنيف أو $m \approx p/3$ في الانحدار. تضمن هذه العشوائية الإضافية كسر الارتباط البيني بين الأشجار (De-correlating the Trees) وتخفيض قيمة معامل الارتباط $rho$، مما يدفع حدود التباين التراكمي نحو مستويات أكثر انخفاضاً واستقراراً، وإن كان ذلك يأتي على حساب زيادة طفيفة جداً في استهلاك الذاكرة وتكلفة الفرز.

6.3 مقارنة Bagging بأسلوب التكديس (Stacking)

يُمثل التكديس، أو التعميم المكدس (Stacked Generalization)، منهجية تجميعية متقدمة تختلف هيكلياً عن كل من Bagging وBoosting في طريقة دمج المعلومات المستخلصة من النماذج المختلفة.

تتضح الفروق الهيكلية بين Bagging وStacking من خلال المحاور المقارنة الموضحة أدناه:

• تجانس النماذج الأساسية (Model Homogeneity): يستخدم Bagging عادة نماذج أساسية متجانسة بالكامل (Homogeneous Learners)، كأن تكون كافة المقدرات أشجار قرار من نوع CART. بينما يعتمد Stacking على مصفوفة من النماذج غير المتجانسة (Heterogeneous Learners)، حيث يتم دمج خوارزميات متباينة جذرياً مثل الانحدار اللوجستي، وشبكات الدعم الآلي (SVM)، والشبكات العصبية، والـ k-NN في نفس الإطار التنبؤي.
• آلية الدمج وتوليد القرار: يقتصر Bagging على دوال دمج إحصائية حتمية وثابتة رياضياً لا تتطلب تعلماً (مثل المتوسط الحسابي البسيط أو التصويت الأغلبي). في المقابل، يوظف Stacking نموذجاً تعلُمياً إضافياً يُعرف بـ النموذج الفوقي (Meta-Learner)، والذي يتم تدريبه على مخرجات وتنبؤات النماذج الأساسية لاكتشاف الأنماط المعقدة وتحديد النموذج الأكثر موثوقية في مناطق الفضاء الميزي المختلفة.
• التعقيد الحسابي ومخاطر الإفراط في التخصيص: يتميز Bagging بالبساطة الحسابية وانعدام مخاطر الإفراط في التخصيص عند زيادة عدد النماذج. بينما يتطلب Stacking إجراءات تدريب معقدة عبر مصفوفات التحقق الداخلي من نوع Out-of-Fold لمنع تسرب البيانات وتفادي وقوع النموذج الفوقي في فخ الإفراط في التخصيص.

7. توافق أسلوب Bagging مع مختلف خوارزميات التعلم الأساسي (Base Learners)

7.1 أشجار القرار غير المقلمة كمتعلم أساسي مثالي

تُعد أشجار القرار غير المقلمة (Unpruned Decision Trees) الشريك الإحصائي المثالي لأسلوب Bagging؛ إذ يُعزى النجاح الهائل لهذه التقنية تاريخياً إلى التناغم الرياضي الفريد بين طبيعة الأشجار العميقة وآلية التجميع بالبوتستراب. وتتحقق الفعالية القصوى لـ Bagging عندما تتوافر في المتعلم الأساسي خاصيتان حاسمتان: الانحياز المنخفض جداً، وعدم الاستقرار الهيكلي العالي (High Instability).

تمتلك أشجار القرار المعمقة انحيازاً يقترب من الصفر؛ نظراً لقدرتها على إنشاء مساحات ميزية دقيقة للغاية والتقاط أعلى مستويات التفاعل غير الخطي بين المتغيرات. وفي الوقت نفسه، تتسم الأشجار بحساسية فائقة للتغيرات الطفيفة في العينات التدريبية، مما يعني أن كل عينة بوتستراب $\mathcal{D}_b^*$ ستنتج شجرة ذات بنية هندسية مختلفة تماماً وتوزيع فريد للعقد والأوراق. يوفر هذا التباين الشديد بين الأشجار المنفردة المادة الخام المثالية لدالة التجميع؛ حيث يتم التخلص التام من التباين المتراكم عبر حساب المتوسطات دون التضحية بالقدرة التعبيرية والانحياز الصفري للأشجار، مما يجعل الجمع بينهما نموذجاً كلاسيكياً للتكامل الخوارزمي في تعلم الآلة.

7.2 تطبيق Bagging على الشبكات العصبية الاصطناعية

تمتد فعالية أسلوب Bagging لتشمل الشبكات العصبية الاصطناعية (Artificial Neural Networks) ونماذج التعلم العميق، حيث تُصنف الشبكات العصبية ضمن فئة النماذج غير المستقرة ذات السعة التعبيرية الهائلة. تخضع عملية تدريب الشبكات العصبية لدوال خسارة بالغة التعقيد وغير محدبة (Non-convex Loss Surfaces)، مما يجعل أوزان النموذج النهائي تعتمد بشدة على التوزيع العشوائي لتهيئة الأوزان الابتدائية (Weight Initialization) والترتيب العشوائي لحزم البيانات المصغرة (Mini-batches).

عند تطبيق Bagging على الشبكات العصبية، يتم تدريب شبكات متعددة على عينات بوتستراب مختلفة، مما يُحقق فوائد تطبيقية ملموسة:

• تفادي الحلول المحلية الدنيا (Escaping Local Minima): يؤدي التجميع إلى دمج شبكات استقرت في مناطق مختلفة من فضاء الأوزان، مما يمنح النموذج المجمع قدرة فائقة على تفادي الحلول الدنيا الضعيفة والوصول إلى تمثيلات بيانية أكثر عمومية وموثوقية.
• تحسين تعميم الشبكات وتخفيف الإفراط في التخصيص: يُسهم التجميع في تنعيم حدود القرار المعقدة للشبكات العصبية وتقليل حساسية التنبؤ تجاه المدخلات المشوشة أو العينات الهجومية المضللة (Adversarial Examples).
• التحدي الحسابي والتكلفة المادية: يكمن العائق الأساسي لتطبيق Bagging على الشبكات العصبية في التكلفة الحسابية الفلكية المطلوبة لتدريب عشرات أو مئات الشبكات العميقة، وهو ما دفع الباحثين لابتكار تقنيات تجميع ضمنية تحاكي Bagging مثل أسلوب الإسقاط العشوائي للوصلات (Dropout) والتجميع اللحظي لمسارات التدريب (Snapshot Ensembles).

7.3 مدى جدوى تطبيق Bagging على النماذج المستقرة (الخطية وKNN)

على النقيض من أشجار القرار والشبكات العصبية، يُظهر التحليل الإحصائي قصوراً وضعفاً واضحاً في مردود أسلوب Bagging عند تطبيقه على ما يُعرف بـ النماذج المستقرة (Stable Learners)، مثل نماذج الانحدار الخطي العادي (OLS)، والانحدار اللوجستي، والتحليل التمييزي الخطي (LDA)، وخوارزمية أقرب الجيران ($k$-Nearest Neighbors) مع قيم $k$ الكبيرة.

تتميز النماذج المستقرة بكونها ذات تباين منخفض وانحياز هيكلي ثابت؛ حيث إن إدخال تعديلات طفيفة أو سحب عينات بوتستراب مختلفة من البيانات لا يُحدث تغييراً ملموساً في معاملات الانحدار أو حدود القرار التنبؤية للنموذج. فإذا كان تنبؤ النموذج الفردي مستقراً وثابتاً ($\hat{f}_1(x) \approx \hat{f}_2(x) \approx dots \approx \hat{f}_B(x)$)، فإن معامل الارتباط بين النماذج يقترب من الواحد الصحيح ($rho to 1$). وبتطبيق معادلة تباين التجميع المذكورة سابقاً:

$$\text{Var}\left[\hat{f}_{\text{bag}}(x)\right] \approx 1 \cdot \sigma_0^2 + 0 = \sigma_0^2$$

يتبين رياضياً أن تباين النموذج المجمع يظل مطابقاً تماماً لتباين النموذج الفردي دون أي تحسن، بل إن تطبيق Bagging على النماذج الخطية قد يؤدي في بعض الحالات الشاذة إلى تدهور طفيف في الأداء الإجمالي؛ نظراً لأن حجم العينات الفرعية الفعالة في البوتستراب يحتوي على حوالي 63.2% فقط من الملاحظات الفريدة، مما قد يزيد من انحياز النموذج قليلاً دون تحقيق أي مكسب ملموس في خفض التباين.

8. التحليل الرياضي والإحصائي لتقارب واستقرار خوارزمية Bagging

8.1 الصياغة الرياضية لتجميع التوقعات والتغاير (Covariance)

لإجراء تحليل إحصائي صارم لسلوك خوارزمية Bagging، نقوم بصياغة تباين المجموع الخطي للمقدرات التنبؤية المترابطة جزئياً بشكل منهجي. ليكن لدينا $B$ من المقدرات الأساسية المتطابقة التوزيع، حيث يمتلك كل مقدر تباين خطأ فردي $\text{Var}[\hat{f}_b(x)] = \sigma^2$، ومعدل تغاير ثنائي بين أي زوج من النماذج المنفصلة مقداره $\text{Cov}(\hat{f}_j(x), \hat{f}_k(x)) = \gamma = \rho \sigma^2$ لكل $j \neq k$.

يُشتق التباين التراكمي لنموذج Bagging المجمع $\hat{f}_{\text{bag}}(x) = \frac{1}{B}\sum_{b=1}^{B} \hat{f}_b(x)$ بتطبيق خصائص التباين للمجموع الخطي:

$$\text{Var}\left[\hat{f}_{\text{bag}}(x)\right] = \frac{1}{B^2} \sum_{j=1}^{B} \sum_{k=1}^{B} \text{Cov}\left(\hat{f}_j(x), \hat{f}_k(x)\right)$$

نقوم بتفكيك هذا المجموع المزدوج إلى جزأين: مجموع حدود التباين الفردية عندما $j = k$ (وعددها $B$)، ومجموع حدود التغاير المشتركة عندما $j \neq k$ (وعددها $B(B-1)$):

$$\text{Var}\left[\hat{f}_{\text{bag}}(x)\right] = \frac{1}{B^2} \left[ \sum_{b=1}^{B} \text{Var}\left(\hat{f}_b(x)\right) + \sum_{j \neq k} \text{Cov}\left(\hat{f}_j(x), \hat{f}_k(x)\right) \right]$$

$$\text{Var}\left[\hat{f}_{\text{bag}}(x)\right] = \frac{1}{B^2} \left[ B\sigma^2 + B(B – 1)\rho\sigma^2 \right]$$

$$\text{Var}\left[\hat{f}_{\text{bag}}(x)\right] = \frac{\sigma^2}{B} + \frac{B – 1}{B}\rho\sigma^2 = \rho\sigma^2 + \frac{1 – \rho}{B}\sigma^2$$

يُبرز هذا الاشتقاق الرياضي الأنيق الدور الحاسم لحد التغاير (Covariance Term) في تحديد الكفاءة النهائية للخوارزمية. فالتباين الإجمالي يتألف من حدين: حد يضمحل تدريجياً مع زيادة عدد النماذج $B$، وحد ثابت غير قابل للإزالة يعتمد حصرياً على درجة الارتباط البيني $rho$. وتؤكد هذه المعادلة أن الهدف الأساسي لتحسين خوارزميات التجميع يجب أن ينصب دائماً على تقليل معامل الارتباط $rho$ بين المقدرات الفردية دون الإضرار بتباينها المنفصل.

8.2 تأثير عدد المقدرات (B) على حدود التقارب الإحصائي

من المسائل التطبيقية والنظرية البارزة في أدبيات Bagging هي دراسة سلوك تقارب دالة الخطأ عند زيادة عدد المقدرات الأساسية $B$ نحو المالانهاية، والإجابة على التساؤل الشائع: هل يمكن أن يؤدي الإفراط في زيادة عدد الأشجار إلى حدوث Overfitting؟

تثبت نظرية الأعداد الكبيرة القوية (Strong Law of Large Numbers) في نظرية الاحتمالات إجابة قاطعة على هذا التساؤل؛ فعندما يقترب عدد المقدرات $B$ من اللانهاية، تتقارب دالة التنبؤ المجمعة شبه المؤكد (Almost Surely) نحو القيمة المتوقعة المشروطة لتوزيع النماذج:

$$\lim_{B to \infty} \frac{1}{B} \sum_{b=1}^{B} \hat{f}_b(x) x\rightarrow{\text{a.s.}} \mathbb{E}_{\mathcal{D}^*} \left[ \hat{f}(x; \mathcal{D}^*) \right]$$

يعني هذا التقارب الإحصائي أن خوارزمية Bagging محصنة تماماً بطبيعتها الرياضية ضد الإفراط في التخصيص الناتج عن زيادة عدد النماذج $B$. فزيادة عدد الأشجار لا تؤدي إلى تعقيد دالة القرار الفضائية، بل تقود ببساطة إلى استقرار التقدير الإحصائي للتكامل والوصول إلى خط تقارب ثابت ينعدم عنده التذبذب العددي.

ومع ذلك، يخضع العائد العملي لزيادة $B$ لقانون تناقص الغلات الإحصائية (Diminishing Returns)؛ حيث يُظهر منحنى خطأ التعميم انخفاضاً حاداً وسريعاً خلال إضافة أول 50 إلى 200 شجرة، ثم يستقر المنحنى في مسار أفقي مستوٍ تماماً، بحيث تصبح الفروق التنبؤية الناتجة عن إضافة مئات الأشجار الإضافية شبه منعدمة إحصائياً، مما يجعل اختيار القيمة المثلى لـ $B$ مسألة موازنة بين الكفاءة الحسابية وتكلفة الذاكرة دون خوف من تراجع دقة التعميم.

8.3 الاستقرار التنبؤي ومقاومة الضجيج في البيانات

تتمتع خوارزمية Bagging بخصائص متانة استثنائية (Statistical Robustness) تجعلها تتفوق بوضوح على المقدرات الفردية عند معالجة مجموعات البيانات الملوثة بالقيم الشاذة (Outliers) أو الضوضاء العشوائية في التسميات الفئوية (Label Noise).

ينبع هذا الاستقرار التنبؤي من آليتين إحصائيتين مترابطتين:

• العزل الاحتمالي للعينات الشاذة: نظراً لأن احتمالية ظهور أي عينة محددة في عينة بوتستراب تبلغ حوالي 63.2%، فإن العينات الشاذة والملوثة تُستبعد تلقائياً بنسبة تقارب 36.8% من نماذج المجموعة، مما يضمن تدريب نسبة كبيرة من النماذج في بيئة بيانات نقية وخالية من تلك التشوهات.
• الكبح التراكمي للقرارات المنحرفة: إذا تأثرت شجرة معينة بوجود قيمة شاذة وقامت بإنشاء قاعدة تقسيم منحرفة في فضاء البيانات، فإن التأثير السلبي لهذا القرار المنحرف يتم كبحه وامتصاصه بالكامل عند تطبيق التصويت الأغلبي أو المتوسط الحسابي عبر مئات النماذج الأخرى التي لم تتأثر بتلك القيمة الشاذة، مما يُنتج في النهاية أسطح قرار ناعمة ومستقرة تُعبر عن النمط الحقيقي للمجتمع وتتجاهل الضوضاء الموضعية.

9. التطبيقات العملية لتقنية Bagging في مجالات الذكاء الاصطناعي

9.1 النمذجة التنبؤية الطبية وتشخيص الأمراض

تُمثل الرعاية الصحية والمعلوماتية الطبية الحيوية أحد أكثر الميادين استفادة من دقة واستقرار خوارزميات Bagging. في البيئات السريرية، تتسم السجلات الصحية الإلكترونية (EHR) والصور الطبية الحيوية والبيانات الجينومية بارتفاع أبعادها وتداخل ميزاتها، مقترنة بحاجة ماسة لتقليل أخطاء التنبؤ إلى أدنى مستوياتها الممكنة؛ نظراً للتكلفة الباهظة للتشخيصات الخاطئة على حياة المرضى.

تُطبق تقنيات Bagging بنجاح باهر في بناء نماذج التنبؤ بمخاطر الإصابة بالأمراض المزمنة، مثل السكري وأمراض الشرايين التاجية، والتنبؤ ببقاء مرضى الأورام السرطانية على قيد الحياة استناداً إلى الواسمات الجينية الدقيقة. كما تلعب الخوارزمية دوراً محورياً في معالجة إشكالية عدم اتزان البيانات السريرية (Imbalanced Clinical Data) عبر تقنية متقدمة تُعرف بـ Balanced Bagging؛ حيث يتم دمج المعاينة بالاستبدال مع تقنيات المعاينة الفرعية للتحكم في نسب الحالات المصابة مقارنة بالسليمة داخل كل حقيبة بوتستراب، مما يرفع من حساسية النموذج (Sensitivity/Recall) في اكتشاف الحالات المرضية النادرة دون الإضرار بنوعيته التشخيصية الإجمالية.

9.2 التحليل المالي وإدارة المخاطر الائتمانية

في القطاع المصرفي وصناعة التكنولوجيا المالية (FinTech)، يُعد الاستقرار الإحصائي ومقاومة التذبذب متطلباً تنظيمياً واقتصادياً بالغ الأهمية. توظف المؤسسات المالية الكبرى خوارزميات التجميع المجمّع لتطوير نماذج تقييم الجدارة الائتمانية (Credit Scoring) والتنبؤ باحتمالات تعثر المقترضين عن السداد (Default Probability).

كما يبرز دور Bagging كأداة حاسمة في أنظمة الكشف عن الاحتيال المالي في الوقت الحقيقي (Real-Time Fraud Detection) داخل المعاملات البنكية وبطاقات الائتمان. تتميز بيانات الاحتيال بتغيرها السريع ونسبتها الضئيلة جداً مقارنة بالمعاملات المشروعة، وتتيح متانة Bagging وقدرته على دمج مئات النماذج الفردية رصد الأنماط الاحتيالية المعقدة بدقة متناهية، مع تقليل معدلات الإيجابية الخاطئة (False Positives) التي تسبب إزعاجاً للعملاء وتكاليف تشغيلية إضافية للبنوك. بالإضافة إلى ذلك، تُستخدم الخوارزمية في التحوط وإدارة المحافظ الاستثمارية للتنبؤ بتقلبات الأسواق وحركات أسعار الأصول المالية في ظل بيئات التداول المليئة بالضجيج السعري.

9.3 معالجة اللغات الطبيعية والرؤية الحاسوبية

على الرغم من الهيمنة الواسعة لنماذج المحولات (Transformers) والشبكات الالتفافية (CNNs) في مهام الذكاء الاصطناعي الإدراكي، لا يزال أسلوب Bagging يلعب أدواراً تكاملية حاسمة في تعزيز أداء وموثوقية هذه الأنظمة المعقدة في معالجة اللغات الطبيعية والرؤية الحاسوبية.

في مجال معالجة اللغات الطبيعية (NLP)، يُستخدم التجميع لدمج مخرجات مصنفات لغوية متعددة مدربة على تضمينات نصية متباينة (Word Embeddings)، مما يُحسن دقة تصنيف النصوص، وتحليل المشاعر (Sentiment Analysis)، واكتشاف الأخبار المضللة في البيانات الضخمة لمنصات التواصل الاجتماعي. أما في الرؤية الحاسوبية (Computer Vision)، فيُطبق Bagging لتجميع مخرجات نماذج كشف الكائنات وتجزئة الصور الرقمية (Image Segmentation) العاملة في بيئات المراقبة الحية والقيادة الذاتية، حيث يؤدي دمج تنبؤات نماذج رؤية متعددة إلى تعزيز استقرار الصناديق المحيطة بالكائنات (Bounding Boxes) وتقليل الوميض التنبؤي والقرارات الخاطئة الناتجة عن التغيرات المفاجئة في ظروف الإضاءة والطقس.

10. المزايا الحسابية والقيود المنهجية لأسلوب Bagging

10.1 أبرز المزايا والفوائد الإحصائية والعملية

حازت خوارزمية Bagging على مكانة استثنائية في ترسانة أدوات تعلم الآلة بفضل حزمة فريدة من المزايا النظرية والتطبيقية التي تجعلها خياراً مفضلاً للممارسين:

• الكبح الفائق للتباين دون التأثير على الانحياز: توفر الخوارزمية حلاً رياضياً قاطعاً لمعضلة الإفراط في التخصيص المصاحبة للنماذج المعقدة، مما يمنحها قدرة تعميم متفوقة مقارنة بالنماذج الفردية.
• التوازي الحسابي السهل والكامل (Embarrassingly Parallel): نظراً لعدم وجود أي اعتمادية أو تواصل بين النماذج أثناء التدريب، يمكن توزيع عمليات المعالجة بسلاسة تامة على آلاف المعالجات أو الخوادم السحابية، مما يقلل الزمن الإجمالي للتدريب إلى الحد الأدنى الممكن.
• المرونة العالية والقدرة على التعامل مع البيانات المعقدة: تستطيع الخوارزمية استيعاب المتغيرات الرقمية والفئوية، والتعامل بكفاءة مع البيانات عالية الأبعاد، ومقاومة وجود القيم المفقودة والضوضاء دون الحاجة إلى إجراءات تنظيف ومعالجة مسبقة معقدة ومجهدة.
• التحقق الداخلي التلقائي عبر OOB: التخلص التام من تكاليف التحقق المتقاطع وتوفير كامل البيانات لعملية التدريب مع الحصول على تقييم دقيق وغير منحاز لخطأ التعميم.

10.2 تحديات قابلية التفسير وفقدان الشفافية (Interpretability)

في مقابل المكاسب الهائلة في الدقة التنبؤية، يفرض أسلوب Bagging ضريبة باهظة تتمثل في التضحية الكاملة بميزة قابلية التفسير البشري والشفافية الهيكلية (Interpretability & Explainability). كانت شجرة القرار الفردية تمثل نموذج “الصندوق الأبيض” (White-box Model) المثالي؛ حيث يمكن لأي خبير مراجعة مسارات الشجرة وفهم كل قرار بدقة عبر تتبع سلسلة واضحة من القواعد المنطقية المباشرة.

عند دمج مئات الأشجار معاً في نموذج Bagging، تتبخر هذه البساطة التفسيرية تماماً، ويتحول النموذج إلى ما يُعرف بـ “الصندوق الأسود” (Black-box Model). يُصبح من المستحيل عملياً على الإنسان تتبع مئات الآلاف من القواعد المتناثرة والمتضاربة عبر مئات الأشجار لفهم سبب توليد تنبؤ معين لحالة محددة. يُمثل هذا القصور عائقاً قانونياً وتنظيمياً حرجاً في المجالات الحساسة مثل القرارات القضائية، والموافقات على القروض المالية، والتشخيصات الطبية، حيث تتطلب التشريعات الحديثة مثل اللائحة العامة لحماية البيانات (GDPR) توفير “حق التفسير” (Right to Explanation) للمستخدمين.

ولمعالجة هذه المعضلة وتخفيف حدة غموض الصندوق الأسود، يلجأ مهندسو تعلم الآلة إلى استخدام أدوات التفسير الإحصائي اللاحقة (Post-hoc Explainability) ونظم الذكاء الاصطناعي القابل للتفسير (XAI). تتضمن هذه التقنيات حساب مقاييس أهمية الميزات التراكمية (Aggregated Feature Importance) عبر قياس معدل الانخفاض في نقاء جيني الذي يُحدثه كل متغير عبر كافة الأشجار، أو توظيف أطر متقدمة قائمة على نظرية الألعاب مثل قيم شابلي التفسيرية (SHAP – SHapley Additive exPlanations) ومخططات التراكم المحلي (LIME) لاستخراج تفسيرات موضعية موثوقة للقرارات الفردية.

10.3 استهلاك الموارد ومتطلبات الذاكرة والحوسبة

يفرض الاعتماد على مجموعات النماذج الضخمة في Bagging تحديات تشغيلية ولوجستية ترتبط باستهلاك الموارد الحاسوبية والذاكرة التخزينية أثناء مرحلتي النشر والاستدلال (Inference):

• متطلبات الذاكرة العشوائية والتخزين (RAM & Disk Footprint): يتطلب نموذج Bagging المكون من 500 شجرة قرار عميقة مساحة تخزينية وذاكرة عشوائية تفوق بمئات المرات ما تحتاجه الشجرة الفردية؛ إذ يجب الاحتفاظ بتمثيل كامل لكافة العقد، ونقاط التقسيم، ومعاملات كل شجرة على حدة للوصول إليها أثناء التنبؤ.
• زمن الاستدلال البطيء (Inference Latency): لتوليد تنبؤ لنقطة بيانات واحدة في بيئة الإنتاج، يجب تمرير تلك النقطة بالتتابع أو التوازي عبر مئات النماذج وحساب المتوسط أو فرز الأصوات. يُمثل هذا العبء الزمني عائقاً كبيراً في التطبيقات المضمنة (Embedded Systems)، وأنظمة إنترنت الأشياء (IoT)، وتطبيقات التداول عالي التردد (High-Frequency Trading) التي تتطلب استجابة فورية بأجزاء من الميلي ثانية.
• تكلفة التحديث وإعادة التدريب المستمر: في البيئات الديناميكية التي تتدفق فيها البيانات باستمرار، تتطلب إعادة معايرة نموذج Bagging إعادة تدريب المجموعة الكاملة من النماذج من البداية، مما يستهلك موارد حوسبية وطاقة كهربائية هائلة مقارنة بالنماذج التزايدية البسيطة.

11. التنفيذ البرمجي لأسلوب Bagging وأفضل الممارسات العملية

11.1 بناء النموذج عملياً باستخدام مكتبة Scikit-Learn في بايثون

تُعد مكتبة Scikit-Learn في لغة بايثون المعيار الذهبي المعتمد لتطبيق أسلوب Bagging في الأوساط الأكاديمية والصناعية. توفر المكتبة كلاسين رئيسيين يتميزان بمرونة معمارية فائقة: BaggingClassifier لمسائل التصنيف، وBaggingRegressor لمسائل الانحدار، مع إمكانية تمرير أي نوع من المقدرات الأساسية وتخصيص كافة معلمات المعاينة الإحصائية.

تتضمن البنية البرمجية الأساسية لتنفيذ المصنف وضبط أهم معلماته الخطوات التالية:

عند بناء النموذج، يحدد الممارس المعلمات التشغيلية الأساسية وفق الكود المفاهيمي المنهجي:

• estimator: يحدد خوارزمية المتعلم الأساسي المراد تجميعها (ويكون افتراضياً شجرة قرار غير مقيدة DecisionTreeClassifier()).
• n_estimators: يحدد عدد عينات البوتستراب والمقدرات الإجمالية المراد تدريبها (مثلاً 100 أو 500 شجرة).
• max_samples: النسبة المئوية أو العدد المطلق للملاحظات المسحوبة من بيانات التدريب الأصلية لتكوين كل حقيبة بوتستراب (افتراضياً 1.0 لتمثيل السحب الكامل بحجم $N$).
• max_features: نسبة السمات المستخدمة لتدريب كل نموذج فردي (افتراضياً 1.0 لاستخدام كافة المتغيرات كما في Bagging القياسي).
• bootstrap: قيمة منطقية تحدد تفعيل السحب مع الاستبدال (True) لتطبيق Bagging، أو السحب بدون استبدال (False) لتطبيق ما يُعرف بـ Pasting.
• oob_score: قيمة منطقية لتفعيل التقييم الداخلي التلقائي عبر عينات خارج الحقيبة وحساب مقياس الأداء بدقة عبر الخاصية oob_score_.

يتيح استخراج model.oob_score_ بعد استدعاء دالة التدريب fit() الحصول الفوري على تقدير خطأ التعميم ومقارنته المباشرة بدقة بيانات الاختبار المستقلة للتحقق من سلامة النموذج وعدم وقوعه في فخ الإفراط في التخصيص.

11.2 هندسة وضبط المعلمات الفائقة (Hyperparameter Tuning)

لتحقيق أقصى استفادة تنبؤية من أسلوب Bagging، يجب إجراء عملية هندسة وضبط منهجي للمعلمات الفائقة باستخدام تقنيات البحث الشبكي المنظم (GridSearchCV) أو البحث العشوائي المتكيف (RandomizedSearchCV).

تتمحور استراتيجيات الضبط المتقدمة حول الموازنة بين المعلمات التالية:

• تحديد عمق الأشجار الأساسية (max_depth): في حين أن الفلسفة النظرية لـ Bagging تفترض استخدام أشجار ذات عمق كامل، إلا أن تحديد عمق أقصى مناسب (مثل 15 إلى 30 طبقة) في مجموعات البيانات الملوثة بالضوضاء الشديدة يساعد في كبح الانحياز المتبقي ويقلل بشكل دراماتيكي من استهلاك الذاكرة وتسريع زمن التنبؤ.
• التحكم في حجم العينة (max_samples): يُسهم تخفيض نسبة العينات المسحوبة إلى مستويات تتراوح بين 0.7 و0.85 في زيادة التنوع الإحصائي بين النماذج وخفض معامل الارتباط $rho$، مما يحقق في كثير من الأحيان انخفاضاً إضافياً في التباين التراكمي.
• تفعيل المعاينة العشوائية للميزات (max_features): يُتيح ضبط هذه المعلمة لقيم أقل من 1.0 محاكاة آلية الغابات العشوائية وتقليل الارتباط بين الأشجار عند وجود سمات مهيمنة إحصائياً، وهو ما يُعرف في الأدبيات بأسلوب Random Subspaces.

11.3 استراتيجيات تحسين كفاءة الحوسبة المتوازية وتوزيع الأحمال

لتحقيق أقصى استفادة من البنية التحتية للأجهزة المتاحة عند تدريب نماذج Bagging على مجموعات بيانات عملاقة، يجب توظيف أفضل الممارسات البرمجية للحوسبة عالية الأداء:

• استغلال تعدد الأنوية عبر n_jobs: تتيح مكتبة Scikit-Learn توظيف كافة أنوية المعالجة المركزية المتاحة عبر ضبط المعلمة n_jobs=-1، حيث تُدار العمليات المتوازية عبر مكتبة joblib لتحقيق تسريع خطي شبه مثالي في زمن التدريب وحساب مصفوفات OOB.
• الحوسبة الموزعة عبر Dask وRay: عند تجاوز حجم البيانات للذاكرة العشوائية لجهاز واحد، يُنصح بالانتقال إلى أطر الحوسبة السحابية الموزعة مثل Dask-ML أو Ray، والتي تُمكّن من توزيع مئات عينات البوتستراب وتدريب النماذج عبر مجموعات خوادم عنقودية (Clusters) ضخمة بسلاسة فائقة.
• تقنيات تقليص وضغط النماذج (Model Pruning & Compression): لتقليل زمن الاستدلال وحجم التخزين عند النشر في بيئات الإنتاج، تُطبق تقنيات متقدمة لتقليم المجموعة (Ensemble Pruning)؛ حيث يتم فرز الأشجار واختيار مجموعة فرعية أصغر حجماً (مثلاً أفضل 20% من الأشجار الأكثر تنوعاً ودقة) والتي تُحقق نفس الأداء التنبؤي للمجموعة الكاملة تقريباً ولكن بخُمس زمن الاستجابة.

12. الاتجاهات الحديثة والآفاق المستقبلية لتقنيات Bagging

12.1 دمج Bagging مع خوارزميات التعلم العميق (Deep Bagging)

مع تصاعد الاهتمام بموثوقية وأمان أنظمة التعلم العميق (Deep Learning)، يشهد المجتمع البحثي عودة قوية لدمج مبادئ Bagging الإحصائية داخل المعماريات العصبية العميقة تحت مظلة ما يُعرف بـ Deep Bagging. يهدف هذا التوجه إلى معالجة واحدة من أخطر إشكاليات النماذج التوليدية ونماذج الرؤية الحديثة، والمتمثلة في الثقة المفرطة الخاطئة (Overconfidence) وعجزها عن تقدير عدم اليقين المعرفي (Epistemic Uncertainty) الكامن في نقص البيانات.

يتم تدريب نماذج Deep Bagging عبر بناء مجموعات تجميعية من الشبكات العصبية العميقة المتباينة في تهيئتها المعمارية وعينات تدريبها، مما يتيح استخراج مقاييس إحصائية دقيقة لعدم اليقين عبر حساب تباين التنبؤات بين الشبكات المختلفة. وتلعب هذه الخاصية دوراً مصيرياً في تطبيقات الذكاء الاصطناعي الحيوية، مثل أنظمة تشخيص الأورام الخبيثة والسيارات ذاتية القيادة، حيث يُحجم النظام التجميعي عن اتخاذ قرارات آلية حاسمة ويقوم بتمرير الحالة إلى الخبراء البشريين عندما يُظهر تباين التنبؤات بين النماذج ارتفاعاً ملحوظاً في مستويات عدم اليقين المعرفي.

12.2 تكييف Bagging مع تدفقات البيانات الضخمة في الوقت الحقيقي (Online Bagging)

في عصر إنترنت الأشياء والتدفق اللحظي للبيانات المالية والتفاعلية، تعجز خوارزمية Bagging الكلاسيكية عن العمل بكفاءة نظراً لافتراضها توفر كامل مجموعة البيانات مسبقاً وسحب العينات بشكل دفعي ثابت (Batch Learning). ولمواجهة هذا التحدي، ابتكر الباحثان نيكولاس أوزا وستيوارت راسل الخوارزمية الرائدة المعروفة باسم OzaBagging (Online Bagging).

تستند خوارزمية Online Bagging إلى برهان رياضي رائع يحاكي عملية السحب بالاستبدال اللحظية؛ فعندما يتدفق عنصر بيانات جديد $x_t$ واحداً تلو الآخر، تُحاكي الخوارزمية احتمالية تكرار هذا العنصر داخل عينة البوتستراب عبر تمريره إلى كل مقدر أساسي $k$ من المرات، حيث يتم توليد القيمة $k$ عشوائياً وفق توزيع بواسون الإحصائي (Poisson Distribution) بمعيار $lambda = 1$:

$$P(K = k) = \frac{e^{-1} 1^k}{k!} = \frac{1}{e \cdot k!}$$

يُتيح هذا الابتكار الرياضي تحديث أشجار القرار ونماذج التجميع لحظياً وبشكل مستمر مع تدفق كل نقطة بيانات جديدة دون الحاجة لتخزين البيانات السابقة أو إعادة تدريب النماذج من البداية. كما تدمج الخوارزميات الحديثة آليات استشعار لتغير المفاهيم (Concept Drift Detection)، حيث تقوم تلقائياً بالتخلص من النماذج القديمة واستبدالها بنماذج جديدة فور استشعار تحول بنيوي في التوزيع الإحصائي للبيانات المتدفقة.

12.3 تطوير أدوات الشرح والتفسير الإحصائي لنماذج التجميع

يشهد ميدان الذكاء الاصطناعي القابل للتفسير (XAI) ثورة بحثية تستهدف كسر حاجز الصندوق الأسود المحيط بنماذج Bagging ونقلها إلى مستويات غير مسبوقة من الشفافية العلمية والتنظيمية. تتركز الجهود الحالية على دمج الخوارزميات التفسيرية مباشرة داخل البنية الهيكلية لعملية التجميع بدلاً من الاعتماد الحصري على النماذج التفسيرية التقريبية اللاحقة.

من أبرز هذه التطورات ابتكار خوارزميات استخلاص القواعد التجميعية المدمجة (Rule Extraction & Distillation)؛ حيث تُستخدم تقنيات الاستقطار المعرفي (Knowledge Distillation) لتدريب شجرة قرار مفردة جديدة ذات بنية شفافة ومحسنة هندسياً لمحاكاة سطح القرار المعقد الذي أنتجه نموذج Bagging بالكامل وبأقل قدر من التراجع في الدقة. تفتح هذه المسارات البحثية آفاقاً واعدة تُمكّن المؤسسات والهيئات التنظيمية من الاستمتاع بالدقة التنبؤية الفائقة والمتانة الإحصائية لأسلوب Bagging دون التنازل عن معايير الشفافية والمساءلة الأخلاقية والقانونية للخوارزميات الذكية.

خاتمة: استشراف مستقبل أساليب التجميع في عصر البيانات الضخمة

يُمثل أسلوب التجميع المجمّع (Bootstrap Aggregating – Bagging) علامة فارقة ونقطة تحول جوهرية في مسيرة تطور تعلم الآلة والإحصاء الحاسوبي الحديث. فمن خلال فكرته العبقرية القائمة على دمج المعاينة الإحصائية بالاستبدال مع حكمة التجميع التنبؤي، قدم ليو بريمان حلاً رياضياً متيناً لأعتى مشاكل النماذج غير الخطية، متمثلة في ترويض التباين العالي وتحقيق أقصى درجات الاستقرار التنبؤي دون المساس بالقدرة التعبيرية والانحياز المنخفض لتلك الخوارزميات.

وكما أثبتنا عبر التحليلات الرياضية والتطبيقية في هذا المقال، فإن القوة الحقيقية لـ Bagging لا تكمن فقط في بساطته المفاهيمية وأدائه التنبؤي المتفوق، بل أيضاً في مرونته الاستثنائية التي جعلته حجر الزاوية لتطوير خوارزميات أكثر تقدماً مثل الغابات العشوائية، وفتح آفاقاً جديدة لتطبيقات الحوسبة المتوازية وتقييم النماذج التلقائي عبر عينات خارج الحقيبة (OOB). ومع استمرار تدفق البيانات الضخمة وتعقد التحديات في مجالات الرعاية الصحية، والتمويل، والأنظمة المستقلة، يظل Bagging نموذجاً إحصائياً ملهماً ودليلاً ساطعاً على أن التعاون التوافقي بين نماذج بسيطة ومتباينة يمكن أن يُنتج ذكاءً اصطناعياً فائق الدقة، ومتيناً، وقادراً على مواجهة تحديات المستقبل بثبات واستقرار.

References

• Breiman, L. (1996). Bagging predictors. Machine Learning, 24(2), 123–140. https://doi.org/10.1007/BF00058655
• Breiman, L. (2001). Random forests. Machine Learning, 45(1), 5–32. https://doi.org/10.1023/A:1010933404324
• Breiman, L., Friedman, J., Stone, C. J., & Olshen, R. A. (1984). Classification and Regression Trees. Chapman and Hall/CRC. https://doi.org/10.1201/9781315139470
• Efron, B. (1979). Bootstrap methods: Another look at the jackknife. The Annals of Statistics, 7(1), 1–26. https://doi.org/10.1214/aos/1176344552
• Hastie, T., Tibshirani, R., & Friedman, J. (2009). The Elements of Statistical Learning: Data Mining, Inference, and Prediction (2nd ed.). Springer. https://doi.org/10.1007/978-0-387-84858-7
• James, G., Witten, D., Hastie, T., & Tibshirani, R. (2021). An Introduction to Statistical Learning: with Applications in R (2nd ed.). Springer. https://doi.org/10.1007/978-1-0716-1418-1
• Lundberg, S. M., & Lee, S. I. (2017). A unified approach to interpreting model predictions. In Advances in Neural Information Processing Systems (NeurIPS 2017) (Vol. 30, pp. 4765–4774). NeurIPS Proceedings
• Oza, N. C., & Russell, S. (2001). Online bagging and boosting. In Proceedings of the Eighth International Workshop on Artificial Intelligence and Statistics (pp. 105–112). Morgan Kaufmann.
• Pedregosa, F., Varoquaux, G., Gramfort, A., Michel, V., Thirion, B., Grisel, O., Blondel, M., Prettenhofer, P., Weiss, R., Dubourg, V., Vanderplas, J., Passos, A., Cournapeau, D., Brucher, M., Perrot, M., & Duchesnay, E. (2011). Scikit-learn: Machine learning in Python. Journal of Machine Learning Research, 12, 2825–2830. https://jmlr.org/papers/v12/pedregosa11a.html
• Wolpert, D. H. (1992). Stacked generalization. Neural Networks, 5(2), 241–259. https://doi.org/10.1016/S0893-6080(05)80023-1