Omar Ahmed Mohamed Ahmed Afifi,  <br/><br/>
Panel data analysis using supervised  machine learning techniques / 
 تحليل بيانات القطاع باستخدام تقنيات التعلم الآلي الخاضعة للإشراف 
by Omar Ahmed Mohamed Ahmed Afifi ; Supervised Prof. Salah Mahdy Ramadan, Dr. Amal Mohamed Abdel Fatah.  
 - 72 Leaves :   illustrations ;  30 cm. +   CD. 
<br/><br/>Thesis (M.Sc)-Cairo University, 2025. 
<br/><br/>Bibliography: pages 64 -69.  
<br/><br/> Panel data analysis allows researchers to achieve greater statistical validity in policy <br/>analysis and program evaluation through more advanced research designs than cross-sectional data <br/>models. Panel (or longitudinal) data refers to data collected from the same individuals across <br/>multiple time periods. This data type consists of repeated time-series observations (𝑇) for a <br/>significant number of cross-sectional units (𝑁), such as countries, companies, randomly chosen <br/>individuals, etc. <br/><br/>This thesis discusses a comparison between the three conventional models of panel data, <br/>referred to as statistical panel models (Pooled OLS, Fixed Effects, and Random Effects), and three <br/>of the supervised machine learning techniques (Support Vector Regression, Random Forest <br/>Regressor, and Gradient Boosting Regressor) that have been used in literature to model panel data. <br/>The comparison is done in terms of prediction performance by fitting each of the six models and <br/>calculating diagnostic metrics (MSE, Bias, AIC, and BIC), then comparing the different values of <br/>the models. <br/><br/>The first comparison is an empirical study that investigates the impact of education and <br/>experience on individual wages using panel data from Greene (2008). This dataset was analyzed <br/>using the six models: three classical statistical panel data models (POLS, FE, RE) and three <br/>supervised machine learning techniques (SVR, RFR, GBR). The empirical results show that the <br/>machine learning techniques outperform the statistical models across all evaluation metrics, <br/>including Mean Squared Error (MSE), Bias, Akaike Information Criterion (AIC), and Bayesian <br/>Information Criterion (BIC). Among the machine learning techniques, Gradient Boosting and <br/>Support Vector Regression achieve the most accurate and efficient fits. The statistical models <br/>exhibit relatively higher error and complexity, with the Fixed Effects model performing the worst <br/>due to its exclusion of important time-invariant regressors. <br/>The second comparison is based on a controlled simulation study using an assumed true <br/>data-generating process (DGP), evaluated across 16 combinations of cross-sectional units (𝑁 =<br/>10,50,100,200) and time periods (𝑇 = 10,50,100,200). Each scenario was simulated over 1000 <br/>iterations to obtain stable average metrics. The findings reveal that statistical panel data models – particularly Pooled OLS and Random Effects – consistently achieve near-zero bias across all <br/>configurations, while Fixed Effects suffers from persistent bias due to model misspecification. <br/>Meanwhile, machine learning techniques demonstrate superior performance in terms of predictive <br/>performance, achieving substantially lower Mean Squared Error (MSE), AIC, and BIC values, <br/>especially as the panel size increases. Among the ML models, Gradient Boosting consistently <br/>provides the most accurate and well-balanced results, highlighting its strength in capturing <br/>complex relationships in data rich panel structures. <br/><br/>The final part of the thesis recommends, for future work, exploring machine learning <br/>techniques other than the three used, introducing more values of 𝑁 and 𝑇 for simulation, doing <br/>simulation on different panel data settings (Unbalanced, Dynamic, etc.), and doing the simulation <br/>using different DGPs to determine whether the comparison results will change.   في هذه الرسالة تمت المقارنة بين ثلاث طرق تقليدية لتقدير بيانات البانل، تُعرف باسم نماذج البانل الإحصائية (الانحدار الخطي المجمّع، نموذج التأثيرات الثابتة، ونموذج التأثيرات العشوائية)، وثلاثة من تقنيات التعلم الآلي الخاضع للإشراف (انحدار المتجهات الداعمة، انحدار الغابة العشوائية، وانحدار التعزيز الاشتقاقي) التي استُخدمت في الأدبيات لنمذجة بيانات البانل. أُجريت المقارنة من حيث دقة التقدير عن طريق تركيب كل نموذج من النماذج الستة وحساب بعض المقاييس التشخيصية (مثل متوسط الخطأ التربيعي، مقياس التحيز، معيار أكايكي، ومعيار بيز)، ثم مقارنة القيم المختلفة للنماذج. تم إجراء المقارنة الأولى باستخدام مثال من بيانات حقيقية حول تأثير سنوات الخبرة والتعليم على أجور الأفراد العاملين. أظهرت النتائج التطبيقية أن تقنيات التعلم الآلي الثلاثة تفوقت بوضوح على نماذج البانل الكلاسيكية في جميع المقاييس التشخيصية. تمت المقارنة الثانية باستخدام بيانات محاكاة في 16 تركيبة مختلفة تم تنفيذ كل تجربة محاكاة على 1000 تكرار لضمان الاستقرار في حساب المتوسطات الإحصائية للمقاييس التشخيصية. أظهرت تقنيات التعلم الآلي تحيزًا أعلى في العينات الصغيرة، لكنه ينخفض بشكل ملحوظ مع زيادة حجم البيانات، حيث حقق انحدار التعزيز الاشتقاقي أفضل أداء من حيث تقليل التحيز عند أكبر أحجام العينة. كما تفوقت تقنيات التعلم الآلي على النماذج الكلاسيكية في متوسط الخطأ التربيعي، ومعياري أكايكي وبيز، خاصة عند تكبير حجم البيانات. 
<br/><br/>
<br/><br/><br/>Text in English and abstract in Arabic & English. 
<br/><br/><label>Subjects--Topical Terms: </label><br/>Machine learning<br/>التعلم الآلي 
<br/><br/><label>Subjects--Index Terms: </label>Panel Data Analysis  Statistical Panel Models   Pooled OLS   Fixed Effects  Random Effects    Panel Data using Machine Learning   Support Vector Regression (SVR)   Random Forest  Regressor (RFR)  Gradient Boosting Regressor (GBR)   Panel Data Simulation   تحليل بيانات البانل   نماذج البانل الإحصائية 
<br/><br/><label>Dewey Class. No.: </label>006.31