Studying the performance of robust estimators for partially linear regression model /
Haidy Hanafy Mahmoud,
Studying the performance of robust estimators for partially linear regression model / دراسة أداء المقدرات الحصينة لنموذج الانحدار الخطي جزئيًا by Haidy Hanafy Mahmoud ; Supervision Dr. Mohamed Reda Abonazel. - 101 Leaves : illustrations ; 30 cm. + CD.
Thesis (M.Sc)-Cairo University, 2025.
Bibliography: pages 87-101.
A semi parametric model having one nonparametric (smooth) component is known as a partially linear model. Partially linear regression models PLM are commonly used in statistical modelling as a compromise between parametric and nonparametric regression models. The covariates in these models are divided into parametric and nonparametric components. The parametric part of the model can be viewed as a linear model, whereas the nonparametric part removes the model's structural constraints. When it is assumed that the response is dependent on some variables in a linear relationship but is nonlinearly related to other explanatory variables, they are more flexible than traditional linear models. These models have been widely used in economics, social science, and biology.
There are various approaches for estimating nonparametric components in partially linear models, as well as Robinson's estimator, Speckman estimator, and Back-fitting estimator (also known as partial residuals technique), penalized spline estimator, and difference-based estimator, among others, but the most popular approaches are the spline smoothing approach and the kernel smoothing approach.
In 1988, Speckman presented the kernel approach method for PLM nonparametric component estimation based on the partial residuals technique (PRT).
In this study, introduce (PLRR) a new Partial Residuals – Robust - Ridge regression estimator for partial linear models, β ̂_PLRRof the regression parameters β in the partial linear model.
Partial residuals technique, robust regression and ridge regression estimators have attracted increasing attention for analyzing PLM in the recent literature.
It is proposed to deal with the problems of the nonparametric component when the explanatory variables are highly correlated it is called multicollinearity as well as the data contains outliers in a partially linear model respectively.
This (PLRR) is for solving these problems. The technique of the estimator requires using the robust estimators to estimate the ridge parameter based on the spline partial residuals technique (SPR).
The performance of the proposed estimator was examined by a Monte Carlo simulation study. The results indicated that the proposed estimators are more efficient and reliable than the other estimator. تعد نماذج الانحدار شبه المعلمية هي نماذج جمعت بين المزايا في كلٍ من نماذج الانحدار المعلمي والانحدار اللامعلمي وقد اقترحت هذه الفكرة من منطلق النماذج التجميعية التي دمجت بين النماذج المعلمية والنماذج اللامعلمية بنموذج شبه معلمي يحتوي على القيود الصارمة في الجزء المعلمي ومرونته العالية في الجزء اللامعلمي، كما يتميز بمرونته العالية في التطبيق؛ ولهذا فهو أفضل من النماذج اللامعلمية لتجنبه مشكلة تزايد الأبعاد التي تحدث في النماذج اللامعلمية عند زيادة عدد المتغيرات، ومن جهة أخرى يعد أيضًا أكثر مرونة من النماذج المعلمية؛ وذلك بسب التقليل من الإفترضات الخطية المفروضة على هذا النموذج.
يتلقى موضوع نماذج الانحدار شبه المعلمية اهتمامًا واضحًا في معظم الدراسات التي تأخذ طابعًا أكثر تقدمًا في عملية التحليل الإحصائي الدقيق الهادف للحصول على مقدرات ذات مستوى عالي من الكفاءة. فحديثًا تطورت تلك النماذج تطورًا كبيرًا، وتستخدم نماذج الانحدار شبه المعلمية لدراسة العلاقة بين المتغير التابع وواحد أو أكثر من المتغيرات المفسرة عندما تكون الصيغة الرياضية للعلاقة بين المتغير التابع والمتغيرات المفسرة معلومة مع وجود متغير مفسر على الأقل الشكل الرياضي للعلاقة بينه وبين المتغير التابع غير معلومة.
تعد نماذج الانحدار شبه المعلمي كثيرة. وتهتم هذه الرسالة بدراسة نموذج منها وهو نموذج الانحدار الخطي
الجزئي، إذ يعد نموذج الانحدار الخطي الجزئي من أشهر أنواع النماذج شبه المعلمية حيث يتكون من جزئي معلمي وآخر لا معلمي. ولتقدير هذا النموذج لابد من تقدير شقيه المعلمي واللا معلمي.
هناك بعض طرق التقدير التي تعمل على تقدير هذا النموذج حيث بعض هذه الطرق تقدر الجزء المعلمي أولًا ثم تقدر الجزء اللا معلمي ثانيًا وبعض الطرق الأخرى تعمل على تقدير الجزء المعلمي والجزء اللامعلمي معًا. ومن أشهر هذه المقدرات ما يلي: مقدر سبيکمان Speckman Estimator - مقدر روبنسون Robinson's Estimator - ومقدر سبيلاين Spline Estimator - ومقدر التوفيق الخلفي Back-fitting Estimator – ومقدر الفروق Difference Based Estimator .
تم اقتراح مقدرًا جديدًا يعمل على تقدير نموذج الانحدار الخطي الجزئي في حالة وجود مشكلتين مهمتين وهما القيم المتطرفة والارتباط الخطي. كما أثبت هذا المقدر كفائته في تقدير نموذج الانحدار الخطي الجزئي وقد تم توثيق هذا المقدر المقترح وتأكيد نتائجه باستخدام محاكاة مونت كارلو Monto Carlo Simulation باستخدام أحجام عينات مختلفة.
Text in English and abstract in Arabic & English.
Ridge regression (Statistics)
الانحدار التلالي (الإحصاء)
Nonparametric regression models semi parametric regression models partially linear model B-Splines partial residuals technique kernel regression Nadaraya–Watson estimator spline regression, least trimmed squares (LTS)
519.536
Studying the performance of robust estimators for partially linear regression model / دراسة أداء المقدرات الحصينة لنموذج الانحدار الخطي جزئيًا by Haidy Hanafy Mahmoud ; Supervision Dr. Mohamed Reda Abonazel. - 101 Leaves : illustrations ; 30 cm. + CD.
Thesis (M.Sc)-Cairo University, 2025.
Bibliography: pages 87-101.
A semi parametric model having one nonparametric (smooth) component is known as a partially linear model. Partially linear regression models PLM are commonly used in statistical modelling as a compromise between parametric and nonparametric regression models. The covariates in these models are divided into parametric and nonparametric components. The parametric part of the model can be viewed as a linear model, whereas the nonparametric part removes the model's structural constraints. When it is assumed that the response is dependent on some variables in a linear relationship but is nonlinearly related to other explanatory variables, they are more flexible than traditional linear models. These models have been widely used in economics, social science, and biology.
There are various approaches for estimating nonparametric components in partially linear models, as well as Robinson's estimator, Speckman estimator, and Back-fitting estimator (also known as partial residuals technique), penalized spline estimator, and difference-based estimator, among others, but the most popular approaches are the spline smoothing approach and the kernel smoothing approach.
In 1988, Speckman presented the kernel approach method for PLM nonparametric component estimation based on the partial residuals technique (PRT).
In this study, introduce (PLRR) a new Partial Residuals – Robust - Ridge regression estimator for partial linear models, β ̂_PLRRof the regression parameters β in the partial linear model.
Partial residuals technique, robust regression and ridge regression estimators have attracted increasing attention for analyzing PLM in the recent literature.
It is proposed to deal with the problems of the nonparametric component when the explanatory variables are highly correlated it is called multicollinearity as well as the data contains outliers in a partially linear model respectively.
This (PLRR) is for solving these problems. The technique of the estimator requires using the robust estimators to estimate the ridge parameter based on the spline partial residuals technique (SPR).
The performance of the proposed estimator was examined by a Monte Carlo simulation study. The results indicated that the proposed estimators are more efficient and reliable than the other estimator. تعد نماذج الانحدار شبه المعلمية هي نماذج جمعت بين المزايا في كلٍ من نماذج الانحدار المعلمي والانحدار اللامعلمي وقد اقترحت هذه الفكرة من منطلق النماذج التجميعية التي دمجت بين النماذج المعلمية والنماذج اللامعلمية بنموذج شبه معلمي يحتوي على القيود الصارمة في الجزء المعلمي ومرونته العالية في الجزء اللامعلمي، كما يتميز بمرونته العالية في التطبيق؛ ولهذا فهو أفضل من النماذج اللامعلمية لتجنبه مشكلة تزايد الأبعاد التي تحدث في النماذج اللامعلمية عند زيادة عدد المتغيرات، ومن جهة أخرى يعد أيضًا أكثر مرونة من النماذج المعلمية؛ وذلك بسب التقليل من الإفترضات الخطية المفروضة على هذا النموذج.
يتلقى موضوع نماذج الانحدار شبه المعلمية اهتمامًا واضحًا في معظم الدراسات التي تأخذ طابعًا أكثر تقدمًا في عملية التحليل الإحصائي الدقيق الهادف للحصول على مقدرات ذات مستوى عالي من الكفاءة. فحديثًا تطورت تلك النماذج تطورًا كبيرًا، وتستخدم نماذج الانحدار شبه المعلمية لدراسة العلاقة بين المتغير التابع وواحد أو أكثر من المتغيرات المفسرة عندما تكون الصيغة الرياضية للعلاقة بين المتغير التابع والمتغيرات المفسرة معلومة مع وجود متغير مفسر على الأقل الشكل الرياضي للعلاقة بينه وبين المتغير التابع غير معلومة.
تعد نماذج الانحدار شبه المعلمي كثيرة. وتهتم هذه الرسالة بدراسة نموذج منها وهو نموذج الانحدار الخطي
الجزئي، إذ يعد نموذج الانحدار الخطي الجزئي من أشهر أنواع النماذج شبه المعلمية حيث يتكون من جزئي معلمي وآخر لا معلمي. ولتقدير هذا النموذج لابد من تقدير شقيه المعلمي واللا معلمي.
هناك بعض طرق التقدير التي تعمل على تقدير هذا النموذج حيث بعض هذه الطرق تقدر الجزء المعلمي أولًا ثم تقدر الجزء اللا معلمي ثانيًا وبعض الطرق الأخرى تعمل على تقدير الجزء المعلمي والجزء اللامعلمي معًا. ومن أشهر هذه المقدرات ما يلي: مقدر سبيکمان Speckman Estimator - مقدر روبنسون Robinson's Estimator - ومقدر سبيلاين Spline Estimator - ومقدر التوفيق الخلفي Back-fitting Estimator – ومقدر الفروق Difference Based Estimator .
تم اقتراح مقدرًا جديدًا يعمل على تقدير نموذج الانحدار الخطي الجزئي في حالة وجود مشكلتين مهمتين وهما القيم المتطرفة والارتباط الخطي. كما أثبت هذا المقدر كفائته في تقدير نموذج الانحدار الخطي الجزئي وقد تم توثيق هذا المقدر المقترح وتأكيد نتائجه باستخدام محاكاة مونت كارلو Monto Carlo Simulation باستخدام أحجام عينات مختلفة.
Text in English and abstract in Arabic & English.
Ridge regression (Statistics)
الانحدار التلالي (الإحصاء)
Nonparametric regression models semi parametric regression models partially linear model B-Splines partial residuals technique kernel regression Nadaraya–Watson estimator spline regression, least trimmed squares (LTS)
519.536