Investigating the factors that affect the performance of multi-task learning /
By Manar Ahmed Abd El Azeem Safan،
Investigating the factors that affect the performance of multi-task learning / استكشاف العوامل التي تؤثر على أداء التعلم متعدد المهام Manar Ahmed Abd El Azeem Safan ؛Dr. Doaa Mohamed Shawky،Dr. Aya Moustafa Aboudina - 2022.
Thesis (M.Sc.)-Cairo University,2022.
Bibliography: p. 55-58.
يتم استخدام التعلم متعدد المهام (MTL) بشكل شائع في العديد من التطبيقات حيث يلزم بناء نموذج واحد يعمل على تحسين العديد من مهام التعلم المرتبطة في نفس الوقت. وبالتالي في مهمة النمذجة هذه، يتم استخدام نفس مجموعة السمات في بعض الأحيان بواسطة نموذج واحد يتم تدريبه وتحسينه لإنتاج العديد من المخرجات في وقت واحد. الهدف من هذه الدراسة هو المساهمة في فهم أفضل للعوامل التي تؤثر على أداء تقنيات MTL . لتحقيق هذا الهدف تمت مقارنة عدة طرق لاختيار سمات المدخلات. تتضمن هذه الطرق التقاطع والاتحاد والفرق بين السمات ذات الصلة بكل ناتج على حدة. بالإضافة إلى ذلك تم التحقيق أيضًا في ظاهرة تُعرف باسم النقل السلبي. في هذه الظاهرة، يؤدي تحسين أداء النموذج في مهمة واحدة إلى الإضرار بالأداء في مهمة أخرى ذات احتياجات مختلفة. تم تنفيذ النهج المقترح على تطبيقين من تطبيقات التعلم العميق. أيضًا يتم تقييم أداء نموذج MTL ومقارنته بأداء نموذج التعلم أحادي المهمة (STL) المقابل في كل حالة. تشير النتائج التي تم الحصول عليها إلى أنه إذا كانت المهام المراد تصنيفها مترابطة فسيتم الحصول على أفضل أداء لنموذج متعدد المهام إذا تم استخدام تقاطع السمات ذات الصلة لكل مهمة. ولكن في حالة عدم ارتباط المهام فإن اتحاد مجموعة السمات ذات الصلة بكل مهمة يعطي أفضل النتائج. علاوة على ذلك ، فإن بناء نماذج MTL للمهام غير المرتبطة يعطي نتائج أسوأ في جميع الحالات عند مقارنتها بنماذج المهمة الواحدة (STL). تتضمن النتائج الأخرى أن MTL للمهام ذات الصلة يؤدي إلى تعميم أفضل عند مقارنته بـ STL. علاوة على ذلك ، فإن مشاركة الكثير من السمات بين المهام غير ذات الصلة من خلال طبقة مشتركة ذات سعة كبيرة له تأثير سلبي على أداء النموذج لأنه يساهم في النقل السلبي. وبالتالي ، فإن النتائج التي تم الحصول عليها تلقي الضوء على العوامل التي تجعل بناء نموذج MTL واحد أكثر قابلية للتطبيق مقارنة بنماذج المهام الفردية المقابلة. تساعد هذه النتائج أيضا في تحديد ما إذا كان سيتم بناء نماذج MTL أم لا وذلك قبل الشروع في إنشائها وتدريبها ، مما يوفر كلا من الوقت اللازم للنمذجة و أيضًا الامكانيات الحسابية اللازمة .
Multi-task learning.
transfer learning.
153.152
Investigating the factors that affect the performance of multi-task learning / استكشاف العوامل التي تؤثر على أداء التعلم متعدد المهام Manar Ahmed Abd El Azeem Safan ؛Dr. Doaa Mohamed Shawky،Dr. Aya Moustafa Aboudina - 2022.
Thesis (M.Sc.)-Cairo University,2022.
Bibliography: p. 55-58.
يتم استخدام التعلم متعدد المهام (MTL) بشكل شائع في العديد من التطبيقات حيث يلزم بناء نموذج واحد يعمل على تحسين العديد من مهام التعلم المرتبطة في نفس الوقت. وبالتالي في مهمة النمذجة هذه، يتم استخدام نفس مجموعة السمات في بعض الأحيان بواسطة نموذج واحد يتم تدريبه وتحسينه لإنتاج العديد من المخرجات في وقت واحد. الهدف من هذه الدراسة هو المساهمة في فهم أفضل للعوامل التي تؤثر على أداء تقنيات MTL . لتحقيق هذا الهدف تمت مقارنة عدة طرق لاختيار سمات المدخلات. تتضمن هذه الطرق التقاطع والاتحاد والفرق بين السمات ذات الصلة بكل ناتج على حدة. بالإضافة إلى ذلك تم التحقيق أيضًا في ظاهرة تُعرف باسم النقل السلبي. في هذه الظاهرة، يؤدي تحسين أداء النموذج في مهمة واحدة إلى الإضرار بالأداء في مهمة أخرى ذات احتياجات مختلفة. تم تنفيذ النهج المقترح على تطبيقين من تطبيقات التعلم العميق. أيضًا يتم تقييم أداء نموذج MTL ومقارنته بأداء نموذج التعلم أحادي المهمة (STL) المقابل في كل حالة. تشير النتائج التي تم الحصول عليها إلى أنه إذا كانت المهام المراد تصنيفها مترابطة فسيتم الحصول على أفضل أداء لنموذج متعدد المهام إذا تم استخدام تقاطع السمات ذات الصلة لكل مهمة. ولكن في حالة عدم ارتباط المهام فإن اتحاد مجموعة السمات ذات الصلة بكل مهمة يعطي أفضل النتائج. علاوة على ذلك ، فإن بناء نماذج MTL للمهام غير المرتبطة يعطي نتائج أسوأ في جميع الحالات عند مقارنتها بنماذج المهمة الواحدة (STL). تتضمن النتائج الأخرى أن MTL للمهام ذات الصلة يؤدي إلى تعميم أفضل عند مقارنته بـ STL. علاوة على ذلك ، فإن مشاركة الكثير من السمات بين المهام غير ذات الصلة من خلال طبقة مشتركة ذات سعة كبيرة له تأثير سلبي على أداء النموذج لأنه يساهم في النقل السلبي. وبالتالي ، فإن النتائج التي تم الحصول عليها تلقي الضوء على العوامل التي تجعل بناء نموذج MTL واحد أكثر قابلية للتطبيق مقارنة بنماذج المهام الفردية المقابلة. تساعد هذه النتائج أيضا في تحديد ما إذا كان سيتم بناء نماذج MTL أم لا وذلك قبل الشروع في إنشائها وتدريبها ، مما يوفر كلا من الوقت اللازم للنمذجة و أيضًا الامكانيات الحسابية اللازمة .
Multi-task learning.
transfer learning.
153.152