دراسة التحسين بعض خوارزميات شجرة القرار

Abstract

خوارزميات شجرة القرار من أكثر الخوارزميات المستخدمة في التصنيف، ولكنها تعاني من بعض المشاكل. يعد تصنيف البيانات أحد الأدوات المهمة التي تستخدم في تنقيب البيانات (Data Mining)، حيث يقوم بتلخيص الكم الهائل من البيانات إلى عدد قليل من المجموعات أو الفئات، وذلك من أجل تسهيل عملية التحليل. تقدم في هذا البحث حلولاً لبعض المشاكل التي تعاني منها بعض خوارزميات شجرة القرار المستخدمة في تصنيف البيانات، حيث وضعنا خوارزمية معدلة الخوارزمية الـ ID3. تغلبت الخوارزمية المقترحة على عيب الـID3 وهي مشكلة الميل لاختيار الواصفة التي تملك قيم أكثر، وبذلك توصلنا لشجرة قرار قريبة أكثر من الواقع. إضافة لذلك قدمنا تعديلاً لخوارزمية الـ C4.5، حيث تغلبت الخوارزمية المقترحة على عيب الـ C4.5 وهو الحصول على شجرة مماثلة لتلك التي يتم الحصول عليها باستخدام خوارزمية الـID3 وذلك على الرغم من أن خوارزمية الـ C4.5 هي تحسين الخوارزمية الـ ID3، كما تغلبت الخوارزمية المقترحة على مشكلة اختيار الواصفة ذات القيم الأكثر الخوارزمية الـ C4.5 وبذلك توصلنا لشجرة قرار قريبة أكثر من الواقع. ناقشنا في نهاية كل فصل أهمية التعديلات المقترحة والنتائج التي تم التوصل إليها والفائدة التي حققتها هذه التعديلات.