IMPLEMENTASI TEKNIK SELEKSI FITUR INFORMATION GAIN PADA ALGORITMA KLASIFIKASI MACHINE LEARNING UNTUK PREDIKSI PERFORMA AKADEMIK SISWA

Abstract

Masalah utama dalam dalam proses discovering  knowledge dari data di bidang pendidikan adalah  mengidentifikasi data yang representatif. Penelitian ini  dilakukan untuk mengidentifikasi faktor relevan yang  mempengaruhi performa akademik siswa dengan  mengimplementasikan teknik seleksi fitur Information  Gain pada algoritma klasifikasi machine learning.  Algoritma klasifikasi machine learning yang digunakan  adalah Decision Tree, Random Forest, ANN, SVM, dan  Naïve Bayes. Data yang digunakan adalah 395 data  akademik dan personal siswa di wilayah Alentejo  Portugal.

Eksperimen implementasi teknik seleksi fitur Information  Gain dibagi dengan dua macam, yaitu menggunakan  pemilihan atribut dengan batas threshold (threshold >  0.01) dan rangking dalam jumlah fitur tertentu (n=5, 10,  15). Selain itu skenario klasifikasi juga dilakukan dalam  dua macam skenario, yaitu binary classification (lulus  atau gagal) dan 5-level classification. Eksperimen  dilakukan menggunakan data mining library pada Java  dalam lingkungan Weka. Eksperimen dalam penelitian  ini menggunakan 10 fold cross validation dengan. Hasil  evaluasi berupa akurasi prediksi yang didapatkan dari  matriks konfusi.

Hasil eksperimen menunjukkan bahwa dengan  implementasi teknik pemilihan fitur information gain  dapat meningkatkan performa algoritma klasifikasi  machine learning (J48, Random Forest, MLP, SVM  (SMO), dan Naïve Bayes) untuk memprediksi performa  akademik siswa pada mata pelajaran Matematika.