Perpustakaan Digital ITB

Bias pada algoritme merupakan bias yang muncul ketika aturan matematika lebih condong ke sekelompok atribut dibandingkan dengan atribut lainnya ketika sedang menentukan variabel target, seperti dalam penentuan pemberian pinjaman atau tidak (Bantilan, 2018). Bias pada algoritme muncul ketika sebuah model pembelajaran mesin yang sudah dilatih menghasilkan prediksi sistematis yang lebih condong ke sebuah grup fitur dibandingkan dengan fitur lainnya pada variabel target. Pada penelitian ini, dilakukan uji coba penanganan bias dengan menggunakan teknik in-processing. Algoritme teknik in-processing yang digunakan adalah adversarial debiasing, prejudice remover, additive counterfactually fair, dan decision boundary fairness measurements. Uji coba dilakukan pada dataset COMPAS, Adult Income, German Credit Risk, dan Bank Marketing. Kemudian, dilakukan analisis dan perbandingan antara hasil dari model dengan penanganan bias dengan model dasar tanpa penanganan bias. Setelah itu, dibuat sebuah library yang berisi implementasi keempat algoritme tersebut untuk mempermudah penggunaan algoritme-algoritme teknik in-processing dengan Python 3. Berdasarkan hasil penelitian yang telah dilakukan, ditemukan bahwa algoritmealgoritme yang diujikan dapat meningkatkan tingkat keadilan, namun dengan hyperparameter yang tepat. Semua algoritme tidak memiliki kinerja yang sama baik pada dataset yang berbeda-beda. Dari semua algoritme, algoritme decision boundary type measurements memiliki perubahan signifikansi yang paling besar pada akurasi, F1, dan nilai bias. Sementara itu, algoritme prejudice remover memiliki signifikansi perubahan yang paling kecil pada ketiga jenis nilai tersebut.