Perpustakaan Digital ITB

Artificial Intelligence (AI) telah menjadi krusial dalam berbagai aspek kehidupan manusia seperti perbankan dan bidang medis. Meskipun AI mampu melakukan prediksi berdasarkan data, terdapat masalah transparansi, keadilan, dan potensi bias dalam hasil prediksi. Untuk mengatasi ini, dikembangkan metode eXplainable AI (XAI) yang memberikan penjelasan terhadap hasil prediksi model AI. Contoh aplikasinya adalah dalam prediksi penyakit jantung koroner, yang merupakan penyebab utama kematian global. Oleh karena itu, akan dibuat sebuah model AI yang dapat memprediksi apakah seseorang akan terkena penyakit jantung koroner atau tidak. Hasil prediksi juga akan dilengkapi dengan penjelasan oleh XAI serta adanya rekomendasi tindakan berdasarkan pengetahuan dari ahli. Model yang digunakan adalah random forest dengan tingkat akurasi sekitar 93%. Setelah itu, diberikan penjelasan dari metode XAI yaitu LIME, SHAP, dan Anchor yang dapat memberikan penjelasan lokal terhadap suatu instance data yang diprediksi. Model dilatih dengan menggunakan data Framingham Heart Study yang telah diproses sebelumnya sehingga memiliki kualitas yang lebih baik. Hasil dari pengujian XAI yang telah dilakukan menunjukkan bahwa metode LIME dapat memberikan hasil yang lebih sering dipilih oleh ahli. Sedangkan metode SHAP kurang akurat dalam memberikan penjelasan dan metode Anchor memberikan penjelasan yang terlalu umum karena menghasilkan semua fitur yang dianggap sebagai jangkar. Sistem rekomendasi diimplementasi menggunakan prinsip knowledge base system dengan menggunakan pengetahuan dari ahli terkait kebiasaan yang perlu diadaptasi untuk setiap variabel. Ketika pengguna diprediksi terkena penyakit jantung koroner, rekomendasi akan diberikan sesuai dengan variabel yang mendukung prediksi dari model AI.