Perpustakaan Digital ITB

Deep Learning menunjukkan kinerja yang luar biasa dalam analisis citra medis, seperti segmentasi objek dan diagnosis berbasis komputer. Namun, model deep learning sering dianggap sebagai "black box" karena proses pengambilan keputusannya yang kompleks dan kurang transparan. Explainable Artificial Intelligence (XAI) hadir untuk menjelaskan prediksi model, sehingga meningkatkan pemahaman dan kepercayaan terhadap hasilnya. Kerangka kerja AUCMEDI membantu menyederhanakan analisis citra medis dengan deep learning dan menstandarisasi evaluasi model dengan melibatkan XAI. Namun, AUCMEDI masih terbatas dalam mendukung penambahan metode XAI berbasis posthoc yang baru. Untuk itu dilakukan proses modifikasi fungsionalitas XAI pada kerangka kerja AUCMEDI sehingga mampu dengan fleksibel memfasilitasi penambahan metode XAI berbasis posthoc dengan indikasi seperti tidak banyak perubahan komponen internal saat melakukan integrasi metode XAI berbasis posthoc dan kebebasan pengguna dalam melakukan konfigurasi metode XAI. Proses modifikasi menggunakan pendekatan rekayasa domain dan pengembangan kerangka kerja berbasis hot spot dengan menerapkan pola desain strategi dan prinsip desain Separation of Concerns (SoC). Modifikasi berhasil dilakukan dan diuji menggunakan unit testing serta coverage test dan menghasilkan nilai coverage sebesar 90 persen dari 700 baris kode fungsionalitas XAI. Selain itu perubahan komponen saat melakukan integrasi metode XAI berbasis posthoc lain jauh lebih sedikit jika dibandingkan pada saat sebelum proses modifikasi.