Perpustakaan Digital ITB

Machine unlearning adalah metode untuk menghapus pengaruh sebagian data latih terhadap model pembelajaran mesin yang sudah terlatih. Machine unlearning hadir sebagai salah satu solusi untuk isu privasi yang muncul dari penggunaan data sensitif dalam model pembelajaran mesin, seperti data citra wajah yang digunakan dalam model pengenalan wajah. Salah satu algoritma unlearning adalah masked small gradients (MSG), yang merupakan hasil dari kompetisi NeurIPS 2023 - Machine Unlearning. Konsep utama algoritma MSG adalah inisialisasi ulang untuk bobot-bobot tertentu. Algoritma itu memiliki kinerja terbaik pada sebuah studi benchmarking berdasarkan metrik retention deviation dan indiscernibility, dengan skenario item removal, pada beberapa arsitektur dan dataset. Tujuan dari penelitian ini adalah menerapkan unlearning dengan algoritma MSG pada model pengenalan wajah, dan mengukur kinerjanya dibandingkan algoritma-algoritma lain pada aspek efektivitas penghapusan, utilitas model, trade-off keduanya, dan efisiensi komputasi. Arsitektur yang digunakan dalam penelitian ini adalah ResNet-18 dengan fungsi loss ArcFace yang dilatih dengan dataset FaceScrub. Unlearning dilakukan dengan skenario class removal (penghapusan beberapa kelas/identitas) dengan jumlah kelas yang dihapus (forget set, alias Df) sebesar 1%, 5%, dan 10% dari dataset. Seluruh algoritma berhasil menurunkan akurasi untuk Df menjadi 0%. Algoritma MSG mencapai nilai MIA ~0,56, meningkatkan nilai CKA dibandingkan model awal, menurunkan akurasi RA dan TA ~1%, dan menyelesaikan unlearning 6 kali lebih cepat dibandingkan pelatihan ulang. Walaupun cukup baik, hasil ini belum sepenuhnya melampaui kinerja algoritma baseline fine-tuning (FT). Perbedaan di antara keduanya terlihat pada ukuran Df 10%, dengan MSG lebih baik pada metrik MIA dan FT lebih baik pada metrik TA.