Kemajuan teknologi informasi dan komunikasi harus diimbangi dengan
peningkatan kualitas manusia. Penyalahgunaan teknologi marak terjadi, dan
korbannya tidak lain adalah manusia juga. Walaupun telah dilakukan peningkatan
terhadap sistem keamanan, manusia masih menjadi celah besar bagi serangan social
engineering. Salah satu bentuk serangan social engineering adalah penipuan
berbasis panggilan telepon, yang banyak terjadi di Indonesia. Banyak penelitian
dengan metode yang beragam telah dilakukan untuk menghadapi penipuan berbasis
telepon. Namun, masih ada celah yang dapat diangkat untuk penelitian baru. Dalam
penelitian ini, dilakukan perancangan dan pengembangan sistem deteksi penipu
berbasis telepon dengan menggunakan algoritma klasifikasi machine learning
untuk mengenali penutur pada percakapan telepon. Untuk menentukan algoritma
klasifikasi yang akan digunakan, terlebih dahulu dilakukan eksperimen terhadap
empat algoritma klasifikasi, yaitu Support Vector Machine (SVM), Gaussian Naive
Bayes (GNB), Random Forest (RF), dan Linear Discriminant Analysis (LDA). Dari
keempat algoritma tersebut, RF menghasilkan performa tertinggi dalam melakukan
klasifikasi penutur berdasarkan fitur Mel-Frequency Cepstral Coefficient (MFCC)
dan Formants, dengan nilai akurasi, presisi, recall, dan F1 masing-masing sebesar
89,45%, 91,47%, 89,45%, dan 88,55%. Sistem yang dirancang dan dikembangkan
dalam penelitian ini berhasil bekerja secara real time dengan tingkat keberhasilan
mengenali penutur sebesar 92,73% pada rekaman suara penutur tunggal dan
87,27% pada rekaman percakapan yang berisi dari lebih dari satu penutur. Sistem
juga berhasil membedakan antara penutur lama yang sudah tersimpan di dataset
dan penutur baru yang belum tersimpan, menggunakan SVM pada probabilitas
prediksi dengan tingkat keberhasilan 100%. Dengan penggunaan fitur suara sebagai
objek untuk mengenali penutur, sistem yang diusulkan ini tidak terikat nomor
telepon yang mudah diganti oleh siapapun.