Malware merupakan salah satu ancaman terbesar pada sistem android saat ini.
Berbagai metode pendeteksi malware telah dikembangkan baik oleh akademisi
maupun vendor anti-malware untuk medeteksi serangan malware pada sistem
operasi android. Namun disaat bersamaan pengembang malware juga terus
mengembangkan berbagai macam teknik untuk dapat menghindari sistem
pendeteksian tersebut. Memahami bagaimana teknik tersebut dikembangkan dari
sudut pandang pengembang malware merupakan salah satu cara untuk
memprediksi jenis serangan yang akan datang, sehingga dapat memperkuat sistem
pertahanan yang ada.
Penelitian ini mengusulkan sebuah framework untuk memodifikasi malware
menggunakan teknik obfuscation dan dynamic code loading sehingga dapat
melewati deteksi anti-malware berbasis signature. Framework yang diusulkan
pada penelitian ini mengeksploitasi kelemahan-kelemahan pada sistem android dan
juga sistem anti-malware berbasis signature. Diantara kelemahan tersebut adalah
kemampuan anti-malware yang cenderung lambat dalam mengadopsi signature
dari malware, dengan melakukan modifikasi pada tubuh malware maka signature
yang sebelumnya sudah dikenali menjadi tidak dapat dikenali kembali. Selain itu
terdapat kelemahan pada sistem android dimana dengan menyisipkan malware
kedalam aplikasi legitimate dapat melewati deteksi PlayProtect. Dengan adanya
fitur untuk menyisipkan malware kedalam aplikasi legitimate maka framework
ii
yang diusulkan juga dapat digunakan oleh pengembang aplikasi untuk menguji
ketahanan aplikasi mereka dari repackaging attack.
Pengujian dan evaluasi dilakukan pada setiap langkah dari framework yang
diusulkan. Dari hasil pengujian terbukti bahwa setiap langkah dapat menurunkan
detection rate pada virustotal dan pengujian keseluruhan framework memberikan
hasil yang signifikan dalam menurunkan detection rate. Kemudian, malware yang
telah dimodifikasi berhasil diinstall pada perangkat android tanpa terdeteksi dan
menjalankan fungsinya dengan baik. Dari penelitian ini juga diketahui bahwa
sistem PlayProtect tidak melakukan pemeriksaan sertifikat dengan baik.
Penggunaan sertifkat secara acak dapat memicu deteksi pada PlayProtect yang akan
memunculkan peringatan pada saat instalasi bahwa aplikasi tidak dikenali. Namun
dengan meminjam sertifikat dari aplikasi lain deteksi tersebut dapat dihindari
dengan mudah.