Tesis Lina Mardiana Harahap meneliti modifikasi arsitektur peringkasan ekstraktif BERTsumExt dengan mengganti representasi kalimat berbasis token CLS dengan representasi kalimat dari IndoBERT, model yang terlatih untuk menghasilkan representasi semantik. Hasilnya, model SBERTsumExt menunjukkan peningkatan skor ROUGE pada dataset XLSumIndonesia dan efisiensi waktu komputasi pada dataset Liputan6, menunjukkan bahwa IndoBERT dapat meningkatkan kualitas peringkasan ekstraktif, terutama untuk dokumen panjang dan mempercepat proses pelatihan model. Penelitian ini menyimpulkan bahwa IndoBERT efektif sebagai representasi kalimat dalam BERTsumExt dan memberikan wawasan baru untuk pengembangan peringkasan teks berbahasa Indonesia.
