Perpustakaan Digital ITB

Penyelarasan LLM untuk keperluan dan konteks spesifik dapat meningkatkan kualitas pengalaman dan pertumbuhan pengguna aplikasi LLM dengan signifikan. Sayangnya, metode-metode penyelarasan LLM masih baru, terbatas, dan perlu didorong pengembangan-pengembangan eksperimental. Rekayasa prompt dan retrieval-augmented generation adalah dua metode penyelarasan LLM menjanjikan yang dapat digunakan developer yang tidak memiliki sumber daya komputasi besar. Tugas Akhir ini menyelaraskan LLM untuk memenuhi kebutuhan studi kasus agen percakapan sistem buku harian ”MIST”. Aplikasi web full-stack dipilih sebagai instrumen implementasi penyelarasan LLM. Implementasi meliputi deployment di perangkat keras, juga pengembangan layanan inferensi, RAG, rekayasa prompt, memori, antarmuka, serta pembuatan konteks prompt dalam jumlah besar. Evaluasi sistem menunjukkan bahwa seluruh fungsionalitas yang diimplementasikan berhasil dijalankan dan konteks berhasil diinjeksikan untuk mengontrol perilaku dan gaya interaksi MIST. Sayangnya, evaluasi kualitatif dengan pengguna menunjukkan bahwa kualitas keluaran, tingkat kecerdasan, dan latensi sistem belum memuaskan. Diperlukan pengembangan lebih lanjut terkait optimasi inferensi LLM serta metode pembuatan dan pengujian templat prompt yang cepat dan iteratif.