Perpustakaan Digital ITB

Penelitian ini berfokus pada pengembangan dan implementasi desain infrastruktur cloud native untuk eksperimen AI/ML dengan memanfaatkan Kubernetes. Tujuan utama dari penelitian ini adalah untuk membangun infrastruktur yang dapat mendukung eksperimen AI/ML dengan fleksibilitas dan skalabilitas tinggi. Kubernetes dipilih sebagai platform orkestrasi kontainer karena kemampuannya dalam mengelola beban kerja yang dinamis dan kompleks. Implementasi desain melibatkan konfigurasi klaster Kubernetes yang terdiri dari beberapa node, termasuk master dan worker nodes yang dilengkapi dengan GPU dan CPU. Konfigurasi tambahan mencakup storage class untuk manajemen penyimpanan, pengaturan load balancer untuk distribusi lalu lintas jaringan, dan platform monitoring menggunakan Prometheus dan Grafana untuk memantau kinerja sistem. Kubeflow juga diintegrasikan sebagai framework utama untuk memfasilitasi manajemen eksperimen AI/ML. Proses ini memastikan bahwa infrastruktur dapat dijalankan dan dioptimalkan sesuai kebutuhan pengguna. Pengujian dilakukan untuk mengevaluasi kinerja dan efisiensi infrastruktur yang telah dibangun. Pengujian aksesibilitas melibatkan beberapa skenario penggunaan dengan berbagai perangkat, termasuk PC, laptop, dan ponsel. Selain itu, pengujian penggunaan sumber daya dilakukan dengan berbagai skenario, yaitu dengan menggunakan sejumlah pengguna untuk mengakses dan menjalankan beban kerja AI/ML dengan konfigurasi yang berbeda. Analisis hasil pengujian menunjukkan bahwa infrastruktur cloud native yang dibangun memiliki beberapa keunggulan utama. Sistem ini tidak hanya mendukung skalabilitas yang dinamis, tetapi juga meningkatkan efisiensi penggunaan sumber daya. Penggunaan teknologi kontainer dan orkestrasi Kubernetes memungkinkan penambahan atau pengurangan sumber daya secara real-time. Teknologi ini sangat penting untuk eksperimen AI/ML yang membutuhkan komputasi tinggi. Selain itu, platform monitoring yang diimplementasikan memungkinkan pemantauan kinerja secara terus-menerus sehingga memudahkan identifikasi dan penyelesaian masalah yang mungkin timbul Penelitian ini berhasil menunjukkan bahwa desain dan implementasi infrastruktur cloud native menggunakan Kubernetes dapat secara signifikan meningkatkan efisiensi dan efektivitas dalam pengelolaan beban kerja AI/ML. Infrastruktur ini tidak hanya mendukung berbagai kebutuhan komputasi, tetapi juga menyediakan fleksibilitas dan skalabilitas yang diperlukan untuk lingkungan penelitian yang dinamis.