SURABAYA, Tretan.News – Ketika banyak pengembang masih bergantung pada server besar dan cloud computing, sebuah workshop bertajuk “Best Practice to Deploying Model to On-Device ML” justru membongkar cara agar kecerdasan buatan bisa berjalan langsung di perangkat pengguna.
Workshop ini menjadi ruang diskusi strategis tentang bagaimana model machine learning tak lagi harus terus-menerus mengandalkan komputasi berbasis cloud. Fokusnya jelas: memindahkan proses inferensi ke perangkat (on-device), sehingga lebih cepat, hemat biaya, dan ramah privasi.
Pemateri dalam sesi ini adalah Dr. Joan Santoso, Google Developer Expert (GDE) AI & Cloud sekaligus Director Research & Innovation Institut Sains dan Teknologi Terpadu Surabaya.
Menurut Joan, on-device machine learning bukan sekadar tren, melainkan kebutuhan masa depan.
“Keberhasilan implementasi on-device ML tidak hanya bergantung pada kecanggihan model, tetapi juga pada strategi optimasi yang tepat,” tegasnya.
Lebih Cepat, Lebih Privat, Lebih Mandiri
Dalam pemaparannya, Joan menjelaskan bahwa memproses data langsung di perangkat membawa sejumlah keuntungan:
⚡ Respons lebih cepat karena inferensi dilakukan secara lokal
🔐 Privasi lebih terjaga karena data tidak dikirim ke server eksternal
💰 Efisiensi biaya infrastruktur server
Namun, tantangannya juga nyata. Perangkat memiliki keterbatasan memori, daya, dan kapasitas komputasi. Karena itu, strategi seperti model compression, quantization, dan pemilihan arsitektur efisien menjadi kunci utama.
Peserta diajak memahami bagaimana menjaga akurasi tetap kompetitif meski model dijalankan di perangkat dengan resource terbatas.
Duet Teknologi: JAX dan LiteRT
Salah satu bagian yang paling menarik adalah pengenalan “perfect match” untuk developer AI modern: JAX dan LiteRT (sebelumnya dikenal sebagai TensorFlow Lite).
JAX unggul dalam tahap eksplorasi dan pelatihan model dengan performa komputasi tinggi serta dukungan diferensiasi otomatis dan akselerasi hardware.
Sementara LiteRT menjadi jembatan optimasi agar model bisa dikonversi dan dijalankan secara efisien di berbagai perangkat edge, mulai dari smartphone hingga embedded system.
Kombinasi keduanya menciptakan alur kerja yang solid:
🚀 Eksperimen dan training performa tinggi
📱 Deployment ringan, cepat, dan hemat daya
AI Masa Depan Ada di Genggaman
Workshop ini menegaskan satu hal: masa depan AI tidak selalu tentang server raksasa dan data center mahal. Justru, kecerdasan sejati terletak pada kemampuan mengoptimalkan teknologi agar bekerja maksimal langsung di tangan pengguna.
Dengan pendekatan on-device ML, pengembang tak lagi dihadapkan pada dilema antara performa dan efisiensi. Solusi bisa tetap responsif, mandiri, dan lebih aman dari sisi privasi.
AI kini bukan sekadar canggih. Tapi juga cerdas dalam cara ia dijalankan.
