Dua tahun lalu, menjalankan model kecerdasan buatan yang bisa membaca teks, gambar, dan audio sekaligus masih menjadi barang mewah. Kini, dengan harga per juta token yang terus turun, tim kecil di kota-kota menengah mulai membangun produk yang dulu hanya bisa dibayangkan laboratorium perusahaan raksasa.
Penurunan itu bukan kebetulan. Penyedia komputasi berlomba menawarkan model terbuka dengan kuantisasi lebih agresif, sementara teknik caching membuat permintaan berulang jauh lebih hemat. Efeknya terasa langsung pada struktur biaya produk: fitur yang dulu masuk daftar tunggu sekarang bisa dirilis sebagai eksperimen mingguan.
Startup yang kami hubungi menyebut perubahan paling terasa pada ritme eksperimen. Mereka tidak lagi mengukur keberhasilan dari seberapa canggih model yang dipakai, melainkan dari seberapa sering fitur itu benar-benar membuka pekerjaan pengguna.
Ada tiga pola yang paling sering muncul di lapangan. Model kecil yang dipangkas untuk tugas spesifik kerap lebih murah sekaligus lebih akurat. Caching jawaban memotong biaya pada percakapan berulang. Dan evaluasi kualitas wajib berjalan sebelum model baru dipakai di produksi.
Tantangannya bergeser. Jika biaya bukan lagi penghalang utama, kualitas data, tata kelola, dan kepatuhan menjadi pembeda. Bagi pasar Indonesia, jendela peluang terbuka lebih lebar: yang menentukan bukan akses ke model termahal, melainkan kedekatan dengan masalah nyata.