Panduan: Menjalankan LLM Lokal Pertamamu dalam 15 Menit

Banyak yang mengira menjalankan AI di komputer sendiri butuh GPU jutaan rupiah. Kenyataannya: laptop dengan RAM 16 GB sudah bisa menjalankan model yang berguna, dan prosesnya sekarang sangat sederhana berkat Ollama.

Langkah 1: Pasang Ollama

Kunjungi ollama.com, unduh installer sesuai sistem operasimu (Windows, macOS, Linux), dan jalankan. Selesai — tidak ada konfigurasi tambahan. Buka terminal dan ketik 'ollama --version' untuk memastikan terpasang.

Langkah 2: Pilih model sesuai spek

Aturan kasarnya: model butuh RAM/VRAM kira-kira sebesar ukuran filenya plus sedikit ruang. RAM 8 GB: pakai model 3-4B (kecil tapi tetap berguna untuk ringkasan dan draft). RAM 16 GB: model 7-8B adalah sweet spot — coba 'ollama run qwen3:8b'. RAM 32 GB ke atas atau punya GPU: model 14B+ mulai terasa 'pintar' untuk penalaran.

Untuk bahasa Indonesia, rekomendasi utama saya keluarga Qwen — kualitas bahasanya paling konsisten di kelas open model. Alternatifnya Gemma dan Llama.

Langkah 3: Sambungkan ke tool lain

Di sinilah serunya dimulai. Ollama menyediakan API lokal yang kompatibel dengan format OpenAI di http://localhost:11434. Artinya: n8n bisa memakainya untuk workflow otomasi, Dify bisa menjadikannya otak chatbot dokumen, dan Cline bisa memakainya sebagai asisten coding — semuanya tanpa biaya API sepeser pun.

Mulai dari percakapan sederhana di terminal, lalu naik level pelan-pelan. Dalam beberapa minggu kamu akan punya intuisi soal apa yang bisa dan belum bisa dilakukan model lokal — intuisi yang tidak bisa dibeli, hanya bisa dilatih.