about
OG

Setup AI Lokal di Laptop dengan Ollama

Cara simpel buat nyobain model AI langsung dari laptop sendiri, tanpa harus selalu nembak API cloud.

Sekarang AI gak harus selalu jalan di server mahal atau layanan cloud. Buat eksperimen, belajar prompt engineering, bikin chatbot kecil, atau testing fitur AI di project pribadi, kita bisa jalanin model AI secara lokal.

Salah satu tool yang paling enak buat mulai adalah Ollama. Setup-nya relatif sederhana, model bisa ditarik lewat terminal, dan hasilnya bisa dipakai langsung dari CLI atau API lokal.

Kenapa Jalanin AI Lokal?

Yang Perlu Disiapkan

Gak perlu setup ribet di awal. Minimal siapin laptop atau PC dengan RAM yang cukup, koneksi internet buat download model, dan terminal. Kalau RAM masih terbatas, mulai dari model kecil dulu.

Untuk percobaan ringan, model 1B sampai 3B biasanya lebih bersahabat buat laptop biasa. Model yang lebih besar bisa lebih pintar, tapi juga butuh memori dan storage lebih banyak.

Install Ollama

Masuk ke website Ollama, download installer sesuai OS, lalu install seperti aplikasi biasa. Kalau pakai Linux, Ollama juga menyediakan install script lewat terminal.

curl -fsSL https://ollama.com/install.sh | sh

Jalanin Model Pertama

Setelah install, buka terminal dan coba jalankan model kecil dulu. Contohnya:

ollama run llama3.2:1b

Command itu akan download model kalau belum ada, lalu masuk ke mode chat di terminal. Dari sini lo bisa langsung nanya seperti pakai chatbot biasa.

Cek Model yang Lagi Jalan

Kalau mau lihat model apa yang sedang loaded di memory, pakai:

ollama ps

Ini berguna buat ngecek apakah model masih aktif, ukurannya berapa, dan apakah prosesnya jalan di CPU atau GPU.

Pakai dari API Lokal

Bagian menariknya, Ollama juga bisa dipanggil dari aplikasi lewat API lokal. Secara default servicenya jalan di port 11434.

curl http://localhost:11434/api/chat -d '{
  "model": "llama3.2:1b",
  "messages": [
    { "role": "user", "content": "Kasih ide project React sederhana" }
  ]
}'

Dari sini, lo bisa mulai integrasi ke project Next.js, dashboard internal, chatbot pribadi, atau tool kecil buat bantu ngerangkum catatan.

Contoh yang Relate Buat Dicoba

Biar gak cuma berhenti di “wah modelnya bisa jawab”, coba pakai AI lokal buat hal-hal kecil yang beneran kepakai waktu ngoding atau ngurus project pribadi.

1. Bikin Chatbot Buat Catatan Pribadi

Misalnya lo punya folder catatan belajar React, Next.js, atau Linux. Isi catatan itu bisa dijadikan konteks prompt, lalu AI lokal diminta bantu jawab berdasarkan catatan sendiri.

Prompt:
Ini catatan belajar gue:
"useState dipakai untuk menyimpan state di komponen React..."

Tolong jelasin ulang dengan bahasa yang lebih gampang dan kasih contoh kecil.

Use case kayak gini cocok buat bikin personal knowledge base versi sederhana, tanpa harus upload semua catatan ke layanan luar.

2. Ringkas README Project Sendiri

Kadang README project keburu panjang atau malah belum rapi sama sekali. AI lokal bisa dipakai buat bantu bikin versi ringkas yang enak dibaca.

Prompt:
Tolong ubah catatan project ini jadi README singkat:
- app portfolio pakai Next.js
- ada dark mode
- deploy ke Cloudflare Pages
- list artikel statis

Format: deskripsi, fitur, cara jalanin lokal.

3. Review Code Kecil Sebelum Commit

Buat perubahan kecil, AI lokal bisa jadi teman cek cepat. Bukan pengganti review beneran, tapi lumayan buat nangkep typo, naming yang kurang jelas, atau edge case sederhana.

Prompt:
Review snippet ini. Fokus ke bug kecil, readability, dan naming.
Jangan refactor besar-besaran.

function getPost(posts, slug) {
  return posts.find((post) => post.href.includes(slug))
}

4. Generate Ide Konten Buat Website Personal

Kalau website mulai sepi update, AI lokal bisa bantu nyari ide artikel yang masih nyambung sama skill yang lagi dipelajari.

Prompt:
Kasih 10 ide artikel pendek buat web portfolio developer pemula.
Topiknya sekitar React, Next.js, deploy, AI lokal, dan workflow terminal.
Judulnya santai tapi tetap teknikal.

5. Sambungkan ke Next.js Route Handler

Kalau mau lebih niat, bikin endpoint kecil di Next.js yang nerusin prompt dari frontend ke Ollama. Konsep minimalnya seperti ini:

export async function POST(request: Request) {
  const { prompt } = await request.json();

  const response = await fetch("http://localhost:11434/api/chat", {
    method: "POST",
    headers: { "Content-Type": "application/json" },
    body: JSON.stringify({
      model: "llama3.2:1b",
      messages: [{ role: "user", content: prompt }],
      stream: false,
    }),
  });

  const data = await response.json();

  return Response.json({
    answer: data.message.content,
  });
}

Dari endpoint ini, frontend bisa punya form prompt sederhana. Cocok buat eksperimen chatbot mini, summarizer catatan, atau helper kecil di dashboard pribadi.

Catatan Performa

AI lokal itu fleksibel, tapi tetap bergantung ke hardware. Kalau respon terasa lambat, coba model yang lebih kecil, tutup aplikasi yang makan RAM, atau batasi konteks prompt biar gak terlalu panjang.

Buat project serius, cloud model masih bisa jadi pilihan. Tapi buat belajar dan prototyping, setup lokal seperti ini sudah lebih dari cukup.

Penutup

Dengan Ollama, nyobain AI lokal jadi jauh lebih gampang. Install, download model, jalanin, lalu sambungkan ke aplikasi lewat API lokal. Simple, tapi cukup powerful buat mulai bikin eksperimen AI sendiri.

← Kembali ke Home