Jalankan Ollama Secara Lokal dengan FlyEnv

Ollama adalah alat sumber terbuka untuk menjalankan model bahasa besar di komputer sendiri melalui API lokal yang dapat dipanggil aplikasi apa pun. FlyEnv mengelola Ollama sebagai layanan lokal: pasang dari build statis atau Homebrew, mulai ollama serve sekali klik, sesuaikan pengaturan lingkungan OLLAMA_* melalui formulir visual, dan kelola model dari tab Model. Setelah model diunduh, ikuti panduan agen AI offline lokal.

Manajemen versi

Tab Manajer Versi memasang dan menyimpan beberapa versi Ollama berdampingan; pilih versi yang dijalankan layanan.

• Unduhan statis: arsip Ollama (.zip / .tgz) diambil melalui API versi FlyEnv untuk macOS, Linux, dan Windows.
• Homebrew: pasang formula ollama melalui Homebrew jika tersedia dan kelola di samping build statis.
• Direktori khusus: arahkan FlyEnv ke folder instalasi Ollama Anda; binari ollama/ollama.exe dipindai dan ditampilkan.
• Satu versi berjalan: layanan menjalankan satu versi Ollama pada satu waktu sehingga endpoint API selalu berasal dari build yang diketahui.

Layanan dan konfigurasi

FlyEnv menjalankan Ollama terlepas sebagai ollama serve dan melacak berkas pid untuk memulai serta menghentikan dengan bersih. Sakelar bilah sisi dan baki sistem mengontrol layanan. Secara bawaan server mendengarkan 0.0.0.0:11434.

Variabel lingkungan dibaca dari ollama.conf di direktori dasar FlyEnv; setiap baris yang dimulai OLLAMA_ diteruskan ke proses server. Tab Berkas Konfigurasi mengedit berkas ini dengan dua cara:

• Formulir pengaturan umum: ubah variabel seperti OLLAMA_DEBUG, OLLAMA_HOST, dan OLLAMA_KEEP_ALIVE melalui formulir visual.
• Editor mentah: beralih ke sumber lengkap untuk pengaturan lain; salinan ollama.conf.default disimpan sebagai referensi.

Manajemen model

Tab Model digunakan untuk mengunduh, mencantumkan, dan menjalankan model.

• Daftar lokal: menampilkan model di komputer Anda berdasarkan ollama list.
• Pustaka: katalog daring model yang diambil dari API FlyEnv dan disimpan dalam cache lokal.
• Unduh dan jalankan di terminal: unduh model dari Pustaka atau jalankan dari daftar lokal di terminal tertanam FlyEnv; tombol salin menyalin perintah ollama.
• Laporan perangkat keras: laporan GPU, CPU, dan RAM membantu menilai ukuran model yang dapat berjalan nyaman.

Layanan Ollama pada port 11434 dapat dipadukan dengan modul FlyEnv lain: panggil API lokal dari alur n8n, simpan embedding di basis data vektor Qdrant, atau jalankan akun AI CLI melalui endpoint kompatibel OpenAI dengan CLIProxyAPI. Panduan FlyEnv bekerja dengan asisten AI menjelaskan integrasinya.

Log

Tab Log membuka log server per versi di FlyEnv: ollama-<version>-start-out.log untuk keluaran standar dan ollama-<version>-start-error.log untuk error. Periksa berkas ini terlebih dahulu saat versi gagal dimulai atau API berhenti merespons.

Panduan, solusi, dan demo terkait

Lanjutkan dengan panduan, solusi, demo, atau perspektif komunitas.

Panduan

• Build a privacy-first offline AI agent
• Build self-hosted AI workflows with n8n
• How to work with AI coding assistants

Demo

• Browse Ollama AI demos

Komunitas

• Community: an all-in-one environment with local AI

Catatan kompatibilitas

FlyEnv mengelola runtime Ollama lokal, berkas konfigurasi, dan alur model; model tidak dibundel karena setiap unduhan berasal dari pustaka Ollama upstream dan memerlukan jaringan serta ruang disk. Pemasangan statis tersedia di macOS, Linux, dan Windows; ketersediaan Homebrew bergantung platform. Hanya satu versi berjalan pada satu waktu, dan perubahan ollama.conf berlaku saat layanan dimulai berikutnya.