Keuntungan menjalankan LLM lokal di rumah adalah modelnya milik Anda, lalu lintas milik Anda, dan tidak ada vendor yang dapat memutuskan dalam semalam bahwa endpoint favorit Anda sekarang harganya tiga kali lebih mahal. Bagian yang canggung adalah model tersebut berada di mesin di rumah, dan Anda menghabiskan sebagian besar hari tidak di rumah. Seorang penulis XDA baru-baru ini mendeskripsikan penempatan kotak Ollama pada Tailscale dan menarik respons dari seberang dunia, dan pengaturannya benar-benar sederhana setelah Anda menemukan sisi Android yang tepat dari pipa.
Kami membandingkan tujuh aplikasi Android yang membuat akses jarak jauh ke LLM yang di-host sendiri (Ollama, LM Studio, vLLM, LocalAI, atau server llama.cpp) praktis. Sebagian besar dari mereka adalah utilitas jaringan. Itu disengaja. Bagian obrolan mudah. Bagian yang sulit adalah memindahkan ponsel ke jaringan yang sama dengan model tanpa membuka port ke seluruh internet.
Apa yang harus diperhatikan dalam aplikasi akses LLM jarak jauh
Pasangan yang baik untuk LLM rumah harus melakukan setidaknya beberapa dari ini:
- Sediakan jaringan overlay pribadi yang memperlakukan ponsel Anda dan kotak GPU Anda seolah-olah berada di LAN yang sama, tanpa memerlukan IP publik atau port forwarding.
- Tangani NAT traversal dengan tenang, sehingga Anda tidak perlu melawan NAT tingkat pembawa ISP Anda.
- Jaga konsumsi baterai tetap wajar saat terowongan tidak aktif.
- Berikan Anda shell atau klien HTTP sehingga Anda dapat mengakses API LLM dari mana saja.
- Gagal dengan anggun di jaringan seluler yang tidak stabil (kereta bawah tanah, pesawat, Wi-Fi hotel).
Perbandingan cepat
| Aplikasi | Terbaik untuk | Paket gratis | Berbayar | Hanya lokal |
|---|---|---|---|---|
| Tailscale | Mesh VPN tanpa konfigurasi dengan Magic DNS | Gratis (3 pengguna, 100 perangkat) | Personal Pro dari $6/bln | Opsional |
| WireGuard | Minimalis, klien resmi, konfigurasi manual | Gratis, selalu | Gratis, selalu | Ya |
| ZeroTier One | Overlay peer-to-peer, tier gratis yang murah hati | Gratis (hingga 10 node) | Bisnis dari $5/bln | Ya |
| Cloudflare WARP | Tunneling dengan edge Cloudflare | Gratis | WARP+ ~$4.99/bln | Tidak |
| Termux | Shell Linux lengkap untuk curl / ssh ke LLM Anda | Gratis | Gratis | Ya |
| JuiceSSH | Klien SSH dengan sesi tersimpan dan port forward | Gratis | Pro $4.99 sekali | Ya |
| NetGuard | Per-app firewall jadi hanya klien LLM Anda yang terowongan | Gratis / open-source | Pro IAP ~$4 | Ya |
Aplikasi-aplikasi
1. Tailscale, terbaik untuk mesh tanpa konfigurasi
Tailscale adalah alasan mengapa artikel XDA bekerja. Ini membangun mesh berbasis WireGuard di atas identitas yang ada. Instal aplikasi Android, masuk dengan akun yang sama yang Anda gunakan di host LLM, dan kedua perangkat muncul di tailnet pribadi dengan IP stabil. Dari ponsel Anda kemudian dapat mengakses http://<hostname>:11434/api/generate untuk Ollama, atau port lain apa pun yang diekspos server Anda, sama persis seolah-olah Anda berada di Wi-Fi rumah. Magic DNS menyelesaikan nama secara otomatis. Subnet routing memungkinkan satu node tailnet membawa seluruh perangkat LAN.
Di mana ia jatuh pendek: Mesh tergantung pada server koordinasi Tailscale untuk pertukaran kunci. Lalu lintas peer-to-peer, tetapi jika Anda keberatan dengan layanan pihak ketiga apa pun dalam loop, jalankan Headscale sebagai bidang kontrol yang di-host sendiri. Aplikasi Android juga kadang-kadang menjatuhkan terowongan ketika ponsel beralih antara Wi-Fi dan seluler, meskipun terhubung kembali dengan cepat.
Harga:
- Gratis: penggunaan pribadi hingga 3 pengguna dan 100 perangkat, cukup untuk pengaturan LLM rumah
- Berbayar: Personal Pro dari $6/bulan menambahkan lebih banyak perangkat dan fitur
Platform: Android, iOS, Windows, Mac, Linux
Garis bawah: Pilih ini jika Anda menginginkan terowongan yang berfungsi ke LLM rumah Anda dalam lima menit dan dapat menerima server koordinasi kecil di luar loop.
2. WireGuard, terbaik untuk memiliki setiap paket
WireGuard adalah protokol tingkat kernel mentah yang Tailscale gunakan, dan klien Android resmi memungkinkan Anda melewati lapisan mesh sepenuhnya. Buat konfigurasi di host LLM, jatuhkan kode QR ke aplikasi Android, dan ponsel berada di LAN. Tidak ada server untuk dipercaya, tidak ada akun untuk masuk. Hanya sebuah terowongan.
Di mana ia jatuh pendek: Anda adalah admin jaringan. NAT traversal di IPv4 tingkat pembawa membutuhkan relay publik atau server rumah dengan port yang dapat dijangkau. Kunci harus diputar dengan tangan. UI berfungsi tetapi jarang.
Harga: Gratis selamanya. Open-source di bawah GPL 2.
Platform: Android, iOS, Windows, Mac, Linux
Garis bawah: Pilih ini jika Anda sudah menjalankan titik akhir WireGuard di router atau kotak edge Anda, atau Anda menginginkan klien paling ramping dengan ketergantungan pihak ketiga.
3. ZeroTier One, terbaik untuk overlay peer-to-peer yang juga dapat Anda host sendiri
ZeroTier One membangun jaringan Layer 2 virtual yang menjahit perangkat bersama di semua NAT. Dari Android terlihat seperti toggle VPN normal. Setelah Anda menggabungkan jaringan, ponsel dan host LLM Anda berbagi subnet dan berbicara langsung, tanpa melompat melalui pusat data siapa pun untuk muatan. Sepuluh node gratis sangat murah hati, dan jika pengontrol gratis pernah menjadi masalah, kode server ZeroTier bersifat publik dan seluruh pengontrol dapat berjalan di kotak GPU yang sama yang menghost model.
Di mana ia jatuh pendek: Sedikit lebih lambat membentuk terowongan daripada Tailscale di NAT yang rumit. Aplikasi Android telah menguras lebih banyak baterai dalam pengujian kami saat selalu aktif, jadi sebagian besar orang lebih suka memicu terowongan per sesi.
Harga:
- Gratis: hingga 10 node di satu jaringan yang di-hosting
- Berbayar: Paket bisnis dari $5 per bulan
Platform: Android, iOS, Windows, Mac, Linux
Garis bawah: Pilih ini jika Anda menginginkan mesh yang dapat Anda self-host sepenuhnya nanti tanpa menulis ulang pengaturan sisi klien Anda.
4. Cloudflare WARP, terbaik saat Anda menginginkan terowongan plus penyaringan DNS
Cloudflare WARP bukan, tepatnya, mesh yang dihost sendiri. Ini adalah terowongan Cloudflare yang berakhir di edge mereka. Sendirian, itu tidak membiarkan Anda mencapai LLM rumah Anda. Dikombinasikan dengan Cloudflare Tunnel (sebelumnya Argo Tunnel) yang berjalan di kotak LLM, polanya menjadi: server mengalirkan terowongan keluar ke Cloudflare, ponsel bergabung melalui WARP, keduanya bertemu di jaringan pribadi Cloudflare. Tidak ada port yang terbuka di router Anda. Aturan kontrol akses berjalan di edge, jadi Anda dapat menuntut passkey atau penyedia identitas sebelum permintaan apa pun menyentuh Ollama.
Di mana ia jatuh pendek: Lalu lintas transit Cloudflare, yang bagus untuk panggilan API ke LLM Anda tetapi merupakan perubahan dalam model kepercayaan dibandingkan dengan Tailscale atau ZeroTier. WARP gratis memiliki batas laju lembut dan bagian Zero Trust membutuhkan paket Zero Trust (masih gratis untuk tim kecil).
Harga:
- Gratis: WARP dan Cloudflare Zero Trust untuk hingga 50 pengguna
- Berbayar: WARP+ sekitar $4.99/bulan untuk tier lebih cepat
Platform: Android, iOS, Windows, Mac, Linux
Garis bawah: Pilih ini jika Anda sudah menjalankan sesuatu di Cloudflare dan menginginkan akses yang menyadari identitas ke LLM lokal Anda tanpa mengekspos IP rumah.
5. Termux, terbaik untuk mendorong API LLM dari shell
Termux mengubah Android menjadi userland Linux sejati. Setelah ponsel Anda berada di tailnet atau terowongan WireGuard, Termux memberi Anda curl, jq, python, ssh, dan setiap alat lain yang Anda butuhkan untuk melakukan scripting terhadap API LLM lokal Anda. Pipa fungsi shell ke titik akhir /api/generate Ollama dan Anda memiliki chatbot di terminal Anda. Tambahkan pintasan keyboard dan itu diluncurkan dengan cepat.
Di mana ia jatuh pendek: Tidak ada GUI obrolan. Google Play Termux ketinggalan dan ditinggalkan; rilis yang dipertahankan tinggal di F-Droid dan GitHub, yang bagus tetapi membutuhkan saat setup tambahan. Drainase baterai dapat diabaikan saat tidak aktif.
Harga: Gratis, open-source.
Platform: Android
Garis bawah: Pilih ini jika Anda menyukai command line dan ingin membuat skrip interaksi LLM Anda dari ponsel Anda.
6. JuiceSSH, terbaik untuk sesi SSH yang disimpan dan port forwarding
JuiceSSH dibangun jauh sebelum LLM lokal, tetapi set fiturnya cocok untuk beban kerja ini dengan sempurna. Simpan satu koneksi ke host LLM, yang lain ke gateway mesh Anda, dan lompat di antara mereka dari swipe. Port forwarding lokal memungkinkan Anda memetakan localhost:11434 di Android ke ollama.tailnet.ts:11434 di server. Aplikasi Android apa pun yang mendukung “custom endpoint” (banyak klien obrolan Ollama melakukan) kemudian dapat menekan port lokal dan tetap tidak menyadari terowongan.
Di mana ia jatuh pendek: Tidak ada GUI obrolan grafis, sekali lagi, meskipun terminal berwarna mudah dibaca. Beberapa pembaruan Play Store tertinggal dari changelog.
Harga:
- Gratis: klien SSH lengkap dan port forwarding
- Berbayar: JuiceSSH Pro adalah pembukuan satu kali $4.99 untuk sinkronisasi tim, dukungan plugin, dan tema
Platform: Android
Garis bawah: Pilih ini jika Anda sudah lebih suka klien SSH yang tepat untuk pekerjaan server lain dan menginginkan yang sama untuk menangani port forwarding untuk LLM Anda.
7. NetGuard, terbaik untuk mengunci terowongan ke satu aplikasi
NetGuard tidak membangun terowongan sendiri. Ini adalah firewall per-aplikasi yang berjalan secara lokal di Android menggunakan slot VPN. Dikombinasikan dengan salah satu terowongan di atas, itu memungkinkan Anda untuk memutuskan bahwa hanya klien obrolan tertentu yang dapat mengirim lalu lintas ke LLM rumah Anda, dan semuanya yang lain tetap keluar dari jalur itu. Berguna jika Anda menginginkan aplikasi obrolan Ollama di ponsel Anda yang harus melewati terowongan sementara browser Anda terus menggunakan jaringan seluler.
Di mana ia jatuh pendek: NetGuard menempati slot Android VPN, yang berarti hanya satu aplikasi berbentuk VPN yang dapat aktif pada satu waktu. Anda harus menggabungkan terowongan dan aturan per-aplikasi dengan hati-hati. Di beberapa versi Android, pencampuran NetGuard dengan WireGuard atau Tailscale memerlukan solusi split-tunnel.
Harga:
- Gratis: firewall penuh, open-source di GitHub
- Berbayar: Pembelian dalam aplikasi sekitar $4 membuka filter dan pemberitahuan per-aplikasi
Platform: Android
Garis bawah: Pilih ini jika Anda menginginkan lapisan kontrol tambahan atas aplikasi Android mana saja yang bahkan diizinkan untuk berbicara dengan LLM rumah Anda.
Cara memilih yang tepat
- Jika Anda menginginkannya bekerja hari ini, di jaringan rumah mana pun, tanpa port forward: Tailscale.
- Jika Anda sudah mengendalikan router Anda dan menginginkan terowongan paling langsung: WireGuard.
- Jika Anda berencana untuk host sendiri seluruh bidang kontrol nanti: ZeroTier One, dan pertimbangkan pengontrol Anda sendiri.
- Jika pengaturan Anda sudah berada di Cloudflare: Cloudflare WARP dengan Cloudflare Tunnel di sisi LLM.
- Jika Anda menyukai command line: Termux plus salah satu terowongan.
- Jika Anda menginginkan sesi SSH dan port forwarding yang bersih: JuiceSSH.
- Jika Anda ingin membatasi aplikasi Android mana yang diizinkan mencapai LLM: NetGuard di depan salah satu di atas.
FAQ
Bisakah saya mengakses server Ollama saya dari Android tanpa VPN apa pun?
Secara teknis ya, dengan mengekspos port ke internet. Secara praktis tidak. Ollama tidak memiliki autentikasi sendiri, jadi endpoint publik adalah LLM publik. Setiap pengaturan yang kami bahas di sini menjaga port tetap pribadi dan hanya membiarkan ponsel masuk.
Apakah Tailscale benar-benar zero-config, atau itu hanya pemasaran?
Mendapatkan ponsel dan kotak LLM pada tailnet yang sama membutuhkan waktu sekitar dua menit. Membuat mereka menemukan satu sama lain di jaringan seluler yang bermusuhan membutuhkan sedikit lebih banyak ketika MagicDNS memenuhi portal captive korporat tertentu, tetapi lebih dekat ke “install dan login” daripada opsi lain di sini.
Server LLM lokal mana yang bekerja paling baik di atas mesh VPN?
Apa pun yang berbicara HTTP. REST API Ollama dan endpoint kompatibel OpenAI dari LM Studio, LocalAI, dan vLLM bekerja identik setelah terowongan naik. Perbedaannya ada pada klien di ponsel, bukan di server.
Apakah menjalankan VPN membunuh baterai?
Klien mesh berbasis WireGuard seperti Tailscale dan aplikasi WireGuard resmi menganggur hampir tidak terlihat. VPN SSL yang lebih lama adalah yang memiliki reputasi membakar baterai. Dalam hari normal menjentik LLM rumah sesekali, terowongan adalah item baris kecil.
Apakah ini legal / mematuhi TOS dengan ISP saya?
Menjalankan mesh VPN atau terowongan WireGuard untuk mencapai perangkat keras Anda sendiri adalah standar pada setiap ISP konsumen yang telah kami gunakan. Apa yang beberapa ISP larang adalah hosting layanan publik di koneksi perumahan. Karena terowongan di sini tidak membuka jaringan rumah Anda ke publik, Anda berada dalam ketentuan normal.
