Sebuah artikel XDA-Developers baru-baru ini menyatakannya dengan jelas: ponsel Anda ditambah model lokal kecil sudah melakukan sebagian besar hal yang orang bayar untuk Claude Pro atau ChatGPT Plus. Penulis menjalankan server LLM di rumah, mengarahkan klien ponsel ke sana, dan belum menyentuh langganan chatbot berbayar selama berbulan-bulan. Alur kerja ini adalah seluruh cerita di balik daftar aplikasi AI chat lokal terbaik untuk Android kami, dan berita baiknya adalah Anda tidak perlu server rumah untuk memulai. Beberapa aplikasi ini menjalankan model langsung di ponsel Anda. Yang lain bertindak sebagai klien untuk kotak Ollama atau LM Studio di meja Anda. Kedua jalur tidak memerlukan biaya selain listrik yang sudah Anda bayar.
Apa yang harus dicari di aplikasi AI chat lokal
Tidak setiap aplikasi di Google Play berlabel “AI” benar-benar menjalankan model di perangkat Anda. Sebelum memilih, periksa kriteria ini:
- Perangkat vs server jarak jauh. Aplikasi on-device memuat model GGUF atau MLC ke RAM dan menjalankan inferensi pada CPU atau GPU ponsel. Klien jarak jauh mengirim prompt ke server Ollama atau llama.cpp di rumah Anda melalui Wi-Fi atau Tailscale.
- Anggaran RAM. Model parameter 3B dalam kuantisasi 4-bit memerlukan sekitar 2 hingga 3 GB RAM gratis. Model 7B menginginkan 5 hingga 6 GB. Ponsel dengan 8 GB atau lebih menangani ini dengan mudah.
- Format model. GGUF adalah standar untuk aplikasi berbasis llama.cpp. MLC menggunakan format kompilasi proprieternya sendiri. Klien Ollama bekerja melalui HTTP jadi model apa pun yang didukung server Anda adil.
- Kemampuan offline. Aplikasi offline sejati tetap bekerja dengan ponsel dalam mode pesawat. Klien membutuhkan jalur jaringan ke server.
- Karakter atau prompt sistem. Jika Anda ingin roleplay, coding, atau persona tertentu, periksa apakah aplikasi mengekspos prompt sistem dan preset per-chat.
Perbandingan cepat
| Aplikasi | Terbaik untuk | Tipe | Berjalan offline | Sumber model | Lisensi |
|---|---|---|---|---|---|
| PocketPal AI | Chat on-device dengan pilihan model terluas | Lokal | Ya | Hugging Face GGUF | Open source |
| MLC Chat | Inferensi GPU ponsel tercepat | Lokal | Ya | MLC prebuilt | Open source |
| Layla | Antarmuka roleplay dan persona on-device paling halus | Lokal | Ya | GGUF, curated list | Freemium |
| ChatterUI | Satu klien untuk file lokal dan API jarak jauh | Hibrid | Ya | GGUF plus HTTP endpoints | Open source |
| Ollama App | Berbicara dengan server Ollama rumah | Jarak jauh | Tidak | Perpustakaan Ollama Anda | Open source |
| Enchanted for Ollama | Klien Ollama paling halus di Android | Jarak jauh | Tidak | Perpustakaan Ollama Anda | Open source |
| Maid | Chat GGUF sederhana dengan binding llama.cpp | Lokal | Ya | GGUF, remote llama.cpp | Open source |
| SmolChat | Jejak kecil, hanya F-Droid | Lokal | Ya | GGUF, small models | Open source |
Aplikasi
1. PocketPal AI, chat on-device terbaik
PocketPal AI adalah aplikasi yang harus dicoba sebagian besar orang terlebih dahulu. Ini dilengkapi dengan browser model built-in yang menarik kuantisasi GGUF langsung dari Hugging Face, sehingga Anda dapat mengunduh Llama 3.2 3B atau Qwen 2.5 3B dalam waktu sekitar satu menit dan mulai mengobrol. Loop generasi adalah llama.cpp di bawah kap mesin, dan aplikasi mengekspos panjang konteks, suhu, top-p, dan prompt sistem per model. Di ponsel dengan 8 GB RAM, model 3B pada Q4_K_M berjalan dengan kecepatan yang dapat dibaca.
Kekurangan: Model 7B dan 8B yang lebih besar lambat di semua chip kecuali flagship, dan belum ada RAG built-in atau upload file.
Harga: Gratis, open source (MIT).
Platform: Android dan iOS.
Ringkasan: Pilihan default jika Anda menginginkan chat on-device dan belum memiliki server LLM rumah.
2. MLC Chat, terbaik untuk inferensi GPU yang dipercepat
MLC Chat berasal dari proyek MLC LLM di CMU dan merupakan salah satu dari sedikit aplikasi Android yang benar-benar menggunakan GPU ponsel melalui OpenCL atau Vulkan. Itu berarti token per detik jauh lebih tinggi daripada aplikasi CPU-only setelah melewati unduhan model awal. Tangkapannya adalah model harus dikompilasi sebelumnya untuk runtime MLC, jadi pilihan lebih sempit daripada Hugging Face. Varian Llama 3, Phi-3, dan Gemma semuanya ada.
Kekurangan: Unduhan model pertama kali besar, dan menukar antar model lebih lambat daripada aplikasi GGUF karena masing-masing adalah paket yang mandiri.
Harga: Gratis, open source (Apache 2.0).
Platform: Android dan iOS.
Ringkasan: Pilih ini jika Anda memiliki ponsel flagship Android terbaru dan menginginkan kecepatan dibandingkan varietas model.
3. Layla, terbaik untuk karakter dan roleplay
Layla membungkus llama.cpp dalam antarmuka pengguna paling halus dari aplikasi chat on-device Android apa pun. Ini menekankan persona karakter, memori, dan chat bentuk panjang daripada tanya jawab kering. Perpustakaan kecil model yang dikurasi dipilih sebelumnya untuk perangkat keras ponsel, yang menghemat Anda dari analisis pilihan browsing Hugging Face mentah. Teks-ke-ucapan lokal dan extras generasi gambar tersedia jika Anda menginginkannya.
Kekurangan: Tingkat gratis membatasi beberapa model dan fitur di balik unlock berbayar, jadi cerita “tanpa langganan” hanya sepenuhnya berlaku di build gratis.
Harga: Gratis dengan opsi dalam aplikasi. Unlock seumur hidup tersedia.
Platform: Android, dengan build desktop terpisah.
Ringkasan: Pilihan terbaik jika Anda peduli dengan presentasi, karakter, dan pemilihan model tanpa gesekan.
4. ChatterUI, klien hibrid terbaik
ChatterUI adalah aplikasi asli Kotlin yang memperlakukan file GGUF lokal dan API jarak jauh sebagai warga negara yang setara. Arahkan ke file model di ponsel Anda dan aplikasi menjalankan llama.cpp secara lokal. Arahkan ke titik akhir yang kompatibel dengan OpenAI seperti Ollama, LM Studio, KoboldCpp, atau API yang dihosting dan aplikasi menggunakannya sebagai gantinya. Kartu karakter, lorebooks, preset sampler, dan template perintah semuanya ada untuk orang-orang yang datang dari SillyTavern.
Kekurangan: Antarmuka lebih padat daripada PocketPal atau Layla, dan pengaturan dapat mengatasi pendatang baru pada peluncuran pertama.
Harga: Gratis, open source (AGPL-3.0).
Platform: Android.
Ringkasan: Pilihan terbaik jika Anda menginginkan satu aplikasi untuk chat on-device hari ini dan chat server jarak jauh besok.
5. Ollama App, terbaik untuk server yang dihosting rumah
Ollama App adalah klien Android bersih dan tanpa frills yang berpasangan dengan server Ollama di PC atau NAS Anda. Masukkan URL server, pilih model dari daftar yang sudah diunduh host Anda, dan mulai mengobrol. Waktu respons terasa dekat dengan chatbot yang dihosting di jaringan rumah yang layak, dan menjalankan model yang lebih besar seperti Llama 3.1 70B di workstation menempatkan output yang jauh lebih mampu di ponsel Anda daripada apa pun yang dapat dijalankan on-device.
Kekurangan: Tidak ada fallback offline, jadi pemadaman Wi-Fi atau server yang dijeda membuat Anda tanpa apa-apa. Anda juga perlu merasa nyaman menjalankan Ollama sendiri.
Harga: Gratis, open source (Apache 2.0).
Platform: Android, iOS.
Ringkasan: Pilihan terbaik jika Anda sudah menjalankan Ollama di kotak rumah dan menginginkan klien ponsel yang hanya berfungsi.
6. Enchanted for Ollama, klien Ollama yang paling indah
Enchanted for Ollama adalah fork komunitas Android dari klien Enchanted iOS yang populer. Desain visual lebih dekat dengan yang diharapkan orang dari aplikasi chat modern, dengan rendering markdown, blok kode dengan penyorotan sintaks, dan pengaturan per-percakapan. Itu berbicara dengan server Ollama apa pun yang Anda arahkan melalui jaringan lokal atau Tailscale.
Kekurangan: Sebagai fork komunitas, update tertinggal dari asli iOS. Beberapa fitur lanjutan dari hulu memerlukan beberapa rilis untuk tiba.
Harga: Gratis, open source (Apache 2.0).
Platform: Android (fork), iOS (original).
Ringkasan: Pilih ini jika Ollama App terasa terlalu utilitarian dan Anda menginginkan antarmuka yang lebih ramah untuk server yang sama.
7. Maid, chat lokal paling sederhana
Maid kepanjangan dari Mobile Artificial Intelligence Distribution dan merupakan aplikasi Flutter yang menggabungkan llama.cpp untuk inferensi lokal dan juga dapat terhubung ke titik akhir llama.cpp atau Ollama jarak jauh. Itu membuat luas permukaan kecil: satu pane chat, satu pemilih model, satu layar pengaturan. Itu membuat pilihan yang baik untuk siapa pun yang mencoba aplikasi lain dan menemukannya berantakan.
Kekurangan: Kecepatan fitur lebih lambat daripada PocketPal atau ChatterUI, dan tidak ada browser model built-in, jadi Anda mengunduh file GGUF di tempat lain dan memuat sebelumnya.
Harga: Gratis, open source (MIT).
Platform: Android, Linux, Windows.
Ringkasan: Pilih ini jika Anda menginginkan jalur terpendek dari install ke chat lokal yang bekerja.
8. SmolChat, terbaik untuk ponsel kecil dan model kecil
SmolChat adalah aplikasi F-Droid only yang fokus pada model lokal yang dapat digunakan paling kecil, seperti varian SmolLM2 dan TinyLlama. Itu berarti berjalan pada ponsel dengan 4 hingga 6 GB RAM di mana PocketPal atau Layla berjuang. Startup cepat, tekanan memori rendah, dan kualitas wajar untuk ringkasan cepat, penulisan ulang, dan tanya jawab sederhana.
Kekurangan: Model kecil dengan tujuan, jadi penalaran multi-langkah dan konteks panjang lemah. Itu bukan aplikasi untuk dipilih jika Anda menginginkan asisten umum.
Harga: Gratis, open source (Apache 2.0).
Platform: Android.
Ringkasan: Pilih ini jika ponsel Anda memiliki 6 GB RAM atau lebih sedikit, atau jika Anda menghargai ukuran install dan kecepatan dibandingkan kualitas model.
Bagaimana memilih yang tepat
Pilihan benar-benar tergantung pada apakah Anda sudah memiliki server LLM rumah atau ingin menjalankan model di ponsel itu sendiri.
Jika Anda menginginkan pengalaman on-device yang paling sederhana, instal PocketPal AI. Ini mengunduh model untuk Anda, mengekspos pengaturan yang penting, dan bekerja offline dari kotak.
Jika Anda memiliki ponsel flagship baru dan peduli tentang kecepatan, MLC Chat adalah opsi tercepat karena benar-benar menggunakan GPU.
Jika Anda menginginkan karakter, persona, atau antarmuka yang lebih ramah, Layla adalah pilihan.
Jika Anda menginginkan satu aplikasi yang mencakup chat on-device dan server jarak jauh, ChatterUI adalah pilihan fleksibel.
Jika Anda sudah menjalankan Ollama di PC atau NAS, Ollama App dan Enchanted for Ollama membuat Anda berbicara dalam waktu sekitar dua menit. Enchanted adalah ide yang sama dengan tampilan yang lebih bagus.
Jika Anda menginginkan chat lokal minimal dan tanpa frills, Maid adalah luas permukaan terkecil.
Jika ponsel Anda memiliki 6 GB RAM atau lebih sedikit, atau Anda hanya menginginkan waktu boot tercepat, SmolChat dibangun untuk batasan itu.
FAQ
Bisakah saya menjalankan ChatGPT secara lokal di Android?
Tidak. Model dasar ChatGPT tidak dirilis sebagai bobot yang dapat diunduh. Apa yang dapat Anda jalankan secara lokal adalah alternatif terbuka seperti Llama 3, Qwen 2.5, Phi-3, Gemma, dan Mistral, menggunakan aplikasi seperti PocketPal AI, MLC Chat, atau Layla. Kualitas pada model lokal 3B atau 7B secara bermakna lebih rendah daripada kelas GPT-4, tetapi untuk pencatatan, ringkasan, drafting, dan bantuan coding sering cukup.
Apa aplikasi LLM lokal terbaik untuk Android?
Bagi sebagian besar orang, PocketPal AI adalah titik awal terbaik. Ini dilengkapi dengan browser model Hugging Face built-in, berjalan di ponsel Android modern apa pun, dan sepenuhnya open source tanpa langganan. Jika Anda sudah memiliki server LLM rumah, Ollama App lebih baik secara default karena memungkinkan Anda menggunakan model yang lebih besar daripada ponsel apa pun yang dapat masuk ke RAM.
Berapa banyak RAM yang saya butuhkan untuk menjalankan model lokal di ponsel saya?
Panduan kasar: 4 GB RAM menangani model parameter 1B dengan bersih, 6 GB menangani model 3B pada kuantisasi 4-bit, dan 8 GB atau lebih nyaman untuk model 7B dan 8B. Di bawah 4 GB, tetap gunakan SmolChat dengan SmolLM2 atau TinyLlama. Di atas 12 GB, Anda dapat mulai bereksperimen dengan model 13B pada chip flagship, meskipun throughput akan turun.
Apakah PocketPal gratis?
Ya. PocketPal AI gratis, open source di bawah lisensi MIT, dan tidak ada iklan atau tingkat langganan. Model yang diunduh dari Hugging Face juga gratis. Satu-satunya biaya adalah penyimpanan dan baterai.
Bagaimana cara menghubungkan Android saya ke Ollama?
Instal Ollama di PC, Mac, atau NAS Anda dan paparkan di jaringan lokal dengan mengatur variabel lingkungan OLLAMA_HOST ke 0.0.0.0. Instal Ollama App atau Enchanted for Ollama di ponsel Anda, masukkan IP lokal dan port server Anda (default 11434), dan pilih model yang sudah diunduh di host. Untuk akses di luar jaringan rumah Anda, letakkan terowongan Tailscale atau WireGuard antara ponsel dan server daripada mengekspos Ollama ke internet secara langsung.
