RikkaHub di Android

Minggu ini, seorang penulis XDA melaporkan bahwa mereka mengubah ponsel Android mereka menjadi agen AI yang berfungsi menggunakan RikkaHub Agent yang dipasangkan dengan LLM lokal. Agen ini memasang aplikasi dengan sendirinya, sepenuhnya dikendalikan melalui peramban, tanpa mengirimkan satu pun titik data ke model cloud. Tumpukan ini sekarang berada dalam jangkauan siapa pun yang bersedia memasang alat yang tepat. Artikel ini mencakup tujuh aplikasi Android yang menjalankan LLM lokal atau mengotomatisasi telepon untuk pembaca yang ingin membangun pengaturan yang sama. Baik Anda menjelajahi aplikasi terbaik untuk otomasi telepon LLM lokal atau ingin mengurangi ketergantungan cloud, pilihan kami mencakup spektrum penuh dari antarmuka obrolan sederhana hingga platform otomasi canggih yang mengubah telepon Anda menjadi agen AI sejati.

Apa yang harus dicari di aplikasi otomasi telepon LLM lokal

Perbandingan cepat

Aplikasi Terbaik untuk Platform Paket gratis Harga awal Rating
RikkaHub Klien LLM lokal serba guna Android Ya Gratis (open source) 4.4
PocketPal AI Dukungan GGUF offline sepenuhnya Android, iOS Ya Gratis 4.2
ChatterUI Obrolan dan roleplay pengguna power Android Ya Gratis (GitHub) 4.3
MLC Chat Inferensi kerangka kerja MLC Android, iOS Ya Gratis 4.1
Layla Pendamping AI seluler Android Ya Gratis 4.2
Tasker Platform otomasi mendalam Android Ya $4.99 sekali beli 4.5
MacroDroid Otomasi yang ramah pemula Android Ya, terbatas $4.99 sekali beli 4.3

Aplikasi-aplikasinya

1. RikkaHub

RikkaHub adalah klien LLM lokal open source yang dibangun untuk Android dari awal. Mendukung model GGUF, menjalankan inferensi on-device, dan fork RikkaHub Agent mencakup kemampuan agensi penuh: LLM dapat memanggil fungsi, mengendalikan telepon Anda, dan menggabungkan tindakan tanpa prompt manusia. Muat model 7B terkuantisasi dan saksikan navigasi telepon Anda secara otonomi.

Kekurangannya: Antarmuka berorientasi pada pengembang dan menganggap keakraban dengan kuantisasi model dan format GGUF. Dokumentasi sangat terbatas, dan fitur agen adalah wilayah baru dengan tepi kasar pada rantai instruksi yang kompleks.

Harga: Gratis dan open source.

Platform: Android.

Unduh: Rilis GitHub

Intinya: Platform otomasi telepon LLM lokal paling ambisius yang tersedia, dan persis yang digunakan penulis XDA untuk membangun agen AI mereka.

2. PocketPal AI

PocketPal AI adalah antarmuka obrolan sepenuhnya offline yang dibangun di sekitar dukungan model GGUF. Mengunduh model dari Hugging Face, menjalankannya sepenuhnya di telepon Anda, dan tidak menyimpan cache atau mensinkronkan percakapan ke cloud. Berfungsi di Android dan iOS, menjadikannya opsi lintas platform jika Anda menguji di berbagai perangkat.

Kekurangannya: Hanya obrolan untuk sekarang; belum ada otomasi atau pemanggilan fungsi. Jika Anda membutuhkan LLM Anda untuk mengendalikan telepon Anda, aplikasi ini berbicara dengan model tetapi tidak membiarkan model berbicara kembali ke Android.

Harga: Gratis tanpa tingkatan berbayar.

Platform: Android, iOS.

Unduh: Google Play

Intinya: Titik masuk teraman untuk obrolan LLM offline di Android jika privasi dan kesederhanaan lebih penting daripada otomasi.

3. ChatterUI

ChatterUI adalah klien obrolan pengguna power dengan dukungan roleplay dan karakter bawaan. Terhubung ke model GGUF lokal melalui backend llama.cpp, mendukung pemformatan untuk penulisan kreatif, dan mencakup prompt sistem yang tahan terhadap jailbreak. Populer di kalangan pengguna yang membangun persona AI kustom dan menguji perilaku model di berbagai template prompt.

Kekurangannya: Kurva pembelajaran lebih curam daripada PocketPal. Tidak ada otomasi asli atau kontrol telepon; dirancang untuk percobaan obrolan, bukan perilaku agen.

Harga: Gratis (open source, hanya rilis GitHub).

Platform: Android.

Unduh: Rilis GitHub

Intinya: Ideal jika Anda bereksperimen dengan rekayasa prompt dan menginginkan kontrol terperinci atas perilaku model dan desain persona.

4. MLC Chat

MLC Chat dibangun di sekitar kerangka kerja MLC, yang mengompilasi model ke kode mesin asli untuk inferensi on-device yang lebih cepat daripada llama.cpp tradisional. Muat model sekali dan model berjalan dengan kecepatan hampir asli. Tersedia di Android dan iOS, dengan manajemen model yang mudah melalui UI aplikasi.

Kekurangannya: Ketersediaan model lebih kecil dari GGUF; hanya model yang dikompilasi sebelumnya untuk MLC yang akan berjalan. Setup memerlukan pemahaman tentang model mana yang kompatibel dengan MLC sebelum Anda mengunduh.

Harga: Gratis.

Platform: Android, iOS.

Unduh: Google Play

Intinya: Pilihan terbaik jika kecepatan inferensi penting dan Anda menginginkan penelitian optimasi terbaru dari tim kerangka kerja MLC.

5. Layla

Layla adalah pendamping AI pertama-seluler dengan dukungan model lokal dan fokus pada percakapan alami. Menggabungkan inferensi LLM lokal dengan antarmuka obrolan yang dipoles dirancang untuk penggunaan sehari-hari. Sinkronisasi bersifat opsional; berjalan offline secara default.

Kekurangannya: Kurang dapat disesuaikan daripada ChatterUI untuk roleplay atau rekayasa persona. Pemanggilan fungsi dan otomasi bukan fitur saat ini.

Harga: Gratis dengan fitur premium opsional.

Platform: Android.

Unduh: Google Play

Intinya: Keseimbangan terbaik antara kemudahan dan kemampuan jika Anda menginginkan pendamping LLM lokal yang tidak terlihat kasar.

6. Tasker

Tasker adalah standar emas untuk otomasi Android yang mendalam. Rekam tugas secara visual, picu sensor atau intent, dan rangkai tindakan di seluruh perangkat Anda. Tasker tidak menjalankan LLM itu sendiri, tetapi berpasangan sempurna dengan aplikasi LLM lokal apa pun: hubungkan Tasker ke RikkaHub atau klien lain melalui HTTP, biarkan LLM memutuskan apa yang harus dilakukan, dan Tasker melaksanakan perintah tersebut di tingkat sistem Android.

Kekurangannya: Kurva pembelajaran yang curam; tidak ramah pemula. Memerlukan pemahaman tentang internal Android, intent, dan logika otomasi.

Harga: $4.99 sekali beli.

Platform: Android.

Unduh: Google Play

Intinya: Platform otomasi paling powerful di Android, dan alat yang diperlukan jika Anda ingin membangun agen LLM lokal penuh.

7. MacroDroid

MacroDroid adalah Tasker untuk orang-orang yang tidak ingin belajar bahasa scripting Tasker. Trigger dan tindakan drag-and-drop, perpustakaan template, dan sinkronisasi cloud. Juga mendukung integrasi GPT jika Anda lebih suka model cloud, meskipun Anda dapat membangun otomasi dengan LLM lokal.

Kekurangannya: Kurang capable daripada Tasker untuk rantai yang kompleks. Ketergantungan cloud jika Anda menggunakan fitur GPT; pengaturan lokal saja kehilangan beberapa fitur kenyamanan.

Harga: Gratis dengan otomasi terbatas; $4.99 sekali beli untuk unlimited.

Platform: Android.

Unduh: Google Play

Intinya: Titik masuk terbaik jika Anda ingin mengotomatisasi telepon Anda tanpa belajar scripting, dan senang memulai sederhana sebelum pindah ke Tasker.

Cara memilih yang tepat

Jika Anda menginginkan agen LLM lokal penuh yang mengendalikan telepon Anda sekarang, mulai dengan RikkaHub ditambah Tasker. RikkaHub menangani LLM dan logika agen; Tasker adalah jembatan ke telepon Anda.

Jika privasi adalah satu-satunya tujuan Anda dan Anda tidak memerlukan otomasi, PocketPal AI adalah jalur tercepat: unduh model GGUF, buka aplikasi, obrolan offline. Tidak ada yang meninggalkan telepon Anda.

Jika Anda membangun persona AI kustom atau menguji prompt, ChatterUI memberi Anda kontrol yang Anda butuhkan. Pasangkan dengan Tasker nanti jika Anda ingin menambahkan otomasi.

Jika Anda memiliki telepon yang lebih baru dengan spesifikasi kuat dan peduli tentang kecepatan inferensi, MLC Chat akan terasa jauh lebih cepat daripada GGUF untuk obrolan real-time. Pertukaran adalah perpustakaan model yang lebih kecil.

Jika Anda menginginkan kesederhanaan all-in-one tanpa mengutak-atik, Layla sebagai alat obrolan ditambah MacroDroid untuk otomasi mencakup sebagian besar kebutuhan otomasi tanpa kurva pembelajaran.

FAQ

Dapatkah ponsel Android benar-benar menjalankan LLM lokal?

Ya. Ponsel dari 2021 ke depan dengan Snapdragon 870+ atau setara dapat menjalankan model terkuantisasi dari 3 hingga 13 miliar parameter. Pixel 7 atau OnePlus 9 menangani model 7B dengan lancar; perangkat flagship menjalankan model yang lebih besar. RAM di atas 6 GB membantu; di bawah 4 GB menjadi sulit.

Apa LLM lokal terbaik untuk Android?

Mistral 7B Instruct (terkuantisasi GGUF ke Q4) adalah sweet spot untuk Android: cepat, cukup capable untuk tugas nyata, dan cocok di ponsel dengan 6 GB RAM. Untuk pekerjaan agensi, Nous Hermes 2 7B populer karena menangani pemanggilan fungsi dengan baik. Model yang lebih kecil seperti TinyLlama 1.1B berjalan di mana saja tetapi terlalu terbatas untuk otomasi.

Apakah RikkaHub gratis?

Ya, RikkaHub adalah open source di bawah lisensi MIT. Tidak ada iklan, tidak ada akun cloud, tidak ada paywall fitur. Anda perlu menemukan dan mengkuantisasi model Anda sendiri atau mengunduh file GGUF yang sudah dikuantisasi sebelumnya dari Hugging Face.

Apakah saya perlu melakukan root ponsel saya untuk menjalankan LLM lokal?

Tidak. Ketujuh aplikasi di sini berjalan tanpa root. Tasker dan MacroDroid tidak memerlukan root untuk otomasi dasar, meskipun beberapa tindakan tingkat sistem tingkat lanjut (mengubah pengaturan sistem, memodifikasi aplikasi lain) menguntungkan dari hal itu. Inferensi LLM lokal itu sendiri tidak pernah memerlukan root.