NPU dulu hanya spec yang terbuang di stiker. Itu akhirnya berubah. Laptop Snapdragon X Elite diluncurkan pada 2024 dengan 45 TOPS NPU, Intel menyusul dengan Lunar Lake, dan AMD dengan Ryzen AI 300. Jadi Copilot+ PC sekarang memiliki sebuah chip yang dirancang untuk menjalankan model secara lokal, cepat, dan tanpa menguras baterai. Cakupan Softonic dari generasi CPU berikutnya dari Arm, Intel, dan AMD mengkonfirmasi tren, inferensi on-device adalah target nyata sekarang, bukan sekadar pemasaran.
Tangkapannya adalah tidak banyak aplikasi yang menggunakan NPU. Windows Studio Effects dan Recall menggunakannya. Segelintir aplikasi pihak ketiga telah mengejar. Daftar ini mencakup delapan aplikasi desktop yang patut diinstal pada Copilot+ PC untuk benar-benar menggunakan NPU yang sudah Anda bayar.
Apa yang dicari dalam aplikasi Copilot+ PC
Tidak setiap aplikasi “AI” di Microsoft Store menggunakan NPU. Banyak dari mereka mengirimkan pipeline GPU atau berbasis CPU yang sama seperti sebelumnya dan hanya mengubah merek pemasaran. Yang penting:
- Eksekusi NPU asli. Aplikasi secara eksplisit menargetkan QNN (Qualcomm), OpenVINO (Intel), atau DirectML NPU. Jika tidak, inferensi akan kembali ke CPU dan menguras baterai.
- Build native Arm64. Pada hardware Snapdragon X, emulasi x64 masih berfungsi tetapi dengan dampak nyata pada performa dan baterai. Rilis native Arm64 tidak dapat dinegosiasikan.
- Mode lokal saja. Seluruh poin akselerasi NPU adalah untuk menjaga input sensitif di perangkat, tanpa perjalanan bolak-balik ke API cloud.
- Disiplin ukuran model. NPU pada Copilot+ PCs saat ini mencapai sekitar 45 TOPS. Itu cukup untuk model bahasa parameter 7B dan model visi kecil, bukan untuk monster 70B.
Perbandingan cepat
| Aplikasi | Terbaik untuk | Platform | Paket gratis | Harga mulai | Akselerasi NPU |
|---|---|---|---|---|---|
| LM Studio | Mengobrol dengan LLM lokal | Windows Arm64, x64, Mac | Aplikasi penuh gratis | Gratis | Native pada Snapdragon X |
| Ollama | Menjalankan LLM dari CLI atau API | Windows Arm64, x64, Mac, Linux | Gratis | Gratis | DirectML pada hardware tertentu |
| Krisp | Pembersihan suara real-time | Windows, Mac | 60 menit/hari gratis | Sekitar $8/bln | Model suara NPU pada Copilot+ PC |
| Adobe Lightroom | Peningkatan foto AI | Windows, Mac | Uji coba 7 hari | Sekitar $10/bln paket Photography | Enhance menggunakan NPU pada Copilot+ PC |
| DaVinci Resolve | Pengeditan video AI | Windows, Mac, Linux | Tier gratis lengkap | $295 satu kali untuk Studio | Neural Engine pada hardware dengan NPU |
| Camo Studio | Efek webcam AI | Windows, Mac | Tier gratis | Sekitar $40/thn Pro | Segmentasi latar pada NPU |
| CapCut | Editan video berbasis AI | Windows, Mac | Tier gratis lengkap | Sekitar $8/bln Pro | Subtitle on-device dan penghapusan |
| Whisper.cpp | Konversi ucapan ke teks lokal | Windows, Mac, Linux | Gratis, open-source | Gratis | Backend Qualcomm QNN dan OpenVINO |
Aplikasinya
1. LM Studio -- Terbaik untuk mengobrol dengan LLM lokal
LM Studio adalah cara tercepat untuk mendapatkan model lokal mengobrol di Copilot+ PC. Build Arm64 dilengkapi dengan runtime NPU yang menggunakan backend QNN dari Qualcomm, jadi model berparameter 7B dan 8B seperti Llama 3, Phi, dan Mistral berjalan dengan kecepatan yang dapat digunakan dengan kipas mati. Aplikasi itu sendiri adalah jendela obrolan ditambah katalog model, tidak ada konfigurasi yang diperlukan.
Di mana itu jatuh pendek: backend NPU hanya menerima model yang telah dikonversi untuk QNN. Katalog berkembang tetapi masih lebih kecil dari perpustakaan GGUF umum. Jika Anda memiliki fine-tune tertentu dalam pikiran, periksa bahwa itu ada dalam bentuk siap NPU sebelum Anda memasang.
Harga:
- Gratis: aplikasi lengkap, semua fitur
- Berbayar: tidak ada
Platform: Windows Arm64, Windows x64, macOS
Unduh: LM Studio untuk Windows/Mac
Kesimpulan: penggunaan NPU paling mengesankan di Copilot+ PC. Instal ini lebih dulu.
2. Ollama -- Terbaik untuk LLM lokal dari baris perintah
Ollama adalah alat yang digunakan pengembang dan skrip untuk menjalankan model dari terminal atau API. Itu mengekspos endpoint REST di localhost, yang diketahui oleh setiap integrasi IDE serius dan asisten pengkodean. Pada Copilot+ PCs, dukungan DirectML mendarat secara progresif, jadi build terbaru memanfaatkan NPU pada hardware yang didukung daripada kembali ke CPU.
Di mana itu jatuh pendek: desain CLI-first bukan untuk semua orang, dan jalur NPU lebih muda dari LM Studio. Harapkan beberapa model berjalan pada GPU atau CPU hari ini daripada NPU, tergantung versi runtime.
Harga:
- Gratis: aplikasi dan setiap fitur inti
- Berbayar: tidak ada, open-source
Platform: Windows Arm64 dan x64, macOS, Linux
Unduh: Ollama untuk Windows/Mac/Linux
Kesimpulan: pilihan yang tepat jika Anda ingin melakukan script terhadap model lokal atau menghubungkannya ke IDE. LM Studio memiliki UI yang lebih bagus, Ollama memiliki API.
3. Krisp -- Terbaik untuk pembersihan suara real-time
Krisp adalah salah satu dari aplikasi pihak ketiga awal yang mengganti model penekan kebisingannya ke NPU pada Copilot+ PCs. Itu duduk di jalur audio dan membersihkan input mikrofon secara real-time, jadi Zoom, Teams, OBS, dan setiap DAW mendapat sinyal yang disaring tanpa konfigurasi per-aplikasi. Di baterai, memindahkan model dari CPU memiliki efek nyata yang dapat diukur.
Di mana itu jatuh pendek: tier gratis dibatasi pada 60 menit pembatalan kebisingan per hari. Dan Krisp bukan editor, hanya filter.
Harga:
- Gratis: 60 menit per hari
- Berbayar: sekitar $8 per bulan tanpa batas
Platform: Windows, Mac
Unduh: Krisp untuk Windows/Mac
Kesimpulan: hidupkan, lupakan, dan panggilan Anda terdengar lebih bersih. Pada Copilot+ PC, biaya baterai mendekati nol.
4. Adobe Lightroom -- Terbaik untuk peningkatan foto AI
Adobe Lightroom mengirimkan satu set fitur berbasis AI, Enhance (super-resolusi), Denoise, dan masking, yang dulunya mengecewakan GPU. Pada Copilot+ PC, update Lightroom terbaru merutekan ini melalui NPU di mana memungkinkan, jadi batch file RAW selesai lebih cepat dan kipas tetap diam.
Di mana itu jatuh pendek: ini masih Adobe. Subscription-only, login Creative Cloud diperlukan, dan fotografer yang keberatan dengan penagihan Adobe sudah tahu ini. Selain itu, hanya beberapa operasi AI menggunakan NPU hari ini; langkah-langkah lain terus berjalan di GPU.
Harga:
- Gratis: uji coba 7 hari
- Berbayar: sekitar $10 per bulan pada paket Photography yang digabung dengan Photoshop
Platform: Windows, Mac
Unduh: Adobe Lightroom untuk Windows/Mac
Kesimpulan: untuk fotografer yang sudah di dalam langganan Adobe, akselerasi NPU adalah kecepatan gratis. Untuk siapa pun yang tidak, ini bukan titik masuk yang tepat.
5. DaVinci Resolve -- Terbaik untuk pengeditan video AI
DaVinci Resolve memiliki Neural Engine yang kekuatannya konversi ucapan ke teks, magic mask (segmentasi objek), isolasi suara, dan deteksi pemandangan. Pada Copilot+ PCs, build Studio terbaru menjalankan beberapa di antaranya pada NPU, dan Blackmagic secara stabil mengonversi lebih banyak set model. Aplikasi dasar gratis, dan pekerjaan NPU terjadi secara otomatis.
Di mana itu jatuh pendek: fitur Neural Engine terbesar, upscaling AI yang lebih baik dan mode masking spesifik, hanya Studio. Dan Resolve terkenal berat, ukuran instal dan nafsu RAM besar.
Harga:
- Gratis: aplikasi dasar lengkap
- Berbayar: $295 satu kali untuk Studio
Platform: Windows, Mac, Linux
Unduh: DaVinci Resolve untuk Windows/Mac/Linux
Kesimpulan: untuk siapa pun yang mengedit video di Copilot+ PC, versi gratis sudah mendapat manfaat. Studio membuka kunci sisanya.
6. Camo Studio -- Terbaik untuk efek webcam AI
Camo Studio mengubah ponsel atau webcam menjadi kamera virtual yang tepat dengan framing, segmentasi latar belakang, dan efek pencahayaan. Pada hardware Copilot+ PC, model segmentasi bergeser ke NPU, jadi panggilan Zoom dapat menjalankan latar belakang mode potret tanpa CPU lonjakan atau kipas berputar.
Di mana itu jatuh pendek: tingkat Pro menutup efek yang bagus, dan Camo bekerja paling baik dipasangkan dengan iPhone atau iPad sebagai sumber input. Pengguna casual pada webcam terintegrasi mendapat manfaat lebih sedikit.
Harga:
- Gratis: tangkapan dasar
- Berbayar: sekitar $40 per tahun untuk Pro
Platform: Windows, Mac
Unduh: Camo Studio untuk Windows/Mac
Kesimpulan: perbaikan jika webcam Anda terlihat mengerikan di panggilan video. Di baterai, segmentasi NPU membuatnya jauh lebih murah.
7. CapCut -- Terbaik untuk pengeditan video on-device
CapCut dengan senyap menjadi editor video yang paling banyak digunakan kreator, dan build desktop Windows menggeser lebih banyak fitur AI-nya (auto-captions, penghapusan latar belakang, transfer gaya) ke NPU pada Copilot+ PCs. Itu berarti video 20 menit dapat diberi keterangan atau disamarkan tanpa membuka tab cloud.
Di mana itu jatuh pendek: ByteDance memiliki CapCut, yang menimbulkan kekhawatiran penanganan data bagi beberapa editor. Tier gratis memiliki watermark dan batas ekspor yang mendorong pengguna ke Pro.
Harga:
- Gratis: editor penuh dengan batasan ekspor
- Berbayar: sekitar $8 per bulan CapCut Pro
Platform: Windows, Mac
Unduh: CapCut untuk Windows/Mac
Kesimpulan: pilihan untuk editor video bentuk pendek dan sosial yang menginginkan fitur AI cepat on-device.
8. Whisper.cpp -- Terbaik untuk transkripsi lokal
Whisper.cpp adalah port C/C++ ringan dari model transkripsi Whisper OpenAI. Pada Copilot+ PCs dapat menargetkan backend QNN Qualcomm atau OpenVINO Intel, yang mendorong model ke NPU. Hasilnya, pipa transkripsi berkualitas penuh yang berjalan sepenuhnya offline, lebih cepat dari real-time, di laptop.
Di mana itu jatuh pendek: tidak ada UI yang dipoles. Whisper.cpp adalah satu set biner dan binding Python. Mengunduh model dan menjalankan perintah adalah biaya masuk.
Harga:
- Gratis: open-source, semua fitur
- Berbayar: tidak ada
Platform: Windows, Mac, Linux
Unduh: Whisper.cpp di GitHub
Kesimpulan: pipa transkripsi untuk siapa pun yang peduli tentang privasi atau kemampuan offline. Bungkus dalam skrip dan itu menjadi transcriber batch.
Cara memilih yang benar
Jika Anda baru saja membeli Copilot+ PC dan ingin melihat NPU melakukan sesuatu yang mengesankan sekarang, instal LM Studio. Titik.
Jika Anda memberi kode dan menginginkan model lokal yang dapat ditekan plugin IDE, Ollama adalah pilihan yang lebih baik daripada LM Studio karena endpoint REST-nya.
Jika laptop NPU Anda adalah mesin kerja dan panggilan video mendominasi hari itu, Krisp dan Camo Studio bersama-sama membersihkan audio dan video dengan biaya baterai hampir nol.
Jika Anda mengedit foto, Adobe Lightroom’s Enhance dan Denoise adalah kemenangan NPU terbesar di Creative Cloud Adobe, patut dilanggani jika Anda sudah menembak RAW.
Jika Anda mengedit video, tier gratis DaVinci Resolve cukup untuk banyak manfaat NPU, dan Studio membuka kunci sisanya.
Jika Anda membuat video bentuk pendek sosial, CapCut adalah on-ramp yang lebih cepat daripada Resolve.
Jika Anda merekam wawancara atau audio bentuk panjang dan menginginkan transkrip, Whisper.cpp menghasilkan hasil offline terbaik. Mau melakukan script sedikit.
FAQ
Apa itu Copilot+ PC dan bagaimana cara saya tahu jika saya memilikinya? Copilot+ PC adalah laptop Windows 11 dengan NPU yang dinilai 40 TOPS atau lebih tinggi. Snapdragon X Series, Intel Core Ultra 200V (Lunar Lake), dan AMD Ryzen AI 300 semuanya memenuhi syarat. Periksa Pengaturan, Tentang, untuk “Copilot+ PC” atau lihat stiker.
Apakah aplikasi-aplikasi ini memerlukan hardware Copilot+? Tidak, semua delapan berjalan pada PC Windows lainnya dan sebagian besar di Mac juga. Akselerasi NPU hanya bekerja pada hardware yang memilikinya. Pada laptop biasa, aplikasi yang sama kembali ke GPU atau CPU.
Aplikasi mana yang menggunakan NPU tanpa konfigurasi apa pun? LM Studio, Krisp, DaVinci Resolve, dan CapCut mendeteksi NPU secara otomatis. Ollama dan Whisper.cpp memerlukan backend yang tepat dipilih. Lightroom dan Camo Studio rute selektif tergantung pada operasi.
Apakah aplikasi Snapdragon X (Arm64) secepat versi Intel atau AMD x86? Build native Arm64 kompetitif dan sering lebih cepat di NPU. Aplikasi x64 berjalan di bawah emulasi lebih lambat dan menggunakan lebih banyak baterai. Aplikasi dalam daftar ini semua mengirim versi native Arm64.
Dapatkah saya menjalankan model yang lebih besar dari 7B pada NPU? Pada NPU 45-TOPS saat ini, model parameter 7B dan 8B adalah sweet spot. 13B bekerja tetapi pada kecepatan berkurang. 70B tidak realistis pada NPU hari ini, GPU dengan banyak VRAM masih menjadi jawaban untuk mereka.
Apakah aplikasi NPU bekerja offline? Ya, itu adalah daya tarik. LM Studio, Ollama, Whisper.cpp, Neural Engine DaVinci Resolve, dan Krisp semua menjalankan model mereka secara lokal tanpa lalu lintas jaringan apa pun.
