Restartid.com – Setelah sukses di dunia seluler, DeepSeek R1 kini merambah ke Windows dengan dukungan dari Microsoft. Sebelumnya, model AI ini telah tersedia di Azure AI Foundry, memungkinkan pengembang menguji dan membangun layanan berbasis cloud. Kini, Microsoft membawa DeepSeek R1 ke PC Copilot+, sebuah langkah yang semakin memperkuat posisi mereka di bidang AI lokal.
DeepSeek R1 Hadir di PC Berbasis Snapdragon X, Intel, dan AMD
Sebagai langkah awal, DeepSeek R1 akan tersedia untuk perangkat dengan chip Snapdragon X. Selanjutnya, model ini juga akan hadir untuk PC dengan prosesor Intel Core Ultra 200V dan AMD Ryzen AI 9.
Model yang pertama kali diperkenalkan adalah:
✅ DeepSeek-R1-Distill-Qwen-1.5B (1,5 miliar parameter)
📌 Model lebih besar (7B dan 14B) akan segera menyusul
Model-model ini bisa diunduh melalui Microsoft AI Toolkit, memungkinkan pengguna untuk menjalankan AI langsung di perangkat mereka tanpa harus bergantung pada cloud.
Optimalisasi untuk Performa Maksimal di PC Konsumen
Microsoft tidak hanya menghadirkan model DeepSeek R1, tetapi juga melakukan optimalisasi agar AI ini berjalan mulus di perangkat berbasis NPU (Neural Processing Unit).
📌 Bagaimana cara kerja optimalisasi ini?
- Operasi berbasis memori diproses oleh CPU
- Operasi berat seperti blok transformer ditangani oleh NPU
Dengan pendekatan ini, Microsoft berhasil mencapai latensi token pertama hanya 130 ms, serta throughput 16 token per detik untuk perintah singkat (kurang dari 64 token).
Catatan: Dalam AI, “token” bisa diibaratkan seperti suku kata dalam bahasa manusia. Satu token biasanya lebih panjang dari satu karakter.
Microsoft Semakin Terbuka dalam Ekosistem AI
Microsoft selama ini dikenal sebagai investor besar OpenAI (pembuat ChatGPT dan GPT-4o), tetapi mereka tidak terpaku hanya pada satu model AI. Di Azure Playground, pengguna kini bisa mengakses berbagai model seperti:
- GPT (OpenAI)
- Llama (Meta)
- Mistral (startup AI Eropa)
- DeepSeek (pendatang baru di AI lokal)
Bagi mereka yang lebih suka menjalankan AI lokal tanpa koneksi cloud, Microsoft AI Toolkit di VS Code menyediakan opsi untuk mengunduh model ini secara langsung ke PC.
Apa Itu Distilasi Model?
DeepSeek R1 asli memiliki 671 miliar parameter, tetapi versi yang hadir di PC menggunakan teknik distilasi model atau distilasi pengetahuan.
🔹 Distilasi model adalah proses mereduksi ukuran model AI besar dengan mentransfer sebanyak mungkin pengetahuannya ke model yang lebih kecil (misalnya dari 671B ke 1.5B parameter).
🔹 Model yang lebih kecil ini memang tidak sekuat versi aslinya, tetapi jauh lebih efisien dan bisa dijalankan langsung di perangkat konsumen tanpa perlu perangkat keras AI khusus yang mahal.
Kesimpulan: AI Lokal Semakin Menjadi Tren
Langkah Microsoft menghadirkan DeepSeek R1 ke PC Copilot+ menunjukkan bahwa masa depan AI bukan hanya berbasis cloud, tetapi juga AI lokal yang dapat dijalankan langsung di perangkat pengguna.
✅ Lebih cepat tanpa harus bergantung pada koneksi internet
✅ Lebih aman karena data tetap di perangkat
✅ Lebih hemat biaya tanpa perlu langganan layanan cloud tambahan
Jika Anda penasaran, Anda bisa mencoba sendiri dengan mengunduh AI Toolkit dan menjalankan DeepSeek R1 Distill langsung di PC Anda.
Bagaimana menurut kalian? Apakah AI lokal seperti ini akan menjadi standar baru? 🚀💻
