DeepSeek V4 Flash ni Mac-da Ishga Tushirish

Mahalliy AI orzusi ro'yobga yaqinlashdi

Kuchli AI modellarini o'z kompyuteringizda ishga tushirish orzusi uzoq vaqt davomida erishib bo'lmaydigan narsa edi. Ya'ni hardware yetishmas edi yoki modellar oddiy kompyuterlar uchun moslashtirilmagan edi. Endi bu vaziyat o'zgarib bormoqda.

2026-yil aprel oyida chiqgan DeepSeek V4 Flash — bu 284 milliard parametrli MoE model. Asosiy xususiyati? Apple Silicon qurilmalarida ishlaydi, agar yetarli RAM bo'lsa. Men bu model bilan ishlab ko'rdim — ishlaydi, kutilganidan ko'ra qulay, va narxi to'lashdan bosh tortadigan dasturchilar uchun juda foydali.

Hardware talablari

To'g'risi, qancha operativ xotira kerakligini aytaman. Modelni yuklash uchun taxminan 81GB xotira kerak. Demak:

• 128GB MacBook Pro (M3 Max) — eng yaxshi tanlov, zaxira ham bor
• 64GB li Mac — bunga tayanmang. Doimiy muammolar chiqadi
• 192GB Mac Studio — yuqori sifatli kvantizatsiya ishlatish imkoniyati

128GB li M3 Max da sizga 115GB GPU xotirasi ishlatishga tayyor. Model 83GB oladi, qolgan 32GB esa kontekst va hisoblash uchun. Bu yetarli, lekin ko'p emas.

Oddiy vositalar hali ishlamaydi

Ko'p qo'llanmalar sizni chalg'itadi. Standard llama.cpp yoki Ollama bilan DeepSeek V4 Flash ni yuklamoqchi bo'lsangiz, muammo chiqadi. deepseek4 arxitekturasi — sparse attention, hyper-connections va multi-token prediction — hali stable relizga kirmagan.

Ollama avtomatik yangilanadi, lekin 2026-yil o'rtalarida hali bu bo'lmagan. Qo'llanmalarda mavjud bo'lmagan buyruqlarni ko'rishingiz mumkin. Ekotizim tayyorlanmoqda, lekin hali tayyor emas.

Ishlaydigan Eksperimental Yo'l

Salvatore Sanfilippo (Redis yaratuvchisi) deepseek4 arxitekturasini qo'llab-quvvatlaydigan experimental llama.cpp forkni yuritadi. Uning HuggingFace repositoriyasida optimallashtirilgan GGUF fayllar bor — bu sizning yo'lingiz.

128GB li Mac uchun mos model fayli: DeepSeek-V4-Flash-IQ2XXS-w2Q2K-AProjQ8-SExpQ8-OutQ8-chat-v2.gguf — hajmi 81GB.

Fayl nomi o'zi gapiradi. Bu "Dwarf Star" kvantizatsiya — aqlli usul. 284 milliard parametrning aksariyati joylashgan routed experts 2-bitgacha siqiladi. Attention projections, shared experts va output layers esa Q8 da qoladi. Muhim qismlar yuqori aniqlikda, sparse expert jadvallari esa kuchliroq siqilgan.

Forkni build qilish oson:

git clone --depth 1 https://github.com/antirez/llama.cpp-deepseek-v4-flash llama.cpp
cd llama.cpp
cmake -B build -DGGML_METAL=ON -DCMAKE_BUILD_TYPE=Release
cmake --build build --config Release -j$(sysctl -n hw.logicalcpu)

Build M3 Max GPU ni to'g'ri taniydi, va boshlaysiz.

Natijalar Qanday

• Generatsiya tezligi: ~21 token/soniya
• Prompt baholash: ~32-43 token/soniya
• Birinchi yuklash: ~9 daqiqa (diskdan 81GB o'qish)
• Qayta yuklash: ~4 soniya (fayl page cacheda bo'lsa)

21 token/soniya — bu haqiqatan qulay tezlik. Bulutli API tezligi emas, lekin interaktiv foydalanish uchun yetarli. Birinchi yuklash esa og'riqli — SSD dan ishga tushiring, HDD emas. Doimiy qayta boshlashdan saqlaning.

Kontekst Oynasi Haqida

DeepSeek V4 Flash 1M token kontekst da'vo qiladi. Amalda bu forkda ishonchli yuqori chegara — 256k token. Undan yuqorida crush bo'ladi. Bu joriy implementatsiya cheklovi, kelajakda o'zgarishi mumkin. Ko'pchilik uchun 256k ham katta hajm, lekin butun kod bazasini biryo'la berib yubormang.

Dasturchilar Uchun Nimani Anglatadi

Frontier-class modelni mahalliy ishga tushirish ishingizni o'zgartiradi. API kalit yo'q. Har token uchun to'lov yo'q. Ma'lumot kompyuteringizdan chiqmaydi. Privacy muhim bo'lgan loyihalar, tartibga solinadigan sohalar, yoki oddiygina rate limitlardan charchaganlar uchun bu katta plus.

Bu yo'l har kim uchun emas — to'g'ri hardware kerak, experimental software bilan ishlash kerak, command line da ishlashni bilish kerak. Lekin kimda shartlar bo'lsa, natija aniq: kuchli AI yordamchi, lap toppingizda, internetga ulanmagan holda.

Mahalliy AI chegarasi doimiy siljiyapti. DeepSeek V4 Flash — bu individual dasturchilar uchun kuchli modellarni yetarlicha qiladigan muhim qadam. Hardware investitsiyasi foydami yoki yo'qmi — bu sizning ehtiyojlaringizga bog'liq. Lekin endi bu haqiqatan ham variant.