DeepSeek V4 Flash en tu Mac: La guía que nadie más te cuenta

La idea de tener un modelo de IA potente corriendo en tu propio hardware siempre sonó a ciencia ficción. O el equipo no daba para tanto, o los modelos estaban pensados para granjas de servidores imposibles de replicar en casa. Pero eso está cambiando, y más rápido de lo que pensabas.

En abril de 2026 llegó DeepSeek V4 Flash, un modelo MoE con 284.000 millones de parámetros y una ventana de contexto de hasta 1M de tokens. ¿Lo mejor? Sí, puedes ejecutarlo en Apple Silicon. Siempre y cuando tengas suficiente RAM, claro está. Después de semanas usándolo a diario, te cuento: funciona, es sorprendentemente práctico, y cambia completamente el juego para quienes buscan privacidad, trabajo sin conexión o simplemente no quieren pagar por cada llamada a la API.

Lo que realmente necesitas en hardware

Voy a ser directo porque este punto marca la diferencia entre que puedas o no correr el modelo:

• MacBook Pro con M3 Max y 128GB — Este es tu punto óptimo. Tienes margen de maniobra.
• Máquinas con 64GB — Ni lo intentes. Vas a terminar en swapping infinito o te encontrarás con errores de memoria agotada.
• Mac Studio con 192GB — Aquí sí puedes explorar quantizations de mayor calidad.

Con los 128GB del M3 Max tienes aproximadamente 115GB de memoria unificada disponible para trabajo. El modelo ocupa unos 83GB, dejándote unos 32GB para contexto y buffers de proceso. Es funcional, pero no te sobrará.

Por qué las herramientas convencionales te van a fallar

Aquí es donde la mayoría de los tutoriales te dejan colgado. Si intentas descargar DeepSeek V4 Flash usando herramientas mainstream como llama.cpp o Ollama, te vas a chocar contra un muro. La arquitectura deepseek4 —con sus mecanismos de atención dispersa, hiper-conexiones y cabeza de predicción multi-token— todavía no se ha integrado en los releases estables de estos proyectos.

Ollama se actualizará automáticamente cuando el soporte llegue upstream, pero a mediados de 2026 eso todavía no ocurrió. Vas a encontrar tutoriales con comandos que simplemente no existen. El ecosistema está alcanzando el ritmo, pero aún no llegó.

El camino experimental que sí funciona

Aquí entra en juego Salvatore Sanfilippo —sí, el creador de Redis— quien mantiene un fork experimental de llama.cpp que implementa la arquitectura deepseek4. Combinado con su repositorio en HuggingFace de quantizations optimizados en formato GGUF, tienes la entrada directa que necesitas.

El archivo que cabe en un Mac con 128GB: DeepSeek-V4-Flash-IQ2XXS-w2Q2K-AProjQ8-SExpQ8-OutQ8-chat-v2.gguf con sus 81GB.

El nombre del archivo cuenta una historia interesante. Estamos ante una quant "Dwarf Star" — una receta ingeniosa donde los expertos enrutados (donde viven la mayoría de los 284B parámetros) se comprimen a precisión de 2 bits, mientras que las proyecciones de atención, expertos compartidos y capas de salida se mantienen en Q8. Las partes que determinan la calidad de salida permanecen en alta precisión; las tablas de expertos dispersos se comprimen agresivamente.

Compilar el fork es directo:

git clone --depth 1 https://github.com/antirez/llama.cpp-deepseek-v4-flash llama.cpp
cd llama.cpp
cmake -B build -DGGML_METAL=ON -DCMAKE_BUILD_TYPE=Release
cmake --build build --config Release -j$(sysctl -n hw.logicalcpu)

La compilación detecta tu GPU M3 Max correctamente y estás listo para correr.

Los números que importan

• Velocidad de generación: ~21 tokens/segundo
• Evaluación de prompt: ~32-43 tokens/segundo
• Tiempo de carga en frío: ~9 minutos (primera ejecución, leyendo 81GB del disco)
• Tiempo de carga en caliente: ~4 segundos (cuando el archivo ya está en cache del sistema)

Esa velocidad de 21 tok/s es genuinamente usable. No es la velocidad de una API en la nube con hardware premium, pero es lo suficientemente rápido para uso interactivo. La carga en frío es lo doloroso — asegúrate de correr desde un SSD, no desde un disco mecánico, y definitivamente no te metas en el hábito de cerrar y abrir frecuentemente.

La realidad de la ventana de contexto

DeepSeek V4 Flash promociona 1M de tokens de contexto. En la práctica, con este fork, el techo confiable está en 256k tokens. Más allá de eso, la inferencia empieza a fallar. Esto es una limitación de la implementación actual, no del modelo subyacente — actualizaciones futuras podrían cambiar esto. Para la mayoría de usos, 256k sigue siendo enormemente generoso, pero vale la pena saberlo antes de intentar alimentar el modelo con toda tu base de código de una vez.

Qué significa esto para developers

Correr un modelo de clase frontera localmente cambia tu forma de trabajar. Sin claves de API que gestionar. Sin costos por token acumulándose. Sin datos saliendo de tu máquina. Para developers construyendo aplicaciones sensibles a la privacidad, trabajando en industrias reguladas, o simplemente hartos de los límites de rate, esto es significativo.

La configuración no es para todos — necesitas el hardware correcto, necesitas navegar software experimental, y necesitas estar cómodo con herramientas de línea de comandos. Pero para quienes cumplen los requisitos, la recompensa es real: un asistente de IA capaz corriendo en tu laptop, fuera de la red, cuando quieras.

La frontera de la IA local sigue avanzando. DeepSeek V4 Flash representa un paso adelante significativo para hacer modelos potentes accesibles a developers individuales. Si eso justifica la inversión en hardware depende de tus necesidades — pero es una opción que ahora genuinamente existe.