Når din GPU klarer det, som skyen ikke kan

Der sker noget interessant i udviklermiljøet. På tech-forummer og Hacker News dukker det samme spørgsmål op igen og igen: Har nogen faktisk erstattet Claude eller GPT med en lokal model til daglig kodning? Ikke til sideprojekter eller eksperimenter – rent faktisk erstattet det.

Svaret er nuancefuldt. Nogle udviklere har taget springet. Andre har prøvet, brugt uger på at konfigurere deres setup, og er vendt tilbage til deres API-nøgler. Her er sandheden.

Hardwaren: Den barske virkelighed

Før vi dykker ned i ydelsestal, lad os snakke hardware. Lokal AI-kodning er ikke en "download app og kør"-oplevelse. De udviklere, der har truffet et succesfuldt valg om at skifte, deler fælles træk: seriøs GPU-kraft.

• RTX 3090 eller 4090 — Arbejdshestene inden for lokal AI-kodning. Enkeltkort-løsninger, der faktisk kan køre brugbare modeller
• 128GB+ system-RAM — Til de større modeller, især hvis du ikke kører kvantisering
• RTX Pro 6000 Blackwell — Til de seriøse brugere, der kører DeepSeek V4 Flash i rasende hastigheder (160+ tok/s)

Konklusionen? Lokal AI-kodning kræver hardware, som de fleste udviklere ikke har liggende. Kører du en laptop med en M-serie chip, er dine muligheder begrænsede til mindre modeller, der kan efterlade dig sulten.

Model-landskabet: Hvad der faktisk virker

Her bliver det interessant. Flere modeller dukker konstant op i succesfulde lokale setups:

| Model | Størrelse | Bedst til | |-------|-----------|-----------| | Qwen3.6-27B | Dense | Generel kodning, god balance mellem hastighed og kvalitet | | Qwen3.6-35B (MTP) | Dense | Højere kapacitet, kræver mere VRAM | | Gemma4-31B | Dense | Stærk ræsonnering, godt optimeret | | DeepSeek V4 Flash | Reasoning | Hurtig inference på kraftig hardware |

En udvikler med en M5 Max MacBook Pro (128GB) rapporterer, at de kører DeepSeek V4 Flash succesfuldt til C-kodebaser under 20k linjer. Deres workflow? En custom prompt med fokus på "spekuler ikke blindt, isoler ting, gør dem sporbar og målbar."

Mønsteret er tydeligt: medium-store dense modeller (27B-35B området) rammer sødeplet for lokal installation. MoE-modeller (Mixture of Experts) giver hurtigere inference, men kommer med mærkbare kapacitets-afvejninger.

De ærlige tal: Tokens per sekund

Ydelsen svinger vildt afhængigt af dit setup:

• RTX 3090 + Llama.cpp + Qwen3.6-35B: Hurtigere end de fleste cloud-modeller til straightforward opgaver
• RTX Pro 6000 Blackwell + DeepSeek V4 Flash: 160+ tok/s rå
• M5 Max MacBook: Afhænger af kvantisering og context-størrelse

Men her kommer den ubekvemme sandhed fra skeptiske udviklere: Omkostningen ved ikke at bruge de nyeste og bedste modeller er simpelthen for stor lige nu. Hver måned kommer forskerne til samme konklusion – tiden, indsatsen og konfigurationen, der kræves for at få lokale modeller til at yde tæt på Claude Code, er det bare ikke værd for mange teams.

Hvor lokale modeller virkelig excellerer

De udviklere, der har holdt fast ved lokale setups, deler en fælles tilgang: veldefinerede, passende afgrænsede opgaver.

Lokale modeller er stærke, når:

• Du har klare krav og definerede parametre
• Kodebasen er håndterbar i størrelse
• Du giver vejledning frem for at forvente one-shot løsninger
• Du prioriterer privatliv og datakontrol

De er mindre egnede til:

• Storskala refactoring på massive kodebaser
• Åbne "vibe coding"-sessioner, hvor du vil udforske frit
• Opgaver, der kræver de absolut nyeste ræsonneringsevner

Konfigurations-skatten

Her er hvad ingen snakker nok om: Tålmodigheden, der kræves, går ud over at vente på tokens. En udvikler sagde det direkte: "Det kræver en masse indsats at få tingene konfigureret og til at fungere ordentligt til dit workflow og hardware."

Vi taler:

• Vælge den rigtige kvantisering (Q4, Q5, Q8?)
• Konfigurere context-størrelser til dit brugsområde
• Vælge og integrere et coding agent-værktøj
• Debuggе integrationsproblemer
• Finjustere prompts til din specifikke stack

Dette er ikke en kritik af lokal AI – det er bare virkeligheden. Cloud-tjenester abstraherer måneder af konfigurationstid væk.

Drømmen om personalisering

En udvikler luftede en spændende idé: Hvad hvis du kørte RLHF (Reinforcement Learning from Human Feedback) på hver eneste prompt til dit personlige workflow? Målet? Fjerne de "irritationsmomenter", der gør generelle modeller frustrerende – servilitet, ordgyderi, unødvendige analogier.

Visionen er tillokkende: En AI-kodningsassistent, der taler dit sprog, forstår dine præferencer, og ikke spilder ord på at forklare ting, du allerede ved. Om dette reelt ville forbedre ydelsen eller skabe en skrøbelig, overfitting model, er stadig et åbent spørgsmål.

Så skal du skifte?

Det ærlige svar: det afhænger af din situation.

Har du hardwaren liggende ubrugt, nyder du at pille med konfigurationer, og arbejder du primært på velafgrænsede kodningsopgaver? Så kan lokale modeller absolut erstatte cloud-assistenter til store dele af dit arbejde.

Starter du fra scratch, har brug for den absolut bedste ydelse, og har ikke uger til at optimere dit setup? Så forbliver cloud-modeller det pragmatiske valg. Din arbejdsgiver betaler sikkert for Claude alligevel.

Den lokale AI-kodningsrevolution er ikke her for alle endnu – men den kommer hurtigere, end mange forventede. Kløften mellem lokale og frontier-modeller fortsætter med at snævre ind. For privatlivsbevidste udviklere, open source-entusiaster og dem med seriøs hardware, er fremtiden allerede til stede.

Hvad er din erfaring? Har du fundet et lokalt setup, der rent faktisk fungerer til daglig kodning, eller kører du stadig på skyen? Udviklermiljøet vil have detaljerne: hvilken kvantisering, hvilke parametre, hvilket agent-værktøj, hvilken GPU? Detaljerne betyder noget.

• klar til at udforske AI-kodningslandskabet på dine egne præmisser? Uanset om du kører modeller lokalt eller udnytter cloud-infrastruktur, gør det rigtige setup hele forskellen. Hos NameOcean følger vi AI-udviklingsrummet tæt — fordi de værktøjer, udviklere bruger i dag, former internettet af i morgen.*