Kätevyys maksaa – mutta ei enää tarvitse

Muistatko, kun koodausavustajat tuntuivat scifistä? Nyt ne ovat perusvaatimus vakavalle kehitystyölle. Ongelma piilee hinnoittelussa: isot AI-jätit siirtyvät edullisista kuukausimaksuista aggressiiviseen per-käyttö-laskutukseen. Jokainen API-kutsu nakertaa lompakkoasi – oli kyse harrasteprojektista tai tuotantokoodista.

Anthropic pakottaa Clauden koodausominaisuudet yhteen pakettiin. GitHub Copilot on puhtaasti pay-as-you-go. OpenAI pyörittelee hintojaan. Pian AI-avustajan lasku hipoo hosting-kuluja.

Hyvä uutinen? Voit hypätä pelin ulkopuolelle.

Miksi juuri nyt kannattaa vaihtaa

Paikalliset AI-mallit eivät ole uutta juttua. Olemme käsitelleet niitä aiemmin. Silti maisema on muuttunut radikaalisti muutamassa kuukaudessa. Entinen kömpelö kiertotie on nyt täysin kilpailukykyinen.

Tässä keskeiset muutokset:

Nykyiset mallit "ajattelevat" ongelmien läpi, joten pienemmätkin pärjäävät hitaammin mutta tarkemmin. Mixture-of-experts-rakenteet mahdollistavat interaktiivisen suorituskyvyn ilman massiivista VRAM-määrää. Ja ratkaisevinta: työkalukutsut ovat kypsiä – mallit osaavat käsitellä kooditasi, ajaa shell-komentoja ja hakea ulkoisia resursseja.

Esimerkkinä Alibaban tuore Qwen3.6-27B. Se on optimoitu koodaukseen ja pyörii 32 GB:n M-sarjan Macissa tai vaatimattomassa 24 GB:n GPU:ssa. Kyvyt ovat aitoja. Hinta? Nolla. Rajoituksia? Ei ole.

Mitä laitteistoa todella tarvitset

Älä innostu liikaa ennen realiteettien kohtaamista. Tämä ei pyöri vuoden 2015 MacBook Airissa.

Realistinen minimi:

• Nvidia-, AMD- tai Intel-GPU vähintään 24 GB VRAM:lla (tai vastaava), TAI
• Uudempi Mac 32 GB+ yhtenäismuistilla (M3 Max tai M4 Max parhaat; vanhemmat M:t voivat yskiä)
• Inference-moottori kuten Llama.cpp, Ollama tai LM Studio
• Noin puoli tuntia säätöä

Hyvä puoli: heikommalla GPU:lla voit yhdistää järjestelmän RAMin ja käyttää kvantisointitemppuja (lisää siitä alempana) puristaaksesi tehoja irti pienemmästäkin raudasta.

Miten saat mallin toimimaan oikein

Pelkkä mallin lataus ja käynnistys ei riitä. Koodigenerointi on herkkä laji. Väärät parametrit tuottavat komeaa roskaa, joka kääntyy mutta ei toimi.

Qwen3.6-27B loistaa näillä asetuksilla:

temperature: 0.6
top_p: 0.95
top_k: 20
min_p: 0.0
presence_penalty: 0.0
repetition_penalty: 1.0

Lisäksi optimoi konteksti-ikkuna – se määrittää, paljonko aiempaa keskustelua ja koodia malli "näkee". Isot koodikandit täyttävät sen nopeasti. Qwen tukee jopa 262 144 tokenia, mutta täysi 16-bittinen tarkkuus söisi VRAMin.

Vinkki: pakkaa key-value-cache 8-bittiseksi. Laatu kärsii mitättömästi, mutta konteksti laajenee reippaasti. Yhdistä prefix-cachingiin (kierrätä muuttumattomia prompt-osia), niin malli tuntuu ripeältä ja tehokkaalta.

Tunnelma muuttuu

Oma paikallinen AI-koodari tuntuu erilaiselta. Ei rate limit -laskureita. Ei hinta-arvioita refaktoroinnista. Vain koodaat apurin kanssa, rajana vain raudan tehot.

Se vaikuttaa muuhunkin kuin kuluihin. Kokeilet rohkeammin. Kysyt oudoimpia juttuja. Käytät työkalua vapaammin.

Onko paikallinen malli hitaampi kuin Claude 3.5 Sonnet tai GPT-4o? Joskus kyllä. Mutta koodin generointiin, refaktorointiin, dokumentointiin ja debuggaukseen Qwen3.6-27B riittää mainiosti. Ja se pyörii sun omalla koneella.

Seuraavat askeleet

Ympäristön pystytys, IDE-integraatio ja agent-frameworkit ovat seuraava taso. Perusta on kuitenkin valmis: mallit ovat laadukkaita, työkalut kypsiä ja kustannuslaskelma erilainen.

Haluatko tarkan oppaan asennuksesta – inference-moottoreista, kvantisoinnista ja IDE-yhdistämisestä? Kerro, niin pistetään kasaan. Infra muuttuu. Muutu mukana.