Vlastní AI na míru: Co jsem se naučil při fine-tuningu modelu

Představte si AI, která opravdu rozumí vašemu oboru

Co kdybyste mohli mít AI asistenta, který dokonale rozumí vašemu produktu, mluví vaší řečí a zná specifika vašeho odvětví? Přesně to slibuje domain-specific fine-tuning. A dnes už na to nepotřebujete datacentra plná GPU.

Nedávno jsem experimentoval s technikou zvanou Continued Pretraining. Jde o pokračování tréninku existujícího modelu na specializovaných datech. Výsledky mě překvapily—a taky jsem narazil na pár věcí, které rozhodně nefungují.

Proč je LoRA revoluční

Hlavní problém klasického fine-tuningu? Potřebujete neskutečné množství VRAM. Model s 7 miliardami parametrů sám o sobě sežere hodně paměti, natož když začnete trénovat.

LoRA to řeší chytře. Místo aktualizace všech vah modelu zmrazí původní váhy a připojí malé trénovatelné " adaptéry" k vybraným vrstvám. Trénujete jen tyto adaptery—což je zlomek celkových parametrů.

Při práci s Qwen 3 4B jsem cílil pouze na 66 milionů parametrů. To je zhruba 1,6 % z celku. Trénink najednou běžel na běžném hardwaru, který by jinak na celý model neměl šanci.

Jak postavit tréninková data, která učí přemýšlet

Zvolil jsem specifickou doménu: AI průvodce fiktivním městem s vlastním metrem a historickými památkami. Nechtěl jsem, aby model memoroval trasy. Chtěl jsem, aby skutečně přemýšlel nad navigací a přestupy.

Chyby, které mě stály čas

Kvalita > kvantita není jen fráze. Moje první datasová sada byla... ambiciózní. Skončil jsem s 10 000 záznamy plnými konkrétních tras. Výsledek? Model, který všechno memoroval. Když přišlo něco nového, selhal.

Agenti jsou skvělí na rychlé generování dat, ale přinášejí vlastní problémy:

• Šablonová řeč — agenti často používají repetitivní formulace, což modelu ztěžuje rozpoznání jemných rozdílů
• Objem bez kontroly — agenti generují tak rychle, že se snadno nahromadí tisíce pochybných příkladů, než si toho všimnete

Inkrementální přístup, který zafungoval

Zrušil jsem původní dataset a postavil nový vrstvu po vrstvě:

1. Jednolinkové cestování — jednoduché trasy na jedné lince metra
2. Přestupy na jedné lince — základní přestupy v křižovatkách
3. Vícelinkové přestupy — komplexní trasy přes více linek
4. Kontextové propojení — navázání stanic na okolní památky

Klíčové ponaučení: stavějte inkrementálně, testujte průběžně a odolejte pokušení přidávat víc dat tam, kde pomůže lepší návrh.

Testování během tréninku

Jedna důležitá věc: nemusíte trénovat od nuly po každé iteraci. Rozdělte trénink do fází—začněte s plným datasetem, pak dělejte cílené "post-training" na menší, specifické sadě. Ušetříte čas a můžete zdokonalovat schopnosti modelu přemýšlet.

A nezapomeňte na testovací sadu. Hodnoťte pokrok na datech, která model nikdy neviděl—not na vzorech, které už zná.

Co z toho vyplývá

Domain-specific fine-tuning už není výsada výzkumných laboratoří. S nástroji jako Unsloth a technikami jako LoRA může každý vývojář vytvořit model přesně na míru svému用例—ať už je to travel advisor, právní asistent, nebo bot pro produktovou dokumentaci.

Technická stránka není ten nejtěžší problém. Tím je promyšlená příprava dat. Vaše tréninková data musí učit přemýšlet, ne jen reprodukovat vzory.

Pokud stavíte domain-specific aplikaci, zamyslete se: co by vám vlastní fine-tuned model dal, co general-purpose API nedokáže? Bariéra vstupu nikdy nebyla nižší.