Miten Cloudflare leikkasi DNS-välimuistin muistinkäyttöä puoleen – ja mitä sinä voit oppia

Kun kirjoitat selaimen osoitepalkkiin verkkosivun osoitteen, tapahtuu taianomaiselta vaikuttava muunnos. DNS-resolveri jossain päin maailmaa muuttaa ihmiselle luettavan nimen koneen ymmärtämäksi IP-osoitteeksi. Yritykselle kuten Cloudflare, joka käsittelee miljoonia näitä kyselyitä sekunnissa pelkästään 1.1.1.1-julkisen DNS-palvelunsa kautta, tehokkaan ja tuhlaavan muistinkäytön välinen ero tarkoittaa miljoonien dollareiden infrastruktuurikustannuksia – ja mahdollisesti hitaampia vasteaikoja loppukäyttäjille.

Cloudflaren tiimi äskettäin kertoi, miten he optimoivat Big Pineapple -nimellä kulkevan DNS-välimuistinsa tulokset ovat kerrassaan hämmästyttäviä. He eivät vain säätäneet muutamaa asetusta tai hienosäätäneet puskureita. He perehtyivät perusteellisesti siihen, miten tietorakenteet kuluttavat muistia Rust-tasolla, ja lopputulos oli muistinkulutuksen puolittuminen per-entry-kohdalta.

Miksi tämä koskee sinua, vaikka et rakenna maailmanlaajuista infrastruktuuria

Voin jo kuulla ajatuksesi: "Hienoa heille, mutta enhän minä pyöritä globaalia CDN-verkkoa." Totta. Mutta näiden optimointien taustalla olevat periaatteet pätevät jokaiselle kehittäjälle, joka työskentelee välimuistijärjestelmien, tietokantojen tai muistirajoitteisten ympäristöjen parissa.

Tässä keskeisimmät opit, jotka voit soveltaa omiin projekteihisi:

1. Mittaa ennen kuin optimoit

Cloudflaren tiimi ei arvaillut, mihin muisti kului. He käyttivät muistiprofilointityökaluja tunnistaakseen tarkalleen, mitkä tietorakenteet kuluttivat eniten tilaa. Ennen kuin alat optimoimaan mitään, tarvitset dataa. Rustin sisäänrakennetut profilointityökalut ja ulkoiset ratkaisut kuten cargo-profiler tai räätälöidyt allokaattorit auttavat sinua löytämään omat muistipullonkaulasi.

2. Kyseenalaista oletustietorakenteet

Kun tiimi analysoi välimuistimerkintöjään, he huomasivat, että oletustavat datan esittämiseen kuluttivat paljon enemmän muistia kuin oli tarpeen. Totuusarvot veivät kokonaisia tavuja, enumit täytettiin tarpeettomasti ja merkkijonoesitykset sisälsivät käyttämätöntä kapasiteettia. Kuulostaako tutulta? Useimmat kehittäjät käyttävät "ilmeistä" tietorakennetta kysymättä, löytyisikö kevyempää vaihtoehtoa.

3. Sovita tietorakenteet todellisiin käyttötapoihin

Muistiasettelu merkitsee. Rakenteen kenttien järjestys, datan kohdistus muistissa ja valinta kiinteä- ja muuttuvankokoisten esitystapojen välillä vaikuttavat kaikki siihen, kuinka paljon muistia ohjelmasi todellisuudessa käyttää suorituksen aikana. Cloudflaren tiimi järjesti rakenteiden kentät uudelleen poistaakseen täytteen ja valitsi tiiviit esitystavat, jotka vastasivat sitä, miten dataa todella käytettiin.

4. Ota Rustin nollakustannusabstraktiot käyttöön

Tässä kohtaa Rust loistaa. Kieli mahdollistaa korkeantason, ilmaisuvoimaisen koodin kirjoittamisen samalla kun säilytetään tarkka kontrolli muistiasetteluun. Tekniikoilla kuten enumin esitysdirektiivit (#[repr(u8)]), Option<T>-tyyppien huolellinen käyttö ja raak osoittimien manipulointi tarvittaessa voit saavuttaa C-tason muistitehokkuuden tinkimättä turvallisuudesta tai luettavuudesta.

5. Ajattele teknisen velan pitkän aikavälin kustannuksia

Cloudflaren tiimi huomautti, että osa muistitehottomuudesta johtui vuosia sitten tehdyistä päätöksistä – järkevistä valinnoista silloin, jotka kasautuvat merkittäväksi yleiskustannukseksi skaalautuessa. Kun rakennat järjestelmiä, joiden odotat kasvavan, käy säännöllisesti läpi perustavanlaatuisia päätöksiä. Se, mikä oli järkevää 10 000 käyttäjälle, voi olla kestämätöntä 10 miljoonalla.

Skaalatekijä

Asetetaan se 100 teratavun luku perspektiiviin. Tyypillisillä pilvihosting-hinnoilla kyseessä voi olla satojatuhansia dollareita kuukausittaisia infrastruktuurikustannuksia – tai miljoonia vuosittain. Yritykselle kuten Cloudflare optimointi maksaa itsensä takaisin montakin kertaa.

Mutta vaikka et pyörittäisi infrastruktuuria tässä mittakaavassa, ajattelutapa merkitsee. Jokainen tavu laskee, kun käsittelet miljoonia pyyntöjä. Muistinkäytön optimoiminen tarkoittaa parempia välimuistiosumia, matalampaa latenssia ja enemmän pelivaraa palvelimillasi. Se tarkoittaa, että voit palvella enemmän käyttäjiä samoilla resursseilla tai tarjota paremman kokemuksen pienemmillä resursseilla.

Käytännön seuraavat askeleet

Oletko valmis soveltamaan näitä periaatteita omiin projekteihisi? Aloita:

• Suorita muistiprofiloijia sovelluksissasi tunnistaaksesi todelliset käyttöprofiilit
• Tarkista tietorakenteidesi täytteet ja yleiskustannukset
• Huomioi muistivaikutukset valitessasi String ja &str, Vec ja taulukko tai HashMap ja räätälöidyt tietorakenteet
• Varaa aikaa säännöllisiin infrastruktuurikoodin katselmointeihin

Cloudflaren tiimin työ muistuttaa, että optimointi ei ole vain nopeamman koodin kirjoittamista – se on ajattelevaisuutta käytettävien resurssien suhteen. Olitpa sitten hallinnoimassa globaalia DNS-infrastruktuuria tai rakentamassa seuraavan startupin taustajärjestelmää, muistitehokkuuden harjoittaminen tuottaa dividends.

Loppujen lopuksi paras koodi ei ole vain koodia, joka toimii. Se on koodia, joka toimii tehokkaasti, skaalaa kauniisti ja kunnioittaa niitä äärellisiä resursseja, joilla se pyörii.