Kolme välimuistikerrosta Selectin ja Disk välillä

Kun sovelluksesi käynnistää SELECT-käskyn, kyseinen kysely ei juuri koskaan koske pyörivää levyä tai edes raakaa flash-tallennustilaa – se kulkee kolmen erillisen välimuistikerroksen läpi, jotka määrittävät äänettömästi, saapuuko vastauksesi mikrosekunnissa vai millisekunnissa. Näiden tasojen ymmärtäminen on ero vaivattomasti skaalautuvan yritysalustan ja todellisen kuormituksen alaisena nurjahtavan yritysalustan välillä.

Mitä tapahtuu sillä hetkellä, kun SELECT-kysely jättää sovelluksesi?

Kun sovelluksesi lähettää SELECT-kyselyn, se siirtyy putkeen, jota useimmat kehittäjät eivät koskaan tarkista. Tietokantakone sieppaa pyynnön ennen I/O:n tapahtumista, jäsentää SQL:n sisäiseen suoritussuunnitelmaan ja tarkastelee välittömästi ensimmäistä puolustuslinjaansa: kyselyn tulosten välimuistia. Jos identtinen kysely samoilla parametreilla suoritettiin äskettäin, moottori voi palauttaa välimuistissa olevan tulosjoukon koskematta yhtäkään tietosivua. Tätä kutsutaan joskus kyselyvälimuistiksi tai tulosvälimuistiksi, ja paljon luettavissa ja vähän kirjoitettavissa työkuormissa – kuten analytiikan kojelaudoissa ja raportointimoduuleissa – se voi poistaa suurimman osan levyn lukumääristä kokonaan.

Tässä on kriittistä tietoa, että kyselyvälimuisti on erittäin herkkä tietomutaatioille. Kaikki INSERT, UPDATE tai DELETE taustalla olevassa taulukossa mitätöivät asiaankuuluvat välimuistissa olevat tulokset. Tästä syystä raskaasti kirjoittavat tapahtumajärjestelmät poistavat usein kyselyvälimuistin kokonaan käytöstä ja luottavat sen sijaan syvempiin kerroksiin.

Mikä on puskurivarasto ja miksi sillä on enemmän merkitystä kuin luulet?

Toinen välimuistikerros – ja luultavasti tärkein tuotantojärjestelmissä – on puskurivarasto (PostgreSQL:ssä jaettu puskuri, MySQL:ssä InnoDB-puskurivarasto). Tämä on RAM-alue, jota tietokantamoottori käyttää äskettäin avattujen tietosivujen säilyttämiseen. Kun kyselyä ei voida toimittaa tulosvälimuistista, moottori tarkistaa, ovatko vaaditut tietosivut jo puskurivarannossa, ennen kuin se suorittaa levyn lukuja.

Puskurivarasto toimii ajallisen ja spatiaalisen paikallisuuden periaatteella: äskettäin käytettyyn tietoon päästään todennäköisesti uudelleen ja lähelle käytettyä dataa tallennettuihin tietoihin päästään todennäköisesti käsiksi pian. Tietokannan järjestelmänvalvojat säätävät puskurivarannon koon yhdeksi suurimmista vipuvaikutteisista määrityspäätöksistään. Liian pieni puskurivarasto aiheuttaa jatkuvaa sivun häätöä, mikä aiheuttaa thrashing-nimisen-ilmiön, jossa järjestelmä käyttää enemmän aikaa välimuistin puutteiden hallintaan kuin kyselyjen suorittamiseen.

Key Insight: Useimmissa OLTP-työkuormissa hyvän kokoinen puskurivarasto tarkoittaa, että 95–99 % kaikesta luetusta datasta palvellaan RAM-muistista. Työjoukko – tietojesi osajoukko, jota kyselyt todella usein koskettavat – on usein paljon pienempi kuin tietokannan kokonaiskoko. Puskurivaraston koon muuttaminen sopimaan työjoukkoasi, ei koko tietojoukkoasi, on suurin tuotto, jonka voit tehdä.

Miten käyttöjärjestelmän välimuisti täyttää RAM-muistin ja levyn välisen aukon?

Vaikka tietokannan oma puskurivarasto puuttuu, kyselyä ei ole vielä tarkoitettu todelliseen levyn lukemiseen. Käyttöjärjestelmä ylläpitää sivuvälimuistia (kutsutaan myös tiedostojärjestelmän välimuistiksi), ytimen hallinnoiman RAM-muistin aluetta, joka puskuroi luku- ja kirjoitustiedot estolaitteisiin. Kun tietokantamoottori pyytää sivua, joka puuttuu sen puskurivarannosta, käyttöjärjestelmäydin tarkistaa oman sivuvälimuistinsa ennen fyysisen I/O-komennon antamista tallennusohjaimelle.

Tämä kolmas kerros on suurelta osin näkymätön sovelluskehittäjille, mutta se on erittäin tärkeä järjestelmissä, joissa tietokantapuskurivarasto on alivarattu. Käyttöjärjestelmän sivuvälimuisti on jaettu kaikille prosesseille, joten se kilpailee sovelluspalvelimesi, verkkopalvelimesi ja minkä tahansa muun samassa isännässä käynnissä olevan ohjelmiston kanssa. Erillisissä tietokantapalvelimissa tämä kilpailu on vähäistä, ja käyttöjärjestelmän välimuisti tarjoaa mielekkään toisen mahdollisuuden puskurin. Jaetuissa isännissä tai säilöissä, joissa on tiukat muistirajoitukset, käyttöjärjestelmän välimuisti on usein liian pieni auttamaan.

Mikä välimuistikerros on vastuussa tehokkaimmista voitoista käytännössä?

Reaalimaailman tuotantojärjestelmissä puskurivarasto hallitsee suorituskykytuloksia suurella marginaalilla. Tästä syystä jokainen taso vaikuttaa eri tavalla eri käyttötapauksissa:

• Kyselytulosten välimuisti: Suurin hyöty lukumääristä, enimmäkseen staattisista tietojoukoista – raportointikyselyistä, välimuistissa olevista kojelaudoista, julkisen sisällön päätepisteistä. Hyödytön kirjoitetuilla pöydillä.
• Tietokantapuskurivarasto: universaali työhevonen. Jokainen tuotantotietokantapalvelin on viritettävä ensin täällä. Käsittelee sekä satunnaisia että peräkkäisiä käyttökuvioita tehokkaasti.
• Käyttöjärjestelmän sivun välimuisti: Tarjoaa turvaverkon, kun puskurivarasto on alikokoinen. Auttaa merkittävästi myös suurten taulukoiden peräkkäisissä tarkistuksissa, jotka muutoin poistaisivat kuumat sivut puskurivarannosta.
• Tallennusohjaimen välimuisti (laitteistokerros): Neljäs, usein huomiotta jätetty kerros – NVMe SSD- ja RAID-ohjaimet ylläpitävät sisäisiä kirjoitusvälimuistia akun tai kondensaattorin varmuuskopioinnilla. Tämä suojaa kestävyyttä tinkimättä kirjoitusnopeudesta fsync-viiveen kustannuksella.
• Sovelluskerroksen välimuisti (Redis, Memcached): Sijaitsee kokonaan tietokannan yläpuolella ja tallentaa välimuistiin sarjoitetut kyselytulokset tai lasketut objektit, jotta tietokanta ei osuisi ollenkaan – ihanteellinen usean vuokraajan SaaS-alustoille, jotka palvelevat tuhansia samanaikaisia käyttäjiä.

Miten nykyaikaiset liiketoimintaympäristöt voivat hyödyntää välimuistiarkkitehtuuria luotettavuuden takaamiseksi?

Yrityksissä, jotka käyttävät monia toiminnallisia moduuleja – CRM, projektinhallinta, sähköinen kaupankäynti, analytiikka – välimuistiarkkitehtuuri määrittää suoraan alustan reagointikyvyn tiimien kasvaessa. Hyvin kerrostetun välimuististrategian varaan rakennetut alustat voivat palvella kymmeniä tuhansia samanaikaisia ​​käyttäjiä ilman suhteellisia infrastruktuurikustannuksia. Tärkeintä on suunnitella tiedonkäyttömalleja, jotka kunnioittavat välimuistin rajoja: pitää kuuma data pienenä ja pääsymallit ennakoitavissa, lukukopioiden käyttö puskurivarannon kuormituksen jakamiseen ja sovellustason välimuistin, kuten Redis, sijoittaminen tietokannan eteen päätepisteille, jotka palvelevat identtisiä tietoja useille käyttäjille samanaikaisesti.

Mewayz on suunniteltu juuri tätä filosofiaa ajatellen. 207 integroidulla liiketoimintamoduulilla, jotka antavat virran yli 138 000 käyttäjälle, alustan tietokerros on suunniteltu niin, että suurin osa lukumääristä suoritetaan välimuistista – vasteajat pysyvät nopeina ja infrastruktuurikustannukset ennustettavissa riippumatta siitä, käytätkö 19 $/kk aloitussuunnitelmaa tai 49 $/kk ammattitason tasoa.

Usein kysytyt kysymykset

Parantaako kyselyvälimuistin poistaminen käytöstä aina tietokannan suorituskykyä?

Ei aina, mutta raskaassa kirjoitusmäärässä se yleensä onnistuu. Kyselyvälimuisti vaatii maailmanlaajuisen mutexin johdonmukaisuuden ylläpitämiseksi, mikä tulee pullonkaulaksi korkean samanaikaisuuden yhteydessä. MySQL 8.0 poisti kyselyvälimuistin kokonaan tästä syystä. PostgreSQL ei koskaan ottanut käyttöön sisäänrakennettua kyselyvälimuistia, vaan luottaa sen sijaan puskurivaraan ja sovellustason välimuistiin. Jos luku-kirjoitussuhde on korkea ja kyselysi ovat erittäin toistuvia, kyselyvälimuisti voi tuottaa todellista hyötyä. Muussa tapauksessa kohdista tämä viritys puskurivarastoon.

Mistä tiedän, onko puskurivarastoni koko oikein?

Seuraa puskurivaraston osumasuhdetta: poolista toimitettujen sivupyyntöjen prosenttiosuus verrattuna levyn lukua vaativiin sivupyyntöihin. Alle 95 % osumasuhde OLTP-työkuormalla on merkki poolin koon kasvattamisesta. Tee MySQL:ssä kysely SHOW ENGINE INNODB STATUS ja katso puskurivarannon osumaprosenttia. PostgreSQL:ssä pg_statio_user_tables-näkymä paljastaa levyltä luetut kekolohkot verrattuna puskurivarannosta palveleviin lohkoihin. Pyri pitämään koko työsarjasi – ei koko tietojoukkosi – RAM-muistissa.

Mikä on välimuistikerrosten ja usean vuokralaisen SaaS-luotettavuuden välinen suhde?

Usean vuokralaisen SaaS:ssa välimuistikerrokset estävät "meluisia naapuri"-ongelmia, joissa yhden vuokralaisen raskas kyselykuormitus heikentää kaikkien muiden vuokralaisten suorituskykyä. Vuokralainen tietoinen sovellusvälimuisti TTL-pohjaisella mitätöinnillä pitää vuokralaiskohtaiset tiedot kuumana Redisissä, mikä vähentää merkittävästi suurten tilien puskurivarannon painetta. Tietokantatason yhteysvaraus yhdistettynä lämpimään puskurivarantoon varmistaa, että yksittäisen tilin pursketoiminta ei tyhjennä jaettuja sivuja välimuistista ja aiheuta viivepiikkejä alustalla.

Välimuistikerrokset eivät ole tietokantatietoa – ne ovat arkkitehtoninen perusta, joka erottaa alustat, jotka pysyvät nopeasti mittakaavassa, niistä, jotka vaativat jatkuvaa infrastruktuurin palontorjuntaa. Jos rakennat tai pyörität yritystä, joka tarvitsee jo näille todellisuuksille optimoidun alustan, tutustu Mewayziin osoitteessa app.mewayz.com – 207 moduulia, yksi yhtenäinen alusta, joka on suunniteltu toimimaan luotettavasti ensimmäisestä käyttäjästäsi sadantuhanteen.