Tres calques de cache entre Select e Disc

Quand vòstra aplicacion lança una instruccion SELECT, aquela requèsta tòca gaireben pas jamai un disc en viratge o quitament un emmagazinatge flash brut — passa per tres calques de cache distinctes que determinan en silenci se vòstra responsa arriba en microsegondas o en millisegondas. Comprene aqueles jaces es la diferéncia entre una plataforma de negòci que s'escala sens esfòrç e una que se bocla jos la carga del mond real.

Qué se passa al moment qu'una requèsta SELECT quita vòstra aplicacion?

Lo moment que vòstra aplicacion manda una requèsta SELECT, dintra dins un pipeline que la màger part dels desvolopaires inspeccionan pas jamai. Lo motor de basa de donadas intercepta la demanda abans que se produsisca cap d'E/S, en analisant lo SQL dins un plan d'execucion intèrne e en consultant immediatament sa primièra linha de defensa: l'escobilhièr de resultat de la requèsta. Se una requèsta identica amb de paramètres identics foguèt executada recentament, lo motor pòt tornar un ensemble de resultats en cache sens tocar una sola pagina de donadas. Aquò es de còps nomenat cache de requèsta o cache de resultat, e sus de cargas de trabalh de lectura nauta e d'escritura bassa — coma los tablèus de bòrd d'analisi e los moduls de rapòrt — pòt eliminar entièrament la granda majoritat de las lecturas de disc.

L'apercebut critic aicí es que l'escondedor de requèsta es fòrça sensible a las mutacions de donadas. Tot INSERT, UPDATE, o DELETE contra la taula sosjacenta invalida los resultats cache pertinents. Es per aquò que los sistèmas transaccionals pesucs d'escritura desactivan sovent entièrament l'escondedor de requèsta e s'apièjan puslèu suls calques mai prigonds.

Qu'es lo buffer pool e perqué importa mai que çò que pensatz?

Lo segond calc de cache — e probablament lo mai important dins los sistèmas de produccion — es lo pool de tampon (nomenat lo tampon partejat dins PostgreSQL, lo pocin de tampon InnoDB dins MySQL). Aquò's una region de RAM que lo motor de basa de donadas utiliza per conténer de paginas de donadas accedidas recentament. Quand una requèsta pòt pas èsser servida a partir de l'escobilhièr de resultat, lo motor verifica se las paginas de donadas requeridas son ja residentas dins lo pool de tampon abans d'emetre quina lectura de disc que siá.

Lo pool de tampon fonciona sul principi de localitat temporala e espaciala : las donadas accedidas recentament son susceptiblas d'èsser accessidas de nòu, e las donadas emmagazinadas prèp de las donadas accedidas son susceptibles d'èsser accessidas lèu. Los administrators de basas de donadas ajustan la talha del pòl de tampon coma una de las decisions de configuracion de mai naut efièch que prenon. Un estanh de tampon tròp pichon provòca un deslotjament de pagina constant, en produsent un fenomèn nomenat thrashing, ont lo sistèma passa mai de temps a gerir las mancas de cache qu'a executar de requèstas.

Informacion clau: Dins la màger part de las cargas de trabalh OLTP, un pool de tampon de granda talha significa que 95–99% de totas las lecturas de donadas son servidas dempuèi la RAM. L'ensemble de trabalh — lo sosensemble de vòstras donadas que las requèstas tòcan sovent — es sovent fòrça mai pichon que la talha totala de la basa de donadas. Dimensionar vòstre bacin de tampon per s'adaptar a vòstre ensemble de trabalh, pas a vòstre ensemble de donadas entièr, es la sola accion d'ajustament de retorn mai naut que podètz prene.

Cossí l'escobilhièr del sistèma d'explotacion emplena lo trauc entre la RAM e lo disc?

Quitament quand lo pròpri pool de tampon de la basa de donadas manca, una requèsta es pas encara destinada a una vertadièra lectura de disc. Lo sistèma d'explotacion manten un cache de pagina (tanben nomenat cache del sistèma de fichièrs), una region de RAM gerida pel nuclèu que tampon las lecturas e las escrituras pels periferics de blocatge. Quand lo motor de basa de donadas demanda una pagina qu'es absenta de son pòl de tampon, lo nuclèu del SO verifica son pròpri cache de pagina abans d'emetre una comanda d'E/S fisica al contrarotlador d'emmagazinatge.

Aqueste tresen calc es largament invisible pels desvolopaires d'aplicacions mas prigondament important suls sistèmas ont lo pòl de tampon de basa de donadas es sos-aprovisionat. L'escobilhièr de pagina del SO es partejat dins totes los processus, per çò que concurrís amb vòstre servidor d'aplicacions, servidor web, e quin autre logicial que siá foncionant sul meteis òste. Sus de servidors de basa de donadas dedicats, aquela concurréncia es minimala, e lo cache del SO provesís un tampon de segonda escasença significatiu. Sus d'òstes partejats o de contenedors amb de limitas de memòria estrechas, l'escondedor del SO es sovent tròp pichon per ajudar.

Qual calc de cache es responsable de las mai grandas victòrias de performància dins la practica?

Dins los sistèmas de produccion del mond real, lo pool tampon domina los resultats de performància per un marge larg. Vaquí perqué cada calc contribuís diferentament dins los cases d'utilizacion :

• Cache de resultats de la requèsta: Avantatge mai naut suls ensembles de donadas de lectura pesugas, subretot estatics — rapòrt de requèstas, de tablèus de bòrd en cache, de punts finals de contengut public. Inutil sus de taulas d'escritura pesugas.
• Pol de tampon de basa de donadas: Lo caval de trabalh universal. Cada servidor de basa de donadas de produccion deuriá èsser afinat aicí d'en primièr. Gerís eficaçament los modèls d'accès aleatòris e sequencials.
• Cache de paginas de l'OS : Proveís una ret de seguretat quand lo bacin de tampon es sosdimensionat. Ajuda tanben significativament pendent los escanatges sequencials de grandas taulas que desplaçarián autrament las paginas caudas de la piscina de tampon.
• Cache del contrarotlador d'emmagazinatge (calc de maquinari): Un quatren calc, sovent desconegut — Los SSD NVMe e los contrarotlaires RAID mantenon de caches d'escritura a bòrd amb una salvagarda de batariá o de condensador. Aquò protegís la durabilitat sens sacrificar lo debit d'escritura al prejudici de la laténcia fsync.
• Cache de calc d'aplicacion (Redis, Memcached): Se tròba entièrament al dessús de la basa de donadas, en cache los resultats de requèstas serializadas o los objèctes calculats per evitar de tustar la basa de donadas — ideal per las plataformas SaaS multi-locataris que servisson de milièrs d'utilizaires concurrents.

Cossí las plataformas de negoci modèrnas pòdon aprofichar l'arquitectura de cache per una fiabilitat a l'escala?

Per las entrepresas qu'operan dins fòrça moduls foncionals — CRM, gestion de projèctes, comèrci electronic, analisi — l'arquitectura de cache determina dirèctament la responsa de la plataforma a mesura que las còlas creisson. Las plataformas bastidas sus una estrategia de cache plan encastrada pòdon servir de desenats de milièrs d'utilizaires concurrents sens còst d'infrastructura proporcional. La clau es de concebre de modèls d'accès a las donadas que respectan las frontièras del cache: manténer las donadas caudas pichonas e los modèls d'accès previsibles, utilizar de rèplicas de lectura per distribuir la carga del pool de tampon, e posicionar un cache de calc d'aplicacion coma Redis davant la basa de donadas per de punts finals que servisson de donadas identicas a de multiples utilizaires a l'encòp.

Mewayz es arquitectat amb exactament aquela filosofia en ment. Amb 207 moduls de negòci integrats qu'alimentan mai de 138 000 utilizaires, lo calc de donadas de la plataforma es concebut de tal biais que la granda majoritat de las lecturas sián servidas dempuèi l'escobilhièr — en mantenent los temps de responsa rapids e los còstes d'infrastructura previsibles que siá que foncionatz amb lo plan de partença de 19 $/mes o sul nivèl professional de 49 $/mes

Questions frequentas

La desactivacion de l'escobilhièr de requèsta melhora totjorn la performància de la basa de donadas ?

Pas totjorn, mas per de cargas de trabalh pesugas d'escritura o fa tipicament. L'escobilhièr de requèsta demanda un mutex global per manténer la coeréncia, çò que ven un còl d'embotelha jos una concurréncia nauta. MySQL 8.0 a suprimit entièrament l'escondedor de requèsta per aquesta rason. PostgreSQL a pas jamai implementat un cache de requèstas incorporat, s'apiejant puslèu sul pool de tampon e l'escondedor de calc d'aplicacion. Se vòstre rapòrt lectura-escritura es naut e vòstras requèstas son fòrça repetitivas, un cache de requèstas pòt porgir de ganhs reals — autrament, investissètz aquel esfòrç d'ajustament dins lo pool de tampon.

Cossí saupre se mon estanh de tampon es corrèctament dimensionat ?

Susvelhatz vòstre rapòrt d'accès del pool de tampon : lo percentatge de requèstas de pagina servidas dempuèi lo pool contra aquelas que demandan una lectura de disc. Un rapòrt de succès en dejós de 95% sus una carga de trabalh OLTP es un senhal per aumentar la talha del pool. Dins MySQL, requèstatz SHOW ENGINE INNODB STATUS e agachatz lo taus d'accès del pool de tampon. Dins PostgreSQL, la vista pg_statio_user_tables expausa los blòts de tas legits dempuèi lo disc vèrs servits dempuèi lo pool de tampon. Visatz de gardar vòstre ensemble de trabalh entièr — pas vòstre ensemble de donadas complet — resident dins la memòria RAM.

Quina es la relacion entre los calques de cache e la fiabilitat SaaS multilocatari?

Dins lo SaaS multi-locatari, los calques de cache empachan los problèmas de "vesin bruchós" ont la carga de requèsta pesuga d'un locatari degrada la performància de totes los autres locataris. Lo cache d'aplicacions conscienta dels locataris amb una invalidacion basada sus TTL garda de donadas caudas per locatari dins Redis, en redusent drasticament la pression del pool de tampon de grands comptes. Lo pooling de connexions al nivèl de basa de donadas combinat amb un pool de tampon caud assegura que l'activitat de burst dempuèi quin compte que siá escafa pas las paginas partejadas de l'escobilhièr e provoca pas de pics de latència a travèrs la plataforma.

Los calques de cache son pas de trivia de basa de donadas — son la fondacion arquitecturala que separa las plataformas que demòran rapidament a l'escala d'aquelas que demandan una lucha contra los incendis d'infrastructura constanta. Se bastissètz o dirigissètz una entrepresa qu'a besonh d'una plataforma ja optimizada per aquelas realitats, exploratz Mewayz a app.mewayz.com — 207 moduls, una plataforma coerenta, bastida per foncionar de manièra fisabla de vòstre primièr utilizaire a vòstre centmila.