Discord: A case study in performance optimization

Fínstillingarferð Discord á frammistöðu stendur sem eitt lærdómsríkasta dæmið í nútíma hugbúnaðarverkfræði, sem sýnir hvernig vettvangur getur stækkað frá þúsundum til hundruð milljóna notenda án þess að fórna hraða eða áreiðanleika. Með því að skoða verkfræðilegar ákvarðanir Discord – allt frá gagnaflutninga til rauntíma skilaboðaarkitektúrs – geta fyrirtæki dregið fram sannaðar aðferðir til að byggja upp palla sem standa sig undir álagi.

Hvaða kjarnakerfi Power Discord frammistöðu í mælikvarða?

Innviðir Discord eru byggðir á hugmyndafræði vísvitandi verkfræðiskipta. Upphaflega byggður á Python og MongoDB, vettvangurinn lenti fljótt í flöskuhálsum þegar notendagrunnur hans sprakk. Verkfræðiteymið tók mikilvæga byggingarákvörðun: Farðu í burtu frá einhæfum stafla í átt að þjónustumiðuðum arkitektúr, sem gerir einstökum íhlutum kleift að skala sjálfstætt.

Kjarninn í frammistöðu Discord er notkun þess á Elixir og Erlang BEAM sýndarvélinni fyrir rauntíma skilaboðalag sitt. BEAM VM var sérsmíðaður fyrir samhliða, bilunarþolin kerfi - nákvæmlega það sem vettvangur sem meðhöndlar milljarða skilaboða á dag þarfnast. Á sama tíma var API lag Discord að lokum endurskrifað í Rust, sem býður upp á minnisöryggi og næstum núll-kostnaður sem Python gat einfaldlega ekki jafnað í mælikvarða.

Niðurstaðan er kerfi þar sem milljónum samtímis WebSocket tenginga er viðhaldið með afhendingartíma skilaboða sem eru undir 50 ms, jafnvel á meðan hámarksnotkun er. Þetta var ekki slys – þetta var afurð endurtekinnar prófílgreiningar, auðkenningar á flöskuhálsi og markvissrar endurskrifunar á kerfishlutum sem mest streita.

Hvernig leysti Discord alræmdasta gagnagrunnsflöskuhálsinn?

Ein af opinberlega skjalfestustu verkfræðiáskorunum Discord snerist um Cassandra, dreifða gagnagrunninn sem hún notaði til að geyma skilaboðasögu. Eftir því sem pallurinn stækkaði minnkaði lestrartíminn verulega - ekki vegna þess að Cassandra var lélegur kostur, heldur vegna þess að notkunarmynstur Discord hafði breyst í grundvallaratriðum. Heitt skipting, þar sem óhóflegur fjöldi lestra einbeitti sér að tilteknum gagnahnútum, olli ófyrirsjáanlegum hægagangi.

Svar verkfræðiteymis var tímamótaflutningur yfir í ScyllaDB, Cassandra-samhæfðan gagnagrunn skrifaðan í C++. Flutningurinn minnkaði p99 lestrarleynd úr 40–125 ms niður í eins tölustafa millisekúndur í flestum tilfellum. Meira um vert, það minnkaði rekstrarflækjuna við að stjórna klasanum og losaði verkfræðiauðlindir til að einbeita sér að þróun eiginleika frekar en slökkvistarf innviða.

"Besta hagræðingin er ekki alltaf tæknilega háþróuð – hún er sú sem dregur úr flækjustiginu en tekur beint á flöskuhálsinum sem veldur sársauka notenda." — Meginregla staðfest af Discord gagnagrunnsflutningssögu.

Þetta tilfelli sýnir mikilvæga lexíu fyrir hvaða vaxandi vettvang sem er: rétta tólið fyrir eitt stig vaxtar gæti orðið rangt tól fyrir það næsta. Stöðug viðmiðun og vilji til að flytjast út eru ekki merki um lélegt skipulag – þau eru merki um þroska í verkfræði.

Hvaða innleiðingarkennslu í raunheimum geta fyrirtæki sótt um?

Hagræðingarferill Discord var ekki eingöngu fræðilegur - hún framleiddi safn af afritanlegum starfsháttum sem eiga við um hvaða hugbúnaðardrifið fyrirtæki sem er. Það sem mest er hægt að taka til eru:

• Prófíll fyrir fínstillingu: Discord benti stöðugt á nákvæma flöskuhálsa með mælingum frekar en forsendum, og kom í veg fyrir sóun á fyrirhöfn sem ekki var mikilvæg.
• Veldu fyrst samhliða tungumál fyrir I/O-þungt vinnuálag: Að færa yfir í Elixir fyrir skilaboðaleiðingu minnkaði örgjörvakostnað verulega samanborið við þráð-á-tengingu gerðir.
• Aftengdu geymslu frá tölvu: Með því að aðskilja skilaboðageymslu frá rauntímaafhendingarlaginu, gerði Discord kleift að skala hvert lag sjálfstætt út frá ákveðnu álagsmynstri þess.
• Takaðu við stigvaxandi flutning yfir stórhvell endurskrifun: Mikilvæg kerfi voru flutt þjónustu eftir þjónustu, sem minnkaði áhættu og gerði stöðuga staðfestingu á frammistöðuávinningi.
• Fjárfestu snemma í sýnileika: Hæfni Discord til að greina afturhvarf stafaði fljótt af mikilli fjárfestingu í dreifðri rakningu, mælistikum og viðvörunarinnviðum sem byggðir voru upp áður en kreppur áttu sér stað.

Hvernig er nálgun Discord samanborið við valkosti í iðnaði?

Fínstillingarlíkan Discord stangast á við það hvernig pallar eins og Slack og Microsoft Teams hafa nálgast svipaðar áskoranir. Slack, til dæmis, hallaði sér mikið inn í Node.js-byggðan stafla og WebSocket-stjórnun á forritalaginu og samþykkti hærri minniskostnað í skiptum fyrir þekkingar þróunaraðila. Teymi, studd af Azure innviðum Microsoft, beittu fyrirtækinu í fyrsta sæti – með því að forgangsraða samræmi og samþættingarbreidd umfram óafkasta leynd.

Aðgreining Discord var vilji hennar til að taka upp minni almenna tækni - Elixir, Rust, ScyllaDB - þegar þessi tækni hentaði sannanlega betur tilteknum vandamálum. Þessi raunsæri frekar en hugmyndafræðilega nálgun við tæknival skilaði mælanlegum ávinningi án þess að þurfa að endurskrifa heildsöluvettvang á einhverjum tímapunkti.

Fyrir fyrirtæki sem meta eigin vettvangsbunka, mælir dæmi Discord eindregið gegn „ferilskrárdrifinni þróun“ – að velja tækni fyrir álit sitt í iðnaði frekar en að hún hæfi vandamálinu. Spurningin er aldrei "hvað er vinsælt?" en "hvað leysir þessa tilteknu frammistöðuþvingun?"

Hvaða reynslusönnun sanna að hagræðingaraðferðir Discord virka?

Niðurstöður verkfræðilegra ákvarðana Discord eru skjalfestar og mælanlegar. Eftir ScyllaDB flutninginn greindi Discord frá 10x lækkun á fjölda hnúta en bætti samtímis leynd. Rust API endurskrifunin útrýmdi heilum flokkum minnistengdra galla á sama tíma og viðbragðstími þjónustunnar minnkaði. Skilaboð í stærðargráðu starfa stöðugt undir 50 ms þröskuldinum, jafnvel á stórum leikjaviðburðum - augnablik sem áður þvinguðu kerfið til hins ýtrasta.

Árið 2023 var Discord að vinna yfir 4 milljarða mínútna raddsamskipta daglega á meira en 19 milljón virkum netþjónum. Þetta eru ekki hégómamælikvarðar - þær eru sönnun þess að byggingarfræðilegar ákvarðanir sem teknar voru undir verkfræðilegum þrýstingi leiddu til varanlegs og bætti frammistöðuávinningi með tímanum.

Algengar spurningar

Hvers vegna flutti Discord frá Python til Rust fyrir API-lagið sitt?

Global Interpreter Lock (GIL) Python takmarkar í grundvallaratriðum getu sína til að keyra raunverulegan samhliða kóða, sem skapar afköst þak sem urðu sífellt erfiðari eftir því sem API beiðni umfang Discord jókst. Ryð bauð upp á sambærilega framleiðni þróunaraðila fyrir kóða á kerfisstigi án kostnaðar við keyrslutíma, hlé á sorphirðu eða samtímistakmörkunum Python – sem framleiddi API lag sem var bæði hraðvirkara og fyrirsjáanlegra undir álagi.

Hver eru stærstu hagræðingarmistök sem pallar gera í mælikvarða?

Algengustu mistökin eru að hagræða ótímabært og almennt frekar en að miða á sérstakan, mældan flöskuháls sem veldur niðurbroti. Árangurstækni er áhrifaríkust þegar hún er knúin áfram af prófílgögnum og mælingum um áhrif notenda. Discord tókst stöðugt með því að bera kennsl á eina takmörkunina sem hefur mest áhrif - gagnagrunnsleynd, API-afköst, WebSocket samhliða - og leysa hana sérstaklega áður en farið var yfir í næsta.

Hvernig getur vettvangur á viðskiptastigi beitt frammistöðukennslu Discord án verkfræðiaðfanga fyrirtækisins?

Reglurnar minnka á áhrifaríkan hátt. Hvaða vettvangur sem er getur innleitt athugunartæki, sniðið endapunkta undir raunhæfu álagi og tekið stigvaxandi staflaákvarðanir byggðar á gögnum frekar en vanskilum. Allt-í-einn vettvangur sem óhlutbundinn flókinn innviði – meðhöndlar skyndiminni, rauntíma samskipti og gagnageymslu á vettvangsstigi – gerir vaxandi fyrirtækjum kleift að njóta góðs af bjartsýni arkitektúr án þess að þurfa að endurbyggja hann sjálf.

Tilviksrannsókn Discord um hagræðingu frammistöðu sannar að sjálfbærum mælikvarða er náð með vísvitandi, gagnastýrðum byggingarákvörðunum - ekki með því að kasta fjármagni í vandamál. Hvort sem þú ert að reka samskiptavettvang eða viðskiptastýrikerfi með mörgum einingum, þá eru meginreglurnar þær sömu: mæla stanslaust, aftengja skynsamlega og velja verkfæri sem passa við raunverulegt vandamál.

Ef fyrirtækið þitt er að leita að vettvangi sem beitir þessum meginreglum beint úr kassanum - meðhöndla frammistöðu, sveigjanleika og rekstrarflækjustig svo þú getir einbeitt þér að vexti - kannaðu Mewayz í dag. Með 207 samþættum einingum, 138.000+ notendum og áætlunum sem byrja á aðeins $19/mánuði, er Mewayz hannaður til að passa við fyrirtæki þitt frá fyrsta degi.