"Ko e optimization fakahoko lelei taha 'oku 'ikai ko e taimi kotoa pe 'oku fakatekinikale lahi taha — ko e taha ia 'oku ne fakasi'isi'i 'a e faingata'a lolotonga hono fakafepaki'i fakahangatonu 'a e bottleneck 'oku ne fakatupu 'a e mamahi 'a e tokotaha ngaue." — Ko ha tefito'i mo'oni 'oku fakamo'oni'i 'e he talanoa 'o e hiki 'o e database 'a e Discord.

'Oku fakahaa'i 'e he keisi ko 'eni ha lesoni mahu'inga ki ha fa'ahinga tu'unga tupulaki: 'e lava ke hoko 'a e me'angaue totonu ki he siteisi 'e taha 'o e tupulaki ko e me'angaue hala ki he hoko mai. Ko e hokohoko atu 'o e benchmarking mo e loto fie hiki 'oku 'ikai ko ha faka'ilonga ia 'o e palani kovi — ko e faka'ilonga ia 'o e matu'otu'a faka'enisinia.

Ko e hā ha ngaahi lēsoni fakahoko ʻo e māmani moʻoní ʻe lava ke fakaʻaongaʻi ʻe he ngaahi pisinisí?

Na'e 'ikai ke teolosia ma'a 'a e fononga'anga 'o e optimization 'a e Discord — na'a ne fakatupu ha seti 'o e ngaahi founga ngaue replicable 'oku faka'aonga'i ki ha fa'ahinga pisinisi 'oku fakalele 'e he polokalama fakakomipiuta. Ko e ngaahi me'akai 'oku ngaue'aki lahi taha 'oku kau ai 'a e:

• Profile kimu'a pea toki fakalelei'i: Na'e 'ilo'i ma'u pe 'e he Discord 'a e ngaahi bottlenecks pau 'o fakafou 'i he fua kae 'ikai ko e fakakaukau, 'o ta'ofi 'a e feinga maumau 'i he ngaahi hala 'oku 'ikai mahu'inga.
• Fili 'a e ngaahi lea 'o e concurrency-'uluaki ki he ngaahi ngaue mamafa 'o e I/O: Ko e hiki ki he Elixir ki he fekau 'o e routing na'e fakasi'isi'i lahi 'a e CPU 'i 'olunga 'i hono fakafehoanaki ki he ngaahi sipinga 'o e filo-ki he-fehokotaki'anga.
• Decouple 'a e tanaki'anga mei he compute: 'I hono fakamavahe'i 'o e tanaki'anga 'o e fekau mei he layer 'o e tu'uaki taimi mo'oni, Na'e faka'ata 'e he Discord 'a e layer takitaha ke fua tau'ataina 'o makatu'unga 'i hono sipinga 'o e kavenga pau.
• 'Ufi'ufi 'a e hiki fakautuutu 'i he big-bang rewrites: Na'e hiki 'a e ngaahi sisitemi mahu'inga 'i he sevesi ki he sevesi, fakasi'isi'i 'a e fakatu'utamaki mo faka'ata 'a e hokohoko atu 'o e fakamo'oni 'o e ngaahi ma'u'anga tokoni 'o e fakahoko ngaue.
• 'Inivesi 'i he observability vave: Ko e malava 'a e Discord ke 'ilo'i 'a e ngaahi regressions na'e tupu vave ia mei ha 'inivesi loloto 'i he tufaki'anga 'o e muimui'i, ngaahi dashboards metrics, mo e ngaahi langa fakalakalaka fakatokanga na'e langa kimu'a pea toki hoko 'a e ngaahi faingata'a.

'Oku anga fefe 'a e fakafehoanaki 'a e Founga 'a e Discord ki he Ngaahi Founga Kehe 'a e Ngaahi Ngaue'anga?

'Oku kehekehe 'uhinga 'a e sipinga 'o e fakalelei'i 'o e Discord mo e founga kuo fakaofiofi ai 'a e ngaahi tu'unga hange ko e Slack mo e Microsoft Teams ki he ngaahi pole tatau. Slack, hange ko 'eni, leaned lahi ki ha Node.js-fakava'e 'i he stack mo e pule'i 'o e WebSocket 'i he layer 'o e tohi kole, tali 'a e manatu ma'olunga ange 'i he 'olunga 'i he fetongi 'o e maheni 'a e developer. Ngaahi timi, poupou'i 'e he ngaahi langa fakalakalaka 'o e Microsoft 'a e Azure, na'a nau to'o ha founga 'o e kautaha-'uluaki — fakamu'omu'a 'a e talangofua mo e fakataha'i 'o e laulahi 'i he fakahoko 'o e raw latency.

Ko e me'a na'e fakafaikehekehe'i 'aki 'a e Discord ko 'ene loto fiemalie ke 'ave 'a e ngaahi tekinolosia 'oku si'isi'i ange 'a e ngaahi me'a lahi — Elixir, Rust, ScyllaDB — 'i he taimi na'e fakahaa'i ai 'a e ngaahi tekinolosia ko ia 'oku fe'unga lelei ange ki he ngaahi palopalema pau. Ko e founga pragmatic ko 'eni kae 'ikai ko e founga fakakaukau ki he fili 'o e tekinolosia na'e fakatupu 'e he ngaahi ma'u'anga tokoni 'oku lava ke fua 'o 'ikai fie ma'u ha toe tohi 'o e tu'unga fakalukufua 'i ha taimi pe 'e taha.

Ki he ngaahi pisinisi 'oku nau sivi'i 'enau ngaahi tu'unga 'o e tu'unga, 'Oku fakakikihi fefeka 'a e sipinga 'o e Discord ki he "fakalakalaka 'oku fakalele 'e he resume" — fili 'a e ngaahi tekinolosia ki honau ongoongoa 'o e ngaue'anga kae 'ikai ko 'enau fe'unga mo e palopalema. Ko e fehu'i 'oku 'ikai 'aupito "ko e ha 'oku manakoa?" ka ko e "ko e hā ʻokú ne solova ʻa e fakangatangata fakahoko pau ko ʻení?"

Ko e hā ha fakamoʻoni fakaʻepisitolo ʻokú ne fakamoʻoniʻi ʻoku ngāue ʻa e ngaahi founga fakaleleiʻi ʻo e Discord?

Ko e ngaahi ola 'o e ngaahi tu'utu'uni faka'enisinia 'a e Discord 'oku fakatohi pea 'oku lava ke fua. Hili 'a e hiki 'a e ScyllaDB, Na'e lipooti 'e he Discord ha fakasi'isi'i 'o e 10x 'i he lau 'o e node lolotonga ia 'oku fakalelei'i 'i he taimi tatau 'a e latency. Na'e faka'auha 'e he Rust API rewrite 'a e ngaahi fa'ahinga kotoa 'o e ngaahi bugs fekau'aki mo e manatu lolotonga hono fakasi'isi'i 'o e taimi tali 'o e ngaue. Ko hono tu'uaki 'o e fekau 'i he me'afua 'oku ngaue ma'u pe ia 'i lalo 'i he 50ms threshold na'a mo e lolotonga 'o e ngaahi me'a lalahi 'o e va'inga — ngaahi momeniti na'e fakamafasia'i kimu'a 'a e sisitemi ki hono ngaahi fakangatangata.

'I he 2023, Na'e fakahoko 'e he Discord 'a e miniti 'e 4 piliona 'o e fetu'utaki le'o faka'aho 'i he ngaahi seva 'oku laka hake 'i he 19 miliona 'oku ngaue. 'Oku 'ikai ko ha ngaahi metrics vanity 'eni — ko e fakamo'oni ia ko e ngaahi tu'utu'uni faka'aati na'e fai 'i he malumalu 'o e 'enisinia 'oku ne fakatupu 'a e ngaahi lelei 'o e fakahoko 'o e tu'uloa, compounding 'i he taimi.

Ngaahi Fehuʻi ʻoku Faʻa ʻEke

Ko e hā naʻe hiki ai ʻa e Discord mei he Python ki he Rust ki hono laʻi API?

'Oku fakangatangata 'e he loka faka'uhinga fakamamani lahi 'o e Python (GIL) 'a 'ene malava ke fakahoko 'a e code concurrent mo'oni, 'o fakatupu 'a e ngaahi silingí 'o e throughput na'e hoko 'o fakautuutu 'a e palopalema 'i he tupulaki 'a e lahi 'o e kole API 'a e Discord. Na'e 'oatu 'e he 'ume'umea 'a e ola 'o e developer fakafehoanaki ki he ngaahi sisitemi-levolo 'o e code 'o 'ikai ha taimi lele 'i 'olunga, ngaahi tu'u 'o e tanaki 'o e veve, pe ngaahi fakangatangata 'o e concurrency 'o e Python — 'o fakatupu ha la'i API na'e fakatou vave ange mo lahi ange 'a e predictable 'i he lalo kavenga.

Ko e hā ʻa e fehalaaki lahi taha ʻoku fai ʻe he ngaahi tuʻunga ʻo e fakaleleiʻi ʻo e fakahoko ngāué ʻi he meʻafuá?

Ko e fehalaaki angamaheni taha ko e optimizing vave mo e lahi kae 'ikai ko e fakataumu'a ki he pau, fua 'o e bottleneck 'oku ne fakatupu 'a e faka'auha. 'Oku ola lelei taha 'a e 'enisinia fakahoko 'i he taimi 'oku fakalele ai 'e he fakamatala profiling mo e metrics 'o e user-uesia. Na'e lavame'a ma'u pe 'a e Discord 'aki hono 'ilo'i 'a e fakangatangata 'o e uesia ma'olunga taha 'e taha — latency 'o e fakamatala, API throughput, WebSocket concurrency — pea solova ia 'o fakatefito kimu'a pea toki hiki ki he hoko mai.

'E lava fēfē ke faka'aonga'i 'e ha tu'unga 'i he tu'unga pisinisi 'a e ngaahi lesoni fakahoko 'o e Discord 'o 'ikai ha ngaahi ma'u'anga tokoni 'enisinia 'o e kautaha?

'Oku scale hifo 'a e ngaahi tefito'i mo'oni 'i he ola lelei. 'E lava ke fakahoko 'e ha fa'ahinga tu'unga observability tooling, ngaahi faka'osinga 'o e fakamatala 'i he malumalu 'o e kavenga mo'oni, pea fai 'a e ngaahi tu'utu'uni fakautuutu 'o e stack 'o makatu'unga 'i he fakamatala kae 'ikai ko e defaults. Ko e ngaahi tu'unga kotoa pe 'i he taha 'oku nau abstract 'a e faingata'a 'o e ngaahi langa fakalakalaka — tokanga'i 'o e caching, fetu'utaki taimi mo'oni, mo e tauhi 'o e fakamatala 'i he tu'unga 'o e tu'unga — 'oku faka'ata 'e he ngaahi pisinisi tupulaki ke nau ma'u 'aonga mei he optimized 'o e 'atakai 'o 'ikai fie ma'u ke nau toe langa ia 'e kinautolu.