Re fane ka li-terabyte tsa CI logs ho LLM

Moepo o Patiloeng oa Khauta o lutseng Phapeng ea Hao ea CI

Sehlopha se seng le se seng sa boenjiniere sea li etsa. Limilione tsa mela, letsatsi le leng le le leng - litempe tsa linako, lisosa tsa morao-rao, liqeto tsa ho its'epa, liphetho tsa liteko, li-artifacts, le melaetsa ea liphoso e hlakileng e tsamaeang kapele ho feta kamoo mang kapa mang a ka e balang. Li-log tsa CI ke mosi oa mosi oa nts'etsopele ea software ea sejoale-joale, 'me bakeng sa mekhatlo e mengata, li tšoaroa hantle joalo ka mosi: li kenngoa ka polokelong ebe lia lebaloa. Empa ho thoe'ng haeba likutu tseo li ne li e-na le mekhoa e ka bolelang liphoso pele li etsahala, ho tseba mathata a jellang sehlopha sa hau lihora tse makholo ka kotara, 'me u senole litaba tsa tsamaiso tseo ho seng moenjiniere a le mong ea kileng a li bona? Re nkile qeto ea ho tseba ka ho fepa li-terabytes tsa data tsa log tsa CI hore e be mohlala o moholo oa puo - mme seo re se fumaneng se fetotse tsela eo re nahanang ka eona ka DevOps ka botlalo.

Hobaneng Li-Logs tsa CI e le Boitsebiso bo sa Sebeliseng Haholo ho Boenjiniere ba Software

Nahana ka bophahamo bo boholo. Sehlopha sa boenjiniere ba boholo bo bohareng se sebetsang ka 200 ka letsatsi ho pholletsa le polokelo e mengata se hlahisa hoo e ka bang 2-4 GB ea data e tala ea log letsatsi le letsatsi. Ha nako e ntse e feta, sena se feta terabyte ea mongolo o hlophisitsoeng le o hlophisitsoeng o nkang pokello e 'ngoe le e 'ngoe, ts'ebetso e 'ngoe le e 'ngoe ea liteko, mohato o mong le o mong oa phetisetso, le mokhoa o mong le o mong oa ho hloleha oo sistimi ea hau e kileng ea kopana le ona. Ke rekoto e felletseng ea boepolli ba lintho tsa khale ea tlhahiso ea mokhatlo oa hau oa boenjiniere - 'me ha ho motho ea e balang.

Bothata ha se hore data ha e na boleng. Ke hore karo-karolelano ea mats'oao le lerata e sehlōhō. Mokhoa o tloaelehileng oa CI o hlahisa mela e likete ea tlhahiso, mme mohlomong 3-5 ea mela eo e na le tlhaiso-leseling e sebetsang. Baenjiniere ba ithuta ho hlahloba mongolo o mofubelu, grep bakeng sa "FAILED," 'me ba tsoele pele. Empa lipaterone tseo e leng tsa bohlokoa haholo - tlhahlobo e sa sebetseng e hlolehang ka Labobeli le leng le le leng, ts'epo e eketsang metsotsoana e 40 mohahong o mong le o mong, mohopolo o lutlang feela ha lits'ebeletso tse tharo tse ikhethileng li sebetsa ka nako e le 'ngoe - lipaterone tseo ha li bonahale boemong ba motho ka mong. Li hlaha feela ka tekanyo.

Lisebelisoa tsa khale tsa ho hlahloba lintlha tse kang ELK le Datadog li ka kopanya metrics le mantsoe a bohlokoa a holimo, empa li thatafalloa ke ho rarahana ha semantic ea tlhahiso ea CI. Molaetsa oa ho hlōleha ha mohaho o balehang "khokahanyo e hanne ho port 5432" le e balehang "FATAL: netefatso ea password e hlōlehile bakeng sa 'deploy' ea mosebedisi" ka bobeli ke liphoso tse amanang le database, empa li na le lisosa le litharollo tse fapaneng ka ho feletseng. Ho utloisisa phapang eo ho hloka mofuta oa mabaka a maemo ao, ho fihlela morao tjena, ke batho feela ba neng ba ka fana ka ona.

Boiteko: Ho fepa LLM ea 3.2 Terabytes ea Haha Histori ho LLM

Setupo se ne se otlolohile ka mohopolo ebile se nyarosa ts'ebetsong. Re bokelletse likhoeli tse 14 tsa li-log tsa CI ho tsoa sethaleng se sebeletsang basebelisi ba fetang 138,000 - e koahelang meaho ho pholletsa le lits'ebeletso tse ngata, tikoloho le lipehelo tsa phepelo. Lintlha tse tala li fihlile ho 3.2 terabytes: hoo e ka bang limilione tse 847 tsa melapo ea batho ka bomong e nkang liphaephe tsa CI tse limilione tse 1.6. Re ile ra kopanya, ra kenya letsoho, ra ba ra thathamisa lintlha tsena, eaba re etsa mokhoa oa ho khutlisa-augmented generation (RAG) o ka arabang lipotso tsa puo ea tlhaho mabapi le nalane ea rona ea kaho.

Bothata ba pele e ne e le ho lokisa esale pele. CI logs ha se mongolo o hloekileng. Li na le likhoutu tsa mebala tsa ANSI, mekoallo ea tsoelo-pele e ingollang, li-checksums tsa binary artifact, le litempe tsa linako bonyane ka mefuta e mene e fapaneng ho latela hore na ke sesebelisoa sefe se li hlahisitseng. Re qetile libeke tse tharo re ntse re etsa lintho tse tloaelehileng - re hlobola lerata, re tiisa litempe tsa nako, le ho tšoaea karolo e 'ngoe le e 'ngoe ea log ka boitsebiso bo mabapi le hore na e ne e le ea boemo bofe ba lipeipi, polokelo, lekala le tikoloho.

Phephetso ea bobeli e bile litšenyehelo. Ho sebelisa li-terabyte tsa mongolo ha ho theko e tlase, leha o ka hlakoa ka matla le ka mokhoa o nepahetseng oa ho khutlisa. Re sebelisitse chelete e ngata haholo khoeling ea pele feela, haholo hobane mokhoa oa rona oa pele o ne o sa tsebe letho - re romella taba e ngata haholo potsong e 'ngoe le e 'ngoe mme re sa khethe ka ho lekaneng hore na ke likarolo life tsa log tse bohlokoa. Qetellong ea khoeli ea bobeli, re ne re se re theotse litšenyehelo tsa potso ka 'ngoe ka 87% ka mekhoa e metle ea ho kenyelletsa le mokhoa oa ho khutlisa oa mekhahlelo e 'meli o sebelisitseng mofuta o monyane ho sefa pele o romela ho o moholo.

Mefuta e Mehlano eo LLM e E Fumaneng Hore Batho ba Ne ba ke ke ba Fella

Bekeng ea pele ea ho botsa, sistimi e ile ea hlahisa lintlha tse ka beng li nkile mohlahlobi oa motho likhoeli ho li fumana ka letsoho. Tsena e ne e se litaba tsa morao-rao kapa lintho tse makatsang - e ne e le litaba tse amanang le ho tsoa mali ka lihora tsa 'nete tsa boenjiniere.

1. The phantom dependency cascade. Ntlafatso ea sephutheloana se le seng sa npm likhoeling tse 9 tse fetileng e hlahisitse tieho ea metsotsoana e 22 mohahong o mong le o mong oa JavaScript. Ho lieha ho ile ha koaheloa hobane e tsamaellana le ntlafatso ea meaho ea CI e entseng hore ho hahoe ka potlako ka kakaretso. Net-net, builds e ile ea hlaha kapele, empa e ka be e bile metsotsoana e 22 ka potlako. Ho feta 400+ JS kaho ka letsatsi, hoo e ne e le lihora tse 2.4 tsa komporo e senyehileng letsatsi le letsatsi.
2. The timezone flake. Sehlopha sa teko se bile le sekhahla sa ho hloleha sa 4.7% - se phahame hoo se ka khopisang, se tlase hoo ho seng motho ea etelletseng pele ho se lokisa. LLM e hlokometse hore liphoso li amana hantle le meaho e hlahisitsoeng pakeng tsa 23:00 le 01:00 UTC, ha ts'ebetso ea papiso ea letsatsi e tšela moeli oa letsatsi. Ho lokisa mela e 'meli ho felisitse letlapa ka ho feletseng.
3. Mokhoa o khutsitseng oa ho khutlisa. Ho romelloa sethaleng ho atlehile ka 99.2% ea nako eo, empa LLM e hlokometse hore 31% ea "katleho" ea "katleho" e ile ea lateloa ke phepelo e 'ngoe ea ts'ebeletso e ts'oanang nakong ea metsotso e 45 - e fana ka maikutlo a hore thomello ea pele e ile ea robeha le hoja e fetile licheke tsohle. Sena se ile sa lebisa ho fumaneng hore tlhahlobo ea ho kopanya e ne e feta ka lebaka la likarabo tse bolokiloeng ho tsoa ho tšebeletso ea motla.
4. Mantaha hoseng botlolo. Linako tsa ho theha mela li eketsehile ka 340% Mantaha o mong le o mong pakeng tsa 9:00 le 10:30 AM nako ea lehae, hobane ba ntlafatsang ba neng ba ntse ba sebetsa mafelong a beke kaofela ba sutulitse liphetoho tsa bona pele ba ema. Tokiso e ne e se ea tekheniki - e ne e sebetsa: ho makatsa kemiso ea ho eketsa lebelo la CI ho lebella ho phahama ha Mantaha.
5. Folakha ea mokhoboketsi eo ho seng motho ea e behileng. 67% ea meaho ea C++ e ne e sebetsa ntle le ho kopanngoa ha li-incrementation, e eketsang karolelano ea metsotso e 3.8 moaho o mong le o mong. Folakha e ne e ngotsoe ka har'a bukana ea lipalangoang empa ha ea ka ea eketsoa ho template e arolelanoang ea CI.

"Litšitšili tse turang haholo ha se tsona tse senyang kopo ea hau. Ke tsona tse utsoang ka khutso metsotsoana e 30 mohahong o mong le o mong, letsatsi le leng le le leng, ka lilemo - ho fihlela motho e mong a qetella a botsa potso e nepahetseng ea dataset e nepahetseng."

Ho aha Lera le sebetsang la CI la Bohlale

Teko ena e re kholisitse hore tlhahlobo ea log e tsamaisoang ke LLM ha se ntho e ncha - ke bokhoni ba 'nete ba ts'ebetso. Empa ho etsa hore e sebetse ho hloka meralo e nahanang. U ke ke ua kenya li-log tse tala feela ka har'a sehokelo sa meqoqo ebe u lebella likarabo tse molemo. Sistimi e hloka sebopeho, 'me e hloka ho kopanngoa le lienjineri tsa phallo ea mosebetsi tse seng li ntse li li sebelisa.

Re ile ra lula ka mokhoa oa mekhahlelo e meraro. Karolo ea pele ke automated triage: moaho o mong le o mong o hlolehileng o hlophisoa ka mokhoa o ikhethileng ho ea ka sesosa sa motso (lisebelisoa, ts'epo, tlhahlobo ea tlhahlobo, tlhophiso, kapa flake) ka lintlha tsa kholiseho. Sena se le seng se ile sa fokotsa karolelano ea nako ea ho lokisa meaho ka 34%, hobane baenjiniere ba ne ba se ba sa tlameha ho qeta metsotso e 10 ba bala likutu ho tseba hore na ba qale ho sheba hokae. Mokhahlelo oa bobeli ke ho lemoha mokhoa o tloaelehileng: ts'ilo ea beke le beke e shebaneng le mekhoa e hlahang - ho eketseha ha litekanyetso tsa ho hlōleha, linako tse ntseng li eketseha tsa ho haha, li-signature tse ncha tsa liphoso - pele li fetoha tse mahlonoko. Karolo ea boraro ke lipatlisiso tse kopanetsoeng: sebopeho moo baenjiniere ba ka botsang lipotso tsa puo ea tlhaho mabapi le histori ea ho haha, joaloka "Ke hobane'ng ha tšebeletso ea X e ile ea hlōleha hangata ka mor'a hore ho lokolloe March?" kapa "Sesosa se atileng haholo sa liphoso tsa nako ea ho lefa ke sefe?"

Bakeng sa lihlopha tse tsamaisang mesebetsi e rarahaneng - haholo-holo tse laolang mesebetsi e mengata ea khoebo e kang CRM, li-invoice, payroll, le analytics ka li-platform tse kang Mewayz, tse hlophisang li-module tse 207 tse kopantsoeng - mofuta ona oa ho shebella o fetoha oa bohlokoa le ho feta. Ha thomello e le 'ngoe e ama tšebetso e shebaneng le bareki, mokhoa oa ho lefa, le lits'ebetso tsa HR ka nako e le ngoe, ho utloisisa ho its'etleha ho phaephe ea hau ea CI ha se taba ea boikhethelo. Ho bohlokoa ho boloka ts'epahalo eo basebelisi ba 138,000+ ba itšetlehileng ka eona.

Ke Eng e sa Sebetsang (Leha ho le joalo)

Botšepehi bo bohlokoa ho feta boipelaetso. Ho na le meeli e hlakileng ea mokhoa ona oo mang kapa mang ea o nahanang a lokelang ho o utloisisa. Li-LLM li na le maikutlo a fosahetseng, 'me ha li nahana ka li-log tsa CI, liphetho li ka ba tse fosahetseng ka mokhoa o kholisang. Re bone tsamaiso ka kholiseho e amahanya ho hloleha ha moaho ka lebaka la khohlano e kileng ea ba teng, e felletseng ka linomoro tsa mofuta o iqapetsoeng. Pipe ea RAG e fokotsa sena haholo, empa ha e e felise. Temoho e 'ngoe le e 'ngoe eo sistimi e e hlahisang e ntse e hloka netefatso ea motho pele ho ts'ebetso.

Sekala e ntse e le phephetso. Le hoja mokhoa oa ho khutlisa o khona ho sebetsana le lipotso ka mokhoa o atlehileng, ho kenya indexing le ho kenyeletsoa ha lifate tse ncha ho bitsa chelete e ngata haholo. Re sebetsana le mela e mecha e ka bang 800,000 letsatsi le leng le le leng, 'me ho boloka index e le ncha ho hloka lisebelisoa tse inehetseng. Bakeng sa lihlopha tse nyane, lipalo tsa melemo ea litšenyehelo li kanna tsa se rate mokhoa ona - bonyane hajoale. Ha litšenyehelo tsa mohlala li ntse li theoha (li theohile ka hoo e ka bang 90% likhoeling tse 18 tse fetileng bakeng sa bokhoni bo lekanang), moruo o tla fetoha.

Ho boetse ho na le taba ea ts'ireletso. Li-log tsa CI li ka ba le liphiri - linotlolo tsa API, likhoele tsa khokahano, li-URL tse ka hare - leha ho entsoe boiteko bo matla ba ho li hlakola. Ho romella lintlha tsena ho LLM APIs tsa kantle ho hlahisa kotsi. Re fokotsa sena ka phaephe ea ho hloekisa ea lehae le ka ho fana ka maikutlo a mabapi le mefuta e ikemetseng bakeng sa polokelo e hlokolosi, empa e eketsa ho rarahana le litšenyehelo. Lihlopha li lokela ho hlahloba ka hloko mohlala oa tsona oa litšokelo pele li kenya ts'ebetsong eng kapa eng e tšoanang.

Ho Qala Ntle le Terabyte

Ha o hloke pokello ea data e kholo kapa sehlopha se inehetseng sa boenjiniere sa ML ho qala ho fumana boleng ho tsoa ho lintlha tsa hau tsa CI. Mona ke mokhoa oa ho qala oo sehlopha se seng le se seng se nang le makholo a 'maloa ka beke se ka se sebelisang:

• Qala ka ho hloleha ho hlophisoa. Romella kantle ho matsatsi a 90 a hao a hlolehileng a ho haha. Sebelisa LLM API efe kapa efe ho arola ho hloleha ka 'ngoe ka mekhahlelo. Esita le taxonomy e bonolo (infra vs. code vs. config vs. flake) e fana ka boleng ba hang-hang bakeng sa ho etelletsa pele.
• Latela mekhoa ea nako ea kaho. Hlalosa litempe tsa linako ho tsoa ho litlaleho tsa hau ho theha letoto la nako la kaho mohatong o mong le o mong oa lipeipi. Fepa LLM e nang le litaba tse sa hlakang 'me u botse hore na ke sesosa sefe.
• Iketsetse lipotso tse "hlakileng". Theha hook ea morao-rao e romellang mela e 500 ea ho qetela ea mohaho o hlōlehileng ho LLM ka potlako: "Kakaretso ea ho hlōleha hona ha CI polelong e le 'ngoe 'me u fane ka maikutlo a ho lokisa haholo." Sena se le seng se boloka metsotso e 5-10 ho hloleha ha moenjiniere e mong le e mong sehlopheng.
• Iketsetse sebaka sa polokelo ea lintho tseo u ka li batlang. Sebelisa tse kentsoeng ho etsa hore nalane ea hau ea bolokoe e botsoe ho latela puo ea tlhaho. Lisebelisoa tse kang LangChain le LlamaIndex li etsa hore sena se fihlellehe ka mokhoa o makatsang, esita le ho lihlopha tse se nang boiphihlelo ba ML.

Senotlolo ke ho qala hanyane, ho netefatsa hore lintlha li nepahetse, le ho hola butle butle. Thepa ea lihloliloeng bakeng sa tlhahlobo ea mofuta ona e ntse e hola ka potlako, 'me se neng se hlokahala selemong se fetileng se ntse se fumaneha e le likarolo tse sa sebetseng hantle.

Bokamoso ke Operational Intelligence

Seo re hlileng re buang ka sona ha se tlhatlhobo ea log — ke phetoho ea mantlha e lebisang hobohlale ba tšebetso. Mokhoa o ts'oanang o sebetsang bakeng sa li-logs tsa CI o sebetsa ho litekete tsa tšehetso ea bareki, data ea lipeipi tsa thekiso, litšebelisano tsa lichelete, le ts'ebetso ea ts'ebetso. Taba e tloaelehileng ke hore mekhatlo e hlahisa lintlha tse ngata haholo tsa mongolo tse nang le mekhoa e sebetsang, 'me LLMs e loketse ka mokhoa o ikhethileng ho fumana mekhoa eo.

Ke ka lebaka lena li-platform tse kenyang ts'ebetso ea khoebo bohareng li nang le molemo oa sebopeho. Ha data ea hau ea CRM, taolo ea projeke, li-invoice, lirekoto tsa HR, le li-analytics kaofela li phela ka har'a sistimi e le 'ngoe - joalo ka ha li etsa bakeng sa lihlopha tse sebelisang meaho e kopaneng ea Mewayz - monyetla oa bohlale ba libaka tse fapaneng oa ata. Mohlala oa li-log tsa hau tsa CI o ka amahanngoa le churn ea bareki. Ho phahama ha litekete tsa tšehetso ho ka bolela esale pele ho hloleha ha thomello. Lihokelo tsena li bonahala feela ha data e lula lits'ebetsong tse hokahantsoeng ho fapana le li-silo tse ka thoko.

Lihlopha tse tla atleha lilemong tse leshome tse tlang ha se hakaalo hore li na le lienjineri tse ngata ka ho fetisisa kapa lichelete tse kholo ka ho fetisisa. Ke bona ba ithutang ho mamela data ea bona - ho kenyelletsa le li-terabyte tsa eona tseo esale ba li lahla. Li-log tsa hau tsa CI lia bua. Potso ke hore na u se u loketse ho utloa seo ba se buang.

Lipotso Tse Botsoang Hangata

Na li-LLM li hlile li ka fumana lipaterone tsa bohlokoa ho li-log tsa CI?

Ho hang. Mehlala e meholo ea puo e ipabola tabeng ea ho khetholla mekhoa e iphetang ho pholletsa le mongolo o moholo o sa hlophisoang. Ha li suptjoa ho li-terabyte tsa li-log tsa CI, li ka shebana le likhokahano tsa ho hloleha, li-signature tsa liteko tse sa hlakang, le likhohlano tsa ho itšetleha tseo baenjiniere ba batho ba neng ba ke ke ba li tšoara ka letsoho. Ntho ea bohlokoa ke ho hlophisa lipeipi tsa ho kenya metsi ka nepo e le hore mohlala o fumane likaroloana tsa likotoana tse nonneng ho fapana le lerata le sa lebelloang.

Ke mefuta efe ea mefokolo ea CI e ka boleloang esale pele ka tlhahlobo ea log?

Tlhahlobo ea lits'oants'o tse tsamaisoang ke LLM e ka bolela esale pele nako ea ho felloa ke nako e amanang le litšebeletso tsa motheo, ho hloleha ho rarolla mathata khafetsa, ho senyeha ha mohopolo, le liteko tse fosahetseng tse hlahisoang ke litsela tse itseng tsa khoutu. E boetse e supa ho fokotseha ho hoholo moo linako tsa kaho li ntseng li eketseha butle-butle ka libeke. Lihlopha tse sebelisang mokhoa ona hangata li tšoasa mekhoa ea ho hloleha ha lebelo la lebelo la lebelo la lebelo la lebelo la lebelo la lebelo la lebelo la lebelo la lebelo la lebelo le phahameng la lebelo la lebelo la lebelo la 2 ho isa ho la boraro le thibela liketsahalo tsa tlhahiso.

U hloka data e kae ea CI pele tlhahlobo e ba ea bohlokoa?

Mekhoa e metle e hlaha ka mor'a ho hlahloba matsatsi a 30 ho isa ho a 90 a nalane ea lipeipi makaleng a mangata. Li-dataset tse nyane li fana ka leseli la boemo bo holimo, empa boleng ba 'nete bo tsoa ho litšupiso tse likete tsa meaho. Bakeng sa lihlopha tse laolang tšebetso e rarahaneng hammoho le lipeipi tsa tsona tsa CI, sethala se joalo ka Mewayz se fana ka li-module tse 207 tse kopaneng ho qala ho $19/mo ho beha data ea ts'ebetso bohareng ho app.mewayz.com.

Na ho fepa li-log tsa CI ho LLM ho kotsi?

E ka ba teng ha e sebetswa ka bohlaswa. Li-log tsa CI hangata li na le mefuta e fapaneng ea tikoloho, linotlolo tsa API, li-URL tsa ka hare, le lintlha tsa motheo. Pele o sebetsana le lits'oants'o ka LLM efe kapa efe, o tlameha ho kenya tšebetsong liphaephe tse nchafalitsoeng tse hlobolang makunutu, mangolo a netefatso, le tlhaiso-leseling e ka u khethollang. Meetso ea boinotšing kapa e fumanehang sebakeng sa marang-rang e fokotsa haholo ho pepeseha ha ho bapisoa le ho romela li-log tse tala ho batho ba bang ba nang le cloud-based inference endpoints.