"Ko e ngaahi bugs fakatu'utamaki taha 'oku 'ikai ko kinautolu 'oku fufuu'i 'i he code 'oku te'eki ke ke sivi'i. Ko kinautolu 'oku fufuu'i 'i he code na'a ke sivi'i 'aki 'a e ngaahi fakakaukau hala." — Ko e tefito'i mo'oni ko 'eni, fuoloa 'a e mahino 'i he 'enisinia polokalama fakakomipiuta tukufakaholo, 'oku hoko ia 'o exponentially mahu'inga ange 'i he ngaahi sisitemi ako 'o e misini 'a ia 'oku ola lelei 'a e feitu'u 'o e input 'oku 'ikai fakangatangata.

Na'e fakaivia 'e he me'a na'e hoko 'a e pusi 'a e me'a kuo 'ilo 'e he kau ngaue 'enisinia moveuveu 'i he ngaahi ta'u: randomized, inputs ta'efakafuofua'i 'oku fakahaa'i 'a e ngaahi vaivai'anga fakasistema 'oku 'ikai lava 'e he sivi fakafounga. Ko e tefito'i mo'oni tatau pe ia 'i mui 'i he sivi 'o e fuzz, 'a ia 'oku fafanga'i ai 'a e fakamatala 'oku fakakaukau'i malformed ki he ngaahi sisitemi ke fakaava 'a e ngaahi vaivai'anga. Ko e kehekehe heni ko e fuzzer na'e 'i ai hono va'e 'e fa mo e hiku.

Ko e hā naʻe fakahaaʻi ʻe he meʻá ni fekauʻaki mo e ngaahi pole ʻo e AI Debugging?

Ko hono fakalelei'i 'o e ngaahi sipinga 'o e AI fakatupu 'oku kehe 'aupito ia mei he fakalelei'i 'o e polokalama fakakomipiuta tukufakaholo. 'I he taimi 'oku 'ikai lava ai ha polokalama angamaheni, 'Oku ke ma'u ha tohi hala, ha faka'ilonga 'o e stack, ha hala reproducible. 'I he taimi 'oku fakatupu ai 'e ha sipinga 'o e AI 'a e ngaahi outputs hala fakapulipuli, 'e lava ke 'alu 'a e ta'elavame'a 'o 'ikai fakatokanga'i 'i ha ngaahi mahina koe'uhi 'oku 'ikai ha tali "totonu" 'e taha ke fakafehoanaki ki ai.

• Latent space opacity: 'Oku 'iloa 'a e ngaahi fakafofonga 'i loto 'i he ngaahi sipinga 'o e diffusion 'oku faingata'a ke faka'uhinga'i, 'o 'ai ai ke faingata'a ke kumi 'a e ngaahi me'a faka'ofo'ofa 'o e output 'o foki ki he ngaahi ta'elavame'a fakakomipiuta pau.
• Ongo'i vave: Ko e fanga ki'i kehekehe 'i he fakahu 'o e tohi 'e lava ke ne fakatupu 'a e ngaahi outputs kehekehe 'aupito, 'a ia 'oku 'uhinga ia 'e lava pe ke 'asi mai 'a e fanga ki'i manupuna 'i he ngaahi tu'unga fakangatangata mo ta'efakafuofua'i.
• Sivi'i 'a e subjectivity: 'Oku kehe mei he ngaahi ngaue fakakalasi mo e tonu 'oku lava ke fua, 'oku fakakonga 'a e tu'unga lelei 'o e to'utangata 'o e 'imisi, 'o faka'ata 'a e ngaahi faka'auha fakapulipuli ke 'alu 'o fakafou 'i he ngaahi sieke 'otometiki.
• Ngaahi fakafalala faka-Cascading: Ko ha hala 'e taha 'i he encoder 'o e tohi 'e lava ke mafola 'o fakafou 'i he founga 'o e kolosi-tokanga, 'a e taimi-tepile 'o e denoising, mo e decoder 'o e VAE, 'o 'ai ke fu'u faingata'a 'aupito 'a e 'analaiso 'o e tupu'anga 'o e aka.
• Ko e fakafaikehekehe'i 'o e fakamatala 'o e ako: Ko hono fakafaikehekehe'i 'o e ngaahi bugs 'i he sipinga 'o e 'atakai mo e biases 'oku ma'u tukufakaholo mei he fakamatala 'o e ako 'oku fie ma'u 'a e ngaahi ako ablation tokanga 'oku taimi-mole mo e fakamole fakakomipiuta.

Kuo anga fefe hono uesia 'e he me'a ko 'eni 'a e ngaahi founga fakalakalaka 'o e AI?

Ko e talanoa debugging pusi, lolotonga 'oku fakakata 'i he funga, na'e ue'i ai ha ngaahi liliu sima 'i he founga 'oku fakaofiofi ai 'a e ngaahi timi AI ki he fakapapau'i 'o e tu'unga lelei. Kuo fakalahi 'e he ngaahi kautaha lahi talu mei ai 'enau ngaahi polokalama sivi fuzz ki he ngaahi sipinga generative, tautautefito ki hono fakakau 'o e ngaahi hokohoko 'o e faka'ilonga 'o e random mo e adversarial 'oku nau mimic 'a e ngaahi inputs 'ikai fakalea. 'Oku fakalele 'e he ngaahi timi 'e ni'ihi 'a e ngaahi fakatata 'otometiki 'o e "keyboard walk" ko e konga 'o 'enau ngaahi paipa fakataha'i hokohoko.

Na'e toe fakafo'ou 'e he me'a na'e hoko 'a e manako 'i he ngaahi me'angaue faka'uhinga'i ki he ngaahi sipinga 'o e diffusion. Kapau naʻe siʻisiʻi ange ʻa e mahino ʻo e meʻa fakaʻofoʻofá — ko ha liliu lanu fakapulipuli kae ʻikai ko ha tessellation loto-toʻa — mahalo naʻe ʻikai ke fakatokangaʻi ia ʻo taʻefakangatangata. Kuo teke 'e he me'a ni 'a e komiuniti ki hono fakatupulaki 'o e 'ilo'i 'o e anomaly 'otometiki lelei ange ki he ngaahi outputs 'oku fakatupu, ngaahi sisitemi 'e lava ke ne faka'ilonga'i 'a e ngaahi ta'efakalao fakasitetisitika na'a mo e taimi 'oku 'asi mai ai 'a e ngaahi 'ata fakafo'ituitui 'oku superficially normal.

Ki he ngaahi timi 'oku nau pule'i 'a e ngaahi ngaue faingata'a 'i he fakalakalaka 'o e AI, iteration 'o e koloa, mo e fakapapau'i 'o e tu'unga lelei, 'Oku fakahaa'i 'e he ngaahi me'a 'oku hoko hange ko 'eni 'a e fie ma'u ki he centralized 'a e 'asi 'a e ngaue. 'I he taimi 'oku spans ai ha bug 'a e encoder 'o e tohi, 'a e taimi-tepile, mo e decoder, muimui'i 'a e fakatotolo 'i he ngaahi me'angaue movetevete mo e ngaahi halanga fetu'utaki 'oku motuhi 'oku ne fakatupu 'a hono la'i 'o e friction.

Ngaahi Fehuʻi ʻoku Faʻa ʻEke

Na'e hoko mo'oni 'a e me'a na'e hoko 'i he pusi 'o e Stable Diffusion?

Ko e talanoa tefito 'oku makatu'unga ia 'i ha fakamatala vahevahe lahi mei he komiuniti 'enisinia AI 'i he 2023. Lolotonga e ngaahi fakaikiiki pau kuo ki'i mythologised 'i he retelling, 'a e tu'unga fakatekinikale 'i lalo — fakahu 'o e keyboard 'o fakahaa'i ha bug 'o e feitu'u fakapulipuli — 'oku lelei-fakatohi pea 'oku fe'unga mo e 'iloa 'o e modechiutecture modechiutesion. Kuo hoko ha ngaahi maʻu fakatuʻupakē tatau ʻi he hisitōlia ʻo e ʻenisinia polokalama fakakomipiutá.

'E lava ke ma'u falala'anga 'e he sivi fuzz 'a e fanga ki'i manupuna 'i he ngaahi sipinga 'o e AI fakatupu?

'Oku ola lelei 'a e sivi 'o e Fuzz 'i hono puke 'o e ngaahi fa'ahinga pau 'o e fanga ki'i manupuna, tautautefito kiate kinautolu 'oku fekau'aki mo e input parsing, ngaahi keisi 'o e tafa'aki tokenization, mo e ngaahi me'a 'o e tu'unga ma'u fakafika. Ka neongo ia, 'oku 'ikai ko ha fana siliva ia ki he AI ​​generative. Koe'uhi ko e ngaahi sipinga ko 'eni 'oku nau fakatupu 'a e ngaahi outputs probabilistic kae 'ikai ko e ngaahi deterministic, 'oku faka'uhinga'i 'a e me'a 'oku ne fa'u ha "ta'elavame'a" lolotonga 'a e sivi fuzz 'oku fie ma'u 'a e ngaahi sisitemi 'o e 'ilo'i 'o e anomaly 'oku fakapotopoto kae 'ikai ko e ngaahi fakapapau faingofua 'o e paasi/ta'elavame'a.

'Oku anga fefe hono pule'i 'e he ngaahi timi fakapalofesinale 'o e AI 'a e ngaahi ngaue 'o e debugging 'i he ngaahi sisitemi faingata'a?

Ko e lahi taha 'o e ngaahi timi matu'otu'a 'o e AI 'oku nau fakafalala ki ha fakataha'i 'o e ngaahi tu'unga muimui'i 'o e 'ahi'ahi, centralized logging, ngaahi tohi fakatahataha, mo e pule'i 'o e poloseki fokotu'utu'u. Ko e pole mahu'inga ko hono tauhi 'o e traceability — fakafehokotaki ha me'a faka'ofo'ofa output pau ki he fakatata 'o e version, fakamatala ako, hyperparameters, mo e code 'o e tukupa na'a ne ngaohi ia. Ko e ngaahi timi 'oku nau fakatahataha'i 'a e ngaahi ngaue ko 'eni ki he ngaahi sisitemi ngaue 'oku fakatahataha'i 'oku nau fakamoleki 'a e taimi si'isi'i ange 'aupito ki he ngaahi fakamole 'o e fehokotaki'anga pea lahi ange 'a e taimi ki he fakalelei'i 'o e palopalema mo'oni.

Fakafaingofua'i Ho'o Faingata'a'ia Fakangaue

Pe 'oku ke debugging 'a e ngaahi sipinga 'o e AI pe pule'i ha toe ngaue fakapisinisi faingata'a, 'oku fakatupu 'e he ngaahi me'angaue 'oku movetevete 'a e fakakaukau 'oku movetevete. 'Oku 'omi 'e he Mewayz 'a e 207 modules fakataha'i ki ha sisitemi ngaue pisinisi 'e taha 'oku falala ki ai 'a e kau faka'aonga'i 'o e 138,000 — 'o 'oatu ki ho'o timi 'a e centralized visibility 'oku fie ma'u ke kumi 'a e ngaahi palopalema ki honau ma'u'anga tokoni, fakafekau'aki 'a e ngaahi tali, pea nga'unu vave ange. Kamata ho'o 'ahi'ahi ta'etotongi 'i he app.mewayz.com pea vakai ki he ongo 'o e ngaahi ngaue fakatahataha'i.