Pişigiň durnukly bölünişigi nädip çözdi (2023)

AI taryhynda iň garaşylmadyk düzediş hekaýalarynyň birinde öý pişigi inersenerlere Durnukly Diffuziýanyň şekil öndürmek turbageçirijisinde möhüm gizlin kosmos ýoýulmasyny ýüze çykarmaga kömek etdi. 2023-nji ýyldaky waka, hakyky dünýä girdejileriniň müňlerçe sagatlap gurlan synag synaglarynyň düýbünden ýitirýän kemçiliklerini paş edip biljekdigi baradaky möhüm waka öwrüldi.

Pişik we durnukly diffuziýa bilen aslynda näme boldy?

2023-nji ýylyň başynda öýde işleýän maşyn öwreniş inereneri özboluşly bir zady gördi. Durnukly diffuziýa okuwy wagtynda klawiaturadan geçip, pişigi gyssagly topara bir topar manysyz nyşanlary girizdi. Zibil çykarylan netijeleri öndürmegiň ýa-da ýalňyşlyk goýbermegiň ýerine, model yzygiderli we ýokary anyk wizual artefakt bilen birnäçe suratlar döretdi - gyssagly girişleri göz öňünde tutup, bolmaly däl gaýtalanýan tessellasiýa nagşy.

Bu tötänleýin ses däldi. Bu nagyş, modeliň kesişýän gatlaklarynda, hususan-da U-Net arhitekturasynyň adaty lingwistik çäklerden çykýan käbir bellik kombinasiýalaryny gaýtadan işlemeginde öň kesgitlenmedik ikitaraplaýynlygy ýüze çykardy. Pişigiň klawiaturasyny ýuwmak, hiç bir synagçynyň synap görmek islemedik garşydaş islegini döredip, modeliň CLIP tekst kodlaýjy integrasiýasyndaky kemçilikleri ýüze çykaryp, denoizasiýa prosesinde giňişlik gatnaşyklarynyň hasaplanmagyna täsir etdi.

In engineeringenerçilik topary, indiki hepdeleri artefaktyň düýp sebäbini yzarlamak bilen geçirdi: gizlin diffuziýa meýilnamasynda ýüzýän nokat tegelek mesele, diňe belli bir bellik gyralarynda ýüze çykýar. Düzediş, ähli çalt görnüşler boýunça takmynan 3-4% ýokarlanyp, döredijilikli AI öndürijiliginde ep-esli girdeji gazandy.

Näme üçin adaty bolmadyk girdejiler, QA toparlarynyň ýitirýän buglaryny tutýar?

Düzülen synag adam logikasyna eýerýär. Inersenerler, garaşylýan ulanyjynyň özüni alyp barşyna, göz öňüne getirip boljak gyralaryna we öňki ýalňyşlyklardan belli şowsuzlyk reesimlerine esaslanyp synag ýagdaýlaryny ýazýarlar. Softwareöne programma üpjünçiligi - esasanam milliardlarça parametrli AI ulgamlary - hiç bir synag binýadynyň doly ýapyp bilmejek mümkin bolan kombinator partlamasyny öz içine alýar.

"Iň howply näsazlyklar, synagdan geçirmedik koduňyzda gizlenýänler däl. Nädogry çaklamalar bilen synag eden koduňyzda gizlenýänler." - Adaty programma üpjünçiligi in engineeringenerçiliginde köpden bäri düşünilýän bu ýörelge, giriş giňişliginiň çäksiz bolan maşyn öwreniş ulgamlarynda has möhüm bolýar.

Pişik wakasy, bulam-bujarlyk in engineeringenerleriniň birnäçe ýyl bäri bilýän zatlaryny güýçlendirdi: tötänleýin, öňünden aýdyp bolmajak girişler metodiki synagyň edip bilmejek ulgamlaýyn gowşaklyklaryny ýüze çykarýar. Bulaşyk synaglaryň aňyrsynda şol bir prinsip, bu ýerde bilkastlaýyn nädogry maglumatlar gowşak ýerleri ýüze çykarmak üçin ulgamlara berilýär. Bu ýerdäki tapawut, fuzeriň dört aýagy we guýrugy bardy.

AI çözmegiň kynçylyklary barada bu nämäni görkezdi?

Döredijilikli AI modellerini düzetmek adaty programma üpjünçiligini düzetmekden düýpgöter tapawutlanýar. Adaty programma şowsuzlyga uçran mahaly, säwlik ýazgysyny, yz yzyny, köpelip boljak ýoly alarsyňyz. Haçan-da AI modeli düýpli nädogry netijeleri çykaranda, şowsuzlyk birnäçe aýlap ünsden düşüp biler, sebäbi deňeşdirip boljak ýekeje "dogry" jogap ýok.

• Gizlin giňişlik aç-açanlygy: Diffuziýa modellerindäki içerki şekillendirişleri düşündirmek gaty kyn, çykyş artefaktlaryny belli bir hasaplama şowsuzlyklaryndan yzarlamagy kynlaşdyrýar.
• Çalt duýgurlyk: Tekst girizişindäki ujypsyz üýtgeşiklikler düýpgöter dürli netijeleri döredip biler, bu bolsa kemçilikleriň diňe dar we garaşylmadyk şertlerde ýüze çykyp biljekdigini aňladýar.
• Bahalandyrmagyň subýektiwligi: Ölçegli takyklygy bilen klassifikasiýa meselelerinden tapawutlylykda, şekil öndürmegiň hili bölekleýin subýektiw bolup, inçe zeperlenmeleriň awtomatiki barlaglardan geçmegine mümkinçilik berýär.
• Kaskad baglylyklar: Tekst kodlaýjynyň bir kemçiligi, kök sebäbiniň derňewini gaty çylşyrymly edip, üns merkeziniň mehanizmi, denoizasiýa meýilnamasy we VAE dekoder arkaly köpelip biler.
• Okuw maglumatlary bilen baglanyşyk: Model arhitekturasyndaky näsazlyklary we okuw maglumatlaryndan miras galan tapawutlary tapawutlandyrmak, köp wagt talap edýän we hasaplaýyş taýdan gymmat bolan ablasiýa gözleglerini talap edýär.

Bu waka AI ösüş tejribesine nähili täsir etdi?

Pişigiň düzediş hekaýasy, üstünde gülkünç bolsa-da, AI toparlarynyň hil barlagyna nähili çemeleşýändigi barada birnäçe anyk üýtgeşiklige sebäp boldy. Birnäçe gurama şondan soň, lingwistik däl girişleri meňzeýän tötänleýin we garşydaş bellik yzygiderliligini öz içine alýan döredijilik modelleri üçin bulaşyk synag protokollaryny giňeltdi. Käbir toparlar üznüksiz integrasiýa turbageçirijileriniň bir bölegi hökmünde awtomatiki "klawiatura gezelenç" simulýasiýalaryny işledýärler.

Bu waka diffuziýa modelleri üçin düşündiriş gurallaryna bolan gyzyklanmany täzeledi. Wizual artefakt has düşnükli bolan bolsa - batyrgaý däl-de, inçe reňk çalşygy - belli bir derejede ünsden düşen bolmagy mümkin. Bu, jemgyýeti öndürilen netijeler, aýratyn suratlar ýüzleý adaty görünse-de statistiki näsazlyklary belläp biljek ulgamlar üçin has awtomatlaşdyrylan anomaliýa kesgitlemesini ösdürmäge iterdi.

AI ösüşi, önümi gaýtalamak we hiliň kepili boýunça çylşyrymly iş akymlaryny dolandyrýan toparlar üçin şular ýaly wakalar merkezleşdirilen işiň görünmeginiň zerurdygyny görkezýär. Haçan-da bir näsazlyk tekst kodlaýjysyny, meýilleşdirijini we dekoderi öz içine alanda, dargadylan gurallar we kesilmedik aragatnaşyk kanallary boýunça derňewi yzarlamak, öz sürtülme gatlagyny döredýär.

Freygy-ýygydan soralýan soraglar

Durnukly diffuziýa pişiginiň düzediş hadysasy hakyky waka boldumy?

Esasy hekaýa 2023-nji ýylda AI in engineeringenerçilik jemgyýetiniň giňden paýlaşylan hasabyna esaslanýar. Aýratyn jikme-jiklikler belli bir derejede mifologiýalaşdyrylan bolsa-da, esasy tehniki ssenariýa - gizlin kosmos näsazlygyny paş edýän tötänleýin klawiatura giriş - gowy dokumentleşdirilen we diffuziýa model arhitekturalarynda belli şowsuzlyk reesimlerine laýyk gelýär. Şuňa meňzeş tötänleýin açyşlar programma üpjünçiliginiň taryhynda bolup geçdi.

Bulaşyk synag, döredijilikli AI modellerindäki kemçilikleri ygtybarly tutup bilermi?

Fuzz synagy, kemçilikleriň käbir kategoriýalaryny, esasanam giriş derňewi, tokenizasiýa gyralary we san taýdan durnuklylyk meselesi bilen baglanyşykly täsirli. Şeýle-de bolsa, öndüriji AI üçin kümüş ok däl. Bu modeller kesgitleýji däl-de, ähtimal netijeleri çykarýandygy sebäpli, bulaşyk synag wagtynda "şowsuzlygyň" nämedigini kesgitlemek, ýönekeý geçiş / şowsuz tassyklamalary däl-de, çylşyrymly anomaliýany kesgitlemek ulgamlaryny talap edýär.

Professional AI toparlary çylşyrymly ulgamlar boýunça düzediş iş akymlaryny nädip dolandyrýarlar?

Kämillik ýaşyna ýeten AI toparlarynyň köpüsi synag yzarlaýyş platformalarynyň, merkezleşdirilen ýazgylaryň, bilelikdäki resminamalaryň we gurluşly taslamanyň dolandyrylyşyna bil baglaýarlar. Esasy kynçylyk yzarlanyşy saklamak - belli bir önüm artefaktyny model wersiýasyna birikdirmek, okuw maglumatlary, giperparametrler we ony öndüren kod borçnamasy. Bu iş akymlaryny bitewi operasiýa ulgamlaryna birleşdirýän toparlar, utgaşdyrmak üçin ep-esli az wagt sarp edýär we meseläni hakyky çözmäge has köp wagt sarp edýär.

Amal çylşyrymlylygy ýönekeýleşdiriň

AI modellerini düzetýärsiňizmi ýa-da başga bir çylşyrymly iş işini dolandyrýarsyňyzmy, bölek gurallar bölekleýin pikirlenmäni döredýär. Mewayz, 138,000-den gowrak ulanyjynyň ynamdarlygy bolan 207 integrirlenen moduly ýeke-täk iş operasiýa ulgamyna getirýär - meseläňizi çeşmesine gözlemek, jogaplary utgaşdyrmak we has çalt hereket etmek üçin toparyňyza merkezleşdirilen görüniş berýär. Mugt synagyňyzy app.mewayz.com başlaň we bitewi amallaryň nähili bolýandygyny görüň.