Sut y Dadfygio Cath Sefydlog Trylediad (2023)

Yn un o’r straeon dadfygio mwyaf annisgwyl yn hanes AI, bu cath tŷ yn anfwriadol yn helpu peirianwyr i nodi ystumiad gofod cudd critigol ar y gweill ar gyfer cynhyrchu delweddau Stable Diffusion. Daeth digwyddiad 2023 yn astudiaeth achos nodedig o sut y gall mewnbynnau byd go iawn anrhagweladwy ddatgelu diffygion y mae miloedd o oriau o brofion strwythuredig yn eu colli yn llwyr.

Beth Ddigwyddodd Mewn Gwirionedd Gyda'r Gath a'r Trylediad Stablau?

Yn gynnar yn 2023, sylwodd peiriannydd dysgu peirianyddol a oedd yn gweithio gartref ar rywbeth rhyfedd. Roedd eu cath, ar ôl cerdded ar draws y bysellfwrdd yn ystod rhediad hyfforddi Stable Diffusion, wedi cyflwyno cyfres o gymeriadau ansynhwyraidd i mewn i swp prydlon. Yn hytrach na chynhyrchu allbynnau garbled neu daflu gwall, cynhyrchodd y model gyfres o ddelweddau gydag arteffact gweledol cyson a hynod benodol - patrwm brithwaith ailadroddus na ddylai fod wedi bodoli o ystyried y mewnbynnau prydlon.

Nid sŵn ar hap oedd hwn. Datgelodd y patrwm ogwydd nas canfuwyd o'r blaen yn haenau traws-sylw'r model, yn benodol yn y modd yr oedd pensaernïaeth U-Net yn prosesu rhai cyfuniadau o docynnau a oedd y tu allan i ffiniau ieithyddol arferol. Roedd stwnsio bysellfwrdd y gath i bob pwrpas wedi creu anogwr gwrthwynebus nad oedd unrhyw brofwr dynol wedi meddwl ei geisio, gan amlygu diffyg yn integreiddiad amgodiwr testun CLIP y model a effeithiodd ar sut roedd perthnasoedd gofodol yn cael eu cyfrifo yn ystod y broses denoising.

Treuliodd y tîm peirianneg yr wythnosau canlynol yn olrhain yr arteffact yn ôl i'w achos sylfaenol: mater talgrynnu pwynt arnawf yn y rhaglennydd tryledu cudd a ddaeth i'r amlwg dim ond o dan achosion ymyl tokenization penodol. Fe wnaeth yr atgyweiriad wella cydlyniad delwedd ar draws pob math o ysgogiad o tua 3-4%, cynnydd sylweddol mewn perfformiad AI cynhyrchiol.

Pam Mae Mewnbynnau Anghonfensiynol yn Dal Bygiau Mae Timau Sicrhau Ansawdd yn Colli?

Mae profion strwythuredig yn dilyn rhesymeg ddynol. Mae peirianwyr yn ysgrifennu achosion prawf yn seiliedig ar ymddygiad disgwyliedig defnyddwyr, achosion ymyl y gallant eu dychmygu, a dulliau methiant hysbys o iteriadau blaenorol. Ond mae meddalwedd - yn enwedig systemau AI gyda biliynau o baramedrau - yn cynnwys ffrwydrad cyfunol o gyflyrau posibl na all unrhyw fframwaith profi eu cwmpasu'n llawn.

"Nid y bygiau mwyaf peryglus yw'r rhai sy'n cuddio mewn cod nad ydych wedi'u profi. Dyma'r rhai sy'n cuddio yn y cod y gwnaethoch chi eu profi gyda'r rhagdybiaethau anghywir." — Mae'r egwyddor hon, sy'n cael ei deall ers tro mewn peirianneg meddalwedd draddodiadol, yn dod yn fwy hanfodol bwysig mewn systemau dysgu peiriannau lle mae'r gofod mewnbwn yn ddiddiwedd i bob pwrpas.

Atgyfnerthodd y digwyddiad cath yr hyn y mae ymarferwyr peirianneg anhrefn wedi ei wybod ers blynyddoedd: mae mewnbynnau ar hap, anrhagweladwy yn datgelu gwendidau systemig na all profion trefnus eu gallu. Dyma'r un egwyddor y tu ôl i brofion fuzz, lle mae data sydd wedi'i gamffurfio'n fwriadol yn cael ei fwydo i systemau i ddatgelu gwendidau. Y gwahaniaeth yma oedd bod gan y fuzzer bedair coes a chynffon.

Beth Wnaeth Hyn Datgelu Am Heriau Dadfygio AI?

Mae dadfygio modelau AI cynhyrchiol yn sylfaenol wahanol i ddadfygio meddalwedd traddodiadol. Pan fydd cymhwysiad confensiynol yn methu, byddwch yn cael log gwall, olrhain pentwr, llwybr atgenhedlu. Pan fydd model AI yn cynhyrchu allbynnau cynnil anghywir, gall y methiant fynd yn ddisylw am fisoedd oherwydd nid oes un ateb "cywir" i gymharu ag ef.

• Anhryloywder gofod cudd: Mae'r cynrychioliadau mewnol mewn modelau trylediad yn hynod o anodd eu dehongli, gan ei gwneud hi'n anodd olrhain arteffactau allbwn yn ôl i fethiannau cyfrifiannol penodol.
• Ssensitifrwydd cyflym: Gall mân amrywiadau mewn mewnbwn testun gynhyrchu allbynnau hollol wahanol, sy'n golygu mai dim ond dan amodau cul ac anrhagweladwy y gall bygiau ddod i'r wyneb.
• Goddrychedd gwerthusiad: Yn wahanol i dasgau dosbarthu gyda chywirdeb mesuradwy, mae ansawdd cynhyrchu delwedd yn rhannol oddrychol, gan ganiatáu i ddiraddiadau cynnil lithro trwy wiriadau awtomataidd.
• Dibyniaethau rhaeadru: Gall un diffyg yn yr amgodiwr testun luosogi drwy'r mecanwaith traws-sylw, y rhaglennydd dadwneud, a'r dadgodiwr VAE, gan wneud dadansoddi gwraidd y broblem yn hynod gymhleth.
• Clymu data hyfforddiant: Er mwyn gwahaniaethu rhwng bygiau ym mhensaernïaeth y model a thueddiadau a etifeddwyd o ddata hyfforddi, mae angen astudiaethau abladiad gofalus sy'n cymryd llawer o amser ac yn ddrud yn gyfrifiadurol.

Sut Mae'r Digwyddiad Hwn Wedi Dylanwadu ar Arferion Datblygu AI?

Er bod stori difa chwilod y gath yn ddoniol ar yr wyneb, ysgogodd sawl newid pendant yn y modd y mae timau AI yn mynd ati i sicrhau ansawdd. Ers hynny mae sefydliadau lluosog wedi ehangu eu protocolau profi fuzz ar gyfer modelau cynhyrchiol, gan gynnwys yn benodol dilyniannau tocynnau ar hap a gwrthwynebol sy'n dynwared mewnbynnau anieithyddol. Mae rhai timau bellach yn rhedeg efelychiadau "cerdded bysellfwrdd" awtomataidd fel rhan o'u piblinellau integreiddio parhaus.

Datblygodd y digwyddiad hefyd ddiddordeb mewn offer dehongli ar gyfer modelau tryledu. Pe bai’r arteffact gweledol wedi bod yn llai amlwg—symudiad lliw cynnil yn hytrach na brithwaith beiddgar—gallai fod wedi mynd heb i neb sylwi arno am gyfnod amhenodol. Mae hyn wedi gwthio'r gymuned tuag at ddatblygu gwell dulliau canfod anomaleddau awtomataidd ar gyfer allbynnau a gynhyrchir, systemau a all amlygu afreoleidd-dra ystadegol hyd yn oed pan fydd delweddau unigol yn ymddangos yn arwynebol normal.

Ar gyfer timau sy'n rheoli llifoedd gwaith cymhleth ar draws datblygu AI, iteriad cynnyrch, a sicrhau ansawdd, mae digwyddiadau fel y rhain yn amlygu'r angen am welededd gweithredol canolog. Pan fydd byg yn rhychwantu'r amgodiwr testun, y rhaglennydd, a'r datgodiwr, mae olrhain yr ymchwiliad ar draws offer gwasgaredig a sianeli cyfathrebu datgysylltu yn creu ei haen o ffrithiant ei hun.

Cwestiynau Cyffredin

A oedd y digwyddiad dadfygio cathod Stable Diffusion yn ddigwyddiad go iawn?

Mae'r stori graidd yn seiliedig ar gyfrif a rennir yn eang gan y gymuned beirianneg AI yn 2023. Er bod y manylion penodol wedi'u mytholegu rhywfaint wrth ailadrodd, mae'r senario technegol sylfaenol - mewnbwn bysellfwrdd ar hap yn datgelu byg gofod cudd - wedi'i ddogfennu'n dda ac yn gyson â dulliau methiant hysbys mewn pensaernïaeth modelau tryledu. Mae darganfyddiadau damweiniol tebyg wedi digwydd trwy gydol hanes peirianneg meddalwedd.

A all profion fuzz ddal bygiau mewn modelau AI cynhyrchiol yn ddibynadwy?

Mae profion Fuzz yn effeithiol o ran dal rhai categorïau o fygiau, yn enwedig y rhai sy'n ymwneud â dosrannu mewnbwn, achosion ymyl tokenization, a materion sefydlogrwydd rhifiadol. Fodd bynnag, nid yw'n fwled arian ar gyfer AI cynhyrchiol. Gan fod y modelau hyn yn cynhyrchu allbynnau tebygol yn hytrach na rhai penderfynol, mae diffinio'r hyn sy'n gyfystyr â "methiant" yn ystod profion fuzz yn gofyn am systemau canfod anghysondebau soffistigedig yn hytrach na honiadau pasio/methu syml.

Sut mae timau AI proffesiynol yn rheoli llifoedd gwaith dadfygio ar draws systemau cymhleth?

Mae’r rhan fwyaf o’r timau AI aeddfed yn dibynnu ar gyfuniad o lwyfannau olrhain arbrofion, logio canolog, dogfennaeth gydweithredol, a rheoli prosiectau strwythuredig. Yr her allweddol yw cynnal y gallu i olrhain - cysylltu arteffact allbwn penodol â'r fersiwn model, data hyfforddi, hyperparamedrau, ac ymrwymiad cod a'i cynhyrchodd. Mae timau sy'n cydgrynhoi'r llifoedd gwaith hyn i systemau gweithredol unedig yn treulio llawer llai o amser ar gydgysylltu uwchben a mwy o amser ar ddatrys problemau gwirioneddol.

Symleiddiwch Eich Cymhlethdod Gweithredol

P'un a ydych chi'n dadfygio modelau AI neu'n rheoli unrhyw weithrediad busnes cymhleth arall, mae offer tameidiog yn creu meddwl tameidiog. Mae Mewayz yn dod â 207 o fodiwlau integredig i mewn i un system weithredu busnes y mae dros 138,000 o ddefnyddwyr yn ymddiried ynddi - gan roi'r gwelededd canolog sydd ei angen ar eich tîm i olrhain problemau i'w ffynhonnell, cydlynu ymatebion, a symud yn gyflymach. Dechreuwch eich treial am ddim yn app.mewayz.com a gweld sut deimlad yw gweithrediadau unedig.