How a Cat Debugged Stable Diffusion (2023)

AI جي تاريخ ۾ سڀ کان وڌيڪ اڻڄاتل ڊيبگنگ ڪهاڻيون ۾، هڪ گھر جي ٻلي اڻڄاڻ طور تي انجنيئرن جي مدد ڪئي اسٽيبل ڊفيوشن جي تصويري نسل جي پائپ لائن ۾ هڪ نازڪ لڪير واري خلائي تحريف کي سڃاڻڻ ۾. 2023 وارو واقعو هڪ تاريخي ڪيس جو مطالعو بڻجي ويو آهي ته ڪيئن غير متوقع حقيقي دنيا جي انپٽس انهن خامين کي ظاهر ڪري سگهن ٿيون جيڪي هزارين ڪلاڪن جي منظم ٽيسٽنگ مڪمل طور تي وڃائي ٿي.

اصل ۾ ٻلي ۽ مستحڪم ڊفيوژن سان ڇا ٿيو؟

2023 جي شروعات ۾، گهر مان ڪم ڪندڙ هڪ مشين لرننگ انجنيئر ڪجهه عجيب محسوس ڪيو. انهن جي ٻلي، هڪ اسٽيبل ڊفيوشن ٽريننگ رن دوران ڪيبورڊ جي چوڌاري گھمڻ، هڪ فوري بيچ ۾ غير معقول ڪردارن جي هڪ تار متعارف ڪرايو. خراب ٿيل آئوٽ پُٽ پيدا ڪرڻ يا غلطي اُڇلائڻ بجاءِ، ماڊل مسلسل ۽ انتهائي مخصوص بصري نموني سان تصويرن جو هڪ سلسلو تيار ڪيو - هڪ ورجائيندڙ ٽيسيليشن جو نمونو جيڪو موجود نه هجڻ گهرجي ها پرامٽ انپٽس جي ڪري.

اهو بي ترتيب شور نه هو. نموني ظاهر ڪيو ته ماڊل جي ڪراس-توجه جي پرت ۾ اڳ ۾ اڻ ڄاتل تعصب، خاص طور تي ڪيئن U-Net آرڪيٽيڪچر ڪجهه ٽوڪن جي مجموعن تي عمل ڪيو جيڪي عام لساني حدن کان ٻاهر ٿي ويا. ٻلي جي ڪيبورڊ جي ميشنگ مؤثر طريقي سان هڪ مخالف پرامٽ ٺاهي ڇڏيو هو جنهن کي ڪنهن به انساني جاچ ڪندڙ ڪوشش ڪرڻ جو نه سوچيو هو، ماڊل جي CLIP ٽيڪسٽ انڪوڊر انٽيگريشن ۾ هڪ نقص کي ظاهر ڪيو جنهن متاثر ڪيو ته ڪيئن مقامي رشتن کي رد ڪرڻ واري عمل دوران ڪم ڪيو ويو.

انجنيئرنگ ٽيم ھيٺين ھفتا گذاريا آھن آرٽيڪل کي واپس ان جي اصلي سبب ڏانھن ڇڪڻ لاءِ: ھڪ سچل-پوائنٽ راؤنڈنگ مسئلو ليٽيٽ ڊفيوشن شيڊولر ۾ جيڪو صرف مخصوص ٽوڪنائيزيشن ايج ڪيسن جي تحت ظاهر ٿيو. 3-4% جي اندازي مطابق سڀني تڪڙين قسمن ۾ تصويري هم آهنگي کي درست ڪيو، AI ڪارڪردگي ۾ هڪ اهم فائدو.

غير روايتي انپٽس ڇو پڪڙين ٿا بگ جيڪي QA ٽيمون مس ٿيون؟

منظم ٿيل جاچ انساني منطق جي پيروي ڪري ٿي. انجنيئر ٽيسٽ ڪيس لکن ٿا متوقع صارف جي رويي جي بنياد تي، ايج ڪيس جيڪي اهي تصور ڪري سگهن ٿا، ۽ اڳئين ورهاڱي کان ناڪامي جا طريقا معلوم ٿين ٿا. پر سافٽ ويئر - خاص طور تي AI سسٽم اربين پيرا ميٽرز سان گڏ - ممڪن رياستن جي گڏيل ڌماڪي تي مشتمل آهي جنهن کي ڪو به جاچ فريم ورڪ مڪمل طور تي ڍڪي نٿو سگهي.

"سڀ کان وڌيڪ خطرناڪ ڪيڙا اهي نه آهن جيڪي ڪوڊ ۾ لڪيل آهن جيڪي توهان آزمايا نه هجن. اهي اهي آهن جيڪي توهان ڪوڊ ۾ لڪايا آهن جيڪي توهان غلط مفروضن سان آزمايا آهن." - ھي اصول، روايتي سافٽ ويئر انجنيئرنگ ۾ گھڻو سمجھيو ويو آھي، مشين لرننگ سسٽم ۾ تيزيءَ سان وڌيڪ نازڪ ٿئي ٿو جتي ان پٽ اسپيس مؤثر طور تي لامحدود آھي.

ٻلي واري واقعي کي وڌيڪ مضبوط ڪيو ته افراتفري جي انجنيئرنگ عملي کي سالن کان معلوم ٿئي ٿو: بي ترتيب ٿيل، غير متوقع ان پٽ سسٽماتي ڪمزوريون ظاهر ڪن ٿيون جيڪي طريقي سان جاچ نه ٿيون ڪري سگهن. اهو ساڳيو اصول فز جاچ جي پويان آهي، جتي عمدي طور تي خراب ٿيل ڊيٽا کي نقصان پهچائڻ لاء سسٽم ۾ فيڊ ڪيو ويندو آهي. هتي فرق اهو هو ته فزر کي چار ٽنگون ۽ هڪ دم هئي.

هن AI ڊيبگنگ چيلينجز بابت ڇا پڌرو ڪيو؟

جنريٽو AI ماڊلز کي ڊيبگ ڪرڻ بنيادي طور روايتي سافٽ ويئر کي ڊيبگ ڪرڻ کان مختلف آهي. جڏهن هڪ روايتي ايپليڪيشن ناڪام ٿئي ٿي، توهان کي هڪ غلطي لاگ، هڪ اسٽيڪ ٽريڪ، هڪ ٻيهر پيدا ڪرڻ وارو رستو ملي ٿو. جڏهن هڪ AI ماڊل واضح طور تي غلط نتيجو پيدا ڪري ٿو، ناڪامي مهينن تائين اڻڄاتل ٿي سگهي ٿي ڇو ته مقابلو ڪرڻ لاء ڪو به "صحيح" جواب ناهي.

• Latent space opacity: ڊفيوشن ماڊلز ۾ اندروني نمايان تشريح ڪرڻ تمام ڏکيو آهي، ان ڪري آئوٽ پُٽ جي نمونن کي مخصوص ڪمپيوٽيشنل ناڪامين ڏانهن ڇڪڻ ڏکيو ٿي پوندو آهي.
• فوري حساسيت: ٽيڪسٽ ان پٽ ۾ ننڍيون تبديليون وڏي پيماني تي مختلف آئوٽ پُٽ پيدا ڪري سگھن ٿيون، جنهن جو مطلب آهي ته بگ رڳو تنگ ۽ غير متوقع حالتن ۾ سطح تي ٿي سگهن ٿا.
• تشخيص جي تابعيت: ماپيبل درستگي سان درجه بندي جي ڪمن جي برعڪس، تصوير جي پيداوار جي معيار کي جزوي طور تي موضوعي آهي، خودڪار چيڪن ذريعي ذيلي تباهي جي اجازت ڏئي ٿي.
• ڪاسڪيڊنگ انحصار: ٽيڪسٽ انڪوڊر ۾ هڪ واحد نقص ڪراس-توجه واري ميڪانيزم، ڊينوائيزنگ شيڊيولر، ۽ VAE ڊيڪوڊر ذريعي پروپيگنڊا ڪري سگهي ٿو، بنيادي سببن جي تجزيو کي انتهائي پيچيده بڻائي ٿو.
• ٽريننگ ڊيٽا اننگلمينٽ: ماڊل آرڪيٽيڪچر ۾ بگ جي وچ ۾ فرق ڪرڻ ۽ ٽريننگ ڊيٽا مان ورثي ۾ مليل تعصبات کي احتياط سان ختم ڪرڻ جي مطالعي جي ضرورت آهي جيڪي وقت سازي ۽ حساب جي لحاظ کان قيمتي آهن.

هن حادثو AI ترقي جي عملن کي ڪيئن متاثر ڪيو آهي؟

ڪيٽ ڊيبگنگ ڪهاڻي، جڏهن ته مٿاڇري تي مزاحيه، ڪيترين ئي ڪنڪريٽ شفٽن کي آگاهه ڪيو ته ڪيئن AI ٽيمون معيار کي يقيني بڻائين ٿيون. ان کان پوءِ ڪيترن ئي تنظيمن پنهنجي فز ٽيسٽنگ پروٽوڪول کي وڌايو آهي جنريٽو ماڊلز لاءِ، خاص طور تي بي ترتيب ۽ مخالف ٽوڪن جي ترتيبن کي شامل ڪرڻ جيڪي غير لساني انپٽس کي نقل ڪن ٿا. ڪجھ ٽيمون ھاڻي ھاڻي پاڻمرادو ”ڪي بورڊ واڪ“ سميوليشن کي پنھنجي مسلسل انٽيگريشن پائپ لائنن جي حصي طور هلائين ٿيون.

اها واقعا پڻ تجديد ڪرڻ واري اوزار ۾ دلچسپي جي تجديد ڪئي diffusion ماڊلز لاءِ. جيڪڏهن بصري نموني گهٽ واضح هجي ها - هڪ باهمي ٽيسيليشن جي بدران هڪ ذيلي رنگ شفٽ - اهو شايد اڻڄاتل طور تي اڻڄاتل ٿي چڪو هجي. هن ڪميونٽي کي ٺاهيل آئوٽ پُٽ لاءِ بهتر خودڪار بيضابطگي جي نشاندهي ڪرڻ جي طرف ڌڪيو آهي، سسٽم جيڪي شمارياتي بي قاعدگين کي نشانو بڻائي سگهن ٿا جيتوڻيڪ انفرادي تصويرون عام طور تي عام طور تي ظاهر ٿين ٿيون.

اي آئي ڊولپمينٽ، پراڊڪٽ جي ورڇ، ۽ معيار جي يقين ڏياريندڙ پيچيده ڪم فلوز کي منظم ڪندڙ ٽيمن لاءِ، اهڙن واقعن کي مرڪزي آپريشنل visibility جي ضرورت کي اجاگر ڪن ٿا. جڏهن ڪو بگ ٽيڪسٽ انڪوڊر، شيڊيولر، ۽ ڊيڪوڊر کي پکڙيل آهي، تڙيل اوزارن ۽ منقطع ڪميونيڪيشن چينلز تي تحقيق کي ٽريڪ ڪرڻ سان ان جو پنهنجو پرت پيدا ٿئي ٿو.

اڪثر پڇيا ويندڙ سوال

ڇا Stable Diffusion cat debugging وارو واقعو هڪ حقيقي واقعو هو؟

بنيادي ڪهاڻي 2023 ۾ AI انجنيئرنگ ڪميونٽي جي وڏي پئماني تي شيئر ڪيل اڪائونٽ تي ٻڌل آهي. جڏهن ته مخصوص تفصيلن کي ڪجهه حد تائين ريٽيلنگ ۾ افسانوي انداز ۾ بيان ڪيو ويو آهي، بنيادي ٽيڪنيڪل منظر - بي ترتيب ڪيبورڊ انپٽ هڪ لڪل اسپيس بگ کي ظاهر ڪري رهيو آهي - چڱي طرح دستاويز ٿيل آهي ۽ ڊفيوشن ماڊل ۾ ڄاڻايل ناڪامي طريقن سان مطابقت رکي ٿي. اهڙيون حادثاتي دريافتون سڄي سافٽ ويئر انجنيئرنگ جي تاريخ ۾ ٿي چڪيون آهن.

ڇا fuzz ٽيسٽ قابل اعتماد طور تي پيدا ٿيندڙ AI ماڊلز ۾ بگ پڪڙي سگهي ٿي؟

فز ٽيسٽنگ ڪيٽيگريز جي بگ کي پڪڙڻ لاءِ اثرائتو آهي، خاص طور تي جيڪي ان پٽ پارسنگ، ٽوڪنائيزيشن ايج ڪيسز، ۽ عددي استحڪام جي مسئلن سان لاڳاپيل آهن. بهرحال، اهو پيدا ٿيندڙ AI لاء چانديء جي گولي ناهي. ڇاڪاڻ ته اهي ماڊل تعيناتي نموني جي بجاءِ امڪاني نتيجا پيدا ڪن ٿا، فز ٽيسٽنگ دوران ”ناڪامي“ جي وضاحت ڪرڻ لاءِ سادي پاس/ناڪامي جي دعويٰ جي بجاءِ نفيس بي ترتيبي ڳولڻ واري نظام جي ضرورت آهي.

پيشل سسٽم ۾ پروفيشنل AI ٽيمون ڊيبگنگ ورڪ فلوز کي ڪيئن منظم ڪن ٿيون؟

اڪثر پختو AI ٽيمون تجربا ٽريڪنگ پليٽ فارمن، مرڪزي لاگنگ، تعاون واري دستاويز، ۽ منظم منصوبي جي انتظام جي ميلاپ تي ڀاڙين ٿيون. اهم چيلنج آهي سراغ رستا برقرار رکڻ - هڪ مخصوص آئوٽ پُٽ آرٽيڪل کي ماڊل ورزن سان ڳنڍڻ، ٽريننگ ڊيٽا، هائپرپراميٽرس، ۽ ڪوڊ ڪمٽ جنهن ان کي پيدا ڪيو. ٽيمون جيڪي انهن ڪم جي فلوز کي متحد آپريشنل سسٽم ۾ گڏ ڪن ٿيون انهن ۾ ڪوآرڊينيشن اوور هيڊ تي تمام گهٽ وقت ۽ اصل مسئلو حل ڪرڻ تي وڌيڪ وقت خرچ ڪن ٿيون.

پنهنجي آپريشنل پيچيدگي کي آسان ڪريو

ڇا توهان AI ماڊل کي ڊيبگ ڪري رهيا آهيو يا ڪنهن ٻئي پيچيده ڪاروباري آپريشن کي منظم ڪري رهيا آهيو، ٽڪرا ٽڪرا ٽڪرا ٽڪرا سوچ پيدا ڪن ٿا. Mewayz 138,000 کان وڌيڪ استعمال ڪندڙن پاران ڀروسو ڪيل هڪ واحد ڪاروباري آپريٽنگ سسٽم ۾ 207 ضم ٿيل ماڊلز آڻيندو آهي - توهان جي ٽيم کي انهن جي ذريعن ڏانهن مسئلن جي نشاندهي ڪرڻ، جوابن کي همٿائڻ، ۽ تيزيءَ سان هلڻ لاءِ گهربل مرڪزي ڏيک ڏي. app.mewayz.com تي پنهنجي مفت آزمائش شروع ڪريو ۽ ڏسو ته متحد آپريشنز ڪيئن محسوس ٿين ٿا.