Cat Debugged Stable Diffusion (2023)

ໃນເລື່ອງການດີບັກທີ່ບໍ່ຄາດຄິດທີ່ສຸດໃນປະຫວັດສາດ AI, ແມວບ້ານໄດ້ຊ່ວຍວິສະວະກອນໂດຍບໍ່ໄດ້ຕັ້ງໃຈໃນການບິດເບືອນພື້ນທີ່ latent ທີ່ສໍາຄັນໃນທໍ່ການຜະລິດຮູບພາບຂອງ Stable Diffusion. ເຫດການໃນປີ 2023 ກາຍເປັນກໍລະນີສຶກສາອັນສຳຄັນໃນວິທີທີ່ວັດສະດຸປ້ອນໃນໂລກຈິງທີ່ບໍ່ສາມາດຄາດເດົາໄດ້ສາມາດເປີດເຜີຍຂໍ້ບົກພ່ອງທີ່ການທົດສອບໂຄງສ້າງຫຼາຍພັນຊົ່ວໂມງພາດທັງໝົດ.

ເກີດຫຍັງຂຶ້ນກັບແມວ ແລະການແຜ່ກະຈາຍທີ່ໝັ້ນຄົງ?

ໃນຕົ້ນປີ 2023, ວິສະວະກອນການຮຽນຮູ້ເຄື່ອງຈັກທີ່ເຮັດວຽກຈາກບ້ານໄດ້ສັງເກດເຫັນບາງອັນທີ່ແປກປະຫຼາດ. ແມວຂອງພວກມັນ, ໄດ້ຍ່າງຂ້າມແປ້ນພິມໃນລະຫວ່າງການຝຶກຊ້ອມການແຜ່ກະຈາຍແບບຄົງທີ່, ໄດ້ແນະນຳຕົວລະຄອນທີ່ບໍ່ເໝາະສົມເຂົ້າໃນຊຸດທັນທີ. ແທນທີ່ຈະຜະລິດຜົນອອກມາແບບຫຍໍ້ໆ ຫຼືຖິ້ມຄວາມຜິດພາດ, ຮູບແບບດັ່ງກ່າວໄດ້ສ້າງຊຸດຮູບພາບທີ່ມີຮູບພາບທີ່ສອດຄ່ອງ ແລະສະເພາະເຈາະຈົງສູງ — ຮູບແບບການເຊວເລນຊ້ຳໆທີ່ບໍ່ຄວນມີຢູ່ໃນການປ້ອນຂໍ້ມູນດ່ວນ.

ນີ້ບໍ່ແມ່ນສຽງລົບກວນແບບສຸ່ມ. ຮູບແບບດັ່ງກ່າວໄດ້ເປີດເຜີຍຄວາມລຳອຽງທີ່ບໍ່ໄດ້ກວດພົບໃນເມື່ອກ່ອນໃນຊັ້ນການເອົາໃຈໃສ່ຂ້າມຂອງຕົວແບບ, ໂດຍສະເພາະໃນວິທີການສະຖາປັດຕະຍະກຳ U-Net ປະມວນຜົນການຜະສົມຜະສານໂທເຄັນບາງຢ່າງທີ່ຕົກຢູ່ນອກຂອບເຂດພາສາປົກກະຕິ. ການຕີຄີບອດຂອງແມວໄດ້ສ້າງການກະຕຸ້ນທີ່ກົງກັນຂ້າມຢ່າງມີປະສິດທິພາບທີ່ບໍ່ມີຜູ້ທົດສອບມະນຸດຄົນໃດຄິດຈະພະຍາຍາມ, ເຊິ່ງເປີດເຜີຍຂໍ້ບົກພ່ອງໃນການເຊື່ອມໂຍງຕົວເຂົ້າລະຫັດຂໍ້ຄວາມ CLIP ຂອງຕົວແບບທີ່ສົ່ງຜົນກະທົບຕໍ່ການຄິດໄລ່ຄວາມສຳພັນທາງພື້ນທີ່ໃນລະຫວ່າງຂະບວນການ denoising.

ທີມງານວິສະວະກອນໄດ້ໃຊ້ເວລາໃນອາທິດຕໍ່ໄປເພື່ອຕິດຕາມສິ່ງຂອງກັບໄປເຖິງສາເຫດຂອງມັນ: ບັນຫາການເລື່ອນຈຸດລອຍຢູ່ໃນຕົວກໍານົດເວລາການແຜ່ກະຈາຍ latent ທີ່ສະແດງອອກພາຍໃຕ້ກໍລະນີຂອບ tokenization ສະເພາະ. ການ​ແກ້​ໄຂ​ການ​ປັບ​ປຸງ​ຄວາມ​ສອດ​ຄ່ອງ​ຂອງ​ຮູບ​ພາບ​ໃນ​ທົ່ວ​ທຸກ​ປະ​ເພດ​ການ​ກະ​ຕຸ້ນ​ໂດຍ​ການ​ຄາດ​ຄະ​ເນ 3-4%, ການ​ເພີ່ມ​ຂຶ້ນ​ທີ່​ສໍາ​ຄັນ​ໃນ​ການ​ປະ​ຕິ​ບັດ AI ຜະ​ລິດ​ຕະ​ພັນ.

ເປັນ​ຫຍັງ​ການ​ປ້ອນ​ຂໍ້​ມູນ​ທີ່​ບໍ່​ເປັນ​ທຳ​ມະ​ດາ​ຈັບ​ບັກ​ທີ່​ທີມ QA ພາດ?

ການທົດສອບໂຄງສ້າງປະຕິບັດຕາມເຫດຜົນຂອງມະນຸດ. ວິສະວະກອນຂຽນກໍລະນີທົດສອບໂດຍອີງໃສ່ພຶດຕິກໍາຂອງຜູ້ໃຊ້ທີ່ຄາດໄວ້, ກໍລະນີແຂບທີ່ເຂົາເຈົ້າສາມາດຈິນຕະນາການໄດ້, ແລະຮູບແບບຄວາມລົ້ມເຫລວທີ່ຮູ້ຈັກຈາກການເຮັດຊ້ໍາຄືນທີ່ຜ່ານມາ. ແຕ່ຊອບແວ - ໂດຍສະເພາະລະບົບ AI ທີ່ມີຕົວກໍານົດການຫຼາຍຕື້ - ປະກອບດ້ວຍການລະເບີດແບບປະສົມປະສານຂອງສະຖານະທີ່ເປັນໄປໄດ້ທີ່ບໍ່ມີກອບການທົດສອບສາມາດກວມເອົາຢ່າງເຕັມສ່ວນ.

"ຂໍ້ບົກພ່ອງທີ່ອັນຕະລາຍທີ່ສຸດບໍ່ແມ່ນສິ່ງທີ່ເຊື່ອງຢູ່ໃນລະຫັດທີ່ທ່ານບໍ່ໄດ້ທົດສອບ. ພວກມັນແມ່ນຕົວທີ່ເຊື່ອງຢູ່ໃນລະຫັດທີ່ທ່ານທົດສອບດ້ວຍການສົມມຸດຕິຖານທີ່ບໍ່ຖືກຕ້ອງ." — ຫຼັກ​ການ​ນີ້, ເຂົ້າ​ໃຈ​ມາ​ດົນ​ນານ​ໃນ​ວິ​ສະ​ວະ​ກໍາ​ຊອບ​ແວ​ດັ້ງ​ເດີມ, ກາຍ​ເປັນ​ວິ​ທີ​ການ​ທີ່​ສໍາ​ຄັນ​ຫຼາຍ​ໃນ​ລະ​ບົບ​ການ​ຮຽນ​ຮູ້​ຂອງ​ເຄື່ອງ​ຈັກ​ທີ່​ພື້ນ​ທີ່​ການ​ປ້ອນ​ຂໍ້​ມູນ​ແມ່ນ​ບໍ່​ມີ​ທີ່​ສຸດ.

ເຫດການ​ແມວ​ໄດ້​ເສີມ​ສ້າງ​ສິ່ງ​ທີ່​ນັກ​ວິ​ສະ​ວະ​ກຳ​ທີ່​ວຸ່ນວາຍ​ຮູ້​ມາ​ເປັນ​ເວລາ​ຫຼາຍ​ປີ​ມາ​ແລ້ວ: ການ​ປ້ອນ​ຂໍ້​ມູນ​ແບບ​ສຸ່ມ, ບໍ່​ສາມາດ​ຄາດ​ຄະ​ເນ​ໄດ້​ເຜີຍ​ໃຫ້​ເຫັນ​ຈຸດ​ອ່ອນ​ທາງ​ລະບົບ​ທີ່​ການ​ທົດ​ສອບ​ແບບ​ວິທີ​ບໍ່​ສາມາດ​ເຮັດ​ໄດ້. ມັນເປັນຫຼັກການດຽວກັນກັບການທົດສອບ fuzz, ບ່ອນທີ່ຂໍ້ມູນທີ່ບໍ່ຖືກຕ້ອງໂດຍເຈດຕະນາຖືກປ້ອນເຂົ້າໄປໃນລະບົບເພື່ອເປີດເຜີຍຊ່ອງໂຫວ່. ຄວາມແຕກຕ່າງທີ່ນີ້ແມ່ນວ່າ fuzzer ມີສີ່ຂາແລະຫາງ.

ອັນນີ້ເປີດເຜີຍຫຍັງກ່ຽວກັບສິ່ງທ້າທາຍໃນການແກ້ບັນຫາ AI?

ການດີບັກຕົວແບບ AI ໂດຍທົ່ວໄປແມ່ນແຕກຕ່າງຈາກການດີບັກຊອບແວແບບດັ້ງເດີມໂດຍພື້ນຖານ. ເມື່ອຄໍາຮ້ອງສະຫມັກທໍາມະດາລົ້ມເຫລວ, ທ່ານໄດ້ຮັບບັນທຶກຄວາມຜິດພາດ, ການຕິດຕາມ stack, ເສັ້ນທາງທີ່ສາມາດແຜ່ພັນໄດ້. ເມື່ອຕົວແບບ AI ຜະລິດຜົນຜະລິດທີ່ຜິດພາດເລັກນ້ອຍ, ຄວາມລົ້ມເຫລວສາມາດຖືກສັງເກດເຫັນເປັນເວລາຫຼາຍເດືອນ ເພາະບໍ່ມີຄຳຕອບທີ່ "ຖືກຕ້ອງ" ດຽວເພື່ອປຽບທຽບກັບ.

• ຄວາມໂປ່ງແສງຂອງຊ່ອງຫວ່າງ: ການສະແດງພາຍໃນໃນຮູບແບບການແຜ່ກະຈາຍແມ່ນເປັນເລື່ອງທີ່ຍາກທີ່ຈະຕີຄວາມໝາຍໄດ້, ເຮັດໃຫ້ມັນຍາກທີ່ຈະຕິດຕາມຜົນຂອງສິ່ງປະດິດກັບຄືນໄປສູ່ຄວາມລົ້ມເຫຼວຂອງຄອມພິວເຕີສະເພາະ.
• ຄວາມອ່ອນໄຫວທັນທີ: ການປ່ຽນແປງເລັກນ້ອຍໃນການປ້ອນຂໍ້ຄວາມສາມາດໃຫ້ຜົນໄດ້ຮັບທີ່ແຕກຕ່າງກັນຢ່າງປ່າເຖື່ອນ, ຊຶ່ງຫມາຍຄວາມວ່າແມງໄມ້ອາດຈະຢູ່ພາຍໃນສະພາບແຄບ ແລະບໍ່ສາມາດຄາດເດົາໄດ້.
• ຫົວຂໍ້ການປະເມີນ: ບໍ່ຄືກັບວຽກການຈັດປະເພດທີ່ມີຄວາມຖືກຕ້ອງທີ່ສາມາດວັດແທກໄດ້, ຄຸນນະພາບການສ້າງຮູບພາບແມ່ນເປັນຫົວຂໍ້ບາງສ່ວນ, ອະນຸຍາດໃຫ້ມີການຍ່ອຍສະຫຼາຍເລັກນ້ອຍຜ່ານການກວດສອບອັດຕະໂນມັດ.
• Cascading dependencies: ຂໍ້ບົກຜ່ອງດຽວໃນຕົວເຂົ້າລະຫັດຂໍ້ຄວາມສາມາດແຜ່ຂະຫຍາຍຜ່ານກົນໄກການເອົາໃຈໃສ່ຂ້າມ, ຕົວກໍານົດເວລາ denoising, ແລະ VAE decoder, ເຮັດໃຫ້ການວິເຄາະສາເຫດຂອງຮາກສັບສົນຫຼາຍ.
• ການຕິດພັນຂໍ້ມູນການຝຶກອົບຮົມ: ການຈໍາແນກລະຫວ່າງຂໍ້ບົກພ່ອງໃນສະຖາປັດຕະຍະກຳຂອງຕົວແບບ ແລະ ຄວາມລຳອຽງທີ່ສືບທອດມາຈາກຂໍ້ມູນການເຝິກອົບຮົມຕ້ອງໃຊ້ການສຶກສາ ablation ຢ່າງລະມັດລະວັງ ເຊິ່ງໃຊ້ເວລາຫຼາຍ ແລະ ລາຄາແພງໃນການຄິດໄລ່.

ເຫດການນີ້ມີອິດທິພົນຕໍ່ການປະຕິບັດການພັດທະນາ AI ແນວໃດ?

ເລື່ອງການດີບັກແມວ, ໃນຂະນະທີ່ເປັນເລື່ອງຕະຫຼົກຢູ່ໃນພື້ນຜິວ, ໄດ້ກະຕຸ້ນໃຫ້ມີການປ່ຽນແປງຢ່າງຈິງຈັງຫຼາຍໃນວິທີທີ່ທີມງານ AI ເຂົ້າຫາການຮັບປະກັນຄຸນນະພາບ. ຕັ້ງແຕ່ນັ້ນມາ, ຫຼາຍອົງກອນໄດ້ຂະຫຍາຍໂປໂຕຄອນການທົດສອບ fuzz ຂອງເຂົາເຈົ້າສໍາລັບແບບຈໍາລອງການຜະລິດ, ໂດຍສະເພາະການລວມເອົາລໍາດັບ token ແບບສຸ່ມແລະເປັນສັດຕູທີ່ mimic ວັດສະດຸປ້ອນທີ່ບໍ່ແມ່ນພາສາ. ຕອນນີ້ບາງທີມແລ່ນການຈຳລອງ "keyboard walk" ອັດຕະໂນມັດເປັນສ່ວນໜຶ່ງຂອງທໍ່ການເຊື່ອມໂຍງຢ່າງຕໍ່ເນື່ອງຂອງເຂົາເຈົ້າ.

ເຫດການ​ດັ່ງກ່າວ​ຍັງ​ມີ​ຄວາມ​ສົນ​ໃຈ​ຕໍ່​ເຄື່ອງມື​ການ​ຕີ​ຄວາມ​ໝາຍ​ຂອງ​ຕົວ​ແບບ​ການ​ແຜ່​ກະຈາຍ. ຖ້າສິ່ງປະດິດທີ່ເບິ່ງເຫັນໄດ້ບໍ່ຊັດເຈນ - ການປ່ຽນສີທີ່ອ່ອນໂຍນແທນທີ່ຈະເປັນ Tessellation ທີ່ກ້າຫານ - ມັນອາດຈະບໍ່ສັງເກດເຫັນຢ່າງບໍ່ມີກໍານົດ. ອັນນີ້ໄດ້ຊຸກຍູ້ຊຸມຊົນໄປສູ່ການພັດທະນາການກວດຫາຄວາມຜິດປົກກະຕິອັດຕະໂນມັດທີ່ດີຂຶ້ນສຳລັບຜົນຜະລິດທີ່ສ້າງຂຶ້ນ, ລະບົບທີ່ສາມາດລາຍງານຄວາມຜິດປົກກະຕິທາງສະຖິຕິໄດ້ ເຖິງແມ່ນວ່າຮູບພາບແຕ່ລະອັນຈະປາກົດເປັນເລື່ອງປົກກະຕິ.

ສຳລັບທີມງານທີ່ຈັດການຂັ້ນຕອນການເຮັດວຽກທີ່ຊັບຊ້ອນໃນທົ່ວການພັດທະນາ AI, ການຜະລິດຄືນໃໝ່, ແລະການຮັບປະກັນຄຸນນະພາບ, ເຫດການເຫຼົ່ານີ້ຊີ້ໃຫ້ເຫັນເຖິງຄວາມຕ້ອງການສໍາລັບການເບິ່ງເຫັນການດໍາເນີນງານທີ່ເປັນສູນກາງ. ເມື່ອມີຂໍ້ບົກພ່ອງຜ່ານຕົວເຂົ້າລະຫັດຂໍ້ຄວາມ, ຕົວກຳນົດເວລາ, ແລະຕົວຖອດລະຫັດ, ການຕິດຕາມການສືບສວນໃນທົ່ວເຄື່ອງມືທີ່ກະແຈກກະຈາຍ ແລະ ຊ່ອງທາງການສື່ສານທີ່ຕັດການເຊື່ອມຕໍ່ຈະສ້າງຊັ້ນຂໍ້ຂັດແຍ່ງຂອງຕົນເອງ.

ຄຳຖາມທີ່ຖາມເລື້ອຍໆ

ເຫດການແກ້ບັນຫາ cat Diffusion ຄົງທີ່ແມ່ນເຫດການທີ່ແທ້ຈິງບໍ?

ເລື່ອງຫຼັກແມ່ນອີງໃສ່ບັນຊີທີ່ແບ່ງປັນກັນຢ່າງກວ້າງຂວາງຈາກຊຸມຊົນວິສະວະກຳ AI ໃນປີ 2023. ໃນຂະນະທີ່ລາຍລະອຽດສະເພາະໄດ້ຖືກບອກເລົ່າຄືນມາ, ສະຖານະການທາງເທັກນິກພື້ນຖານ — ແປ້ນພິມແບບສຸ່ມທີ່ເປີດເຜີຍຂໍ້ບົກພ່ອງໃນຊ່ອງຫວ່າງ — ແມ່ນເອກະສານທີ່ດີ ແລະສອດຄ່ອງກັບຮູບແບບຄວາມລົ້ມເຫລວທີ່ຮູ້ຈັກໃນສະຖາປັດຕະຍະກຳແບບແຜ່ກະຈາຍ. ການຄົ້ນພົບໂດຍບັງເອີນທີ່ຄ້າຍຄືກັນໄດ້ເກີດຂຶ້ນໃນທົ່ວປະຫວັດສາດວິສະວະກໍາຊອບແວ.

ການທົດສອບ fuzz ສາມາດຈັບຂໍ້ບົກຜ່ອງໃນແບບຈໍາລອງ AI ທົ່ວໄປໄດ້ບໍ?

ການທົດສອບ Fuzz ມີປະສິດທິພາບໃນການຈັບບາງປະເພດແມງໄມ້, ໂດຍສະເພາະເລື່ອງທີ່ກ່ຽວຂ້ອງກັບການແຍກວິເຄາະຂໍ້ມູນ, ກໍລະນີຂອບຂອງ tokenization, ແລະບັນຫາຄວາມສະຖຽນຂອງຕົວເລກ. ຢ່າງໃດກໍຕາມ, ມັນບໍ່ແມ່ນລູກປືນເງິນສໍາລັບ AI ທົ່ວໄປ. ເນື່ອງຈາກວ່າຕົວແບບເຫຼົ່ານີ້ຜະລິດຜົນໄດ້ຮັບທີ່ເປັນໄປໄດ້ແທນທີ່ຈະເປັນຕົວກໍານົດ, ການກໍານົດສິ່ງທີ່ປະກອບເປັນ "ຄວາມລົ້ມເຫຼວ" ໃນລະຫວ່າງການທົດສອບ fuzz ຕ້ອງການລະບົບການກວດສອບຄວາມຜິດປົກກະຕິທີ່ຊັບຊ້ອນແທນທີ່ຈະເປັນການຢືນຢັນຜ່ານ / ລົ້ມເຫລວ.

ທີມງານ AI ມືອາຊີບຈັດການຂັ້ນຕອນການດີບັກຜ່ານລະບົບທີ່ສັບສົນແນວໃດ?

ທີມງານ AI ທີ່ເປັນຜູ້ໃຫຍ່ສ່ວນຫຼາຍແມ່ນອີງໃສ່ການປະສົມປະສານຂອງແພລະຕະຟອມຕິດຕາມການທົດລອງ, ການບັນທຶກແບບລວມສູນ, ເອກະສານຮ່ວມມື ແລະການຈັດການໂຄງການທີ່ມີໂຄງສ້າງ. ສິ່ງທ້າທາຍທີ່ສໍາຄັນແມ່ນການຮັກສາການຕິດຕາມ - ການເຊື່ອມຕໍ່ສິ່ງປະດິດຂອງຜົນຜະລິດສະເພາະກັບຮຸ່ນຕົວແບບ, ຂໍ້ມູນການຝຶກອົບຮົມ, hyperparameters, ແລະລະຫັດຄໍາຫມັ້ນສັນຍາທີ່ຜະລິດມັນ. ທີມງານທີ່ລວມຂະບວນການເຮັດວຽກເຫຼົ່ານີ້ເຂົ້າໄປໃນລະບົບປະຕິບັດງານທີ່ເປັນເອກະພາບໃຊ້ເວລາຫນ້ອຍລົງຢ່າງຫຼວງຫຼາຍໃນການປະສານງານດ້ານເທິງແລະໃຊ້ເວລາຫຼາຍກວ່າໃນການແກ້ໄຂບັນຫາຕົວຈິງ.

ເຮັດ​ໃຫ້​ຄວາມ​ສັບ​ສົນ​ໃນ​ການ​ປະ​ຕິ​ບັດ​ງານ​ຂອງ​ທ່ານ​ງ່າຍ​ຂຶ້ນ

ບໍ່​ວ່າ​ທ່ານ​ຈະ​ແກ້​ໄຂ​ຕົວ​ແບບ AI ຫຼື​ການ​ຄຸ້ມ​ຄອງ​ການ​ດຳ​ເນີນ​ທຸ​ລະ​ກິດ​ທີ່​ຊັບ​ຊ້ອນ​ອື່ນ​ໃດ, ເຄື່ອງ​ມື​ທີ່​ແຕກ​ແຍກ​ຈະ​ສ້າງ​ຄວາມ​ຄິດ​ທີ່​ແຕກ​ແຍກ. Mewayz ເອົາ 207 ໂມດູນປະສົມປະສານເຂົ້າໄປໃນລະບົບປະຕິບັດງານທຸລະກິດດຽວທີ່ເຊື່ອຖືໄດ້ຈາກຜູ້ໃຊ້ຫຼາຍກວ່າ 138,000 ຄົນ - ໃຫ້ທີມງານຂອງທ່ານເບິ່ງເຫັນຈຸດສູນກາງທີ່ຈໍາເປັນເພື່ອຕິດຕາມບັນຫາໄປຫາແຫຼ່ງຂອງພວກເຂົາ, ປະສານງານການຕອບສະຫນອງ, ແລະໄວຂຶ້ນ. ເລີ່ມ​ການ​ທົດ​ລອງ​ໃຊ້​ຟຣີ​ຂອງ​ທ່ານ​ທີ່ app.mewayz.com ແລະ​ເບິ່ງ​ວ່າ​ການ​ດໍາ​ເນີນ​ງານ​ທີ່​ເປັນ​ເອ​ກະ​ພາບ​ເປັນ​ແນວ​ໃດ.