ஒரு பூனை எவ்வாறு நிலையான பரவலைப் பிழைத்திருத்தியது (2023)

AI வரலாற்றில் மிகவும் எதிர்பாராத பிழைத்திருத்தக் கதைகளில் ஒன்றில், ஒரு வீட்டுப் பூனை கவனக்குறைவாக பொறியாளர்களுக்கு ஸ்டேபிள் டிஃப்யூஷனின் இமேஜ் ஜெனரேஷன் பைப்லைனில் ஒரு முக்கியமான மறைந்திருக்கும் இட சிதைவைக் கண்டறிய உதவியது. 2023 ஆம் ஆண்டு நடந்த சம்பவம், கணிக்க முடியாத நிஜ-உலக உள்ளீடுகள் எவ்வாறு ஆயிரக்கணக்கான மணிநேர கட்டமைக்கப்பட்ட சோதனையை முழுவதுமாக இழக்கும் குறைபாடுகளை அம்பலப்படுத்தலாம் என்பதற்கான ஒரு முக்கிய ஆய்வு ஆகும்.

பூனை மற்றும் நிலையான பரவலில் உண்மையில் என்ன நடந்தது?

2023 ஆம் ஆண்டின் முற்பகுதியில், வீட்டிலிருந்து பணிபுரியும் இயந்திரக் கற்றல் பொறியாளர் ஒரு வித்தியாசமான ஒன்றைக் கவனித்தார். அவர்களின் பூனை, ஒரு நிலையான பரவல் பயிற்சி ஓட்டத்தின் போது விசைப்பலகை முழுவதும் நடந்து, ஒரு உடனடி தொகுதியில் முட்டாள்தனமான எழுத்துக்களை அறிமுகப்படுத்தியது. சிதைந்த வெளியீடுகளை உருவாக்குவதற்குப் பதிலாக அல்லது பிழையை ஏற்படுத்துவதற்குப் பதிலாக, மாதிரியானது நிலையான மற்றும் மிகவும் குறிப்பிட்ட காட்சிக் கலைப்பொருளைக் கொண்ட தொடர்ச்சியான படங்களை உருவாக்கியது - இது ப்ராம்ப்ட் உள்ளீடுகள் கொடுக்கப்பட்டிருக்கக் கூடாது.

இது சீரற்ற சத்தம் அல்ல. மாடலின் குறுக்கு-கவனம் அடுக்குகளில் முன்னர் கண்டறியப்படாத சார்புகளை இந்த முறை வெளிப்படுத்தியது, குறிப்பாக U-நெட் கட்டமைப்பானது சாதாரண மொழியியல் எல்லைகளுக்கு வெளியே உள்ள சில டோக்கன் சேர்க்கைகளை எவ்வாறு செயலாக்கியது. பூனையின் விசைப்பலகை மாஷிங், எந்த மனித சோதனையாளரும் முயற்சி செய்ய நினைக்காத ஒரு எதிரியான தூண்டுதலை திறம்பட உருவாக்கியது, இது மாதிரியின் CLIP உரை குறியாக்கி ஒருங்கிணைப்பில் உள்ள குறைபாட்டை அம்பலப்படுத்தியது.

இன்ஜினியரிங் குழுவினர் பின்வரும் வாரங்களில் கலைப்பொருளை அதன் மூல காரணத்தைக் கண்டுபிடித்தனர்: குறிப்பிட்ட டோக்கனைசேஷன் எட்ஜ் கேஸ்களின் கீழ் மட்டுமே வெளிப்படும் மறைந்திருக்கும் பரவல் திட்டமிடலில் ஒரு மிதக்கும்-புள்ளி ரவுண்டிங் சிக்கல். 3-4% என மதிப்பிடப்பட்ட அனைத்து ப்ராம்ட் வகைகளிலும் மேம்படுத்தப்பட்ட பட ஒத்திசைவு, உருவாக்கும் AI செயல்திறனில் குறிப்பிடத்தக்க ஆதாயம்.

QA அணிகள் தவறவிட்ட பிழைகளை வழக்கத்திற்கு மாறான உள்ளீடுகள் ஏன் பிடிக்கின்றன?

கட்டமைக்கப்பட்ட சோதனை மனித தர்க்கத்தைப் பின்பற்றுகிறது. பொறியாளர்கள் எதிர்பார்க்கப்படும் பயனர் நடத்தை, அவர்கள் கற்பனை செய்யக்கூடிய விளிம்பு நிலைகள் மற்றும் முந்தைய மறு செய்கைகளிலிருந்து அறியப்பட்ட தோல்வி முறைகள் ஆகியவற்றின் அடிப்படையில் சோதனை வழக்குகளை எழுதுகிறார்கள். ஆனால் மென்பொருள் - குறிப்பாக பில்லியன் கணக்கான அளவுருக்கள் கொண்ட AI அமைப்புகள் - எந்த சோதனை கட்டமைப்பையும் முழுமையாக மறைக்க முடியாத சாத்தியமான நிலைகளின் ஒருங்கிணைந்த வெடிப்பைக் கொண்டுள்ளது.

"மிகவும் ஆபத்தான பிழைகள் நீங்கள் சோதிக்காத குறியீட்டில் மறைந்திருப்பவை அல்ல. தவறான அனுமானங்களுடன் நீங்கள் சோதித்த குறியீட்டில் அவை மறைந்துள்ளன." — பாரம்பரிய மென்பொருள் பொறியியலில் நீண்ட காலமாக புரிந்து கொள்ளப்பட்ட இந்தக் கொள்கை, உள்ளீட்டு இடம் எல்லையற்றதாக இருக்கும் இயந்திர கற்றல் அமைப்புகளில் அதிவேகமாக மிகவும் முக்கியமானதாகிறது.

பூனைச் சம்பவம் பல ஆண்டுகளாக பொறியியல் பயிற்சியாளர்கள் அறிந்திருந்த குழப்பத்தை வலுப்படுத்தியது: சீரற்ற, கணிக்க முடியாத உள்ளீடுகள் முறையான சோதனைகள் செய்ய முடியாத அமைப்பு ரீதியான பலவீனங்களை வெளிப்படுத்துகின்றன. ஃபஸ் சோதனையின் பின்னணியில் உள்ள அதே கொள்கைதான், வேண்டுமென்றே தவறான தரவு அமைப்புகளில் பாதிப்புகளைக் கண்டறியும். இங்குள்ள வித்தியாசம் என்னவென்றால், ஃபஸருக்கு நான்கு கால்கள் மற்றும் ஒரு வால் இருந்தது.

AI பிழைத்திருத்த சவால்களைப் பற்றி இது என்ன வெளிப்படுத்தியது?

உருவாக்கும் AI மாதிரிகள் பிழைத்திருத்தம் பாரம்பரிய மென்பொருள் பிழைத்திருத்தத்திலிருந்து அடிப்படையில் வேறுபட்டது. ஒரு வழக்கமான பயன்பாடு தோல்வியுற்றால், நீங்கள் ஒரு பிழை பதிவு, ஒரு ஸ்டேக் ட்ரேஸ், மீண்டும் உருவாக்கக்கூடிய பாதை ஆகியவற்றைப் பெறுவீர்கள். ஒரு AI மாதிரியானது நுட்பமான தவறான வெளியீடுகளை உருவாக்கும் போது, தோல்வியானது பல மாதங்களாக கவனிக்கப்படாமல் இருக்கும், ஏனெனில் ஒப்பிடுவதற்கு "சரியான" பதில் எதுவும் இல்லை.

• மறைந்த விண்வெளி ஒளிபுகாநிலை: பரவல் மாதிரிகளில் உள்ள உள் பிரதிநிதித்துவங்களை விளக்குவது மிகவும் கடினம், இது குறிப்பிட்ட கணக்கீட்டு தோல்விகளுக்கு வெளியீட்டு கலைப்பொருட்களைக் கண்டுபிடிப்பதை கடினமாக்குகிறது.
• உடனடி உணர்திறன்: உரை உள்ளீட்டில் உள்ள சிறிய மாறுபாடுகள் பெருமளவில் வேறுபட்ட வெளியீடுகளை உருவாக்கலாம், அதாவது பிழைகள் குறுகிய மற்றும் கணிக்க முடியாத சூழ்நிலையில் மட்டுமே வெளிப்படும்.
• மதிப்பீட்டு அகநிலை: அளவிடக்கூடிய துல்லியத்துடன் வகைப்படுத்தல் பணிகளைப் போலல்லாமல், படத்தின் உருவாக்கத் தரம் ஓரளவு அகநிலையானது, தானியங்கு சோதனைகள் மூலம் நுட்பமான சிதைவுகளை நழுவ அனுமதிக்கிறது.
• கேஸ்கேடிங் சார்புநிலைகள்: டெக்ஸ்ட் என்கோடரில் உள்ள ஒரு குறைபாடு, கிராஸ்-அட்டென்ஷன் மெக்கானிசம், டினாயிசிங் ஷெட்யூலர் மற்றும் VAE டிகோடர் மூலம் பரவி, மூல காரண பகுப்பாய்வை மிகவும் சிக்கலாக்கும்.
• பயிற்சி தரவு சிக்கல்: மாதிரிக் கட்டமைப்பில் உள்ள பிழைகள் மற்றும் பயிற்சித் தரவிலிருந்து பெறப்பட்ட சார்புகளை வேறுபடுத்துவதற்கு, நேரத்தைச் செலவழிக்கும் மற்றும் கணக்கீட்டு ரீதியாக விலையுயர்ந்த கவனமாக நீக்குதல் ஆய்வுகள் தேவை.

இந்த சம்பவம் AI மேம்பாட்டு நடைமுறைகளை எவ்வாறு பாதித்தது?

பூனை பிழைத்திருத்தக் கதை, மேற்பரப்பில் நகைச்சுவையாக இருந்தாலும், AI குழுக்கள் தர உத்தரவாதத்தை எவ்வாறு அணுகுகின்றன என்பதில் பல உறுதியான மாற்றங்களைத் தூண்டியது. பல நிறுவனங்கள் அதன்பிறகு, உற்பத்தி மாதிரிகளுக்கான தங்களின் ஃபஸ் சோதனை நெறிமுறைகளை விரிவுபடுத்தியுள்ளன. சில அணிகள் இப்போது தங்கள் தொடர்ச்சியான ஒருங்கிணைப்பு பைப்லைன்களின் ஒரு பகுதியாக தானியங்கு "விசைப்பலகை நடை" உருவகப்படுத்துதல்களை இயக்குகின்றன.

இந்த சம்பவம் பரவல் மாதிரிகளுக்கான விளக்கக் கருவிகளில் ஆர்வத்தை புதுப்பித்தது. காட்சி கலைப்பொருள் குறைவான வெளிப்படையானதாக இருந்திருந்தால் - ஒரு தைரியமான டெஸ்ஸெலேஷன் அல்லாமல் ஒரு நுட்பமான வண்ண மாற்றம் - அது காலவரையின்றி கவனிக்கப்படாமல் போயிருக்கலாம். இது உருவாக்கப்படும் வெளியீடுகளுக்கான சிறந்த தானியங்கு ஒழுங்கின்மை கண்டறிதலை உருவாக்குவதற்கு சமூகத்தைத் தள்ளியுள்ளது, தனிப்பட்ட படங்கள் மேலோட்டமாக இயல்பானதாகத் தோன்றினாலும் புள்ளிவிவர முறைகேடுகளைக் கொடியிடக்கூடிய அமைப்புகள்.

AI மேம்பாடு, தயாரிப்பு மறு செய்கை மற்றும் தர உத்தரவாதம் முழுவதும் சிக்கலான பணிப்பாய்வுகளை நிர்வகிக்கும் குழுக்களுக்கு, இது போன்ற சம்பவங்கள் மையப்படுத்தப்பட்ட செயல்பாட்டுத் தெரிவுநிலையின் அவசியத்தை எடுத்துக்காட்டுகின்றன. ஒரு பிழையானது உரை குறியாக்கி, திட்டமிடல் மற்றும் குறிவிலக்கியை விரிவுபடுத்தும் போது, சிதறிய கருவிகள் மற்றும் துண்டிக்கப்பட்ட தகவல் தொடர்பு சேனல்களில் விசாரணையைக் கண்காணிப்பது அதன் சொந்த உராய்வு அடுக்கை உருவாக்குகிறது.

அடிக்கடி கேட்கப்படும் கேள்விகள்

நிலையான பரவல் பூனை பிழைத்திருத்த சம்பவம் உண்மையான நிகழ்வா?

2023 ஆம் ஆண்டில் AI இன்ஜினியரிங் சமூகத்தில் இருந்து பரவலாகப் பகிரப்பட்ட கணக்கின் அடிப்படையில் இந்த முக்கியக் கதை உருவாக்கப்பட்டுள்ளது. குறிப்பிட்ட விவரங்கள் மறுபரிசீலனை செய்வதில் ஓரளவு கட்டுக்கதைகளாக இருந்தாலும், அடிப்படை தொழில்நுட்பக் காட்சி - ரேண்டம் விசைப்பலகை உள்ளீடு மறைந்திருக்கும் இடப் பிழையை வெளிப்படுத்துகிறது - நன்கு ஆவணப்படுத்தப்பட்டுள்ளது மற்றும் பரவல் மாதிரியில் அறியப்பட்ட தோல்வி முறைகளுடன் ஒத்துப்போகிறது. மென்பொருள் பொறியியல் வரலாறு முழுவதும் இதே போன்ற தற்செயலான கண்டுபிடிப்புகள் நிகழ்ந்துள்ளன.

உருவாக்கும் AI மாடல்களில் உள்ள பிழைகளை fuzz சோதனை நம்பகத்தன்மையுடன் பிடிக்க முடியுமா?

Fuzz சோதனையானது, குறிப்பிட்ட வகைப் பிழைகளைப் பிடிப்பதில் பயனுள்ளதாக இருக்கும், குறிப்பாக உள்ளீடு பாகுபடுத்துதல், டோக்கனைசேஷன் எட்ஜ் கேஸ்கள் மற்றும் எண் நிலைத்தன்மை சிக்கல்கள் தொடர்பானவை. இருப்பினும், இது உருவாக்கும் AIக்கான வெள்ளி புல்லட் அல்ல. இந்த மாதிரிகள் உறுதியானவற்றைக் காட்டிலும் நிகழ்தகவு வெளியீடுகளை உருவாக்குவதால், fuzz சோதனையின் போது "தோல்வி" என்றால் என்ன என்பதை வரையறுப்பதற்கு எளிமையான பாஸ்/ஃபெயில் உறுதிப்பாடுகளைக் காட்டிலும் அதிநவீன ஒழுங்கின்மை கண்டறிதல் அமைப்புகள் தேவைப்படுகின்றன.

தொழில்முறை AI குழுக்கள் சிக்கலான அமைப்புகளில் பிழைத்திருத்த பணிப்பாய்வுகளை எவ்வாறு நிர்வகிக்கின்றன?

பெரும்பாலான முதிர்ந்த AI குழுக்கள் சோதனை கண்காணிப்பு தளங்கள், மையப்படுத்தப்பட்ட பதிவு செய்தல், கூட்டு ஆவணங்கள் மற்றும் கட்டமைக்கப்பட்ட திட்ட மேலாண்மை ஆகியவற்றின் கலவையை நம்பியுள்ளன. முக்கிய சவாலானது, கண்டறியும் தன்மையை பராமரிப்பதாகும் - ஒரு குறிப்பிட்ட வெளியீட்டு கலைப்பொருளை மாதிரி பதிப்புடன் இணைப்பது, பயிற்சி தரவு, ஹைபர்பாராமீட்டர்கள் மற்றும் அதை உருவாக்கிய குறியீடு உறுதி. இந்த பணிப்பாய்வுகளை ஒருங்கிணைக்கப்பட்ட இயக்க முறைமைகளில் ஒருங்கிணைக்கும் குழுக்கள், ஒருங்கிணைப்பு மேல்நிலையில் கணிசமாக குறைந்த நேரத்தையும், உண்மையான சிக்கலைத் தீர்ப்பதில் அதிக நேரத்தையும் செலவிடுகின்றன.

உங்கள் செயல்பாட்டு சிக்கலை எளிதாக்குங்கள்

நீங்கள் AI மாதிரிகளை பிழைத்திருத்தினாலும் அல்லது வேறு ஏதேனும் சிக்கலான வணிகச் செயல்பாட்டை நிர்வகித்தாலும், துண்டு துண்டான கருவிகள் துண்டு துண்டான சிந்தனையை உருவாக்குகின்றன. Mewayz 207 ஒருங்கிணைந்த மாட்யூல்களை 138,000 க்கும் மேற்பட்ட பயனர்களால் நம்பக்கூடிய ஒரு வணிக இயக்க முறைமையில் கொண்டுவருகிறது - உங்கள் குழுவிற்கு அவர்களின் மூலத்தில் உள்ள சிக்கல்களைக் கண்டறியவும், பதில்களை ஒருங்கிணைக்கவும் மற்றும் வேகமாக நகர்த்தவும் தேவையான மையப்படுத்தப்பட்ட பார்வையை வழங்குகிறது. app.mewayz.com இல் உங்கள் இலவச சோதனையைத் தொடங்கவும் மற்றும் ஒருங்கிணைந்த செயல்பாடுகள் எப்படி இருக்கும் என்பதைப் பார்க்கவும்.