Pişik sabit diffuziyanı necə düzəltdi (2023)

Süni intellekt tarixinin ən gözlənilməz sazlama hekayələrindən birində ev pişiyi təsadüfən mühəndislərə Stable Diffusion-un təsvir yaratma boru kəmərində kritik gizli məkan təhrifini müəyyən etməyə kömək etdi. 2023-cü il hadisəsi gözlənilməz real dünya girişlərinin minlərlə saatlıq strukturlaşdırılmış testin tamamilə qaçırdığı qüsurları necə ifşa edə biləcəyinə dair əlamətdar nümunə oldu.

Pişik və stabil diffuziya ilə əslində nə baş verdi?

2023-cü ilin əvvəlində evdən işləyən maşın öyrənmə mühəndisi qəribə bir şey gördü. Onların pişiyi, Stabil Diffuziya məşqi zamanı klaviatura üzərindən keçərək, bir sıra mənasız simvolları tez bir dəstəyə daxil etdi. Bozuk nəticələr çıxarmaq və ya xəta atmaq əvəzinə, model ardıcıl və yüksək spesifik vizual artefakt olan bir sıra şəkillər yaratdı – operativ girişlər nəzərə alınmaqla mövcud olmamalı olan təkrarlanan mozaika nümunəsi.

Bu, təsadüfi səs-küy deyildi. Nümunə, modelin çarpaz diqqət qatlarında, xüsusən də U-Net arxitekturasının normal dil sərhədlərindən kənara çıxan müəyyən işarə birləşmələrini necə emal etdiyinə dair əvvəllər aşkar edilməmiş qərəzi aşkar etdi. Pişiyin klaviaturasının püresi effektiv şəkildə heç bir insan sınayıcısının sınamağı ağlına gətirmədiyi rəqib bildirişi yaratdı və bu, modelin CLIP mətn kodlayıcı inteqrasiyasındakı qüsuru ifşa etdi və bu, denozlaşdırma prosesi zamanı məkan əlaqələrinin hesablanmasına təsir etdi.

Mühəndislik qrupu artefaktın kök səbəbini tapmaq üçün növbəti həftələri sərf etdi: gizli diffuziya planlayıcısında üzən nöqtəli yuvarlaqlaşdırma problemi, yalnız spesifik tokenizasiya kənarı hallarında özünü göstərir. Düzəltmə bütün xəbərdarlıq növləri üzrə təsvirin uyğunluğunu təxmini 3-4% yaxşılaşdırdı, bu da generativ AI performansında əhəmiyyətli qazanc əldə etdi.

Niyə qeyri-ənənəvi girişlər QA komandalarının qaçırdığı səhvləri tutur?

Strukturlaşdırılmış test insan məntiqinə uyğundur. Mühəndislər gözlənilən istifadəçi davranışı, onların təsəvvür edə bildikləri kənar hallar və əvvəlki iterasiyalardan məlum olan uğursuzluq rejimləri əsasında sınaq işləri yazır. Lakin proqram təminatı, xüsusən də milyardlarla parametrli AI sistemləri heç bir sınaq çərçivəsinin tam əhatə edə bilməyəcəyi mümkün vəziyyətlərin kombinator partlayışını ehtiva edir.

"Ən təhlükəli səhvlər kodda gizlənənlər deyil, sınamadığınız səhvlərdir. Onlar səhv fərziyyələrlə sınaqdan keçirdiyiniz kodda gizlənənlərdir." — Ənənəvi proqram mühəndisliyində çoxdan başa düşülən bu prinsip, giriş sahəsinin effektiv şəkildə sonsuz olduğu maşın öyrənmə sistemlərində eksponent olaraq daha kritik olur.

Pişik hadisəsi xaos mühəndisliyi praktikalarının illərdir bildiklərini gücləndirdi: təsadüfi, gözlənilməz girişlər metodik testin edə bilməyəcəyi sistem zəifliklərini ortaya qoyur. Bu, zəiflikləri aşkar etmək üçün qəsdən səhv formalaşdırılmış məlumatların sistemlərə ötürüldüyü qeyri-səlis testinin arxasında eyni prinsipdir. Buradakı fərq fuzerin dörd ayağı və quyruğu olması idi.

Bu, süni intellektlə sazlama problemləri haqqında nəyi aşkar etdi?

General süni intellekt modellərinin sazlanması ənənəvi proqram təminatının sazlanmasından əsaslı şəkildə fərqlənir. Adi proqram uğursuz olduqda, siz səhv qeydi, yığın izi, təkrarlana bilən yol alırsınız. Süni intellekt modeli olduqca yanlış nəticələr çıxardıqda, uğursuzluq aylarca diqqətdən kənarda qala bilər, çünki müqayisə etmək üçün vahid "düzgün" cavab yoxdur.

• Gizli məkan qeyri-şəffaflığı: Diffuziya modellərində daxili təsvirləri şərh etmək çox çətindir, bu da çıxış artefaktlarını xüsusi hesablama uğursuzluqlarına qədər izləməyi çətinləşdirir.
• Təcili həssaslıq: Mətn daxiletməsindəki kiçik dəyişikliklər çox fərqli nəticələr yarada bilər, yəni baqlar yalnız dar və gözlənilməz şəraitdə üzə çıxa bilər.
• Qiymətləndirmənin subyektivliyi: Ölçülə bilən dəqiqliyə malik təsnifat tapşırıqlarından fərqli olaraq, təsvirin yaradılması keyfiyyəti qismən subyektivdir və incə deqradasiyaların avtomatlaşdırılmış yoxlamalardan keçməsinə imkan verir.
• Kaskad asılılıqlar: Mətn kodlayıcısındakı tək qüsur çarpaz diqqət mexanizmi, denoising planlayıcısı və VAE dekoderi vasitəsilə yayıla bilər və kök səbəb təhlilini son dərəcə mürəkkəb edir.
• Təlim məlumatlarının qarışması: Model arxitekturasındakı səhvləri və təlim məlumatlarından miras qalmış qərəzləri ayırd etmək vaxt aparan və hesablama baxımından bahalı olan diqqətli ablasyon tədqiqatlarını tələb edir.

Bu hadisə süni intellekt inkişafı təcrübələrinə necə təsir etdi?

Pişiklərin sazlanması hekayəsi, zahirən yumoristik olsa da, AI komandalarının keyfiyyət təminatına yanaşma tərzində bir neçə konkret dəyişikliklərə səbəb oldu. O vaxtdan bəri bir çox təşkilat generativ modellər üçün qeyri-linqvistik girişləri təqlid edən təsadüfi və rəqib işarə ardıcıllıqlarını özündə birləşdirən qeyri-səlis test protokollarını genişləndirdi. Bəzi komandalar indi davamlı inteqrasiya boru kəmərlərinin bir hissəsi kimi avtomatlaşdırılmış "klaviatura gəzintisi" simulyasiyalarını həyata keçirirlər.

Hadisə, həmçinin diffuziya modelləri üçün şərh edilə bilən alətlərə marağı təzələdi. Vizual artefakt daha az aşkar olsaydı - cəsarətli mozaikadan daha incə bir rəng dəyişikliyi - qeyri-müəyyən müddətə diqqətdən kənarda qala bilərdi. Bu, cəmiyyəti yaradılan çıxışlar üçün daha yaxşı avtomatlaşdırılmış anomaliyaların aşkarlanmasına, hətta ayrı-ayrı şəkillər səthi normal görünsə belə, statistik pozuntuları qeyd edə bilən sistemlərə sövq etdi.

AI inkişafı, məhsulun təkrarlanması və keyfiyyətin təminatı üzrə mürəkkəb iş axınlarını idarə edən komandalar üçün bu kimi hadisələr mərkəzləşdirilmiş əməliyyat görünmə ehtiyacını vurğulayır. Səhv mətn kodlayıcısını, planlaşdırıcını və dekoderi əhatə etdikdə, araşdırmanı səpələnmiş alətlər və əlaqəsi kəsilmiş kommunikasiya kanalları arasında izləmək öz sürtünmə qatını yaradır.

Tez-tez verilən suallar

Stable Diffusion pişiklərin sazlanması hadisəsi real hadisə idi?

Əsas hekayə 2023-cü ildə süni intellekt mühəndisliyi icmasının geniş şəkildə paylaşılan hesabına əsaslanır. Yenidən izahatda xüsusi təfərrüatlar bir qədər mifləşdirilsə də, əsas texniki ssenari – gizli kosmik səhvi ifşa edən təsadüfi klaviatura daxil edilməsi – yaxşı sənədləşdirilmiş və diffuziya modellərinin arxitekturasındakı məlum uğursuzluq rejimlərinə uyğundur. Oxşar təsadüfi kəşflər proqram mühəndisliyi tarixində baş verib.

Qeyri-səlis testi generativ süni intellekt modellərində səhvləri etibarlı şəkildə tuta bilərmi?

Qeyri-səlis sınağı bəzi kateqoriyalardakı səhvləri, xüsusən də daxiletmənin təhlili, tokenləşdirmə kənar halları və ədədi sabitlik problemləri ilə bağlı olanları aşkar etməkdə effektivdir. Bununla belə, bu, generativ AI üçün gümüş güllə deyil. Bu modellər deterministik deyil, ehtimala əsaslanan nəticələr çıxardığından, qeyri-səlis testi zamanı “uğursuzluq”un nədən ibarət olduğunu müəyyən etmək sadə keçid/uğursuz təsdiqləmələrdən daha çox mürəkkəb anomaliya aşkarlama sistemlərini tələb edir.

Peşəkar süni intellekt qrupları mürəkkəb sistemlərdə sazlama iş axınlarını necə idarə edir?

Əksər yetkin süni intellekt qrupları təcrübə izləmə platformaları, mərkəzləşdirilmiş giriş, əməkdaşlıq sənədləri və strukturlaşdırılmış layihə idarəetməsinin birləşməsinə əsaslanır. Əsas problem izlənilə bilənliyi qorumaqdır - xüsusi çıxış artefaktını model versiyasına, təlim məlumatlarına, hiperparametrlərə və onu yaradan kod öhdəliyinə qoşmaq. Bu iş axınlarını vahid əməliyyat sistemlərində birləşdirən komandalar koordinasiya əlavə xərclərinə əhəmiyyətli dərəcədə az vaxt, faktiki problemlərin həllinə isə daha çox vaxt sərf edirlər.

Əməliyyat Mürəkkəbliyinizi Sadələşdirin

İstər süni intellekt modellərini sazlayır, istərsə də hər hansı digər mürəkkəb biznes əməliyyatını idarə edirsinizsə, parçalanmış alətlər parçalanmış düşüncə yaradır. Mewayz 207 inteqrasiya olunmuş modulu 138.000-dən çox istifadəçinin etibar etdiyi vahid biznes əməliyyat sisteminə gətirir - komandanıza problemləri mənbəyə qədər izləmək, cavabları koordinasiya etmək və daha sürətli hərəkət etmək üçün lazım olan mərkəzləşdirilmiş görünmə imkanı verir. app.mewayz.com ünvanında ödənişsiz sınağa başlayın və vahid əməliyyatların necə olduğunu görün.