چگونه یک گربه اشاعه پایدار را اشکال زدایی کرد (2023)

در یکی از غیرمنتظره‌ترین داستان‌های اشکال‌زدایی در تاریخ هوش مصنوعی، یک گربه خانگی به طور ناخواسته به مهندسان کمک کرد تا یک اعوجاج فضای نهفته حیاتی را در خط لوله تولید تصویر Stable Diffusion شناسایی کنند. حادثه 2023 به یک مطالعه موردی برجسته تبدیل شد که چگونه ورودی های غیرقابل پیش بینی در دنیای واقعی می توانند نقص هایی را که هزاران ساعت آزمایش ساختاریافته به طور کامل از دست می دهند، آشکار کند.

در واقع با گربه و انتشار پایدار چه اتفاقی افتاد؟

در اوایل سال 2023، یک مهندس یادگیری ماشین که از خانه کار می‌کرد، متوجه چیز عجیبی شد. گربه آنها که در طول یک دوره آموزشی Stable Diffusion روی صفحه کلید راه می رفت، یک رشته کاراکترهای مزخرف را وارد یک دسته سریع کرد. این مدل به جای تولید خروجی‌های مخدوش یا خطا، مجموعه‌ای از تصاویر را با یک مصنوع بصری ثابت و بسیار خاص تولید کرد - یک الگوی تسلسل تکراری که با توجه به ورودی‌های فوری نباید وجود می‌داشت.

این نویز تصادفی نبود. این الگو یک سوگیری ناشناخته قبلی را در لایه‌های توجه متقابل مدل نشان داد، به‌ویژه در نحوه پردازش معماری U-Net ترکیب‌های نشانه‌هایی که خارج از مرزهای زبانی عادی قرار داشتند. درهم آمیختن صفحه کلید گربه به طور موثر یک پیام خصمانه ایجاد کرده بود که هیچ آزمایشگر انسانی فکر نمی کرد آن را امتحان کند و نقصی را در یکپارچه سازی رمزگذار متن CLIP مدل نشان داد که بر نحوه محاسبه روابط فضایی در طول فرآیند حذف نویز تأثیر می گذاشت.

تیم مهندسی هفته‌های بعدی را صرف ردیابی مصنوع به دلیل اصلی آن کردند: یک مشکل گرد شدن ممیز شناور در زمان‌بندی انتشار پنهان که فقط در موارد لبه نشانه‌سازی خاص ظاهر می‌شد. این اصلاح انسجام تصویر را در همه انواع سریع به میزان 3 تا 4 درصد بهبود بخشید، یک دستاورد قابل توجه در عملکرد هوش مصنوعی مولد.

چرا ورودی‌های غیر متعارف اشکالاتی را می‌گیرند که تیم‌های QA از دست می‌دهند؟

آزمایش ساختار یافته از منطق انسانی پیروی می کند. مهندسان موارد تست را بر اساس رفتار کاربر مورد انتظار، موارد لبه ای که می توانند تصور کنند و حالت های شکست شناخته شده از تکرارهای قبلی می نویسند. اما نرم افزار - به ویژه سیستم های هوش مصنوعی با میلیاردها پارامتر - حاوی انفجار ترکیبی از حالت های احتمالی است که هیچ چارچوب آزمایشی نمی تواند به طور کامل آن را پوشش دهد.

"خطرناک ترین باگ ها آنهایی نیستند که در کدی که شما آنها را آزمایش نکرده اید پنهان می کنند. آنها در کدهایی هستند که با فرضیات اشتباه تست کرده اید." — این اصل که مدت‌ها در مهندسی نرم‌افزار سنتی شناخته شده بود، در سیستم‌های یادگیری ماشینی که فضای ورودی به طور مؤثر بی‌نهایت است، به‌طور تصاعدی حیاتی‌تر می‌شود.

حادثه گربه چیزی را تقویت کرد که متخصصان مهندسی هرج و مرج سال‌ها می‌شناختند: ورودی‌های تصادفی و غیرقابل پیش‌بینی، ضعف‌های سیستمی را نشان می‌دهند که آزمایش روشمند نمی‌تواند. این همان اصل پشت تست فازی است، که در آن داده‌های بد شکل عمدی به سیستم‌ها برای کشف آسیب‌پذیری‌ها وارد می‌شوند. تفاوت در اینجا این بود که فوزر چهار پا و یک دم داشت.

این در مورد چالش های اشکال زدایی هوش مصنوعی چه چیزی را نشان داد؟

اشکال‌زدایی مدل‌های هوش مصنوعی مولد اساساً با اشکال‌زدایی نرم‌افزارهای سنتی متفاوت است. هنگامی که یک برنامه معمولی با شکست مواجه می شود، یک گزارش خطا، یک ردیابی پشته، یک مسیر قابل تکرار دریافت می کنید. هنگامی که یک مدل هوش مصنوعی خروجی های نامحسوسی اشتباه تولید می کند، این شکست می تواند ماه ها مورد توجه قرار نگیرد زیرا هیچ پاسخ "درست" واحدی برای مقایسه وجود ندارد.

• تعوض فضای پنهان: تفسیر نمایش‌های داخلی در مدل‌های انتشار بسیار دشوار است و ردیابی مصنوعات خروجی به خرابی‌های محاسباتی خاص را دشوار می‌کند.
• حساسیت اعلان: تغییرات جزئی در ورودی متن می‌تواند خروجی‌های بسیار متفاوتی ایجاد کند، به این معنی که اشکالات فقط در شرایط باریک و غیرقابل پیش‌بینی ظاهر می‌شوند.
• سوژکتیویته ارزیابی: بر خلاف وظایف طبقه‌بندی با دقت قابل اندازه‌گیری، کیفیت تولید تصویر تا حدی ذهنی است و اجازه می‌دهد تا تخریب‌های ظریف در بررسی‌های خودکار از بین برود.
• وابستگی‌های آبشاری: یک نقص واحد در رمزگذار متن می‌تواند از طریق مکانیسم توجه متقابل، زمان‌بندی حذف نویز و رمزگشای VAE منتشر شود و تجزیه و تحلیل علت اصلی را بسیار پیچیده می‌کند.
• درهم‌تنیدگی داده‌های آموزشی: تمایز بین اشکالات در معماری مدل و سوگیری‌های به ارث رسیده از داده‌های آموزشی نیازمند مطالعات دقیق ابلیشن است که زمان‌بر و از نظر محاسباتی گران هستند.

این حادثه چگونه روی شیوه‌های توسعه هوش مصنوعی تأثیر گذاشته است؟

داستان اشکال‌زدایی گربه‌ها، اگرچه در ظاهر طنزآمیز بود، باعث ایجاد تغییرات مشخصی در نحوه رویکرد تیم‌های هوش مصنوعی به تضمین کیفیت شد. از آن زمان، چندین سازمان پروتکل‌های تست فاز خود را برای مدل‌های مولد گسترش داده‌اند، به‌ویژه توالی‌های نشانه تصادفی و متضاد را که ورودی‌های غیرزبانی را تقلید می‌کنند، ترکیب می‌کنند. برخی از تیم‌ها اکنون شبیه‌سازی‌های خودکار «راه رفتن با صفحه‌کلید» را به عنوان بخشی از خطوط لوله یکپارچه‌سازی مداوم خود اجرا می‌کنند.

این حادثه همچنین علاقه به ابزارهای تفسیرپذیری مدل‌های انتشار را تجدید کرد. اگر مصنوع بصری کمتر آشکار بود - یک تغییر رنگ ظریف به جای یک تسلسل جسورانه - ممکن بود به طور نامحدودی مورد توجه قرار نگیرد. این امر جامعه را به سمت توسعه تشخیص ناهنجاری خودکار بهتر برای خروجی‌های تولید شده سوق داده است، سیستم‌هایی که می‌توانند بی‌نظمی‌های آماری را حتی زمانی که تصاویر فردی به‌طور سطحی طبیعی به نظر می‌رسند، علامت‌گذاری کنند.

برای تیم‌هایی که گردش‌های کاری پیچیده در توسعه هوش مصنوعی، تکرار محصول و تضمین کیفیت را مدیریت می‌کنند، حوادثی مانند این نیاز به دید عملیاتی متمرکز را برجسته می‌کنند. هنگامی که یک اشکال از رمزگذار متن، زمان‌بندی و رمزگشا می‌گذرد، ردیابی تحقیق در ابزارهای پراکنده و کانال‌های ارتباطی قطع شده، لایه اصطکاک خود را ایجاد می‌کند.

سوالات متداول

آیا حادثه اشکال زدایی گربه Stable Diffusion یک رویداد واقعی بود؟

داستان اصلی مبتنی بر حساب مشترکی است که به طور گسترده از جامعه مهندسی هوش مصنوعی در سال 2023 به اشتراک گذاشته شده است. در حالی که جزئیات خاص در بازگویی تا حدی اسطوره‌سازی شده‌اند، سناریوی فنی زیربنایی - ورودی تصادفی صفحه کلید که یک باگ فضای پنهان را نشان می‌دهد - به خوبی مستند شده و با حالت‌های شناخته‌شده مدل‌های شکست در معماری سازگار است. اکتشافات تصادفی مشابهی در طول تاریخ مهندسی نرم افزار رخ داده است.

آیا تست فاز می تواند به طور قابل اعتماد اشکالات را در مدل های هوش مصنوعی مولد تشخیص دهد؟

تست فاز در شناسایی دسته‌های خاصی از باگ‌ها، به‌ویژه موارد مربوط به تجزیه ورودی، موارد لبه توکن‌سازی، و مسائل ثبات عددی مؤثر است. با این حال، این یک گلوله نقره ای برای هوش مصنوعی مولد نیست. از آنجایی که این مدل‌ها خروجی‌های احتمالی را به جای خروجی‌های قطعی تولید می‌کنند، تعریف اینکه چه چیزی باعث «شکست» در طول آزمایش فازی می‌شود، به‌جای ادعاهای عبور/شکست ساده، به سیستم‌های پیچیده تشخیص ناهنجاری نیاز دارد.

تیم‌های حرفه‌ای هوش مصنوعی چگونه جریان‌های کار اشکال‌زدایی را در سیستم‌های پیچیده مدیریت می‌کنند؟

اکثر تیم‌های هوش مصنوعی بالغ بر ترکیبی از پلت‌فرم‌های ردیابی آزمایشی، ثبت متمرکز، اسناد مشارکتی و مدیریت پروژه ساختاریافته متکی هستند. چالش کلیدی حفظ قابلیت ردیابی است – اتصال یک مصنوع خروجی خاص به نسخه مدل، داده‌های آموزشی، فراپارامترها و تعهد کدی که آن را تولید کرده است. تیم‌هایی که این جریان‌های کاری را در سیستم‌های عملیاتی یکپارچه ادغام می‌کنند، زمان بسیار کمتری را برای سربار هماهنگی و زمان بیشتری را برای حل مشکلات واقعی صرف می‌کنند.

پیچیدگی عملیاتی خود را ساده کنید

چه در حال اشکال‌زدایی مدل‌های هوش مصنوعی یا مدیریت هر عملیات تجاری پیچیده دیگری باشید، ابزارهای تکه تکه تفکر پراکنده ایجاد می‌کنند. Mewayz 207 ماژول یکپارچه را در یک سیستم عامل تجاری واحد که مورد اعتماد بیش از 138000 کاربر است آورده است - به تیم شما دید متمرکز مورد نیاز برای ردیابی مشکلات در منبع آنها، هماهنگ کردن پاسخ ها و حرکت سریعتر را می دهد. آزمایی رایگان خود را در app.mewayz.com شروع کنید و ببینید عملیات یکپارچه چه حسی دارد.