انویدیا مجموعه‌ای از بهینه‌سازی‌های نرم‌افزاری را برای اجرای مدل تولید و ویرایش تصویر FLUX 3 Image Klein روی پردازنده‌های گرافیکی Blackwell معرفی کرده است. این بهینه‌سازی‌ها با استفاده از فناوری‌هایی مانند TensorRT LLM VisualGen، فشرده‌سازی NVFP4، کرنل‌های محاسباتی بهینه و کش‌کردن مراحل پردازش، سرعت تولید تصویر را در برخی آزمایش‌ها تا ۳.۴۶ برابر و سرعت ویرایش تصویر را تا ۴.۴۵ برابر افزایش داده‌اند. این نتایج روی یک GPU مدل NVIDIA B200 و در مقایسه با اجرای پایه بدون کامپایل و با دقت BF16 به دست آمده‌اند.
افزایش سرعت تولید و ویرایش تصویر با TensorRT LLM VisualGen
انویدیا در مقاله فنی منتشرشده در ۶ نوامبر ۲۰۲۶، روش اجرای بهینه مدل FLUX 3 Image Klein را با استفاده از چارچوب TensorRT LLM VisualGen توضیح داده است. این مدل که توسط Black Forest Labs توسعه یافته، برای تولید تصویر از متن و ویرایش تصاویر ورودی طراحی شده و از دو نسخه Base و Distilled بهره می‌برد.
FLUX 3 Image Klein از سه بخش اصلی تشکیل شده است: مدل Qwen3-VL-4B-Instruct برای درک و پردازش ورودی متنی، یک ترنسفورمر انتشار (Diffusion Transformer) برای اصلاح داده‌های تصویری و یک Autoencoder برای تبدیل داده‌های نهفته به تصویر نهایی و پردازش تصاویر مرجع.
اجرای چنین مدل‌هایی به دلیل تکرار مراحل محاسباتی و افزایش هزینه پردازش در وضوح‌های بالا، به توان پردازشی قابل‌توجهی نیاز دارد. انویدیا با استفاده از TensorRT LLM VisualGen تلاش کرده است زمان اجرای این مراحل را کاهش دهد و از منابع GPU بهره‌وری بیشتری بگیرد.
نتایج آزمایش روی GPU مدل NVIDIA B200
بر اساس نتایج اعلام‌شده، ترکیب چند روش بهینه‌سازی روی یک پردازنده گرافیکی B200 توانسته زمان تولید و ویرایش تصویر در وضوح ۲۰۴۸ در ۲۰۴۸ پیکسل را به شکل قابل‌توجهی کاهش دهد.
در آزمایش روی نسخه Base مدل، زمان تولید تصویر از متن (Text-to-Image) از ۲۲.۳۶ ثانیه به ۶.۴۶ ثانیه رسیده است. در وظیفه ویرایش تصویر (Image-to-Image) نیز زمان پردازش از ۵۴.۶۴ ثانیه به ۱۲.۲۸ ثانیه کاهش یافته است.
| نوع پردازش | زمان اجرای پایه | زمان پس از بهینه‌سازی | میزان بهبود |
| تولید تصویر از متن | ۲۲.۳۶ ثانیه | ۶.۴۶ ثانیه | ۳.۴۶ برابر |
| ویرایش تصویر | ۵۴.۶۴ ثانیه | ۱۲.۲۸ ثانیه | ۴.۴۵ برابر |
این اعداد مربوط به نسخه Base مدل و ترکیب چند مرحله بهینه‌سازی هستند؛ بنابراین نباید آن‌ها را به‌عنوان سرعت اجرای تمام مدل‌های تولید تصویر یا عملکرد همه GPUهای Blackwell در نظر گرفت.
چه فناوری‌هایی باعث افزایش سرعت پردازش شده‌اند؟
انویدیا برای بهبود عملکرد FLUX 3 Image Klein از چند روش مکمل استفاده کرده است که هرکدام بخشی از هزینه پردازش را کاهش می‌دهند.
- فشرده‌سازی NVFP4
یکی از مهم‌ترین تغییرات، استفاده از قالب عددی NVFP4 برای اجرای محاسبات مدل است. این قالب با کاهش دقت عددی نسبت به BF16، حجم داده‌های موردنیاز برای محاسبات را کاهش می‌دهد و امکان اجرای سریع‌تر عملیات را فراهم می‌کند.
در آزمایش اولیه روی B200، استفاده از NVFP4 به‌تنهایی سرعت تولید تصویر از متن را تا ۱.۶۲ برابر و ویرایش تصویر را تا ۱.۵۸ برابر نسبت به BF16 افزایش داده است.
- کرنل‌های محاسباتی بهینه و ترکیب عملیات
TensorRT LLM VisualGen از کرنل‌های بهینه FlashInfer و PrimsTS برای اجرای عملیات ماتریسی استفاده می‌کند. این کرنل‌ها چند مرحله محاسباتی مرتبط را با هم ترکیب می‌کنند تا تعداد عملیات اجرایی و سربار پردازش کاهش پیدا کند.
- بهینه‌سازی Attention
مکانیزم Attention یکی از بخش‌های پرهزینه در مدل‌های تولید تصویر با وضوح بالا است. انویدیا از روش‌هایی مانند cuDNN FP8، VC-Attention و Sol-Attention برای کاهش هزینه این بخش استفاده کرده است.
برای نمونه، VC-Attention FP8 در آزمایش‌های انجام‌شده روی B200، سرعت تولید تصویر را برای نسخه Base حدود ۱.۱۸ برابر افزایش داده است. البته این روش‌ها می‌توانند تغییراتی در خروجی تصویر ایجاد کنند؛ به همین دلیل انویدیا کیفیت خروجی‌ها را نیز با معیار LPIPS بررسی کرده است.
- استفاده از Cache-DiT
فناوری Cache-DiT با ذخیره و استفاده مجدد از نتایج محاسباتی مراحل قبلی، از اجرای دوباره برخی عملیات غیرضروری جلوگیری می‌کند. این روش بدون نیاز به آموزش مجدد مدل یا تغییر وزن‌های آن، زمان استنتاج را کاهش می‌دهد.
در آزمایش نسخه Base با وضوح ۲۰۴۸ در ۲۰۴۸، استفاده از Cache-DiT سرعت تولید تصویر را حدود ۱.۹۴ برابر افزایش داده است.
اجرای FLUX 3 روی چند GPU؛ کاهش زمان تولید تصویر در سیستم‌های هشت‌پردازنده‌ای
انویدیا علاوه بر بهینه‌سازی اجرای تکGPU، امکان توزیع پردازش FLUX 3 Image Klein میان چند GPU را نیز بررسی کرده است. این روش با استفاده از تکنیک‌هایی مانند Classifier-Free Guidance و Ulysses Sequence Parallelism، بخش‌های مختلف محاسبات را میان پردازنده‌های گرافیکی تقسیم می‌کند.
در آزمایش انجام‌شده روی سیستم NVIDIA DGX B200 با هشت GPU، زمان میانه تولید تصویر از متن در نسخه Base از ۱۴.۹۰ ثانیه به ۳ ثانیه کاهش یافته است. در نسخه Distilled نیز این زمان از ۲.۷۳ ثانیه به ۱.۰۸ ثانیه رسیده است.
این نتایج نشان می‌دهند که توزیع مناسب پردازش میان چند GPU می‌تواند زمان پاسخ‌گویی مدل‌های تولید تصویر را کاهش دهد. البته افزایش تعداد GPUها همیشه به همان نسبت سرعت کل فرایند را افزایش نمی‌دهد؛ زیرا بخشی از زمان اجرا همچنان صرف مراحل آماده‌سازی، ارتباط میان GPUها و تبدیل خروجی می‌شود.
بهبود عملکرد روی RTX PRO 6000 Blackwell Server Edition
بهینه‌سازی‌های معرفی‌شده فقط به پردازنده B200 محدود نیستند. انویدیا اعلام کرده است که روی یک GPU مدل RTX PRO 6000 Blackwell Server Edition نیز با استفاده از کامپایل، NVFP4، کرنل‌های CuTe DSL و Cache-DiT، سرعت اجرای FLUX 3 Image Klein بین ۱.۷۳ تا ۳.۲۵ برابر افزایش یافته است.
این موضوع نشان می‌دهد که ابزارهای بهینه‌سازی TensorRT LLM VisualGen می‌توانند در کنار GPUهای دیتاسنتری B200، روی سخت‌افزارهای دیگر مبتنی بر معماری Blackwell نیز به بهبود عملکرد مدل‌های تولید تصویر کمک کنند.
اهمیت بهینه‌سازی استنتاج مدل‌های تصویری برای زیرساخت GPU
افزایش سرعت اجرای مدل‌های تولید تصویر فقط به تجربه بهتر کاربران محدود نمی‌شود؛ بلکه می‌تواند بهره‌وری زیرساخت‌های پردازشی را نیز افزایش دهد. کاهش زمان استنتاج به ارائه‌دهندگان سرویس‌های هوش مصنوعی کمک می‌کند درخواست‌های بیشتری را در مدت‌زمان مشخص پردازش کنند و از ظرفیت GPUهای خود استفاده مؤثرتری داشته باشند.
این موضوع به‌ویژه در سرویس‌هایی که به‌صورت هم‌زمان به تعداد زیادی درخواست تولید یا ویرایش تصویر پاسخ می‌دهند، اهمیت دارد. در چنین محیط‌هایی، ترکیب GPUهای قدرتمند با روش‌های بهینه‌سازی نرم‌افزاری می‌تواند هزینه پردازش هر درخواست و زمان انتظار کاربران را کاهش دهد.
به‌روزرسانی‌های معرفی‌شده برای FLUX 3 Image Klein نیز نشان می‌دهند که در کنار افزایش توان سخت‌افزاری GPUها، بهینه‌سازی نرم‌افزار و شیوه اجرای مدل‌ها نقش مهمی در توسعه زیرساخت‌های هوش مصنوعی دارد.
