گوگل از دو سیستم پردازشی جدید با نام‌های TPU 8tx و TPU 8i Max رونمایی کرد. این دو محصول به نسل هشتم پردازنده‌های اختصاصی هوش مصنوعی گوگل تعلق دارند و برای پاسخ به دو نیاز متفاوت طراحی شده‌اند: پردازش محرمانه داده‌های حساس و اجرای مدل‌هایی که به حافظه و پنجره متنی بسیار بزرگ نیاز دارند.
این اقدام بخشی از برنامه گوگل برای گسترش کسب‌وکار تراشه‌های اختصاصی و جذب مشتریان سازمانی است؛ بازاری که در حال حاضر بخش مهمی از آن در اختیار شتاب‌دهنده‌های هوش مصنوعی NVIDIA قرار دارد.
TPU 8tx – پردازش محرمانه هوش مصنوعی با امنیت سخت‌افزاری
یکی از محصولات جدید گوگل، TPU 8tx است که برای اجرای امن و محرمانه مدل‌های هوش مصنوعی طراحی شده است. این سیستم به‌طور ویژه سازمان‌های دولتی، شرکت‌های مالی و کسب‌وکارهایی را هدف قرار می‌دهد که هنگام پردازش داده‌های حساس به سطح بالایی از امنیت نیاز دارند.
در بسیاری از سیستم‌های محاسباتی، اطلاعات هنگام ذخیره‌سازی یا انتقال رمزگذاری می‌شوند؛ اما در زمان پردازش باید در حافظه در دسترس سیستم قرار بگیرند. همین موضوع می‌تواند نقطه آسیب‌پذیری ایجاد کند.
گوگل در TPU 8tx از فناوری Confidential Computing در سطح سخت‌افزار استفاده کرده است تا اطلاعات حساس و وزن‌های مدل در زمان پردازش نیز محافظت و ایزوله باقی بمانند.
این سیستم از همان سیلیکون پایه TPU 8t استفاده می‌کند، اما با پردازنده‌های نسل پنجم AMD EPYC و شبکه ارتباطی کم‌تأخیر Boardfly ترکیب شده است. گوگل اعلام کرده این معماری در مقایسه با TPU 8t می‌تواند تأخیر را تا دو برابر کاهش دهد، بدون آنکه افت عملکرد قابل‌توجهی ایجاد کند.
یکی از کاربردهای مهم TPU 8tx، امکان اجرای هم‌زمان مدل‌ها، تنظیم دقیق آن‌ها با داده‌های خصوصی و آموزش عامل‌های هوش مصنوعی بدون نیاز به انتقال اطلاعات حساس میان خوشه‌های پردازشی جداگانه است.
TPU 8i Max – افزایش حافظه و توان پردازشی برای مدل‌های بزرگ
دومین سیستم معرفی‌شده، TPU 8i Max نام دارد و برای مقابله با یکی از محدودیت‌های مهم پردازش هوش مصنوعی، یعنی Memory Wall، توسعه پیدا کرده است.
Memory Wall زمانی ایجاد می‌شود که سرعت پردازش تراشه از سرعت دسترسی به داده‌ها و انتقال آن‌ها از حافظه بیشتر باشد. در چنین شرایطی، حتی پردازنده‌ای با توان محاسباتی بالا نیز ممکن است به دلیل انتظار برای دریافت داده، نتواند از تمام ظرفیت خود استفاده کند.
گوگل برای رفع این محدودیت، دو تراشه TPU 8i را در یک بسته سخت‌افزاری ترکیب کرده است. بر اساس مشخصات اعلام‌شده، TPU 8i Max در مقایسه با TPU 8i معمولی، دو برابر توان محاسباتی، دو برابر حافظه SRAM و دو برابر پهنای باند حافظه HBM ارائه می‌دهد.
این افزایش ظرفیت برای اجرای مدل‌هایی با پنجره متنی بسیار بزرگ و پردازش حجم زیادی از اطلاعات اهمیت دارد.
گوگل کاربردهایی مانند دستیارهای برنامه‌نویسی که باید بخش بزرگی از یک پایگاه کد را بررسی کنند، استدلال ریاضی و تحقیقات دارویی را از جمله موارد استفاده این سیستم معرفی کرده است.
همچنین ترکیب دو تراشه در یک بسته، امکان افزایش تراکم محاسباتی در فضای ثابت رک را فراهم می‌کند؛ موضوعی که برای دیتاسنترهایی با محدودیت فضا و مصرف انرژی اهمیت دارد.
نسل هشتم TPU گوگل چه تفاوت‌هایی با یکدیگر دارند؟
با معرفی دو سیستم جدید، سبد نسل هشتم TPU گوگل به چهار محصول تخصصی گسترش پیدا کرده است. هرکدام از این سیستم‌ها برای بخش متفاوتی از چرخه پردازش هوش مصنوعی طراحی شده‌اند.
| سیستم | کاربرد اصلی | ویژگی شاخص |
| TPU 8t | آموزش مدل‌های بزرگ | پردازش در مقیاس گسترده |
| TPU 8i | استنتاج و استدلال بلادرنگ | کاهش تأخیر ارتباط میان تراشه‌ها |
| TPU 8tx | استنتاج محرمانه و امن | محاسبات محرمانه در سطح سخت‌افزار |
| TPU 8i Max | پردازش مدل‌های دارای کانتکست بزرگ | دو برابر شدن توان محاسباتی و ظرفیت حافظه نسبت به 8i |
این رویکرد نشان می‌دهد گوگل به‌جای توسعه یک پردازنده عمومی برای تمام بارهای کاری، به سمت طراحی سیستم‌های تخصصی برای نیازهای متفاوت هوش مصنوعی حرکت کرده است.
چرا گوگل به دنبال گسترش بازار TPU است؟
پردازنده‌های TPU ابتدا برای پاسخ به نیازهای داخلی گوگل، از جمله پردازش جست‌وجو، تشخیص گفتار و ترجمه توسعه پیدا کردند. با رشد هوش مصنوعی، این تراشه‌ها به بخش مهمی از زیرساخت اجرای مدل‌های Gemini و سرویس‌های Google Cloud تبدیل شدند.
گوگل اکنون تلاش می‌کند دسترسی شرکت‌های دیگر به این پردازنده‌ها را نیز گسترش دهد. طبق اعلام این شرکت، نزدیک به ۱۰۰ مشتری از جمله شرکت‌های فعال در حوزه هوش مصنوعی، مؤسسات مالی، خرده‌فروشان و دانشگاه‌ها از TPU استفاده می‌کنند.
این گسترش از نظر اقتصادی نیز اهمیت دارد. طبق گزارش رویترز، فروش TPU در نتایج مالی سه‌ماهه سپتامبر Alphabet سهم قابل‌توجهی داشته و درآمد Google Cloud در این دوره به ۳۰.۷۱ میلیارد دلار رسیده است؛ بیش از دو برابر دوره مشابه سال قبل.
بلومبرگ اینتلیجنس نیز پیش‌بینی کرده درآمد مرتبط با فروش TPU و سخت‌افزار و نرم‌افزار وابسته به آن تا سال ۲۰۲۸ از ۱۳۵ میلیارد دلار عبور کند. این رقم یک پیش‌بینی تحلیلی است و نباید آن را درآمد قطعی یا ثبت‌شده گوگل در نظر گرفت.
آیا TPU های گوگل می‌توانند جایگزین GPU های انویدیا شوند؟
معرفی TPU 8tx و TPU 8i Max نشان می‌دهد رقابت در بازار پردازنده‌های هوش مصنوعی از مرحله افزایش توان محاسباتی فراتر رفته است. امنیت داده، پهنای باند حافظه، تأخیر ارتباطی، مصرف انرژی و هزینه اجرای مدل‌ها اکنون از عوامل مهم انتخاب زیرساخت پردازشی هستند.
گوگل با توسعه TPUهای اختصاصی و ارائه آن‌ها از طریق Google Cloud، تلاش می‌کند گزینه‌ای جایگزین برای بخشی از بارهای کاری مبتنی بر GPU فراهم کند. این شرکت همچنین در حال گسترش پشتیبانی نرم‌افزاری از فریم‌ورک‌هایی مانند PyTorch و ابزارهایی مانند vLLM و SGLang است تا مهاجرت توسعه‌دهندگان به زیرساخت TPU آسان‌تر شود.
با این حال، جایگاه NVIDIA تنها به سخت‌افزار وابسته نیست. اکوسیستم نرم‌افزاری CUDA، گستردگی ابزارهای توسعه و سازگاری با طیف وسیعی از مدل‌ها و کاربردها، از مزیت‌های مهم این شرکت محسوب می‌شوند.
بنابراین معرفی دو سیستم جدید گوگل را باید نشانه‌ای از افزایش رقابت در بازار شتاب‌دهنده‌های هوش مصنوعی دانست، نه پایان برتری NVIDIA در این بازار.
جمع‌بندی
گوگل با معرفی TPU 8tx و TPU 8i Max، نسل هشتم پردازنده‌های هوش مصنوعی خود را به چهار سیستم تخصصی گسترش داده است. TPU 8tx با تمرکز بر پردازش محرمانه و امنیت سخت‌افزاری طراحی شده و TPU 8i Max با دو برابر کردن توان محاسباتی و ظرفیت حافظه نسبت به TPU 8i، اجرای مدل‌های دارای کانتکست بزرگ را هدف قرار می‌دهد.
این محصولات در کنار توسعه دسترسی به TPU از طریق Google Cloud، بخشی از استراتژی گوگل برای حضور پررنگ‌تر در بازار زیرساخت هوش مصنوعی و رقابت با NVIDIA هستند. گوگل اعلام کرده این سیستم‌های جدید در سال آینده در دسترس قرار می‌گیرند.
