انویدیا در کنفرانس Supercomputing 23 خط تولید H200 و GH200 و قدرتمندترین تراشه‌هایی را که این شرکت تا به حال ساخته است معرفی کرد.
این تراشه‌ها بر اساس معماری موجود Hopper H100 ساخته شده‌اند و حافظه و قدرت محاسباتی بیشتری را اضافه می‌کنند. تراشه گرافیکی H200 دارای 141 گیگابایت حافظه HBM3e و پهنای باند کلی 4.8 ترابایت بر ثانیه است. تراشه گرافیکی GH200 هم دارای 900 گیگابایت حافظه NVLink-C2C است و پهنای باند 4.9 ترابایت بر ثانیه است. این موضوع نشان‌دهنده پیشرفت قابل توجهی نسبت به H100 اصلی است که دارای 80 گیگابایت HBM3 و 3.35 ترابایت بر ثانیه پهنای باند بود.
H200 برای تامین انرژی نسل آینده ابرکامپیوترهای هوش مصنوعی طراحی شده است که با بیش از 200 اگزافلاپس محاسباتی هوش مصنوعی همراه هستند و قرار است در طول سال 2024 به صورت آنلاین درآیند. در حالی که به نظر نمی‌رسد عملکرد محاسباتی خام تغییر چندانی نکرده باشد، ظرفیت حافظه و پهنای باند ارتقاء قابل توجهی داشته است. H200 اولین تراشه گرافیکی است که حافظه HBM3e را ارائه می‌دهد و آن را به یک پیشرفت چشمگیر در فناوری حافظه تبدیل می‌کند.
انویدیا با سازندگان سیستم‌های جهانی و ارائه‌دهندگان خدمات ابری کار می‌کند تا H200 را در دسترس قرار دهد. انتظار می‌رود اولین تراشه‌های H200 در سه‌ماهه دوم سال 2024 عرضه شوند. این شرکت همچنین اعلام کرده است که H200 به گونه‌ای ساخته شده است که با همان سیستم‌هایی که قبلاً از H100s پشتیبانی می‌کردند، سازگار باشد و انتقال صحیح را برای کاربران تضمین کند.
H200 در چندین شکل موجود خواهد بود که از جمله آن‌ها می‌توان به بردهای سرور Nvidia HGX H200 در پیکربندی‌های چهار و هشت جهته اشاره کرد که سازگار با سخت‌افزار و نرم‌افزار سیستم‌های HGX H100 خواهند بود. این تکنولوژی در پلتفرم GH200 Grace Hopper Superchip هم موجود خواهد بود که یک CPU و GPU را در یک واحد ترکیب می‌کند.
یکی از دلایلی که انتظار می‌رود تراشه‌های گرافیکی H200 و GH200 به برنامه‌های هوش مصنوعی سرعت ببخشد، این است که این تراشه‌ها می‌توانند تعداد زیادی ضرب ماتریس موازی را انجام دهند که این کار برای عملکرد شبکه‌های عصبی ضروری است و به همین خاطر برای برنامه‌های هوش مصنوعی ایده‌آل هستند. ظرفیت حافظه و پهنای باند افزایش یافته در این تراشه‌های گرافیکی، آن‌ها را برای مدیریت موثر و سریع حجم زیادی از داده‌ها مناسب می‌کند و این عمل برای برنامه‌های هوش مصنوعی بسیار مهم است.
