شرکت انویدیا جزئیات کارت شبکه جدید ConnectX-8 را اعلام کرد. انویدیا میگوید این محصولش آنقدر پیشرفته است که باید آن را سوپرنیک (SuperNIC) نامید.
به گفته انویدیا، آموزش (Training) و استنتاج (Inference) هوش مصنوعی دو نوع بار کاری کاملاً متفاوتاند و به یک شبکه یکپارچه و منعطف نیاز دارند:
- استنتاج: کاری پارتیشنبندیشده، بسیار حساس به تأخیر و نیاز زیادی به ارتباط با دنیای بیرون دارد.
- آموزش: کاری همگام و طولانیمدت که تأخیرهای کوچک میتواند بازده آن را کاهش دهد، اما ارتباط کمی با بیرون دارد.
کارت ConnectX-8 یا همان SuperNIC روی هر دو فناوری Spectrum-X Ethernet و Quantum-X Infiniband پشتیبانی میشود.
ویژگیهای مهم ConnectX-8:
ویژگیهای مهم ConnectX-8:- پشتیبانی از فناوری RDMA در مقیاس میلیونها پردازنده گرافیکی
- پهنای باند 800 گیگابیت بر ثانیه (800G) با سختافزار ویژه برای هوش مصنوعی، مقیاسپذیری و کاهش تأخیر
- تعادل بار، کنترل ازدحام داده و قابلیت اطمینان داخلی
- برنامهپذیری عمیق مسیر داده برای انواع بار کاری هوش مصنوعی و مراکز داده
- یکپارچگی کامل با معماری سیستم
- امنیت در سطح سازمانی
از نظر مشخصات فنی، ConnectX-8 800G SuperNIC با رابطهای Verbs ،NCCL ،NIXL و DOCA سازگاری دارد و رابط شبکهای 800 گیگابیت بر ثانیه Infiniband XDR یا 2×400 گیگابیت اترنت Spectrum-X (تا 8 پورت) ارائه میدهد. برای ارتباط با میزبان از PCIe Gen6 با 48 مسیر استفاده میکند که از طریق یک سوییچ PCIe داخلی فراهم میشود.
انویدیا میگوید RDMA در ConnectX-8 میتواند در مقیاس نامحدود و سرعت 800G در اندازههای مختلف پیام (64 کیلوبایت تا 1 مگابایت) عمل کند. این کارت فقط یک NIC معمولی نیست، بلکه مانند یک ASIC عمل کرده و پردازنده گرافیکی را به دیگر کلاسترها متصل میکند.
این NIC نخستین بار در سیستمهای جدید Blackwell GB300 NVL72 انویدیا به کار میرود که بر پایه پردازنده گرافیکی Blackwell Ultra ساخته شدهاند. سوییچ PCIe داخلی CX8 باعث بهینهسازی بیشتر پهنای باند NVLINK C2C و مدیریت کیفیت سرویس میان شبکهها میشود. هر برد NVL72 دو سوییچ CX8 دارد: یکی با 16 مسیر Gen5 برای پردازنده Grace و دیگری با 16 مسیر Gen6 برای پردازنده گرافیکی Blackwell Ultra؛ حافظه SSD هم یک مسیر Gen5 x4 دریافت میکند.
انویدیا همچنین نشان داد که ConnectX-8 میتواند مقیاس را به 64 پردازنده گرافیکی گسترش دهد. برای همین هدف، این شرکت Spectrum-X Ethernet Switch را توسعه داده که نسخه پیشرفتهتر سوییچهای اترنت محسوب میشود و قابلیتهای تعادل بار (load balancing) و کنترل ازدحام (congestion control) را در سطح سختافزار ارائه میدهد. پردازشگر بستههای ConnectX-8 هم امنیت و مسیریابی شبکههای هوش مصنوعی را تضمین میکند.
برای کارایی بهتر، ConnectX-8 یک شتابدهنده مسیر داده (Data Path Accelerator) دارد که به یک پردازشگر RISC-V با توان 16 تراهرتز مجهز شده است. به کمک این فناوریها، Spectrum-X Ethernet تا 60٪ زمان کمتری برای آموزش و تقریباً تأخیر صفر در حالت بارگذاری نسبت به کارت شبکههای معمولی RDMA فراهم میکند.
نتایج عملکرد Spectrum-X (طبق آمار انویدیا):
نتایج عملکرد Spectrum-X (طبق آمار انویدیا):- 1.6 برابر پهنای باند مؤثرتر (تعادل بار / Load Balancing)
- 1.3 برابر پهنای باند جمعی بالاتر (کاهش تأخیر انتهایی / Tail Latency)
- 2.2 برابر پهنای باند بهتر در all-reduce (ایزولهسازی نویز / Noise Isolation)
- 1.3 برابر پهنای باند بهتر در all-to-all (پایداری عملکرد / Resilient Performance)
- 1000 برابر سرعت بیشتر در جمعآوری دادههای تلهمتری (پایش لحظهای / High-Frequency Telemetry)
در مجموع، Spectrum-X و ConnectX-8 SuperNIC فناوری 800G را همراه با پشتیبانی از PCIe Gen6 به بازار آوردهاند. انویدیا همین حالا این راهکارها را در سیستمهای Blackwell پیادهسازی کرده و گفته اطلاعات بیشتری در ماههای آینده منتشر خواهد کرد.
ما اینجا در رسانه خبری بنچیمو آخرین اخبار مرتبط با تکنولوژی را پوشش میدهیم، پس حتماً با ما همراه باشید. شما در مورد چه نظری دارید؟ با ما به اشتراک بگذارید.
