جدیدترین کارت گرافیک شرکت انویدیا یعنی GeForce RTX 5090 عملکردی چشمگیر در استنتاج مدل DeepSeek R1 از خود نشان داد و بسیار سریع‌تر از AMD RX 7900 XTX عمل کرد. این برتری عمدتاً به لطف هسته‌های تنسور نسل پنجم (Fifth-Gen Tensor Cores) بود که در معماری جدید این کارت گرافیک به کار رفته‌اند.
به نظر می‌رسد کارت‌های گرافیکی مصرفی یکی از بهترین گزینه‌ها برای اجرای مدل‌های بزرگ زبانی (LLM) در سیستم‌های شخصی باشند، چراکه هر دو شرکت NVIDIA و AMD در تلاش‌اند محیط مناسبی را برای اجرای این مدل‌ها فراهم کنند. اخیراً، AMD قدرت پردازشی کارت گرافیک پرچم‌دار RDNA 3 خود را در اجرای مدل DeepSeek R1 به نمایش گذاشت. اما حالا، NVIDIA با انتشار نتایج بنچمارک‌های جدید از کارت گرافیک RTX Blackwell خود، نشان داده که GeForce RTX 5090 در این زمینه کاملاً پیشتاز است.
عملکرد برتر RTX 5090 در DeepSeek R1
در آزمایش‌های مختلف با مدل‌های DeepSeek R1، کارت گرافیک GeForce RTX 5090 به‌طور واضح از Radeon RX 7900 XTX و حتی نسل قبلی خود پیشی گرفت. این کارت گرافیک توانست تا 200 توکن در ثانیه را در مدل‌های Distill Qwen 7B و Distill Llama 8B پردازش کند که تقریباً دو برابر نرخ پردازشی AMD RX 7900 XTX به حساب می‌آید. این موضوع نشان می‌دهد که عملکرد هوش مصنوعی روی کارت‌های گرافیکی NVIDIA چقدر قدرتمند خواهد بود. همچنین، با گسترش پشتیبانی RTX on AI، استفاده از هوش مصنوعی روی دستگاه (Edge AI) در کامپیوترهای شخصی بسیار رایج‌تر خواهد شد.
اجرای آسان DeepSeek R1 روی کارت‌های RTX
اجرای آسان DeepSeek R1 روی کارت‌های RTXبرای افرادی که می‌خواهند مدل DeepSeek R1 را روی کارت‌های RTX اجرا کنند، NVIDIA یک وبلاگ اختصاصی منتشر کرده که کاربران را در این مسیر راهنمایی می‌کند. جالب اینجاست که اجرای این مدل، به سادگی راه‌اندازی یک چت‌بات آنلاین است.
برای کمک به توسعه‌دهندگان در آزمایش این قابلیت‌ها و ساخت ایجنت‌های هوشمند شخصی‌سازی‌شده، مدل DeepSeek R1 که 671 میلیارد پارامتر دارد، اکنون به‌عنوان یک NVIDIA NIM Microservice در build.nvidia.com در دسترس قرار دارد. این میکروسرویس می‌تواند تا 3,872 توکن در ثانیه را روی یک سیستم NVIDIA HGX H200 پردازش کند.
توسعه‌دهندگان می‌توانند API این سرویس را تست و بررسی کنند که به‌زودی در قالب یک NIM Microservice قابل دانلود، به عنوان بخشی از پلتفرم NVIDIA AI Enterprise منتشر خواهد شد.
امنیت و عملکرد بالا در اجرای بومی مدل‌های AI
میکروسرویس DeepSeek-R1 NIM با پشتیبانی از APIهای استاندارد صنعت، روند پیاده‌سازی را ساده می‌کند. شرکت‌ها می‌توانند با اجرای این میکروسرویس روی زیرساخت محاسباتی تسریع‌شده (Accelerated Computing)، امنیت داده‌ها و حریم خصوصی خود را به حداکثر برسانند.
با استفاده از NVIDIA NIM، توسعه‌دهندگان و علاقه‌مندان می‌توانند به‌راحتی مدل‌های هوش مصنوعی را روی سیستم‌های شخصی خود اجرا کنند. این یعنی نه‌تنها داده‌های شما ایمن باقی می‌مانند، بلکه در صورت داشتن سخت‌افزار مناسب، اجرای بومی مدل‌ها می‌تواند عملکرد بهتری را نسبت به سرویس‌های ابری ارائه دهد.
ما اینجا در رسانه خبری بنچیمو آخرین اخبار مرتبط با تکنولوژی را پوشش می‌دهیم، پس حتماً با ما همراه باشید. شما در مورد عملکرد کارت گرافیک RTX 5090 انویدیا روی هوش مصنوعی DeepSeek-R1 چه نظری دارید؟ با ما به اشتراک بگذارید.
