سوئیچ InfiniBand Mellanox (NVIDIA Mellanox) 920-9B110-00FH-0D0 در عمل: بهینه سازی اتصال کم تأخیر
May 29, 2026
در آموزش هوش مصنوعی در دنیای واقعی و استقرار محاسبات با عملکرد بالا، تأخیر شبکه و سربار CPU اغلب به قاتلان بیصدا مقیاسپذیری تبدیل میشوند. این برنامه مختصر به بررسی این میپردازد که چگونه یک سازمان تحقیقاتی متوسط با این چالشها با استقرارملانوکس (NVIDIA Mellanox) 920-9B110-00FH-0D0سوئیچ InfiniBand به عنوان فابریک اصلی برای خوشه تحقیقاتی مبتنی بر GPU آنها.
پارچه Ethernet RoCE 100 گیگابیت بر ثانیه قدیمی این سازمان به دلیل طوفان های PFC (کنترل جریان اولویت دار) و مدیریت ناکارآمد تراکم، از تأخیر غیرقابل پیش بینی دم رنج می برد. از آنجایی که اندازه مدل هوش مصنوعی آنها از 10 میلیارد به بیش از 50 میلیارد پارامتر افزایش یافت، عملیات ارتباط جمعی (All-Reduce، All-to-All) تقریباً 45٪ از کل زمان تکرار را مصرف کرد. آنها به یک پارچه بدون تلفات و با تأخیر کم نیاز داشتند که بتواند به طور کامل از RDMA استفاده کند و در عین حال مقیاس عملکرد خطی را حفظ کند. جستجو به سرعت در همگرا شد920-9B110-00FH-0D0به عنوان امیدوار کننده ترین بلوک ساختمانی.
تیم انتخاب کرد920-9B110-00FH-0D0 MQM8790-HS2F 200Gb/s HDRبه عنوان ستون فقرات لایه ستون فقرات سوئیچ کنید و 64 گره GPU را در چهار رک به هم متصل کنید. با استفاده از920-9B110-00FH-0D0 سوئیچ InfiniBand OPNچارچوب سفارش، آنها دو سوئیچ ستون فقرات اضافی را با 40 پورت HDR هر کدام مستقر کردند و به نسبت اشتراک بیش از حد غیر مسدود کننده 1:1 دست یافتند. این استقرار از مسیریابی تطبیقی و SHARPv2 (پروتکل جمعآوری و کاهش سلسله مراتبی مقیاسپذیر) بهره میبرد - ویژگیهایی که کاملاً دربرگه داده 920-9B110-00FH-0D0- برای تخلیه عملیات جمعی مستقیماً روی پارچه سوئیچ. برای سازگاری، تیم تایید کرد که920-9B110-00FH-0D0 سازگار استاکوسیستم شامل آداپتورهای فعلی ConnectX-6 HDR و اپتیک استاندارد QSFP56 بود.
تله متری پس از استقرار پیشرفت های چشمگیری را نشان داد. تأخیر انتها به انتها بین هر دو گره GPU از 3.2 میکرو ثانیه (RoCE) به کمتر از 1.1 میکروثانیه کاهش یافت و لرزش 80 درصد کاهش یافت. بارگذاری SHARPv2 درNVIDIA Mellanox 920-9B110-00FH-0D0زمان تکمیل All-Reduce را تا 57 درصد برای کارهای 512-GPU کاهش داد. جدول زیر معیارهای کلیدی را خلاصه می کند:
| متریک | قبلی (RoCE) | با 920-9B110-00FH-0D0 |
|---|---|---|
| میانگین تأخیر P2P (پینگ پونگ MPI) | 3.2 میکروثانیه | 1.08 میکروثانیه |
| All-Reduce (512 پردازنده گرافیکی، 1 گیگابایت پیام) | 17.3 میلیثانیه | 7.4 میلیثانیه |
| استفاده موثر از پهنای باند | 62% | 94% |
| سربار CPU (در هر 10 گیگابیت بر ثانیه) | ~8٪ | <1% |
فراتر از اعداد خام،راه حل OPN سوئیچ 920-9B110-00FH-0D0 InfiniBandکاهش پیچیدگی عملیاتی این تیم با استفاده از NVIDIA UFM (Unified Fabric Manager) قابلیت مشاهده پارچه در زمان واقعی، بهینه سازی مسیر خودکار و هشدارهای تراکم پیشگیرانه را به دست آورد - قابلیت هایی که در استقرار اترنت قبلی آنها در دسترس نبود. رامشخصات 920-9B110-00FH-0D0همچنین عملکرد کم مصرف را فعال کرد: شاسی 1U تنها 180 وات در بار کامل مصرف می کرد که سهم PUE آنها را کاهش داد.
برای سازمان هایی که ارتقاهای مشابه را ارزیابی می کنند،قیمت 920-9B110-00FH-0D0در مقایسه با سوئیچهای اترنت معادل 200 گیگابیت بر ثانیه، زمانی که هزینه سربار NIC کمتر و حذف مجوزهای گران قیمت اترنت بدون تلفات را در نظر میگیرد. اکنون چندین توزیع کننده فهرست می شوند920-9B110-00FH-0D0 برای فروشبا زمان تحویل کمتر از چهار هفته تجزیه و تحلیل بازگشت سرمایه (ROI) تیم یک دوره بازپرداخت 9 ماهه را صرفاً ناشی از بهبود استفاده از GPU نشان داد.
استقرار تایید کرد کهNVIDIA Mellanox 920-9B110-00FH-0D0وعده تأخیر زیر میکروثانیه، پهنای باند دوبخشی کامل و کارایی بومی RDMA را ارائه می دهد. برای معمارانی که خوشههای هوش مصنوعی نسل بعدی یا سیستمهای HPC را طراحی میکنند، این سوئیچ یک بلوک ساختمانی اثباتشده و آماده برای تولید است. همانطور که حجم کار به سمت مقیاس بزرگ افزایش می یابد، راه حل هایی در اطراف ایجاد می شوند920-9B110-00FH-0D0در خط مقدم طراحی اتصالات با کارایی بالا باقی خواهد ماند.