NVIDIA Mellanox 920-9B210-00FN-0D0 معرفی شد: معیار جدیدی در سوئیچینگ InfiniBand با سرعت 400 گیگابیت بر ثانیه NDR

معرفی NVIDIA Mellanox 920-9B210-00FN-0D0: یک معیار جدید در سوئیچینگ InfiniBand با سرعت 400 گیگابیت بر ثانیه NDR

با توجه به اینکه آموزش هوش مصنوعی در مقیاس بزرگ و شبیه‌سازی‌های HPC در مقیاس اگزاکیل همچنان مرزهای پهنای باند شبکه را جابجا می‌کنند، سرعت 400 گیگابیت بر ثانیه NDR به سرعت در حال تبدیل شدن به استاندارد مراکز داده نسل بعدی است. انویدیا رسماً معرفی کرده استNVIDIA Mellanox 920-9B210-00FN-0D0، یک سوئیچ InfiniBand با کارایی بالا که به طور خاص برای چالش‌برانگیزترین محیط‌های هوش مصنوعی و HPC ساخته شده است و عملکرد، تراکم و قابلیت‌های پیشرفته محاسباتی درون شبکه را بدون سازش ارائه می‌دهد.

پیش‌زمینه: ضرورت NDR برای بارهای کاری نسل بعدی

مدل‌های مدرن هوش مصنوعی با سرعتی بی‌سابقه در حال رشد هستند - از صدها میلیارد تا تریلیون‌ها پارامتر - که فشار عظیمی بر روی ساختار شبکه متصل کننده خوشه‌های GPU وارد می‌کند. زیرساخت‌های سنتی 200 گیگابیت بر ثانیه HDR، در حالی که هنوز برای بسیاری از بارهای کاری توانمند هستند، به طور فزاینده‌ای به گلوگاه برای آموزش توزیع شده در مقیاس بزرگ تبدیل می‌شوند، به ویژه در طول فازهای ارتباطی جمعی all-reduce و all-to-all. معماران شبکه با چالش طراحی ساختارهایی روبرو هستند که بتوانند تأخیر فوق‌العاده کم و عملکرد بدون اتلاف را در هزاران گره به طور قطعی ارائه دهند، در حالی که پیچیدگی عملیاتی را قابل مدیریت نگه می‌دارند.

شماره قطعه سفارش سوئیچ 920-9B210-00FN-0D0 InfiniBand (OPN) مستقیماً این چالش‌ها را با ارائه عملکرد 400 گیگابیت بر ثانیه NDR در یک پلتفرم OSFP با 64 پورت بسیار یکپارچه، برطرف می‌کند. این سوئیچ که بر روی همان سیلیکون MQM9790-NS2F که به طور گسترده‌ای پذیرفته شده است، ساخته شده است، یک مسیر ارتقاء بدون درز را برای سازمان‌هایی که به دنبال مقیاس‌بندی ساختارهای HDR خود به NDR بدون بازسازی کل شبکه خود هستند، ارائه می‌دهد.

ویژگی‌های فنی کلیدی

در قلب NVIDIA Mellanox 920-9B210-00FN-0D0، سیلیکون سوئیچینگ MQM9790-NS2F قرار دارد که 64 پورت 400 گیگابیت بر ثانیه NDR را در یک فرم فاکتور فشرده 1U ارائه می‌دهد. این پلتفرم 920-9B210-00FN-0D0 MQM9790-NS2F 400Gb/s NDR برای برآورده کردن نیازهای عملکردی چالش‌برانگیزترین استقرارها در مقیاس اگزاکیل مهندسی شده است. مشخصات کلیدی شامل:

• پیکربندی پورت: 64 پورت OSFP، هر کدام با پشتیبانی از NDR دوطرفه 400 گیگابیت بر ثانیه با تصحیح خطای پیشرو (FEC) برای برد طولانی‌تر.
• ظرفیت سوئیچینگ تجمعی: 51.2 ترابیت بر ثانیه، که فضای کافی را برای حتی چالش‌برانگیزترین بارهای کاری فشرده ارتباطی فراهم می‌کند.
• تأخیر فوق‌العاده کم: تأخیر برش کمتر از 100 نانوثانیه، که برای برنامه‌های MPI و RDMA با اتصال تنگ حیاتی است.
• محاسبات درون شبکه: SHARPv3 (پروتکل مقیاس‌پذیر سلسله مراتبی تجمیع و کاهش) یکپارچه، عملیات جمعی را از پردازنده‌های میزبان تخلیه می‌کند و تأخیر all-reduce را تا 40% کاهش می‌دهد.
• کنترل پیشرفته ازدحام: مسیریابی تطبیقی و تله‌متری پیشرفته، عملکرد قابل پیش‌بینی را تحت الگوهای ترافیکی نامطلوب تضمین می‌کنند.

برای مهندسان شبکه که برگه داده 920-9B210-00FN-0D0 را بررسی می‌کنند، این سوئیچ سازگاری کامل با پلتفرم Quantum-2 انویدیا را ارائه می‌دهد و امکان ساخت ساختارهای ترکیبی HDR/NDR و استراتژی‌های مهاجرت ساده را فراهم می‌کند. اکوسیستم سازگار با 920-9B210-00FN-0D0 شامل طیف گسترده‌ای از کابل‌ها، فرستنده‌ها و ابزارهای نرم‌افزاری OSFP با گواهی انویدیا است که تضمین می‌کند ادغام در محیط‌های موجود ساده و بدون ریسک است.

پرداختن به چالش‌های استقرار در دنیای واقعی

برای معمارانی که خوشه‌های آموزش هوش مصنوعی جدید را طراحی می‌کنند یا ساختارهای HDR موجود را ارتقا می‌دهند، راهکار OPN سوئیچ 920-9B210-00FN-0D0 InfiniBand چندین مزیت قانع‌کننده ارائه می‌دهد. تراکم 64 پورتی آن امکان استقرار در بالای رک را با حداکثر 64 سرور دو پورتی در هر سوئیچ فراهم می‌کند و تعداد سوئیچ‌ها و کابل‌های مورد نیاز را در مقایسه با جایگزین‌های 40 پورتی به طور قابل توجهی کاهش می‌دهد. در توپولوژی‌های leaf-spine، این به معنای لایه‌های spine کمتر، تأخیر کمتر و کاهش هزینه کل مالکیت است.

این سوئیچ همچنین قابلیت‌های مدیریت قوی مجموعه InfiniBand انویدیا را به ارث می‌برد. با مدیر یکپارچه فابریک (UFM) انویدیا، مدیران می‌توانند دید عمیقی نسبت به سلامت فابریک به دست آورند، تخصیص را خودکار کنند و ناهنجاری‌ها را قبل از تأثیرگذاری بر بارهای کاری تولیدی به طور پیشگیرانه تشخیص دهند. طبق مشخصات 920-9B210-00FN-0D0، این سوئیچ از منابع تغذیه دوگانه افزونه و ماژول‌های فن قابل تعویض در حین کار پشتیبانی می‌کند و دسترسی 99.999% را برای برنامه‌های حیاتی تضمین می‌کند.

هنگام ارزیابی قیمت 920-9B210-00FN-0D0 و هزینه کل مالکیت، این سوئیچ اقتصاد قانع‌کننده‌ای را برای استقرارهای در مقیاس بزرگ ارائه می‌دهد. در حالی که هزینه اولیه بالاتر از جایگزین‌های HDR است، هزینه هر پورت و هزینه شبکه هر GPU هنگام استهلاک در یک خوشه بزرگ به طور قابل توجهی کمتر است و NDR را به گزینه‌ای با صرفه اقتصادی فزاینده برای پروژه‌های اگزاکیل تبدیل می‌کند. 920-9B210-00FN-0D0 برای فروش اکنون از طریق شرکای کانال انویدیا در دسترس است و ارسال اولیه به مشتریان در حال انجام است.

خلاصه: پایه NDR برای محاسبات اگزاکیل

NVIDIA Mellanox 920-9B210-00FN-0D0 نشان‌دهنده جهشی قابل توجه در شبکه‌های با کارایی بالا است و پهنای باند، تراکم و هوشمندی مورد نیاز برای نسل بعدی خوشه‌های هوش مصنوعی و HPC را ارائه می‌دهد. با ترکیب سرعت 400 گیگابیت بر ثانیه NDR با تراکم 64 پورتی OSFP و محاسبات درون شبکه SHARPv3، این سوئیچ به معماران امکان می‌دهد تا ساختارهای مقیاس‌پذیر و قطعی بسازند که می‌توانند با چالش‌برانگیزترین بارهای کاری همگام شوند.

برای سازمان‌هایی که زیرساخت نسل بعدی خود را برنامه‌ریزی می‌کنند، 920-9B210-00FN-0D0 یک مسیر واضح و با کارایی بالا را ارائه می‌دهد - چه به عنوان یک استقرار جدید و چه به عنوان یک ارتقاء استراتژیک از ساختارهای HDR موجود. با مجموعه ویژگی‌های قوی، مدیریت در سطح سازمانی و سازگاری بی‌درز با اکوسیستم گسترده‌تر انویدیا، این سوئیچ آماده است تا به ستون فقرات شبکه‌های در مقیاس اگزاکیل تبدیل شود.