NVIDIA Mellanox 920-9B210-00FN-0D0 معرفی شد: بازتعریف زیرساخت شبکه هوش مصنوعی فوق مقیاس با سرعت 400 گیگابیت بر ثانیه NDR

NVIDIA Mellanox 920-9B210-00FN-0D0 اعلام شد: تعریف مجدد بنیاد شبکه هوش مصنوعی فوق العاده با 400Gb / s NDR

به عنوان مدل های زبان بزرگ از صدها میلیارد به تریلیون پارامتر مقیاس می گیرند،شبکه های HDR سنتی 200Gb / s محدودیت های خود را در سناریوهای ارتباطات جمعی متراکم مانند همه به همه نشان می دهند، که استفاده از GPU اغلب به دلیل ازدحام شبکه کاهش می یابد.NVIDIA Mellanox 920-9B210-00FN-0D0، یک سوئیچ 400Gb / s NDR InfiniBand طراحی شده برای ارائه پهنای باند، تراکم و هوش در شبکه مورد نیاز برای سخت ترین بار های کاری هوش مصنوعی و HPC است.

چالش: زمانی که HDR به مشکل تبدیل می شود

برای سازمان هایی که گره های GPU خود را فراتر از 2000 گره مقیاس بندی می کنند، محدودیت های 200Gb / s HDR به طور فزاینده ای آشکار می شود.در طول عملیات تمام کاهش و همه به همه که برای آموزش توزیع شده ضروری است، ازدحام شبکه می تواند استفاده از GPU را از 85٪ به کمتر از 50٪ کاهش دهد، به طور موثر میلیون ها دلار در سرمایه گذاری محاسباتی را هدر می دهد.معماران شبکه با چالش دوگانه ارائه تاخیر زیر میکرو ثانیه تعیین کننده در حالی که عملکرد بدون ضرر را در هزاران نقطه نهایی حفظ می کنند، روبرو هستند.

در920-9B210-00FN-0D0 InfiniBand سوئیچ OPN(رقم سفارش بخش) با آوردن عملکرد NDR 400Gb / s به یک بستر OSFP 64 پورت ، این چالش ها را به طور مستقیم حل می کند.فراهم کردن فضا و اطلاعات مورد نیاز برای از بین بردن توقف های ناشی از شبکه حتی در سخت ترین محیط های آموزش هوش مصنوعی.

ویژگی های فنی کلیدی

ساخته شده بر روی همان سیلیکون به عنوان به طور گسترده ای مورد استفاده MQM9790-NS2F،920-9B210-00FN-0D0 MQM9790-NS2F 400Gb/s NDRاین پلت فرم مجموعه ای جامع از ویژگی های طراحی شده برای استقرار کلاس exascale را ارائه می دهد.صفحه اطلاعات 920-9B210-00FN-0D0، سوئیچ ارائه می دهد:

• 64 پورت با NDR 400Gb/s:هر پورت OSFP از دو جهت 400Gb / s با اصلاح خطای جلو (FEC) پشتیبانی می کند و ظرفیت سوئیچینگ کلی 51.2 Tb / s را ارائه می دهد.
• تاخير بسيار کم:تاخیر قطع زیر 100ns، همانطور که در مستندمشخصات 920-9B210-00FN-0D0، حداقل هزینه های عمومی را برای عملیات RDMA و MPI تضمین می کند.
• SHARPv3 ادغام شده:عملیات جمعی (همه را کاهش می دهد، همه را به همه، پخش می کند) به طور مستقیم به پارچه سوئیچ، کاهش تاخیر ارتباطات تا 40٪ برای مشاغل در مقیاس بزرگ.
• مسیر سازگاری و کنترل ازدحام:به طور پویا مسیر ترافیک را تغییر می دهد تا از نقاط گرم اجتناب کند و عملکرد قابل پیش بینی را حتی در قالب الگوهای ترافیک متضاد حفظ کند.
• تله متري پیشرفته:شمارنده های هر جریان و هر بندر، همراه با نظارت بر اشغال بافر، دید عمیق برای مدیریت پیشگیرانه را فراهم می کنند.

در920-9B210-00FN-0D0 سازگاراین اکوسیستم شامل طیف گسترده ای از کابل های OSFP گواهینامه NVIDIA، گیرنده های نوری و ابزارهای نرم افزاری است که یکپارچه سازی در محیط های موجود HDR یا NDR سبز را تضمین می کند.برای سازمان هایی که زیرساخت های نسل بعدی خود را برنامه ریزی می کنند، سوئیچ از پارچه های مخلوط HDR / NDR پشتیبانی می کند و امکان ارتقاء مرحله ای را بدون اختلال در حجم کار تولید فراهم می کند.

پاسخگویی به نیازهای واقعی

برای معماران شبکه طراحی خوشه های آموزشی هوش مصنوعی جدید یا ارتقاء پارچه های HDR موجود،920-9B210-00FN-0D0 راه حل OPN InfiniBand switchچندین مزیت قانع کننده ارائه می دهد. چگالی ۶۴ پورت آن امکان استفاده از بالای قفسه را با حداکثر ۶۴ سرور دو پورت در هر سوئیچ فراهم می کند،کاهش تعداد سوئیچ ها و کابل های مورد نیاز در مقایسه با گزینه های 40 پورتدر توپولوژی های برگ ستون فقرات، این به سطوح کمتر ستون فقرات، تاخیر کمتر و کاهش هزینه کل مالکیت منجر می شود.

این سوئیچ همچنین قابلیت های مدیریت قوی نمونه کارها InfiniBand NVIDIA را به ارث می برد. با Unified Fabric Manager (UFM) NVIDIA، مدیران می توانند دید عمیق در سلامت پارچه را به دست آورند.تدارکات خودکار، و به طور فعال ناهنجاری ها را قبل از اینکه بر حجم کار تولید تاثیر بگذارند تشخیص می دهند.در دسترس بودن ۹۹۹٪ برای برنامه های مهم.

در هنگام ارزیابی920-9B210-00FN-0D0 قیمتو کل هزینه مالکیت، این سوئیچ برای انکشافات در مقیاس بزرگ اقتصادی جذابی را ارائه می دهد. در حالی که هزینه اولیه بالاتر از جایگزین های HDR است،هزینه هر پورت و هزینه شبکه در هر GPU به طور قابل توجهی پایین تر است هنگامی که در یک خوشه بزرگ از دست داده شود، NDR را به یک انتخاب به طور فزاینده ای مقرون به صرفه برای پروژه های exascale تبدیل می کند.920-9B210-00FN-0D0 برای فروشدر حال حاضر از طریق شرکای کانال NVIDIA در دسترس است، با حمل و نقل اولیه مشتری در حال انجام است.

خلاصه: بنیاد NDR برای نسل بعدی هوش مصنوعی

درNVIDIA Mellanox 920-9B210-00FN-0D0نشان دهنده یک گام قابل توجهی در شبکه های با عملکرد بالا است، ارائه پهنای باند، تراکم و هوش مورد نیاز برای نسل بعدی خوشه های هوش مصنوعی و HPC.با ترکیب سرعت NDR 400Gb / s با تراکم OSFP 64 پورت و محاسبات شبکه SHARPv3، این سوئیچ به معماران امکان می دهد که پارچه های مقیاس پذیر و تعیین کننده ای را بسازند که می توانند با سخت ترین بارهای کاری تریلیون پارامتر رفتار کنند.

برای سازمان هایی که زیرساخت های نسل بعدی خود را برنامه ریزی می کنند، 920-9B210-00FN-0D0 یک راه حل روشن،مسیر عملکرد بالا به جلو، چه به عنوان یک پیاده سازی سبز یا به عنوان ارتقاء استراتژیک از پارچه های HDR موجودبا مجموعه ویژگی های قوی، مدیریت سطح سازمانی و سازگاری یکپارچه با اکوسیستم گسترده NVIDIA، این سوئیچ آماده تبدیل شدن به سنگ بنای شبکه های کلاس exascale است..