Mellanox (NVIDIA Mellanox) MCX631102AN-ADAT سرور آداپتور در عمل: RDMA / RoCE انتقال کم تاخیر و سرور

Mellanox (NVIDIA Mellanox) MCX631102AN-ADAT سرور آداپتور در عمل: RDMA / RoCE انتقال کم تاخیر و بهینه سازی خروجی سرور

پیش زمینه و چالش: گلوی فشرده شبکه در ذخیره سازی توزیع شده و آموزش هوش مصنوعی

در یک محیط تولید دنیای واقعی در یک ارائه دهنده خدمات ابری متوسط، نمونه کارها اصلی کسب و کار شامل ذخیره سازی بلاک توزیع شده (Ceph) و سیستم عامل های آموزش مدل های هوش مصنوعی مبتنی بر GPU است.از آنجا که حجم داده های مشتری با نرخ سالانه بیش از 200٪ رشد کرد، معماری شبکه TCP/IP 10GbE به تدریج دو نقطه درد حیاتی را نشان داد. اول، تاخیر همگام سازی داده بین گره های ذخیره سازی به 2.5ms رسید،جلوگیری از اینکه مجموعه ذخیره سازی NVMe از پتانسیل عملکرد کامل خود استفاده کنددوم، در طول همگام سازی گرادئنت در خوشه های آموزش GPU، سرعت شبکه فقط می تواند 60 درصد از پهنای باند نظری را به دست آورد،با بخش قابل توجهی از منابع CPU مصرف شده توسط استیک پروتکل شبکه، که به شدت باعث کاهش کارایی تکرار آموزش می شود.تیم معماری به طور فوری به یک راه حل رابط شبکه نیاز داشت که قادر به کاهش تاخیر انتقال و بهبود قابل توجهی در سرعت کاربری سرور باشد.

راه حل و پیاده سازی: تعمیرات RoCE با MCX631102AN-ADAT ConnectX-6 Lx

پس از ارزیابی گزینه های متعدد، تیمملانوکس (NVIDIA Mellanox) MCX631102AN-ADATاین پروژه به عنوان سنگ بنای ابتکارات مدرنیزه کردن شبکه آنها استفاده می شود.کارت آداپتور اترنت MCX631102AN-ADATدر 120 گره ذخیره سازی و 64 گره محاسباتی GPU مستقر شد و آداپتورهای 10GbE موجود را جایگزین کرد. هر سرور با پیکربندی دو پورت 25GbE SFP28 مجهز بود.با یک پورت متصل به پارچه تولید RoCE و دومین پورت اختصاص داده شده به مدیریت و ترافیک پشتیبان. تعبیه ازMCX631102AN-ADAT ConnectX-6 Lx دو پورت 25GbE SFP28پشتیبانی RoCE v2 بومی آداپتور، حذف نیاز به دستگاه های دروازه اضافی یا لایه های ترجمه پروتکل.

در مرحله ی اول، این تیمMCX631102AN-ADAT راه حل کارت آداپتور اترنتدر گره های ذخیره سازی ، NVMe over Fabrics (NVMe-oF) با حمل و نقل RoCE را فعال می کند. این بلافاصله سررشته های TCP / IP را در مسیرهای I / O ذخیره سازی از بین می برد. در مرحله دوم ، گره های محاسباتی GPU ارتقا یافتند ،با قابلیت GPUDirect Storage آداپتور اجازه می دهد حافظه GPU به طور مستقیم با ذخیره سازی NVMe از راه دور از طریق شبکه RoCE ارتباط برقرار کند. کل راه اندازی در عرض دو هفته به پایان رسید، با حفظ زیرساخت سوئیچ 25GbE موجود، نشان می دهدMCX631102AN-ADAT سازگارطبیعت با تجهیزات شبکه ای استاندارد مرکز داده.

نتایج اندازه گیری شده و افزایش عملکرد

بهبود عملکرد پس ازNVIDIA Mellanox MCX631102AN-ADATدر جدول زیر معیارهای کلیدی قبل و بعد مشاهده شده در محیط تولید خلاصه شده است:

علاوه بر معیارهای کمی، تیم بهبود کیفی در ثبات عملیاتی را مشاهده کرد.MCX631102AN-ADATاز بین بردن کاهش دوره ای تولید که قبلاً در حوادث ترافیک مشاهده شده بود ، عملکرد قابل پیش بینی را برای مشاغل آموزش حساس به تاخیر فراهم می کند.مشخصات MCX631102AN-ADAT، موتور هدایت پیشرفته آداپتور و قابلیت های RDMA اطمینان حاصل کرد که حتی با 128 اتصال همزمان NVMe-oF در هر پورت، عملکرد نرخ خط به طور مداوم حفظ می شود.

از منظر کل هزینه، تیم معماری محاسبه کرد کهقیمت MCX631102AN-ADATدر هر گیگابیت از خروجی موثر به طور قابل توجهی کمتر از ارتقا به 40GbE یا 100GbE جایگزین بود.توانایی استفاده مجدد از زیرساخت های کابلی و سوئیچ موجود SFP28 هزینه سرمایه را بیشتر کاهش داد، که باعث می شودMCX631102AN-ADAT برای فروشارزیابی یک مورد کسب و کار قانع کننده برای رهبری ارائه دهنده.

خلاصه و چشم انداز: ساخت یک بنیاد شبکه آماده آینده

استفاده از تولیدملانوکس (NVIDIA Mellanox) MCX631102AN-ADATنشان می دهد یک مسیر روشن برای سازمان هایی که به دنبال آزاد کردن پتانسیل کامل زیرساخت های توزیع شده خود هستند.با ترکیب حمل و نقل کم تاخیر RDMA / RoCE با تخلیه تسریع شده سخت افزاری، این آداپتور به طور موثر شبکه را به عنوان یک تنگنای عملکرد حذف می کند، چه برای آموزش هوش مصنوعی، ذخیره سازی تعریف شده توسط نرم افزار، یا پردازش تراکنش فرکانس بالا.تجربه ی این تیم تایید می کند کهکارت آداپتور اترنت MCX631102AN-ADATنه تنها بهبود معیار، بلکه دستاوردهای ملموس در بهره وری را به ارمغان می آورد: زمان تکمیل کار آموزش GPU به طور متوسط 34٪ کاهش یافته است،SLAs در زمان پاسخ به خوشه های ذخیره سازی حتی در دوره های بارگذاری بالا نیز به طور مداوم برآورده شده است.

در آینده، ارائه دهنده برنامه ریزی برای مقیاسMCX631102AN-ADAT ConnectX-6 Lx دو پورت 25GbE SFP28گسترش به مناطق دسترسی اضافی، با ارزیابی های اولیه در حال انجام برای ادغام آداپتور با NVIDIA BlueField DPUs برای برنامه ریزی بیشتر شبکه.برای تیم های مهندسی ارزیابی ارتقاءات مشابه، جزئیاتورق اطلاعات MCX631102AN-ADATارائه می دهد راهنمای جامع در مورد ماتریس های سازگاری، پارامترهای تنظیم عملکرد و معماری های مرجع.آداپتورهای 25GbE بدون سخت افزار مانند MCX631102AN-ADAT به سرعت در حال تبدیل شدن به خط پایه جدید برای طراحی های مرکز داده های آگاه از عملکرد هستند.