آداپتور سرور NVIDIA Mellanox MCX4121A-ACAT در حال عمل: باز کردن عملکرد RDMA/RoCE با تاخیر کم

آداپتور سرور NVIDIA Mellanox MCX4121A-ACAT در حال عمل: باز کردن قفل RDMA/RoCE با تأخیر کم و افزایش توان سرور

مدل:MCX4121A-ACAT| نام تجاری: NVIDIA Mellanox | دسته: آداپتور سرور 25GbE | قابلیت های کلیدی: RDMA/RoCE با تاخیر کم حمل و نقل و بهینه سازی عملیات سرور

پیشینه و چالش ها: تنگناهای شبکه در ذخیره سازی توزیع شده و استنتاج هوش مصنوعی

برای تیم زیرساخت در یک شرکت بزرگ اینترنتی، یک ارزیابی عملکرد جامع که در اوایل سال 2025 انجام شد، گلوگاه‌های حیاتی شبکه را نشان داد که بی‌صدا بر عملیات‌ها تأثیر می‌گذاشتند. خوشه استنتاج هوش مصنوعی و سیستم های ذخیره سازی توزیع شده این شرکت هر دو به اترنت 10GbE متکی بودند که به طور مداوم تاخیر بالا و استفاده بیش از حد از CPU را در مراحل بارگذاری مدل و همگام سازی داده ها نشان می داد. این وضعیت به‌ویژه در سناریوهای دسترسی به ذخیره‌سازی NVMe-oF حاد بود، جایی که سوئیچینگ متن و سربار وقفه پشته TCP/IP سنتی به شدت عملکرد ذخیره‌سازی را محدود می‌کرد و استفاده از GPU را تقریباً 65 درصد محدود می‌کرد. این تیم فوراً به یک راه‌حل اتصال سرور با سرعت بالا و تأخیر کم نیاز داشت تا بتواند پتانسیل کامل ذخیره‌سازی باطن و شتاب‌دهنده‌های هوش مصنوعی خود را باز کند.

پس از تحقیقات گسترده، تیم تمرکز خود را به آداپتورهای اترنت 25 گیگابایتی، به ویژه آنهایی که از RDMA (دسترسی به حافظه مستقیم از راه دور) و RoCEv2 (RDMA بر روی اترنت همگرا v2) پشتیبانی می کنند، معطوف کردند. RoCEv2 قول داده است که هسته سیستم عامل را دور بزند و انتقال داده های بای پس CPU را فعال کند و از نظر تئوری کاهش زیادی در تاخیر و سربار CPU ایجاد کند. با این حال، دستیابی به حمل و نقل RDMA کارآمد، نیازهای سختگیرانه‌ای را بر روی قابلیت‌های تخلیه سخت‌افزار آداپتور و مکانیسم‌های کنترل تراکم سرتاسری ایجاد می‌کند. این زمینه فرصت مناسبی را برایNVIDIA Mellanox MCX4121A-ACATبرای ورود به خط لوله ارزیابی

راه حل و استقرار: ایجاد یک شبکه ذخیره سازی بهینه شده RDMA در اطراف MCX4121A-ACAT

پس از بررسی دقیقبرگه داده MCX4121A-ACATو اعتبار سنجی آنمشخصات MCX4121A-ACATدر مقابل معیارهای داخلی، تیم معماری تصمیم گرفت آداپتور را در هر دو گره استنتاج هوش مصنوعی و سرورهای فرانت اند ذخیره سازی مستقر کند. اینMCX4121A-ACAT ConnectX-4 Lx دو پورت 25GbE SFP28طراحی هر سرور را قادر می‌سازد تا از طریق دو فیبر نوری به دو سوئیچ مختلف در بافت برگ-خط‌واره متصل شود و افزونگی پیوند و متعادل‌سازی بار را فراهم کند.

استراتژی استقرار سه مرحله کلیدی را دنبال کرد:

• نصب سخت افزار و اعتبارسنجی سازگاری:تیم ابتدا تأیید کردسازگار با MCX4121A-ACATلیست سرور برای اطمینان از ادغام یکپارچه با هاست های مبتنی بر x86 و ARM موجود. هر آداپتور در یک اسلات PCIe 3.0 x8 نصب شد و سپس درایور از منبع رسمی NVIDIA نصب شد.
• پیکربندی شبکه بدون تلفات RoCEv2:PFC (کنترل جریان اولویت) و ECN (اعلان تراکم صریح) در زیرساخت سوئیچینگ با قابلیت RoCEv2 فعال شدند. پروتکل های DCBx (Data Center Bridging Exchange) برای اطمینان از حمل و نقل بدون تلفات برای ترافیک RDMA از طریق اترنت پیکربندی شدند و پایه ای پایدار برایکارت آداپتور اترنت MCX4121A-ACATتا قابلیت های کامل RDMA خود را ارائه دهد.
• بهینه سازی پشته پروتکل ذخیره سازی:اهداف NVMe-oF بر روی سرورهای ذخیره سازی مستقر شدند، در حالی که آغازگرهای NVMe-oF بر روی سرورهای برنامه پیکربندی شدند. با استفاده از موتورهای تخلیه سخت‌افزار آداپتور، تمام درخواست‌های ورودی/خروجی ذخیره‌سازی به عنوان عملیات RDMA کپسوله می‌شوند و به طور موثر پشته شبکه هسته را دور می‌زنند.

در طول فرآیند استقرار،NVIDIA Mellanox MCX4121A-ACATسادگی واقعی plug-and-play را نشان داد و آنچه را که در ابتدا به عنوان یک تلاش ادغام دو هفته ای تخمین زده می شد، تنها در سه روز فشرده کرد.

نتایج قابل اندازه گیری: دستاوردهای قابل توجه عملکرد و آزادسازی منابع

پس از یک ماه عملیات تولید، تیم پیشرفت های قابل توجهی را در معیارهای کلیدی ثبت کرد، که به وضوح ارزش ارائه شده توسطMCX4121A-ACAT:

فراتر از اعداد خام عملکرد، تیم ROI را هنگام در نظر گرفتن ارزیابی کردقیمت MCX4121A-ACATدر برابر کل هزینه مالکیت کاهش قابل توجه در استفاده از CPU باعث شد چندین سرور که قبلاً برای ارتقای ظرفیت برنامه ریزی شده بودند، در خدمت باقی بمانند و به طور مستقیم در هزینه های خرید سخت افزار صرفه جویی کنند. علاوه بر این، تأخیر کاهش یافته زمان پاسخ سرویس استنباط آنلاین را از 120 میلی‌ثانیه به 45 میلی‌ثانیه بهبود بخشید و تجربه کاربر نهایی به‌طور قابل‌توجهی بهتری را ارائه داد. پس از ارزیابیMCX4121A-ACAT برای فروشگزینه ها و مقایسه نسبت قیمت به عملکرد، شرکت به این نتیجه رسید که این آداپتور یک راه حل دسترسی 25 گیگا بایتی مقرون به صرفه است.

خلاصه و چشم انداز: ایجاد یک زیرساخت آماده برای آینده با تاخیر کم

از طریق این استقرار تولید، شرکت اینترنتی با موفقیت ارزش واقعی آن را تأیید کردNVIDIA Mellanox MCX4121A-ACAT. به عنوان سنگ بنای جامعراه حل کارت آداپتور اترنت MCX4121A-ACAT، آداپتور نه تنها گلوگاه های شبکه را در بارهای کاری ذخیره سازی و هوش مصنوعی برطرف کرد، بلکه کارایی کلی عملکرد سرور را نیز به طور قابل توجهی بهبود بخشید. این مطالعه موردی به وضوح نشان می‌دهد که در عصر 25GbE، انتخاب یک آداپتور با قابلیت‌های تخلیه RDMA قوی در باز کردن پتانسیل CPU و کاهش تأخیر حیاتی تجاری تعیین‌کننده است.

با نگاهی به آینده، تیم در نظر دارد تا این مدت را تمدید کندMCX4121A-ACATاستقرار در موارد استفاده اضافی، از جمله پردازش تراکنش آنلاین و سیستم‌های کنترل ریسک بلادرنگ، و استفاده بیشتر از ویژگی‌های تأخیر پایین آن برای برنامه‌های کاربردی درجه مالی. با تکیه بر این موفقیت، بخش زیرساخت ارزیابی محصولات 100GbE و نسل بعدی را آغاز کرده است، اماMCX4121A-ACAT- با معماری بالغ ConnectX-4 Lx و سازگاری گسترده با اکوسیستم - همچنان به عنوان یک گره کلیدی عمل می کند و پایه محکمی برای تکامل مداوم مرکز داده این شرکت فراهم می کند.