تنگنای شبکه در خوشه های آموزش هوش مصنوعی: راه حل های ارائه شده توسط Mellanox

خبرگزاري:همانطور که مدل های هوش مصنوعی به طور نمایی در پیچیدگی رشد می کنند، تقاضا برای محاسبات مقیاس پذیر با عملکرد بالا هرگز بیشتر نبوده است.یک عنصر مهم اما اغلب نادیده گرفته می شودشبکه سازی هوش مصنوعیMellanox، پیشگام در راه حل های اتصال با کارایی بالا، این چالش دقیق را با پیشرفته خود حل می کنداتصال بین المللی با تاخیر کمتکنولوژی طراحی شده برای از بین بردن تنگنایی ها و به حداکثر رساندن کارایی هرخوشه گرافیک.

آموزش هوش مصنوعی مدرن، به ویژه برای مدل های زبان بزرگ (LLM) و دید کامپیوتری، بر پردازش موازی در میان آرایه های گسترده ای از GPUها تکیه دارد. تجزیه و تحلیل های صنعت نشان می دهد که در یک خوشه 1024-GPU،گلوچه های مرتبط با شبکه می تواند باعث شود که استفاده از GPU از 95 درصد بالقوه به کمتر از 40 درصد کاهش یابداین ناکارآمدی به طور مستقیم به زمان های آموزش طولانی تر، مصرف انرژی بیشتر و هزینه های عملیاتی قابل توجهی افزایش می یابد.شبکه سازی هوش مصنوعینه فقط یک مزیت بلکه یک ضرورت.

رویکرد Mellanox جامع است، که یک زیرساخت کامل را برای حجم کار هوش مصنوعی طراحی کرده است.هسته این راه حل خانواده اسپکتروم سوئیچ های اترنت و سری ConnectX از کارت های رابط شبکه هوشمند (NIC) استاين اجزاها به طور خاص براي کار در همديگه طراحی شده اند، که باعث ایجاد يک خط لوله داده بدون اصطکاک بين سرورها مي شود.

تفاوت های کلیدی تکنولوژیکی عبارتند از:

• محاسبات درون شبکه:وظایف پردازش داده ها را از CPU به NIC منتقل می کند، به طور چشمگیری تاخیر را کاهش می دهد.
• مسیر سازگاری و RoCE:اطمینان از انتخاب مسیر داده بهینه و استفاده از RDMA بر روی اترنت همگرا (RoCE) برای کارآمد،اتصال بین المللی با تاخیر کمارتباط
• پارچه سلسله مراتبی مقیاس پذیر:از معماری های غیر مسدود کننده کلوز (leaf-spine) پشتیبانی می کند که می توانند بدون کاهش عملکرد به ده ها هزار پورت مقیاس پذیر شوند.

اثربخشی راه حل ملانوکس در استفاده های واقعی اثبات شده است.جدول زیر مقایسه عملکرد بین یک شبکه استاندارد TCP/IP و یک پارچه با قابلیت Mellanox RoCE در یک محیط آموزش هوش مصنوعی در مقیاس بزرگ را نشان می دهد..

برای شرکت ها و موسسات تحقیقاتی که میلیون ها دلار در منابع محاسباتی GPU سرمایه گذاری می کنند، شبکه سیستم عصبی مرکزی است که ROI کلی را تعیین می کند.شبکه سازی هوش مصنوعیراه حل های مهم ارائه می دهنداتصال بین المللی با تاخیر کممورد نیاز برای اطمینان از اینکه یک چند گرهخوشه گرافیکبه عنوان یک سوپر کامپیوتری واحد و منسجم عمل می کند. این به زمان سریع تر بینش، کاهش کل هزینه مالکیت (TCO) و توانایی مقابله با چالش های بلندپروازانه هوش مصنوعی منجر می شود.