باز کردن پتانسیل هوش مصنوعی: چگونه Mellanox از تنگنایی های شبکه در خوشه های بزرگ GPU عبور می کند

در حال رهبری در بارگذاری در عملکرد بالاشبکه سازی هوش مصنوعی، "ملانوکس تکنالوژیز" که حالا بخشی از "نوییدیا" استراه حل های InfiniBand و Ethernet از انتهای به انتهای خود را معرفی می کند که برای از بین بردن تنگنای داده ها و به حداکثر رساندن کارایی محاسباتی در خوشه های آموزش نسل بعدی هوش مصنوعی طراحی شده است.با رشد مدل ها به تریلیون ها پارامتر، زیرساخت های شبکه سنتی شکست می خورند.اتصال بین المللی با تاخیر کمتکنولوژی، اطمینان از اینکه هیچ GPU در انتظار داده باقی نمی ماند.

مشکلات رو به رشد آموزش هوش مصنوعی: شبکه به عنوان گلوی فشرده

آموزش هوش مصنوعی مدرن به گسترشخوشه گرافیکمحیط هایی که گاهی اوقات شامل هزاران گره هستند. داده های صنعت نشان می دهد که در چنین خوشه هایی، بیش از 30٪ از زمان آموزش می تواند برای ارتباطات و همگام سازی بین GPU ها صرف شود.به جای بر روی خود محاسباتاین ناکارآمدی به طور مستقیم به افزایش زمان آموزش، افزایش هزینه های عملیاتی (به عنوان مثال مصرف برق) و کاهش چرخه نوآوری منجر می شود.عامل اصلی اغلب بافت شبکه است، که نمی تواند با حجم داده های زیادی که توسط الگوریتم های آموزش موازی مورد نیاز است، مطابقت داشته باشد.

راه حل ملانوکس: یک پارچه ساخته شده برای هوش مصنوعی

رویکرد Mellanox این است که به شبکه به عنوان یک بافت اتصال دهنده ساده برخورد نکند بلکه به عنوان یک جزء استراتژیک و هوشمند از معماری محاسبات باشد. راه حل های آنها برای ارائه:

• تاخير فوق العاده کم:کاهش تاخیر در ارتباطات به میکروسکنید، اطمینان از همگام سازی سریع در سراسرخوشه گرافیک.
• پهنای باند بسیار بالا:ارائه تا 400Gb / s (و فراتر از آن) در هر پورت برای رسیدگی به جریان داده های عظیم بین گره ها بدون ازدحام.
• محاسبات پیشرفته در شبکه:تخلیه عملیات جمعی (به عنوان مثال، تکنولوژی SHARP) از GPU به سوئیچ های شبکه، آزاد کردن چرخه های ارزشمند GPU برای وظایف محاسباتی اصلی.

افزایش عملکرد قابل اندازه گیری در مستقر سازی های دنیای واقعی

اثربخشی Mellanoxشبکه سازی هوش مصنوعیتکنولوژی در محیط های تولید اثبات شده است.جدول زیر شاخص های عملکردی را که در یک خوشه آموزش مدل زبان در مقیاس بزرگ قبل و بعد از ارتقاء بافت شبکه به Mellanox InfiniBand مشاهده شده اند، خلاصه می کند..

نتیجه گیری و ارزش استراتژیک

برای شرکت ها و موسسات تحقیقاتی که میلیون ها دلار در زیرساخت های هوش مصنوعی سرمایه گذاری می کنند، شبکه دیگر نمی تواند یک فکر بعدی باشد.لایه تعریف کننده عملکرد که حداکثر بازگشت سرمایه را برای منابع محاسباتی گران قیمت GPU تضمین می کند. با استفاده از یک برنامه طراحی شدهاتصال بین المللی با تاخیر کم، سازمان ها می توانند زمان راه حل برای مدل های هوش مصنوعی را به طور قابل توجهی تسریع کنند، کل هزینه مالکیت را کاهش دهند و راه را برای مقابله با چالش های پیچیده AI که در پیش است، هموار کنند.

قدم بعدی را در بهینه سازی زیرساخت های هوش مصنوعی خود بردارید

آیا شبکه شما برای نسل بعدی هوش مصنوعی آماده است؟ امروز با ما تماس بگیرید برای ارزیابی معماری شخصی شده و کشف کنید که چگونه ماشبکه سازی هوش مصنوعیراه حل ها می توانند عملکرد و کارایی خوشه شما را تغییر دهند.