راه حل شتاب بخش سیستم عامل تصویربرداری پزشکی هوش مصنوعی: انتقال داده و بهینه سازی محاسباتی

راه حل شتاب دهنده پلتفرم هوش مصنوعی تصویربرداری پزشکی: بهینه سازی انتقال داده و محاسبات

با ادغام عمیق فناوری هوش مصنوعی در حوزه پزشکی، برنامه‌های هوش مصنوعی در حوزه سلامت مبتنی بر تصویربرداری پزشکی، رشد انفجاری را تجربه می‌کنند. از غربالگری اولیه ضایعات تا برنامه‌ریزی جراحی، مدل‌های هوش مصنوعی باید حجم عظیمی از داده‌های تصویر DICOM با وضوح بالا را پردازش کنند. با این حال، زیرساخت‌های سنتی در هنگام برخورد با انتقال پرسرعت، پردازش با تأخیر کم و محاسبات مشترک بین گره‌ای داده‌های پزشکی در مقیاس پتابایت، با چالش‌های جدی مواجه می‌شوند که مستقیماً راندمان تشخیصی و سرعت تکرار مدل را محدود می‌کند. این مقاله تجزیه و تحلیل عمیقی از این تنگناها ارائه می‌دهد و توضیح می‌دهد که چگونه می‌توان یک راه‌حل شتاب‌دهنده end-to-end را از طریق فناوری پیشرفته شبکه‌سازی Mellanox ایجاد کرد.حجم داده‌های تصویربرداری پزشکی با نرخ سالانه بیش از 30 درصد در حال رشد است و مجموعه داده‌های تصویربرداری یک بیمار می‌تواند به چندین گیگابایت برسد. همزمان، مدل‌های یادگیری عمیق پیچیده‌تر می‌شوند و به داده‌ها و منابع محاسباتی بیشتری برای آموزش نیاز دارند. در سناریوهایی مانند رادیولوژی، آسیب‌شناسی و توالی ژن، تقاضا برای استنتاج هوش مصنوعی در زمان واقعی یا نزدیک به زمان واقعی، به طور فزاینده‌ای فوری می‌شود. این بدان معناست که کل زنجیره پردازش - از سیستم‌های بایگانی و ارتباط تصاویر (PACS) تا خوشه‌های محاسباتی GPU و سپس به ترمینال‌های بالینی - باید به همکاری یکپارچه و پرسرعت دست یابد. تأخیر در هر مرحله می‌تواند به یک گلوگاه در گردش کار تشخیصی تبدیل شود.بهبودزیرساخت‌های فناوری اطلاعات مؤسسات مراقبت‌های بهداشتی به طور گسترده با سه چالش اصلی در هنگام پشتیبانی از پلتفرم‌های هوش مصنوعی مواجه هستند:شبکه‌های سنتی TCP/IP از تأخیر بالا و تکرارهای مکرر در انتقال داده‌های پزشکی با همزمانی بالا و توان عملیاتی بالا رنج می‌برند و باعث می‌شوند خوشه‌های GPU منتظر داده‌ها بمانند و در نتیجه نرخ استفاده کمتر از 50٪ می‌شود.

سیلوهای محاسباتی:

پهنای باند شبکه ناکافی بین سیستم‌های ذخیره‌سازی، سرورهای پیش‌پردازش و خوشه‌های آموزشی، سیلوهای داده ایجاد می‌کند و خط لوله پردازش end-to-end را قطعه‌قطعه می‌کند.

محدودیت‌های مقیاس‌پذیری:

عملکرد شبکه هنگام مقیاس‌بندی افقی خوشه‌های آموزشی هوش مصنوعی به گلوگاه تبدیل می‌شود. سربار ارتباط بین گره‌ای می‌تواند 30٪ تا 60٪ از کل زمان آموزش را تشکیل دهد و به شدت راندمان تکرار مدل را محدود می‌کند.

• این تنگناها نه تنها چرخه توسعه و استقرار مدل‌های هوش مصنوعی را طولانی می‌کنند، بلکه ممکن است بر به موقع بودن و دقت تشخیص بالینی نیز تأثیر بگذارند.راه‌حل: معماری شبکه پرسرعت end-to-end Mellanoxبهبود1. ایجاد یک Fabric شبکه RDMA end-to-end
• از Mellanox InfiniBand یا اترنت با کارایی بالا (پشتیبانی از RoCE) برای ساخت یک شبکه بدون ضرر استفاده کنید:از فناوری Remote Direct Memory Access (RDMA) برای فعال کردن حرکت مستقیم داده‌ها از حافظه به حافظه بین گره‌های ذخیره‌سازی و محاسباتی استفاده کنید، با دور زدن CPU و پشته پروتکل، تأخیر را به میزان قابل توجهی کاهش دهید.
• پهنای باند اتصال متقابل تا 400 گیگابیت بر ثانیه را برای PACS، ذخیره‌سازی ناهمگن و خوشه‌های GPU فراهم کنید و جریان داده‌های پزشکی عظیم را در زمان واقعی تضمین کنید.2. محاسبات درون شبکه، آموزش توزیع‌شده را تسریع می‌کند

از فناوری Mellanox SHARP (پروتکل تجمیع و کاهش سلسله مراتبی مقیاس‌پذیر) استفاده کنید:

عملیات ارتباط جمعی All-Reduce حیاتی را برای آموزش هوش مصنوعی مستقیماً در داخل شبکه سوئیچ انجام دهید و حجم تبادل داده را برای همگام‌سازی گرادیان تا 80٪ کاهش دهید.

زمان ارتباط بین GPUها را به میزان قابل توجهی کاهش دهید و به منابع محاسباتی اجازه دهید بیشتر بر خود آموزش مدل تمرکز کنند.این راه‌حل به طور یکپارچه با محیط‌های فناوری اطلاعات پزشکی اصلی (به عنوان مثال، VMware، Kubernetes)، چارچوب‌های هوش مصنوعی (به عنوان مثال، TensorFlow، PyTorch) و تجهیزات پزشکی ادغام می‌شود و رمزگذاری و جداسازی داده‌های end-to-end را برای برآورده کردن سخت‌ترین الزامات امنیت و انطباق داده‌های صنعت مراقبت‌های بهداشتی (به عنوان مثال، HIPAA) ارائه می‌دهد.

نتایج کمی: عملکرد، راندمان و بهینه‌سازی هزینه

متریک

• قبل از بهینه‌سازی
• بعد از بهینه‌سازیبهبودتأخیر بارگذاری داده

~150 میلی‌ثانیه

< 10 میلی‌ثانیه

• > 90٪
• راندمان آموزش توزیع‌شده (استفاده از GPU)

~55٪

> 90٪

~64٪