- عنوان کتاب: Deep Learning for Network Engineers
- نویسنده: Toni Pasanen
- حوزه: یادگیری عمیق
- سال انتشار: 2025
- تعداد صفحه: 363
- زبان اصلی: انگلیسی
- نوع فایل: pdf
- حجم فایل: 21.5 مگابایت
مدل‌های مدرن یادگیری عمیق می‌توانند بسیار بزرگ باشند، گاهی اوقات از ظرفیت حافظه یک پردازنده گرافیکی یا پردازنده مرکزی (GPU) فراتر روند. در این موارد، آموزش باید بین چندین پردازنده توزیع شود. öis نیاز به ارتباط پرسرعت بین پردازنده‌های گرافیکی (GPU) را مطرح می‌کند – هم در داخل یک سرور (intranode) و هم در بین چندین سرور (inter-node). ارتباط درون گره‌ای پردازنده گرافیکی (GPU) معمولاً به اتصالات پرسرعت مانند NVLink متکی است، با عملیات دسترسی مستقیم به حافظه (DMA) که امکان انتقال کارآمد داده‌ها بین پردازنده‌های گرافیکی (GPU) را فراهم می‌کند. با این حال، ارتباط بین گره‌ای به شبکه backend، چه InfiniBand و چه مبتنی بر اترنت، بستگی دارد. همگام‌سازی پارامترهای مدل در سراسر پردازنده‌های گرافیکی (GPU) الزامات دقیقی را بر شبکه تحمیل می‌کند: توان عملیاتی بالا، تأخیر بسیار کم و از دست دادن بسته صفر. دستیابی به این هدف در یک شبکه اترنت چالش برانگیز اما ممکن است. öis جایی است که شبکه‌سازی مراکز داده با یادگیری عمیق تلاقی می‌کند. درک نحوه ارتباط پردازنده‌های گرافیکی (GPU) و آنچه شبکه باید ارائه دهد، برای طراحی زیرساخت‌های مؤثر مرکز داده هوش مصنوعی ضروری است.
Modern Deep Learning models can be extremely large, o en exceeding the memory capacity of a single GPU or CPU. In these cases, training must be distributed across multiple processors. öis introduces the need for highspeed communication between GPUs—both within a single server (intranode) and across multiple servers (inter-node). Intra-node GPU communication typically relies on high-speed interconnects like NVLink, with Direct Memory Access (DMA) operations enabling eúcient data transfers between GPUs. Inter-node communication, however, depends on the backend network, either InfiniBand or Ethernet-based. Synchronization of model parameters across GPUs places strict requirements on the network: high throughput, ultralow latency, and zero packet loss. Achieving this in an Ethernet fabric is challenging but possible. öis is where datacenter networking meets Deep Learning. Understanding how GPUs communicate and what the network must deliver is essential for designing eøective AI data center infrastructures.
این کتاب را میتوانید از لینک زیر بصورت رایگان دانلود کنید:
Download: Deep Learning for Network Engineers
نظرات کاربران