کارت گرافیک NVIDIA L40S 48GB GDDR6 ECC GPU

ویژگی‌های کلیدی

معماری NVIDIA Ada Lovelace
ظرفیت حافظه 48GB GDDR6
پشتیبانی حافظه از ECC
پهنای باند حافظه 864GB/s
رابط PCIe Gen4 x16
دارای 18,176 هسته CUDA
دارای 568 هسته Tensor نسل چهارم
دارای 142 هسته RT نسل سوم
توان پردازشی FP32 تا 91.6 TFLOPS
توان پردازشی FP8 Tensor تا 1,466 TFLOPS با Sparsity
پشتیبانی از NVIDIA vGPU
دارای سه موتور NVENC و سه موتور NVDEC با پشتیبانی AV1
طراحی Dual-Slot با خنک‌کاری Passive
حداکثر توان مصرفی 350 وات
مناسب AI، LLM، رندرینگ، Omniverse و Virtual Workstation
دارای Secure Boot همراه با Root of Trust

کارت گرافیک NVIDIA L40S 48GB GDDR6 ECC GPU

معرفی کارت گرافیک NVIDIA L40S 48GB GDDR6 ECC GPU

کارت NVIDIA L40S 48GB برای دیتاسنترهایی طراحی شده است که علاوه بر قدرت پردازش هوش مصنوعی، به توان پردازش گرافیکی و رندرینگ نیز نیاز دارند. برخلاف GPUهایی که تنها برای یک نوع بار کاری تخصصی شده‌اند، L40S یک شتاب‌دهنده چندمنظوره است و می‌تواند برای Generative AI، پردازش مدل‌های زبانی بزرگ، رندرینگ RTX، شبیه‌سازی، Virtual Workstation و پردازش ویدئو مورد استفاده قرار گیرد.

NVIDIA این کارت را بر پایه معماری Ada Lovelace توسعه داده است؛ معماری‌ای که از هسته‌های CUDA، Tensor Core نسل چهارم و RT Core نسل سوم استفاده می‌کند. در نتیجه L40S می‌تواند هم محاسبات عمومی GPU و هم عملیات AI و Ray Tracing را با کارایی بالا انجام دهد.

حافظه 48GB GDDR6 ECC

یکی از مهم‌ترین مشخصات NVIDIA L40S، وجود 48 گیگابایت حافظه GDDR6 با قابلیت ECC است. ظرفیت بالای حافظه امکان پردازش مدل‌های AI بزرگ، مجموعه داده‌های حجیم، پروژه‌های پیچیده سه‌بعدی و محیط‌های حرفه‌ای Visualization را فراهم می‌کند.

قابلیت ECC یا Error-Correcting Code نیز برای محیط‌های دیتاسنتری اهمیت زیادی دارد؛ زیرا به شناسایی و اصلاح برخی خطاهای حافظه کمک کرده و قابلیت اطمینان سیستم را در پردازش‌های طولانی و حساس افزایش می‌دهد.

پهنای باند حافظه این کارت به 864 گیگابایت بر ثانیه می‌رسد که امکان انتقال سریع اطلاعات میان GPU و حافظه را فراهم می‌کند.

معماری Ada Lovelace و قدرت پردازشی

NVIDIA L40S دارای 18,176 هسته CUDA است. این هسته‌ها وظیفه اجرای طیف گسترده‌ای از محاسبات موازی، پردازش‌های علمی، عملیات گرافیکی و بسیاری از وظایف مرتبط با هوش مصنوعی را بر عهده دارند.

توان محاسباتی FP32 این GPU به 91.6 TFLOPS می‌رسد که آن را برای پردازش‌های محاسباتی و Graphics Workloadهای سنگین مناسب می‌کند.

در کنار هسته‌های CUDA، تعداد 568 Tensor Core نسل چهارم نیز در اختیار سیستم قرار دارد. Tensor Coreها به‌طور ویژه برای عملیات Matrix و محاسبات مورد استفاده در Deep Learning و Generative AI بهینه شده‌اند.

توان پردازشی Tensor این کارت در حالت‌های مختلف به موارد زیر می‌رسد:

TF32 Tensor: تا 366 TFLOPS با Sparsity
FP16 Tensor: تا 733 TFLOPS با Sparsity
FP8 Tensor: تا 1,466 TFLOPS با Sparsity

استفاده از FP8 به‌خصوص برای بسیاری از بارهای کاری مدرن هوش مصنوعی و مدل‌های Transformer اهمیت دارد و امکان افزایش سرعت Training و Inference را فراهم می‌کند.

هسته‌های RT و پردازش گرافیکی

L40S تنها یک شتاب‌دهنده AI نیست. وجود 142 هسته RT نسل سوم قابلیت‌های قدرتمندی در زمینه Ray Tracing، Visualization و رندرینگ سه‌بعدی در اختیار سیستم قرار می‌دهد.

توان پردازشی RT این کارت به حدود 212 TFLOPS می‌رسد و آن را برای پروژه‌های مهندسی، طراحی سه‌بعدی، معماری، تولید محتوای حرفه‌ای، Digital Twin و محیط‌های NVIDIA Omniverse مناسب می‌کند.

همین ترکیب قدرت AI و RTX یکی از تفاوت‌های اصلی L40S با بسیاری از شتاب‌دهنده‌های محاسباتی دیتاسنتری است.

رابط PCIe Gen4 x16

ارتباط NVIDIA L40S با سرور از طریق رابط PCI Express Gen4 x16 انجام می‌شود. NVIDIA پهنای باند دوطرفه این رابط را تا 64GB/s اعلام کرده است.

بنابراین هنگام انتخاب سرور برای این GPU باید علاوه بر فضای فیزیکی مناسب، وجود اسلات PCIe x16 سازگار، توان الکتریکی کافی و زیرساخت خنک‌کاری مناسب نیز بررسی شود.

L40S از NVLink پشتیبانی نمی‌کند و اتصال اصلی آن به سیستم میزبان از طریق PCIe انجام می‌شود. همچنین برخلاف برخی GPUهای محاسباتی NVIDIA، این مدل از MIG یا Multi-Instance GPU پشتیبانی نمی‌کند.

Virtual GPU و محیط‌های مجازی

یکی دیگر از کاربردهای مهم NVIDIA L40S استفاده در زیرساخت‌های NVIDIA Virtual GPU یا vGPU است. این قابلیت امکان استفاده از قدرت پردازشی GPU در محیط‌های مجازی و Virtual Workstation را فراهم می‌کند.

به همین دلیل L40S می‌تواند گزینه مناسبی برای سازمان‌هایی باشد که کاربران آن‌ها به نرم‌افزارهای CAD، طراحی سه‌بعدی، Visualization، شبیه‌سازی یا پردازش AI از طریق ماشین‌های مجازی نیاز دارند. NVIDIA نیز L40 و L40S را در گروه GPUهای مناسب برای کاربردهای High-End 3D Visualization و AI Training و Inference قرار می‌دهد.

پردازش ویدئو و AV1

NVIDIA L40S دارای سه موتور NVENC و سه موتور NVDEC است و از Encode و Decode فرمت AV1 نیز پشتیبانی می‌کند.

این قابلیت باعث می‌شود کارت برای کاربردهایی مانند پردازش ویدئو، Streaming، تولید محتوای حرفه‌ای، زیرساخت‌های رسانه‌ای و پردازش هم‌زمان چندین جریان تصویری نیز مناسب باشد.

فرم فاکتور و توان مصرفی

NVIDIA L40S به شکل یک کارت Full-Height، Full-Length و Dual-Slot عرضه می‌شود و ابعاد آن تقریباً برابر با 4.4 اینچ ارتفاع و 10.5 اینچ طول است.

سیستم خنک‌کننده این کارت Passive است؛ بنابراین برخلاف کارت‌های گرافیک دسکتاپ، فن مستقلی روی خود GPU وظیفه خنک‌کردن آن را بر عهده ندارد. جریان هوای موردنیاز باید توسط طراحی خنک‌کننده سرور فراهم شود.

حداکثر توان مصرفی کارت 350 وات بوده و برای تأمین انرژی از کانکتور برق 16-Pin استفاده می‌کند.

به همین دلیل قبل از نصب باید سازگاری سرور از نظر Power Supply، کابل تغذیه، فضای Dual-Slot و Airflow بررسی شود.

کاربرد NVIDIA L40S 48GB

NVIDIA L40S برای مجموعه گسترده‌ای از بارهای کاری Enterprise و Datacenter طراحی شده است، از جمله:

Generative AI
آموزش و Inference مدل‌های زبانی بزرگ یا LLM
Deep Learning
مدل‌های Multimodal AI
رندرینگ سه‌بعدی حرفه‌ای
Ray Tracing
NVIDIA Omniverse
Digital Twin
مهندسی و شبیه‌سازی
Virtual Workstation
NVIDIA vGPU
پردازش و Encode/Decode ویدئو

NVIDIA نیز L40S را به‌عنوان یک GPU چندمنظوره برای AI، Graphics و Media Acceleration معرفی می‌کند.

مزایای NVIDIA L40S

مهم‌ترین مزیت L40S ترکیب قدرت محاسبات هوش مصنوعی با قابلیت‌های گرافیکی حرفه‌ای در یک کارت است. وجود 48GB حافظه ECC امکان اجرای پروژه‌های حجیم‌تر را فراهم می‌کند و هسته‌های Tensor نسل چهارم نیز برای پردازش مدل‌های AI مدرن بهینه شده‌اند.

در سمت Graphics، هسته‌های RT نسل سوم و قابلیت‌های NVIDIA RTX باعث می‌شوند همین GPU بتواند برای Rendering، Visualization و Omniverse نیز استفاده شود.

پشتیبانی از NVIDIA vGPU، موتورهای سخت‌افزاری Encode/Decode و معماری دیتاسنتری Passive نیز این کارت را برای سرورهایی که چندین نوع Workload را اجرا می‌کنند به یک گزینه انعطاف‌پذیر تبدیل می‌کند.

جمع‌بندی

NVIDIA L40S 48GB GDDR6 ECC یک GPU حرفه‌ای دیتاسنتری است که بین پردازش AI و قدرت گرافیکی RTX تعادل قابل توجهی ایجاد می‌کند. معماری Ada Lovelace، حافظه 48GB GDDR6 ECC، بیش از 18 هزار هسته CUDA، Tensor Core نسل چهارم و RT Core نسل سوم آن را برای Generative AI، LLM، Deep Learning، رندرینگ، Visualization و زیرساخت‌های مجازی مناسب می‌کند.

برای استفاده از این کارت باید سروری انتخاب شود که از نظر اسلات PCIe Gen4 x16، فضای Dual-Slot، توان موردنیاز 350 وات و سیستم خنک‌کننده Passive-compatible با L40S سازگار باشد.