کارت گرافیک NVIDIA A100 80GB PCIe Non-CEC Accelerator for HPE

ویژگی‌های کلیدی

مدل GPU: NVIDIA A100 80GB
معماری: NVIDIA Ampere
حافظه گرافیکی: 80GB HBM2e
پشتیبانی از ECC Memory
پهنای باند حافظه: تا 1,935GB/s
رابط اتصال: PCIe Gen4 x16
فرم فاکتور: FHFL، دو اسلات
سیستم خنک‌کننده: Passive
حداکثر توان کارت: 300W
پشتیبانی از Tensor Core نسل سوم
پشتیبانی از Multi-Instance GPU یا MIG
امکان ایجاد حداکثر 7 نمونه مستقل GPU
پشتیبانی از NVLink Bridge
حداکثر پهنای باند NVLink: 600GB/s
مناسب برای AI، Deep Learning، Data Analytics و HPC

شتاب‌دهنده NVIDIA A100 80GB PCIe برای سرور HPE مدل R9P49C

معرفی NVIDIA A100 R9P49C

کارت NVIDIA A100 80GB PCIe Non-CEC Accelerator for HPE R9P49C یک شتاب‌دهنده محاسباتی دیتاسنتری است که برای پردازش بارهای سنگین Compute طراحی شده است. برخلاف کارت‌هایی مانند NVIDIA A16 که تمرکز اصلی آن‌ها روی VDI و دسکتاپ مجازی است، A100 به‌طور ویژه برای هوش مصنوعی، آموزش و استنتاج مدل‌های یادگیری عمیق، تحلیل داده و High Performance Computing توسعه یافته است. HPE این مدل را با پارت نامبر R9P49C در گزینه‌های GPU سرورهای سازگار خود فهرست کرده است.

A100 از پردازنده گرافیکی GA100 بر پایه معماری Ampere بهره می‌برد و از انواع مختلف دقت محاسباتی مانند FP64، FP32، TF32، BFLOAT16، FP16 و INT8 پشتیبانی می‌کند. این انعطاف باعث می‌شود یک کارت بتواند برای طیف گسترده‌ای از Workloadهای علمی و هوش مصنوعی مورد استفاده قرار گیرد.

حافظه 80GB HBM2e

یکی از مهم‌ترین ویژگی‌های NVIDIA A100، برخورداری از 80GB حافظه HBM2e است. این مقدار حافظه برای بارهایی مانند آموزش مدل‌های بزرگ هوش مصنوعی، پردازش Datasetهای حجیم و محاسبات علمی که باید حجم زیادی از داده را نزدیک GPU نگه دارند اهمیت زیادی دارد.

پهنای باند حافظه نسخه PCIe هشتاد گیگابایتی تا 1,935GB/s یا تقریباً 1.94TB/s است. حافظه کارت از ECC نیز پشتیبانی می‌کند که برای پردازش‌های طولانی‌مدت و حساس دیتاسنتری اهمیت دارد. پهنای باند بالای HBM2e کمک می‌کند انتقال داده بین حافظه و واحدهای محاسباتی GPU با سرعت بسیار بالایی انجام شود.

رابط PCIe Gen4 x16

NVIDIA A100 80GB PCIe از رابط PCI Express 4.0 x16 استفاده می‌کند. در نتیجه کارت برای دستیابی به عملکرد مناسب به یک Slot و مسیر PCIe متناسب در سرور نیاز دارد. NVIDIA برای PCIe Gen4 این خانواده پهنای باند دوطرفه رابط تا 64GB/s را در مشخصات A100 ذکر کرده است.

برای نصب R9P49C صرفاً وجود یک اسلات PCIe کافی نیست؛ سرور باید از نظر فضای فیزیکی، توان، Airflow، Riser و پشتیبانی Firmware برای A100 تأیید شده باشد. برای نمونه HPE این پارت نامبر را در گزینه‌های Accelerator سرور HPE ProLiant DL380 Gen10 Plus فهرست کرده است.

عملکرد محاسباتی و Tensor Core

A100 به Tensor Coreهای نسل سوم مجهز است و برای پردازش‌های AI در دقت‌های مختلف بهینه شده است. نسخه A100 80GB PCIe تا 19.5TFLOPS در FP32 و 9.7TFLOPS در FP64 ارائه می‌دهد. عملکرد Tensor در TF32 تا 156TFLOPS و با استفاده از Structured Sparsity تا 312TFLOPS افزایش پیدا می‌کند.

در FP16 و BFLOAT16 نیز Tensor Core Performance تا 312TFLOPS و با Sparsity تا 624TFLOPS می‌رسد. همین قابلیت‌ها A100 را برای Training و Inference شبکه‌های عصبی و سایر پردازش‌های ماتریسی سنگین مناسب می‌کنند.

فناوری Multi-Instance GPU یا MIG

یکی از قابلیت‌های شاخص A100 فناوری Multi-Instance GPU یا MIG است. با MIG می‌توان یک GPU فیزیکی A100 را به حداکثر 7 نمونه GPU مستقل تقسیم کرد. در نسخه 80GB، هر تقسیم‌بندی می‌تواند متناسب با Profile انتخاب‌شده بخشی از منابع پردازشی و حافظه GPU را در اختیار یک Workload قرار دهد.

این Instanceها در سطح سخت‌افزاری از یکدیگر جدا هستند و منابعی مانند حافظه، Cache و Compute Coreهای اختصاص‌یافته خود را دارند. در نتیجه مدیر دیتاسنتر می‌تواند به جای اختصاص کامل یک A100 به یک پردازش کوچک، منابع GPU را میان چند Job یا سرویس تقسیم کند و بهره‌وری کارت را افزایش دهد.

پشتیبانی از NVLink

نسخه PCIe کارت A100 80GB از NVIDIA NVLink Bridge نیز پشتیبانی می‌کند. در یک پیکربندی سازگار می‌توان دو کارت A100 PCIe مجاور را از طریق NVLink به یکدیگر متصل کرد تا تبادل مستقیم داده میان GPUها با پهنای باند بسیار بیشتری انجام شود.

NVIDIA حداکثر پهنای باند NVLink برای این کارت را 600GB/s اعلام می‌کند. این قابلیت به‌خصوص در پردازش‌هایی مفید است که Dataset یا مدل میان چند GPU تقسیم می‌شود و ارتباط سریع GPU-to-GPU اهمیت بالایی دارد. استفاده عملی از NVLink به طراحی و پشتیبانی سرور و Bridge مناسب وابسته است.

فرم فاکتور FHFL و خنک‌کننده Passive

A100 80GB PCIe یک کارت Full Height Full Length یا FHFL با طول تقریبی 10.5 اینچ است و دو Slot از فضای سرور را اشغال می‌کند. بنابراین در سرورهای چند-GPU باید فضای Riser و فاصله کارت‌ها به‌دقت در نظر گرفته شود.

خنک‌کننده این کارت از نوع Passive است. به این معنا که GPU فن مستقل مانند کارت‌های گرافیکی دسکتاپ ندارد و برای خنک‌سازی به جریان هوای ایجادشده توسط سیستم Cooling سرور وابسته است. به همین دلیل نصب A100 در پلتفرم‌های تأییدشده HPE و استفاده از پیکربندی Cooling مناسب اهمیت دارد.

توان مصرفی 300 وات

حداکثر توان طراحی‌شده برای NVIDIA A100 80GB PCIe برابر با 300 وات است. کارت برای تأمین توان اضافی از یک کانکتور CPU هشت‌پین استفاده می‌کند. بنابراین هنگام نصب R9P49C باید ظرفیت Power Supply، کابل GPU Power و محدودیت‌های توان سرور بررسی شوند.

منظور از Non-CEC چیست؟

عبارت Non-CEC در نام R9P49C به نسخه‌ای از برد A100 اشاره دارد که تراشه خارجی CEC1712 را به‌عنوان Secondary Root of Trust روی برد ندارد. این موضوع به معنی نبود قابلیت‌های امنیتی پایه در خود GPU نیست؛ A100 همچنان دارای Primary Root of Trust داخلی است و قابلیت‌هایی مانند Secure Boot، Secure Firmware Upgrade و Firmware Rollback Protection را ارائه می‌دهد.

نسخه‌های CEC-Enabled یک تراشه CEC1712 اضافه دارند که امکانات امنیتی تکمیلی مانند Firmware Attestation و Key Revocation را ارائه می‌کند. بنابراین عبارت Non-CEC یک مشخصه دقیق سخت‌افزاری برای این SKU است و نباید آن را با قدرت پردازشی یا ظرفیت حافظه کارت مرتبط دانست.

کاربرد NVIDIA A100 R9P49C

NVIDIA A100 80GB برای AI Training، AI Inference، Deep Learning، Machine Learning، Data Analytics، Scientific Computing و HPC طراحی شده است. ظرفیت بالای حافظه و پهنای باند HBM2e به‌ویژه برای مدل‌ها و Datasetهایی مناسب است که به فضای حافظه GPU زیادی نیاز دارند.

فناوری MIG نیز A100 را برای دیتاسنترهای اشتراکی و Cloud مناسب می‌کند، زیرا می‌توان منابع یک GPU قدرتمند را میان چند Workload مستقل تقسیم کرد. در مقابل، برای Jobهای بسیار سنگین می‌توان از تمام منابع کارت استفاده کرد یا در سرورهای پشتیبانی‌شده چند A100 را در کنار یکدیگر به کار گرفت.

مزایای NVIDIA A100 80GB برای سرور HPE

ترکیب 80GB HBM2e، پهنای باند حافظه 1,935GB/s، Tensor Coreهای نسل سوم و رابط PCIe Gen4 x16 مهم‌ترین مزیت‌های A100 80GB هستند. این مشخصات امکان پردازش حجم زیادی از داده و اجرای بارهای AI و HPC را در یک Accelerator دیتاسنتری فراهم می‌کنند.

پشتیبانی از MIG تا هفت Instance، NVLink تا 600GB/s، ECC و معماری Passive سروری نیز باعث می‌شود R9P49C برای زیرساخت‌های محاسباتی سازمانی و پلتفرم‌های سازگار HPE انتخابی تخصصی برای پردازش‌های شتاب‌یافته باشد.

جمع‌بندی

شتاب‌دهنده NVIDIA A100 80GB PCIe Non-CEC Accelerator for HPE با پارت نامبر R9P49C یک GPU دیتاسنتری مبتنی بر معماری Ampere برای AI، تحلیل داده و HPC است. این کارت دارای 80GB حافظه HBM2e با ECC، پهنای باند حافظه تا 1,935GB/s و رابط PCIe Gen4 x16 بوده و در فرم فاکتور FHFL دو اسلات با خنک‌کننده Passive ارائه می‌شود.

توان حداکثر 300 وات، پشتیبانی از Tensor Core، قابلیت تقسیم GPU به حداکثر هفت Instance با MIG و امکان ارتباط NVLink میان دو A100 PCIe، این مدل را به گزینه‌ای قدرتمند برای سرورهای محاسباتی سازگار HPE تبدیل می‌کند.