انویدیا با پردازنده Vera در راه‌اندازی محیط‌های هوش مصنوعی از EPYC Zen 5 پیشی می‌گیرد

پردازنده Vera انویدیا در آزمایش‌های جدید شرکت Daytona بار دیگر توانایی بالای خود در پردازش‌های تک‌هسته‌ای و اجرای وظایف هوش مصنوعی عامل‌محور (Agentic AI) را به نمایش گذاشته است. نتایج این آزمایش‌ها نشان می‌دهد Vera می‌تواند هزاران محیط اجرای ایزوله را با سرعت چشمگیری فعال کند و در این زمینه از پردازنده‌های EPYC مبتنی بر معماری Zen 5 شرکت AMD پیشی بگیرد.

پردازنده Vera انویدیا در بنچمارک‌های هوش مصنوعی عامل‌محور با EPYC ای‌ام‌دی رقابت می‌کند

Daytona یک محیط اختصاصی برای اجرای کدهای تولیدشده توسط هوش مصنوعی و مدیریت گردش کار عامل‌های هوش مصنوعی است. تیم این شرکت به‌تازگی نتایج بنچمارک‌های خود را منتشر کرده که در آن‌ها پردازنده Vera انویدیا با تراشه‌های EPYC مبتنی بر معماری Zen 5 ای‌ام‌دی مقایسه شده است. هدف این آزمایش‌ها بررسی تأثیر معماری Vera بر عملکرد محیط‌های ایزوله مورد استفاده عامل‌های هوش مصنوعی بوده و نتایج به‌دست‌آمده قابل‌توجه هستند.

تجربه سال‌های اخیر نشان داده است که گردش کار هوش مصنوعی عامل‌محور به زیرساخت پردازشی قدرتمندی نیاز دارد. در دوران گسترش این نوع هوش مصنوعی، نقش پردازنده‌های مرکزی یا CPUها به‌طور چشمگیری پررنگ‌تر شده است. اکنون وظایفی مانند کار با فایل‌سیستم‌ها، مدیریت وابستگی‌های نرم‌افزاری، اجرای دستورات در محیط‌های خط فرمان و آزمایش کدها به بخش مهمی از بازار جدید هوش مصنوعی تبدیل شده‌اند. به همین دلیل، پردازنده‌ها باید به‌گونه‌ای طراحی شوند که این وظایف را با سرعت و بهره‌وری بالا اجرا کنند و در عین حال از گردش کار موردنیاز آن‌ها پشتیبانی داشته باشند.

پردازنده Vera انویدیا از ابتدا با تمرکز بر هوش مصنوعی طراحی شده و نتایج بنچمارک‌ها نیز این رویکرد را تأیید می‌کنند. تیم Daytona عملکرد پردازنده‌ها را در گردش کار عامل‌های هوش مصنوعی و با استفاده از یک وظیفه برنامه‌نویسی یکسان اندازه‌گیری کرده است. این آزمایش‌ها در مقیاس گسترده و با استفاده از تعداد زیادی محیط ایزوله یا Sandbox متعلق به پلتفرم Daytona انجام شده‌اند.

برای چنین پردازنده‌هایی، تنها پشتیبانی از تعداد زیادی محیط ایزوله اهمیت ندارد؛ بلکه این محیط‌ها باید در کوتاه‌ترین زمان ممکن نیز راه‌اندازی شوند.

در آزمایش‌های Daytona، پردازنده Vera انویدیا به حداکثر توان عملیاتی ۱۳٫۳ وظیفه تکمیل‌شده با عامل هوش مصنوعی در هر ثانیه دست یافت. مهم‌تر از آن، این پردازنده توانست هزار محیط ایزوله را تنها در ۱۰٫۸ ثانیه فعال کند و تعداد محیط‌های فعال را در ۲۷٫۴ ثانیه به ۲۰۰۰ برساند.

در مقابل، پردازنده EPYC مبتنی بر معماری Zen 5 ای‌ام‌دی برای فعال‌کردن هزار محیط ایزوله به ۸۸ ثانیه زمان نیاز داشت. به این ترتیب، Vera در زمان موردنیاز برای فعال‌سازی محیط‌ها تقریباً هشت برابر سریع‌تر عمل کرد.

اهمیت عملکرد بالاتر Vera در هر هسته زمانی روشن‌تر می‌شود که مدل‌های مختلف پردازنده EPYC نیز با یکدیگر مقایسه شوند. پردازنده EPYC 9755 که به‌عنوان مدل پایه ای‌ام‌دی در این مقایسه استفاده شد، هزار محیط ایزوله را در ۸۸٫۴ ثانیه فعال کرد. در همین حال، مدل EPYC 9575F که با فرکانس بالاتری کار می‌کند، همین تعداد محیط را در ۳۲٫۳ ثانیه راه‌اندازی کرد.

بنابراین، ای‌ام‌دی با استفاده از پردازنده‌ای با فرکانس بالاتر توانست عملکرد بهتری ارائه دهد؛ اما Vera همچنان به‌دلیل عملکرد بالاتر هر هسته نسبت به معماری Zen 5 در جایگاه برتری قرار گرفت. این پردازنده می‌تواند ۲۰۰۰ محیط ایزوله را در زمانی فعال کند که پردازنده Zen 5 هنوز درحال راه‌اندازی هزار محیط است؛ تفاوتی که از برتری چشمگیر Vera در این نوع بار کاری حکایت دارد.

البته ای‌ام‌دی از آن زمان پردازنده‌های EPYC مبتنی بر معماری Zen 6 را نیز معرفی کرده است. انتظار می‌رود این تراشه‌ها در بارهای کاری مشابه هوش مصنوعی عامل‌محور عملکرد بسیار بهتری داشته باشند؛ چراکه این حوزه یکی از زمینه‌های تمرکز مهم ای‌ام‌دی به شمار می‌رود.

بااین‌حال، Vera بدون شک گام بزرگی برای انویدیا در بازار هوش مصنوعی عامل‌محور محسوب می‌شود. این پردازنده در مقایسه با نسل Grace عملکرد بهتری ارائه می‌دهد، از Zen 5 پیشی می‌گیرد و می‌تواند به رقیبی جدی برای تراشه‌های Zen 6 تبدیل شود.

نتایج عملکرد پردازنده‌ها در این آزمایش به شرح زیر است

• EPYC 9575F: توان عملیاتی در حدود ۸ وظیفه عامل هوش مصنوعی در ثانیه تثبیت می‌شود.
• EPYC 9755: توان عملیاتی در حدود ۱۱ وظیفه عامل هوش مصنوعی در ثانیه تثبیت می‌شود.
• NVIDIA Vera: به ۱۳٫۳ وظیفه با عامل هوش مصنوعی در ثانیه می‌رسد و با افزایش تعداد محیط‌های ایزوله تا ۲۰۰۰ مورد، عملکرد خود را نزدیک به ۱۳ وظیفه در ثانیه حفظ می‌کند.

پردازنده Vera به تعداد کمتری سرور برای اجرای وظایف هوش مصنوعی نیاز دارد

یکی دیگر از معیارهای جالبی که Daytona منتشر کرده، توان عملیاتی به‌ازای هر سرور است. این معیار نشان می‌دهد برای حفظ عملکرد موردنیاز در اجرای این بارهای کاری، به چند دستگاه نیاز خواهد بود.

بر اساس نتایج اعلام‌شده، برای دستیابی به توان عملیاتی معادل هزار وظیفه در ثانیه، پلتفرم Vera انویدیا به ۱۵ درصد سرور کمتر از پردازنده EPYC 9755 و ۳۸ درصد سرور کمتر از پردازنده EPYC 9575F نیاز دارد.

این مزیت می‌تواند هزینه کل مالکیت یا TCO را نیز کاهش دهد. با استفاده از Vera، شرکت‌ها می‌توانند وظایف بیشتری را با تعداد سرور کمتر انجام دهند و هزینه‌های مربوط به مصرف برق، خنک‌سازی و راه‌اندازی زیرساخت‌های بزرگ هوش مصنوعی را پایین بیاورند. راه دیگر استفاده از این مزیت، دستیابی به توان عملیاتی بالاتر با همان بودجه‌ای است که رقبا برای زیرساخت خود هزینه می‌کنند.

ودران یوکیچ، هم‌بنیان‌گذار و مدیر ارشد فناوری Daytona، درباره اهمیت این نتایج می‌گوید

«عددی که برای من اهمیت دارد، حداکثر عملکرد نیست؛ بلکه چیزی است که بعد از پرشدن ظرفیت دستگاه اتفاق می‌افتد. Vera تقریباً با همان نرخ قبلی به اجرای وظایف عامل‌های هوش مصنوعی ادامه می‌دهد، حتی وقتی تعداد محیط‌های ایزوله به ۲۰۰۰ می‌رسد. سرعتش کمی کاهش پیدا می‌کند، اما عملکردش پایدار می‌ماند و از هم نمی‌پاشد. هزاران عامل روی یک دستگاه اجرا می‌شوند و Vera همچنان آن‌ها را فعال نگه می‌دارد. این همان چیزی است که اهمیت دارد.»

عامل‌های هوش مصنوعی در حال تبدیل‌کردن زیرساخت محاسباتی به مسئله‌ای درباره تراکم و بهره‌وری منابع هستند. هر عامل به فایل‌سیستم، ابزارها و محیط اجرایی مخصوص خود نیاز دارد. این محیط‌ها باید در مقیاس هزاران مورد ایجاد شوند و در عین حال، هنگام اشتراک‌گذاری منابع سخت‌افزاری، همچنان عملکرد مؤثری داشته باشند.

در این زمینه، پردازنده Vera انویدیا عملکرد برجسته‌ای از خود نشان داده است. این پردازنده توانست هزار محیط ایزوله Daytona را در ۱۰٫۸ ثانیه و ۲۰۰۰ محیط را در ۲۷٫۴ ثانیه فعال کند. همچنین حتی با وجود ۲۰۰۰ محیط ایزوله فعال به‌صورت هم‌زمان، توان عملیاتی خود را در حدود ۱۳ وظیفه تکمیل‌شده عامل هوش مصنوعی در هر ثانیه حفظ کرد.

بر اساس داده‌های Daytona، برای انجام حجم کاری یکسان، Vera به حدود ۱۵ درصد سرور کمتر از EPYC 9755 و نزدیک به ۳۸ درصد سرور کمتر از EPYC 9575F نیاز دارد.

برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.