پردازنده هوش مصنوعی Arm در آزمون‌های رک‌محور از AMD پیشی گرفت

شرکت Arm مدعی است پردازنده AGI CPU در هر رک تقریباً دو برابر پردازنده AMD EPYC 9755 عملکرد دارد؛ بااین‌حال، نتایج به پیکربندی سخت‌افزاری و روش ارزیابی وابسته‌اند.

تک‌ناکاین نتایج بر اساس اجرای هفت بار کاری و با استفاده از روش ارزیابی جدیدی به دست آمده‌اند که Arm با پشتیبانی شرکت‌های Fujitsu، متا و OpenAI توسعه داده است. بااین‌حال، نتایج یادشده بر مجموعه مشخصی از پردازنده‌ها، بارهای کاری و پیکربندی‌های سرور متکی هستند و به‌تنهایی برتری مطلق Arm را در تمام کاربردهای هوش مصنوعی عامل‌محور ثابت نمی‌کنند.

روش جدید Arm برای ارزیابی پردازنده‌های هوش مصنوعی

گسترش هوش مصنوعی عامل‌محور یا Agentic AI، نقش پردازنده‌های مرکزی را در مراکز داده هوش مصنوعی تغییر داده است. عامل‌های هوش مصنوعی علاوه بر اجرای مدل‌ها، ابزارهای نرم‌افزاری را به کار می‌گیرند، داده‌ها را بازیابی می‌کنند، درخواست‌های پایگاه داده و API را مدیریت می‌کنند و مراحل مختلف یک فرایند را هماهنگ می‌سازند. پردازنده مرکزی یا CPU بخش مهمی از این وظایف را بر عهده دارد.

Arm معتقد است ارزیابی عملکرد CPU دیگر نباید صرفاً بر تعداد عامل‌هایی متمرکز باشد که به‌صورت هم‌زمان اجرا می‌شوند. معیار مهم‌تر، میزان کار مفیدی است که سیستم می‌تواند با حفظ سرعت پاسخ‌گویی انجام دهد. اگر تعداد عامل‌ها افزایش پیدا کند، اما اجرای وظایف آن‌ها با محدودیت مواجه شود یا شتاب‌دهنده‌ها به دلیل انتظار برای CPU بیکار بمانند، افزایش ظرفیت اسمی فایده محدودی خواهد داشت.

روش پیشنهادی Arm سه بخش اصلی دارد: انتخاب بارهای کاری نماینده کاربردهای واقعی عامل‌های هوش مصنوعی، اندازه‌گیری تکرارپذیر عملکرد CPU و بررسی تأثیر بهبود عملکرد بر نتیجه نهایی وظایف. این شرکت همچنین پیشنهاد می‌کند برای کاهش تأثیر تغییرات ناشی از تصمیم‌گیری عامل‌ها، اقدامات ثبت‌شده آن‌ها دوباره اجرا شوند تا پردازنده‌های مختلف با توالی کاری یکسانی مقایسه شوند.

Arm برای آزمایش این روش، هفت بار کاری را روی AGI CPU و پردازنده EPYC 9755 شرکت AMD اجرا کرد. این مجموعه، ابزارهای توسعه، گردش‌کارهای عامل‌محور، وظایف استدلال و برنامه‌ریزی و آزمون Sandbench برای سنجش سربار ایجاد محیط‌های ایزوله اجرای عامل‌ها را شامل می‌شود.

بیشتر بخوانیدArm از پردازنده سروری ۱۳۶ هسته‌ای AGI برای رقابت با Intel و AMD رونمایی کرد

مقایسه عملکرد Arm AGI CPU و AMD EPYC 9755

Arm برای این آزمایش از دو پیکربندی AGI CPU استفاده کرد. مدل ۱۲۸ هسته‌ای با فرکانس ۲٫۸ گیگاهرتز و حافظه DDR5-7200 برای دو آزمون به کار رفت و مدل ۱۳۶ هسته‌ای با فرکانس ۳٫۲ گیگاهرتز و حافظه DDR5-8000 در پنج آزمون دیگر استفاده شد. در سوی مقابل، AMD با یک پردازنده ۱۲۸ هسته‌ای EPYC 9755 و حافظه DDR5-6400 حضور داشت.

نتایج نشان داد AGI CPU در پنج مورد از هفت آزمون، در مقایسه‌های تراشه‌به‌تراشه عملکرد بهتری ارائه می‌دهد. این پردازنده در آزمون Terminal-Bench حدود ۹ درصد، در SWE-bench حدود ۱۳ درصد و در fastText حدود ۹۷ درصد سریع‌تر بود. در مقابل، عملکرد آن در پردازش MySQL حدود ۱۲ درصد و در Milvus حدود ۵ درصد پایین‌تر از پردازنده AMD قرار گرفت.

بر اساس میانگین نسبت‌های عملکرد نرمال‌شده در هفت آزمون، Arm به برتری متوسط ۲۰ درصدی در سطح هر تراشه دست یافت.

اختلاف در سطح رک بیشتر بود. مدل‌سازی Arm نشان داد AGI CPU به‌طور میانگین می‌تواند عملکردی معادل ۱٫۹۹ برابر AMD ارائه دهد. این محاسبه برآورد مصرف برق کل سرورها را در نظر می‌گیرد و نشان می‌دهد با اختصاص حدود ۸ درصد از بودجه برق ۲۴ کیلوواتی رک به شبکه و توزیع برق، می‌توان ۲۳ سرور Arm در پیکربندی ۱۲۸ هسته‌ای یا ۲۱ سرور در پیکربندی ۱۳۶ هسته‌ای را در برابر ۱۳ سرور AMD قرار داد.

برای مثال، برتری دوبرابری Arm در آزمون SWE-bench از ترکیب برتری تقریباً ۱۳ درصدی تراشه با امکان استقرار ۲۳ سرور در برابر ۱۳ سرور حاصل شده است. بنابراین بخش مهمی از این اختلاف به تعداد سرورهای قابل استقرار در محدودیت توان برق مربوط می‌شود، نه صرفاً سرعت پردازنده.

مدل اولیه همچنین حدود ۲ ترابایت حافظه رم برای سرورهای AMD و حدود یک ترابایت برای سرورهای Arm در نظر گرفت. با محاسبه عملکرد بر اساس تعداد هسته‌های فیزیکی، برتری متوسط Arm در مدل‌سازی از ۱٫۹۹ برابر به حدود ۱٫۸۱ برابر کاهش یافت.

شرکت Signal65 گزارش می‌دهد که محاسبات را با کد مستقل بازسازی کرده و هر هفت نتیجه را با اختلاف کمتر از ۰٫۵ درصد بازتولید کرده است. بااین‌حال، این شرکت آزمایش سخت‌افزاری جداگانه‌ای در آزمایشگاه خود انجام نداده و نتوانسته تنظیمات BIOS و حافظه هر دو سیستم Arm و AMD EPYC 9755 را به‌طور مستقل تأیید کند. تفاوت محیط‌های نرم‌افزاری نیز از عواملی است که در تفسیر نتایج باید در نظر گرفته شود.

بیشتر بخوانیدنخستین پردازنده عصبی Arm عرضه شد؛ انقلاب در پردازش گرافیکی بازی‌های

تفاوت رویکرد Arm با AMD و انویدیا

Arm می‌خواهد روش جدید خود را به معیاری برای ارزیابی پردازنده‌های مناسب هوش مصنوعی عامل‌محور تبدیل کند، اما AMD و انویدیا از معیارهای متفاوتی استفاده می‌کنند.

AMD بر شاخص‌هایی مانند تعداد عامل‌ها به‌ازای هر وات، هزینه و رک تأکید دارد. انویدیا نیز عملکرد تک‌هسته‌ای و پهنای باند حافظه پردازنده Vera را برجسته می‌کند و می‌گوید یک رک شامل ۲۵۶ پردازنده از این خانواده می‌تواند بیش از ۲۲ هزار و ۵۰۰ محیط CPU را به‌صورت هم‌زمان پشتیبانی کند.

ازآنجاکه شرکت‌ها بارهای کاری، فرضیات مصرف برق و روش‌های محاسبه متفاوتی دارند، مقایسه مستقیم نتایج آن‌ها دشوار است. همچنین مقایسه حاضر به پردازنده نسل پنجم AMD با نام Turin مربوط می‌شود و لزوماً عملکرد پردازنده‌های جدیدتر این شرکت را نشان نمی‌دهد.

در نهایت، نتایج Arm نشان می‌دهد طراحی CPU و بهره‌وری مصرف برق می‌توانند در عملکرد مراکز داده هوش مصنوعی عامل‌محور نقش مهمی داشته باشند؛ اما تعیین برنده نهایی به آزمون‌های استاندارد، پیکربندی‌های قابل مقایسه و ارزیابی بارهای کاری متنوع‌تر نیاز دارد.

بیشتر بخوانیدپیش‌بینی مدیر Arm درباره درمان سرطان با هوش مصنوعی

نوشتهپردازنده هوش مصنوعی Arm در آزمون‌های رک‌محور از AMD پیشی گرفتاولین بار درTechnoc. پدیدار شد.

برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.