دیپ‌سیک مدل هوش مصنوعی V5 را با تراشه‌های هواوی آموزش می‌ دهد

شرکت دیپ‌سیک قصد دارد فرایند آموزش کامل مدل هوش مصنوعی V5 را با استفاده از سوپرپادها و سوپرنودهای Atlas مجهز به تراشه‌های Ascend 950DT هواوی انجام دهد.

به‌ گزارشسرویس هوش مصنوعی تک‌ناکاین شرکت به‌ صورت هدفمند در حال کاهش وابستگی خود به سخت‌افزارهای انویدیا است؛ وابستگی‌ که به‌ دلیل نوسانات شدید در عرضه این پردازنده‌ها، همچنان یکی از چالش‌های اصلی آزمایشگاه‌های هوش مصنوعی چین به حساب می‌آید.

در صورت موفقیت این پروژه، چین برای نخستین‌بار یک مدل هوش مصنوعی را با تکیه کامل بر زنجیره سخت‌افزاری بومی آموزش خواهد داد؛ فرایندی که در کنار آن از کامپایلر کرنل TileLang، جایگزین چینی و مشابه CUDA نیز استفاده می‌شود.

بیشتر بخوانیدقابلیت Smart Reports به مدیران اجازه می‌دهد چت‌های شما با کلود را رصد کنند

نحوه آموزش مدل هوش مصنوعی V5

به گفته افشاگران شناخته‌شده‌ای مانند Jukan وTeortaxesدر شبکه اجتماعی ایکس، دیپ‌سیک قصد دارد مدل هوش مصنوعی V5 را با حدود ۸ تریلیون پارامتر، روی تراشه‌های Ascend هواوی آموزش دهد.

همان‌طور که پیش‌تر گزارش شده بود، این آزمایشگاه پیشروی چینی، سفارش عظیم ۱۶۰ هزارتراشه Ascend 950DTرا به هواوی ارائه کرده است تا مرکز داده یک‌گیگاواتی خود در منطقه مغولستان داخلی چین را به این پردازنده‌ها مجهز کند. انتظار می‌رود ارسال این محموله در سه‌ماهه چهارم سال ۲۰۲۶ با سرعت بیشتری دنبال شود.

قیمت هر تراشه Ascend 950DT در بازار فعلی حدود ۱۱۱ هزار یوان، معادل تقریبی ۱۶ هزار دلار، برآورد می‌شود. این رقم با محدوده قیمت ۱۵ تا ۲۵ هزار دلاری پردازنده گرافیکی H20 انویدیا قابل مقایسه است. بر این اساس، ارزش سفارش دیپ‌سیک ممکن است به حدود ۲.۵۶ میلیارد دلار برسد.

قلب سخت‌افزاری نسل بعدی هوش مصنوعی چین

تراشه Ascend 950DT بر پایه معماری اختصاصی نسل سوم DaVinci v3 هواوی توسعه یافته است و از فناوری ساخت N+3 شرکت SMIC استفاده می‌کند؛ فرایندی پیشرفته که در کلاس لیتوگرافی ۷ نانومتری قرار می‌گیرد.

این پردازنده برای اجرای هر دو نوع بار کاری آموزش و رمزگشایی مدل‌های هوش مصنوعی نظیر V5 طراحی شده است. هر تراشه به ۱۴۴ گیگابایت حافظه اختصاصی با پهنای باند بالا از نوع HiZQ 2.0 HBM مجهز است که پهنای باند حافظه ۴ ترابایت‌برثانیه‌ای را فراهم می‌کند. سرعت ارتباط میان پردازنده‌های گرافیکی نیز به ۲ ترابایت‌برثانیه می‌رسد. پشتیبانی سخت‌افزاری از قالب‌های محاسباتی کم‌دقت FP8 و FP4، همچنین قالب اختصاصی HiF8 هواوی، از دیگر ویژگی‌های این تراشه محسوب می‌شود.

حتما بخوانیداپل دسترسی هوش مصنوعی سیری به اپلیکیشن‌های شخص ثالث را آغاز کرد

هواوی از Ascend 950DT در زیرساخت محاسباتی Atlas 950 SuperPoD نیز استفاده می‌کند. این سامانه قادر است حداکثر ۸۱۹۲ تراشه را به یکدیگر متصل کند و توان پردازشی اوج ۸ اگزافلاپس را برای پردازش‌های هوش مصنوعی ارائه دهد. احتمالا قابلیت‌های ارتباطی و پردازشی همین سوپرپادها یکی از مهم‌ترین عوامل جذابیت زیرساخت هواوی برای دیپ‌سیک است. Atlas 950 SuperPoD از پهنای باند ارتباطی ۲ ترابایت‌برثانیه‌ای میان کارت‌ها برخوردار است و توان پردازشی خام آن در محاسبات FP8 به ۸ اگزافلاپس می‌رسد. این سامانه‌ها با نام Supernode نیز شناخته می‌شوند.

انتقال کامل زیرساخت نرم‌افزاری دیپ‌سیک به هواوی

همکاری دو شرکت به تامین سخت‌افزار محدود نمی‌شود. دیپ‌سیک اکنون مجموعه زیرساخت نرم‌افزاری اختصاصی خود را نیز برای اجرا روی پردازنده‌های گرافیکی Ascend هواوی تطبیق داده است. این مجموعه از اجزای متعددی تشکیل می‌شود که هرکدام وظیفه بهینه‌سازی بخشی از فرایند پردازش هوش مصنوعی را بر عهده دارند

• DeepSelectبهینه‌سازی و اجرای سریع کرنل‌های TopK
• TileLangکامپایلر و ابزار بهینه‌سازی کرنل‌های هوش مصنوعی
• DeepGEMM-Ascendبهینه‌سازی کرنل‌های عملیات ضرب ماتریسی GEMM
• DeepEP-Ascendمدیریت ارتباطات در معماری پردازش موازی متخصصان
• TileKernelsکرنل‌های محاسبات برداری و دسترسی به حافظه
• FlashMLAبهینه‌سازی کرنل‌های سازوکار توجه در معماری MLA

در میان این اجزا، TileLang مهم‌ترین نقش را ایفا می‌کند. این کامپایلر به شرکت‌ها امکان می‌دهد کدهای خود را از ابتدا با زبان TileLang توسعه دهند؛ درحالی‌که تولیدکنندگان تراشه تنها باید یک‌بار لایه پشتیبان نرم‌افزار را با سخت‌افزار خود سازگار کنند. پس از این مرحله، برنامه‌ها هنگام اجرا به‌ صورت خودکار، پیاده‌سازی مناسب برای سخت‌افزار میزبان را انتخاب می‌کنند. به این ترتیب، پشته نرم‌افزاری اختصاصی مدل هوش مصنوعی V5 اکنون به‌ صورت بومی روی پردازنده‌های گرافیکی Ascend اجرا می‌شود. نتیجه این یکپارچگی، افزایش میزان بهره‌برداری از توان محاسباتی تراشه‌ها برای اجرای مدل یا MFU به ۴۵ درصد بوده است. این رقم در مقایسه با نرخ حدود ۳۰ درصدی گزارش‌شده برای تراشه‌های Ascend 910C، پیشرفت قابل‌ توجهی محسوب می‌شود.

برای مطالعه بیشترهوش مصنوعی OpenAI در ۷ روز یک دستگاه واقعی طراحی کرد + تصویر

همچنین دیپ‌سیک و هواوی نسخه ۱۲۸ کارتی زیرساخت Ascend 950 Atlas SuperPoD را بهینه‌سازی کرده‌اند. در جریان این آزمایش‌ها، عملگر توجه تنک در مرحله خواندن به توان پردازشی ۴۱۰ ترافلاپس دست یافته است. این بهینه‌سازی باعث شده است عملکرد بارهای کاری در وظایف مستقل و محدود به محاسبات، به حدود ۹۵ درصد از سقف نظری توان پردازشی تراشه‌ها در قالب FP8 برسد. در مجموع، این همکاری نشان می‌دهد چین در مسیر ساخت یک زنجیره یکپارچه و بومی هوش مصنوعی، از طراحی تراشه و زیرساخت پردازشی گرفته تا کامپایلرها و ابزارهای نرم‌افزاری، گام‌های جدی‌تری برمی‌دارد.

نوشتهدیپ‌سیک مدل هوش مصنوعی V5 را با تراشه‌های هواوی آموزش می‌ دهداولین بار درTechnoc. پدیدار شد.

برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.