انقلاب در هزینه‌های هوش مصنوعی: کاهش ۱۰ برابری هزینه استنتاج در Blackwell انویدیا XNET | اخبار و تحلیل هوش مصنوعی

دنیای هوش مصنوعی با سرعتی سرسام‌آور در حال تغییر است و اگر بخواهیم صادق باشیم، هزینه‌های سرسام‌آور اجرای مدل‌های هوش مصنوعی (AI Inference) همیشه پاشنه آشیل استارتاپ‌ها بوده است. اما خبر جدیدی که امروز در بررسی می‌کنیم، نوید یک تغییر بزرگ را می‌دهد. انویدیا با معماری Blackwell مدعی است که این هزینه‌ها را تا ۱۰ برابر (و در برخی سناریوها تا ۲۵ برابر) کاهش داده است.

اما طبق تجربه من در پوشش اخبار فناوری، اعداد روی کاغذ همیشه تمام واقعیت را نمی‌گویند. بیایید دقیق‌تر نگاه کنیم.

تراشه‌های جدید B200 انویدیا که بر پایه معماری بلک‌ول (Blackwell) ساخته شده‌اند، صرفاً یک ارتقای ساده نیستند. ما در اینجا با تغییری روبرو هستیم که اقتصاد هوش مصنوعی را دگرگون می‌کند. تا پیش از این، برای اجرای مدلی مثل GPT-۴ نیاز به هزاران پردازنده H100 و مگاوات‌ها برق بود. حالا انویدیا می‌گوید همان کار را با کسری از انرژی و هزینه انجام می‌دهد.

جنسن هوانگمدیرعامل انویدیا می‌گوید: «اگر پیش از این برای آموزش یک مدل عظیم به ۹۰ روز زمان و ۸۰۰۰ پردازنده نیاز داشتید، با Blackwell همان کار را با مصرف انرژی ۲۵ برابر کمتر انجام می‌دهید.»

چرا سخت‌افزار فقط نیمی از معادله است؟

نکته‌ای که اغلب دراخبار هوش مصنوعی امروزنادیده گرفته می‌شود، نقش نرم‌افزار است. سخت‌افزار قدرتمند بدون نرم‌افزار بهینه، مثل یک ماشین فراری در ترافیک تهران است! کاهش هزینه‌های استنتاج درBlackwellفقط به خاطر ترانزیستورهای بیشتر نیست؛ بلکه به دلیل استفاده از فرمت‌های جدید داده (مانند FP4) و کتابخانه‌های نرم‌افزاری هوشمند است که دقت مدل را حفظ کرده اما بار پردازشی را نصف می‌کنند.

مقایسه هزینه و عملکرد: H100 در برابر Blackwell B200

برای اینکه درک بهتری از این تحول داشته باشید، من یک مقایسه سریع بر اساس داده‌های فنی موجود برای شما آماده کرده‌ام

تاثیر این خبر بر آینده هوش مصنوعی

در ، ما معتقدیم این کاهش هزینه یعنی دموکراتیزه شدن هوش مصنوعی. تا دیروز، فقط غول‌هایی مثل گوگل و متا می‌توانستند مدل‌های تریلیون پارامتری اجرا کنند. با کاهش ۱۰ برابری هزینه‌ها در معماری Blackwell، حالا شرکت‌های متوسط و حتی استارتاپ‌های ایرانی هم می‌توانند خواب‌های بزرگ‌تری ببینند.

انویدیا با Blackwell بار دیگر استانداردها را جابجا کرد. اما فراموش نکنید، این کاهش هزینه ترکیبی از «قدرت سیلیکون» و «جادوی نرم‌افزار» است. در دنیایاخبار جدید هوش مصنوعیبرنده کسی نیست که فقط قوی‌ترین سخت‌افزار را دارد، بلکه کسی است که می‌داند چگونه از آن کار بکشد.

سوالات متداول

برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.