کوالکام با تراشه‌های جدیدش هوش مصنوعی را بدون اینترنت اجرا می‌کند

کوالکام با معرفی نسل جدید Hexagon NPU در تراشه‌های آینده Snapdragon، قابلیت‌های پردازش هوش مصنوعی محلی و اجرای مدل‌های پیچیده را به سطح تازه‌ای می‌رساند.

سخت افزارتکناک، کوالکام در نشست پیش‌رو یعنی Snapdragon Summit که در تاریخ ۲۲ سپتامبر برگزار می‌شود، پرده از نسل جدید تراشه‌های پرچمدار خود برمی‌دارد. انتظار می‌رود این خانواده که شامل دو نسخه Elite ازتراشه Snapdragon 8 Gen 6است، استانداردهای جدیدی را در صنعت پردازنده‌های موبایل تعریف کند. تمرکز اصلی این شرکت نه تنها بر قدرت خام پردازشی، بلکه بر ارتقای واحد پردازش عصبی یا همانHexagon NPUمعطوف شده است تا تجربه کاربری در عصر هوش مصنوعی دستخوش تغییری اساسی شود.

قلب تپنده این بهبودها، مؤلفه‌ای جدید به نام Element Accelerator است. این واحد در کنار واحدهای پردازشی scalar، vector و tensor قرار می‌گیرد تا استنتاج مدل‌های ترنسفورمر را با سرعتی بی‌سابقه انجام دهد. نکته کلیدی در اینجا، افزایش حافظه اشتراکی است. با استفاده از این حافظه، نیاز پردازنده به دسترسی مداوم به حافظه اصلی یا همان RAM گوشی کاهش می‌یابد که نتیجه آن، انتقال سریع‌تر داده‌ها و کاهش چشمگیر مصرف انرژی است.

معماری شتاب‌دهنده جدید Element Accelerator

این طراحی هوشمندانه به عامل‌های هوشمند اجازه می‌دهد تا بدون فشار به منابع سیستم، پاسخ‌های دقیق‌تر و سریع‌تری ارائه دهند و در محیط‌های پیچیده نرم‌افزاری با بهره‌وری بالاتری عمل کنند.

یکی دیگر از دستاوردهای مهم کوالکام، پشتیبانی از مدل‌های Mixture-of-Experts یا به‌طور خلاصه MoE است. این معماری به تراشه امکان می‌دهد تا مدل‌های زبانی بزرگ را با فعال‌سازی هوشمند بخش‌های خاصی از شبکه عصبی اجرا کند. به لطف این فناوری، اکنون اجرای مدل‌هایی با ۳۰ میلیارد پارامتر به‌صورت کاملاً محلی روی گوشی میسر می‌شود. در واقع، تراشه با مسیریابی درخواست‌ها به سمت بخش‌های متخصص مدل، تنها بخش کوچکی از توان پردازشی را استفاده می‌کند که این موضوع بهره‌وری را به شدت افزایش می‌دهد و امکان استفاده از مدل‌های هوشمند بسیار پیشرفته‌تر را در قالب سخت‌افزار موبایل فراهم می‌آورد.

جهش ۵۰ درصدی سرعت پیش‌پردازش هوش‌مصنوعی

در زمینه سرعت و کارایی نیز، ارقام ارائه شده توسط مهندسان کوالکام بسیار قابل‌توجه است. نسل جدید Hexagon NPU قادر است عملکرد پیش‌پردازش را تا ۵۰ درصد نسبت به نسل قبل ارتقا دهد. بهبودهایی نظیر افزایش سرعت رمزگشایی، ارتقای قابلیت speculative decoding و افزایش کلی نرخ تولید توکن در ثانیه، همگی در راستای کاهش زمان پاسخ‌دهی سیستم هستند. به نوشتهاندروید آتوریتیاین دستاوردها به‌طور مشخص برای مدل‌های با دقت INT4 بهینه‌سازی شده‌اند و هدف اصلی آن‌ها، ارائه پاسخی آنی به کاربر است. این بهبودها باعث می‌شود مدل‌ها در انجام وظایف پیچیده و چندمرحله‌ای که نیاز به پردازش مداوم داده دارند، بسیار چابک‌تر عمل کنند.

این پیشرفت‌های فنی در نهایت هدف استراتژیک بزرگی را دنبال می‌کنند: توانمندسازی واقعی عامل‌های هوشمند. گوشی‌های مجهز به تراشه‌های سری Snapdragon Elite قرار است در آینده نزدیک فراتر از یک دستیار ساده عمل کنند. آن‌ها قادر خواهند بود به عنوان یک مرکز فرماندهی شخصی، وظایف پیچیده‌ای را در پس‌زمینه مدیریت کنند. با ترکیب این توان سخت‌افزاری و معماری نرم‌افزاری نوین، کوالکام قصد دارد شکاف میان عملکرد پردازش ابری و محلی را برای همیشه از بین ببرد. نتیجه نهایی، دستگاهی خواهد بود که با مصرف انرژی کمتر، هوشمندی بیشتری را در اختیار کاربران قرار می‌دهد.

نوشتهکوالکام با تراشه‌های جدیدش هوش مصنوعی را بدون اینترنت اجرا می‌کنداولین بار درTechnoc. پدیدار شد.

برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.