آیفون می‌تواند مدل‌های هوش مصنوعی را با ۱۴ میلیارد پارامتر فعال اجرا کند

شرکت اپل اعلام کرد که آیفون و آیپدهای آن می‌توانند مدل‌های هوش مصنوعی را با ۱۴ میلیارد پارامتر فعال اجرا کنند.

به‌ گزارشسرویس هوش مصنوعیتک‌ناکدستگاه‌های اپل به لطف حافظه سریع‌تر و بهره‌مندی از دو موتور عصبی، توانایی بسیار بیشتری برای اجرای مدل‌های متراکم هوش مصنوعی پیدا کرده‌اند. البته هر دستگاه محدودیت‌های سخت‌افزاری خاص خود را دارد، اما اپل اعلام کرده است که آیفون و آیپد می‌توانند مدل‌های هوش مصنوعی با ۱۴ میلیارد پارامتر فعال را اجرا کنند، در حالی که مک‌ها از توانایی اجرای مدل‌هایی در مقیاس تریلیون پارامتر برخوردار هستند.

بیشتر بخوانیددسترسی زودهنگام به قابلیت‌های جدید Muse آغاز شد

اجرای مدل‌های هوش مصنوعی روی آیفون و مک‌بوک

اپل در نموداری، طیف مختلفی از دستگاه‌های خود و مدل‌های زبانی بزرگ قابل‌ اجرا روی آنها رامشخص کرده است. این شرکت برای کوچک‌ترین مدل موجود در این فهرست، یعنی مدلی با ۱۴ میلیارد پارامتر فعال، آیفون یا آیپدی با ۱۶ گیگابایت حافظه یکپارچه را پیشنهاد می‌کند. نکته قابل‌ توجه این است که اپل پهنای باند ۷۶ گیگابایت‌برثانیه را برای استنتاج محلی هوش مصنوعی در نظر گرفته، در حالی که تراشه A20 Pro با پهنای باند ۱۱۵.۲ گیگابایت‌برثانیه حتی از این رقم نیز فراتر می‌رود. مک‌بوک ایر و مک مینی که از حداکثر ۶۴ گیگابایت حافظه یکپارچه و پهنای باندی تا ۳۰۷ گیگابایت‌برثانیه بهره می‌برند، قادر به اجرای مدل‌های زبانی بزرگ با حداکثر ۷۰ میلیارد پارامتر فعال هستند. مدل‌های رده‌بالای مک‌بوک پرو نیز از حداکثر ۱۲۸ گیگابایت حافظه یکپارچه پشتیبانی می‌کنند و با وجود قیمت بالاتر، می‌توانند مدل‌های ۱۲۰ میلیارد پارامتری هوش مصنوعی را اجرا کنند، که این ظرفیت مشابه لپ‌تاپ‌های RTX Spark مجهز به همین میزان حافظه است.

حتما بخوانیدتصاویر کاربران OpenAI به اینترنت راه پیدا کردند

اما در مک استودیو، مقیاس کار به‌طور محسوسی تغییر می‌کند. تراشه M5 Ultra با پهنای باند حافظه خیره‌کننده ۱.۲ ترابایت‌برثانیه می‌تواند تا ۵۱۲ گیگابایت حافظه یکپارچه داشته باشد و در نتیجه امکان نگهداری مدل‌هایی با حداکثر ۴۸۰ میلیارد پارامتر را فراهم می‌کند. برای کاربرانی که نمی‌خواهند ماهانه برای سرویس‌هایی مانند کلود یا جمنای هزینه اشتراک بپردازند، مک استودیو می‌تواند راهکاری پرهزینه اما قابل اتکا برای اجرای محلی مدل‌های هوش مصنوعی باشد.

هزینه سنگین پردازش

در پیکربندی چهارخوشه‌ای و با مجموع ۲ ترابایت حافظه یکپارچه، اجرای مدل‌های ۱.۶ تریلیون پارامتری نیز از نظر فنی امکان‌پذیر خواهد بود؛ هرچند در شرایط فعلی تهیه چنین سیستمی، کار ساده‌ای نیست. هنگام نگارش این مطلب، فروشگاه آنلاین اپل تنها نسخه مجهز به ۲۵۶ گیگابایت حافظه را برای خرید عرضه می‌کرد و بسته به شهر محل سکونت در آمریکا، زمان تحویل می‌توانست به ۱۵ تا ۱۷ هفته برسد. هزینه این راهکار نیز بسیار سنگین است. نسخه M5 Ultra مک استودیو با پردازنده مرکزی ۳۶ هسته‌ای، پردازنده گرافیکی ۸۰ هسته‌ای، موتور عصبی ۳۲ هسته‌ای و SSD یک ترابایتی، ۱۰۷۰۰ دلار قیمت دارد. افزودن سه دستگاه دیگر برای ساخت یک پیکربندی چهارخوشه‌ای، هزینه کل را به ۴۳۱۹۶ دلار می‌رساند. با وجود این، چنین مجموعه‌ای حتی ۱ ترابایت حافظه یکپارچه نیز در اختیار کاربر قرار نمی‌دهد.

برای مطالعه بیشترآمریکا خواستار توقف آزمایش مدل‌های جدید OpenAI و Anthropic در بریتانیا شد

برای اجرای مدل‌های زبانی یک تریلیون پارامتری، به پیکربندی هشت‌خوشه‌ای نیاز است که هزینه آن به ۸۶۳۹۲ دلار می‌رسد. پرداخت چنین مبلغی برای اجرای مدل‌های با وزن باز، از نظر اقتصادی بسیار سنگین است و اگر هدف دستیابی به بیشترین ارزش از اجرای مدل‌های پیشرفته هوش مصنوعی باشد، چنین پیکربندی‌ توجیه اقتصادی محدودی خواهد داشت. در نهایت، اگرچه اپل راهنمایی مناسبی برای کاربرانی ارائه کرده است که قصد اجرای استنتاج محلی مدل‌های هوش مصنوعی را دارند، اما در این راهنما مشخص نکرده است که دقیقا کدام مدل‌های زبانی هوش مصنوعی روی آیفون قابل‌ اجرا هستند و هر دستگاه از چه سطحی از کوانتیده‌سازی مدل‌ها پشتیبانی می‌کند.

نوشتهآیفون می‌تواند مدل‌های هوش مصنوعی را با ۱۴ میلیارد پارامتر فعال اجرا کنداولین بار درTechnoc. پدیدار شد.

برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.