مصرف توکن عامل‌های هوش مصنوعی از انسان‌ها پیشی گرفت

عامل‌های هوش مصنوعی درOpenRouterپنج برابر انسان‌ها توکن مصرف می‌کنند و بیش از۸۵درصد این مصرف به پرامپت‌های ذخیره‌شده مربوط است.

هوش مصنوعیتک‌ناکدانیل نیومن، مدیرعامل گروه Futurum، در پستی در شبکه اجتماعی X نوشت که «هوش مصنوعی در حال حاضر پنج برابر بیشتر توسط هوش مصنوعی استفاده می‌شود تا انسان‌ها». او پیش‌بینی کرده است این نسبت به ۱۰ برابر و سپس به سطوح بالاتر خواهد رسید.

داده‌های مورد استناد نیومن از نمودار شرکت سرمایه‌گذاری Andreessen Horowitz یا a16z درباره آمار OpenRouter گرفته شده است.

استفاده عامل‌ها از انسان‌ها شش ماه پیش عبور کرد و از آن زمان این فاصله بیشتر شده است. با این حال، بخش عمده توکن‌های مصرف‌شده توسط عامل‌ها از بازخوانی اطلاعاتی تشکیل می‌شود که پیش‌تر در اختیار آنها قرار گرفته است.

طبق داده‌های OpenRouter که a16z به آنها استناد کرده، بیش از ۸۵ درصد توکن‌های عامل‌ها از پرامپت‌های ذخیره‌شده یا Cached Prompts ناشی می‌شود.

رشد سریع مصرف توکن عامل‌های هوش مصنوعی

OpenRouter خود را یکی از پلتفرم‌های پیشرو برای دسترسی و مسیریابی میان مدل‌های هوش مصنوعی معرفی می‌کند.

پیتر واکر، مدیر بخش بینش‌های این شرکت، نموداری از میانگین مصرف توکن در هفت روز ارائه کرده که مصرف را بر اساس نوع کاربر دسته‌بندی می‌کند.

طبق این داده‌ها، از زمان عبور مصرف عامل‌ها از انسان‌ها در ماه فوریه، میزان استفاده عامل‌ها از توکن‌ها ۱۴ برابر شده است، در حالی که مصرف انسان‌ها ۲.۸ برابر افزایش داشته است. نمودار a16z نیز همین داده‌ها را نشان می‌دهد.

OpenRouter هر کلید API را با استفاده از یک امتیاز ترکیبی وزن‌دار مبتنی بر هفت سیگنال، در یکی از سه گروه عامل، ترکیبی یا انسانی قرار می‌دهد.

نرخ فراخوانی ابزارها، تعداد نوبت‌های مکالمه و فاصله زمانی میان تعاملات از جمله معیارهای مورد استفاده در این دسته‌بندی هستند.

گروه ترکیبی که احتمالاً رفتارهایی شامل ترکیبی از فعالیت عامل و انسان را دربرمی‌گیرد، در همین بازه ۴.۷ برابر رشد کرده است.

بنابراین، میزان برتری عامل‌ها نسبت به انسان‌ها به نحوه تقسیم این ترافیک میان گروه‌ها بستگی دارد.

این داده‌ها حجم توکن مصرف‌شده را اندازه‌گیری می‌کنند، نه میزان هزینه را. همچنین داده‌ها فقط مربوط به یک پلتفرم هستند و روند رشد کاملاً یکنواخت نبوده است.

مصرف توکن در ماه‌های آوریل و ژوئیه کاهش‌هایی داشته است. با این حال، استفاده از عامل‌های هوش مصنوعی در سایر بخش‌ها نیز در حال افزایش است.

در نظرسنجی State of AI سال ۲۰۲۶ شرکت McKinsey، ۴۰ درصد پاسخ‌دهندگان از سازمان‌های بزرگ اعلام کردند که استفاده از عامل‌های هوش مصنوعی را در مقیاس گسترده افزایش داده‌اند. این رقم یک سال قبل ۲۷ درصد بود.

بیشتر بخوانیدعامل‌های هوش مصنوعی برای ورود به زندگی کاربران مسیر دشواری دارند

افزایش فشار بر حافظه سخت‌افزاری

به گفته a16z، تقریباً تمام رشد نسبی مصرف توکن به توکن‌های ذخیره‌شده مربوط می‌شود. این توکن‌ها هزینه بسیار کمتری نسبت به پردازش یک پرامپت از ابتدا دارند، اما همچنان باید در حافظه نگهداری شوند.

a16z که یکی از سرمایه‌گذاران OpenRouter است، افزایش این حجم از داده را با رشد تقاضا برای حافظه با پهنای باند بالا یا HBM مرتبط می‌داند.

مدل‌های هوش مصنوعی اطلاعات ذخیره‌شده از مکالمات و تعاملات قبلی را در بخشی به نام KV Cache نگهداری می‌کنند.

بر اساس گزارش‌های منتشرشده، اندازه KV Cache در حال عبور از ظرفیت حافظه HBM پردازنده‌های گرافیکی است.

همین الگو در گزارش‌های یک شرکت مشاوره مرکز تماس که DeepSeek را روی سرورهای اجاره‌ای مجهز به پردازنده‌های Nvidia H200 آزمایش کرده نیز دیده می‌شود.

در داده‌های مربوط به استفاده عامل‌های این شرکت از Claude Code در ماه سپتامبر، ۹۶ درصد کل ورودی‌ها شامل بازخوانی مکالمات قدیمی بوده است.

ترکیب این داده‌ها با آمار OpenRouter نشان می‌دهد تعداد توکن‌ها ممکن است میزان واقعی پردازش جدید را بیش از حد نشان دهد، زیرا بخش بزرگی از آنها از اطلاعات ذخیره‌شده تشکیل می‌شود.

با این حال، هزینه سخت‌افزاری موردنیاز برای نگهداری این اطلاعات در حافظه همچنان واقعی و قابل‌توجه است.

بیشتر بخوانیداپل دسترسی عامل‌های هوش مصنوعی را به دیسک مک محدود می‌ کند

نوشتهمصرف توکن عامل‌های هوش مصنوعی از انسان‌ها پیشی گرفتاولین بار درTechnoc. پدیدار شد.

برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.