هشدار بزرگ آنتروپیک درباره هوش مصنوعی خودساز؛ کلود ۹۰ درصد کدها را خودش می‌نویسد

همزمان باسبک مدیریتی جدید داریو آمودی در آنتروپیک در سال ۲۰۲۶این شرکت هشدار داد به هوش مصنوعی خودساز نزدیک شده و کلود کدهای شرکت رو خودش می‌نویسه.

این خبر شوکه‌کننده در حالی بیرون میاد که پیش از این همدرخواست داریو آمودی برای کاهش سرعت توسعه هوش مصنوعیبحث‌های زیادی رو توی محافل فناوری راه انداخته بود. حالا اما باافشاگری دیوید ایچ در شبکه اجتماعی ایکس درباره اسناد آنتروپیکمشخص شده که ماجرا خیلی جدی‌تر از یه پیش‌بینی ساده‌ست؛ هوش مصنوعی به نقطه‌ای رسیده که داره خودش کدهای خودش رو می‌نویسه، خودش مدل‌های بعدی رو آموزش می‌ده و عملاً بدون نیاز شدید به انسان، نسخه‌های قوی‌تر خودش رو خلق می‌کنه.

هشدار جنجالی آنتروپیک؛ هوش مصنوعی خودساز از راه رسید؟

می‌دونیم که مدیران این شرکت‌ها معمولاً سعی می‌کنن قابلیت‌های ترسناک مدل‌هاشون رو پشت کلمات تبلیغاتی قایم کنن. اما وقتی سراغتحلیل استراتژی‌های احتیاطی مدیرعامل آنتروپیک در برابر انفجار هوشمی‌ریم، می‌بینیم که این شرکت چاره‌ای نداشته جز اینکه واقعیت‌های کف آزمایشگاهش رو خیلی روراست با سرمایه‌گذارها و قانون‌گذارها در میون بذاره.

بررسی دقیق اطلاعات موجود درپرونده رسمی ثبت‌شده آنتروپیک در کمیسیون بورس و اوراق بهادار آمریکانشون می‌ده که تا ماه مه ۲۰۲۶، بین ۸۰ تا ۹۰ درصد از کل کدهایی که وارد سیستم‌های اصلی این شرکت می‌شن، توسط خود مدل هوش مصنوعی کلود نوشته شدن! بیاید خیلی ساده، خودمانی و به دور از اصطلاحات پیچیده مهندسی ببینیم توی ساختمان مرکزی آنتروپیک چه خبره و چرا رسیدن به هوش مصنوعی خودساز می‌تونه قواعد کل دنیای فناوری رو برای همیشه عوض کنه.

چرا گزارش جدید آنتروپیک کل دره سیلیکون رو شوکه کرد؟

تا همین یکی دو سال پیش، وقتی دانشمندهای علوم کامپیوتر درباره هوش مصنوعی خودساز حرف می‌زدن، خیلی‌ها فکر می‌کردن دارن درباره ده یا بیست سال آینده صحبت می‌کنن. تصور عمومی این بود که مدل‌های زبانی فقط یه ابزار کمکی هستن که به برنامه‌نویس‌ها پیشنهادهای ساده می‌دن تا کارشون یکم سریع‌تر راه بیفته.

اما گزارش مالی و راهبردی جدید آنتروپیک آب پاکی رو روی دست همه ریخت. این گزارش یه سند تبلیغاتی نیست که برای جذب مشتری نوشته شده باشه؛ بلکه یه پرونده رسمی و حقوقیه که هر کلمه‌اش بار قانونی داره. وقتی شرکتی که یکی از سه غول اصلی هوش مصنوعی دنیاست، توی چنین سندی رسماً اعلام می‌کنه که به آستانه ساخت هوش مصنوعی خودساز رسیده، یعنی اون آینده‌ای که توی فیلم‌ها می‌دیدیم همین الان پشت دروازه‌ست.

شوک اصلی بازار از اینجاست که این اتفاق در سکوت خبری و توی پروژههای روزمره خود شرکت رخ داده. یعنی قبل از اینکه مردم عادی متوجه بشن، هوش مصنوعی کلود آرام‌آرام صندلی اصلی کدنویسی رو از مهندس‌های انسانی تحویل گرفته و خودش نشسته پشت فرمان توسعه نسل‌های بعدی خودش.

معنی ساده بهبود خودکار بازگشتی یا همون هوش مصنوعی خودساز

توی متن گزارش آنتروپیک از یه عبارت تخصصی به اسم بهبود خودکار بازگشتی یا همون RSI استفاده شده. بذارید این عبارت رو خیلی ساده معنی کنیم تا دقیقاً دستتون بیاد ماجرا از چه قراره. در حالت عادی، صدها مهندس و محقق نابغه ماه‌ها وقت می‌ذارن، کد می‌نویسن و داده‌ها رو مرتب می‌کنن تا مثلاً نسخه چهارم یه هوش مصنوعی رو بسازن. بعد دوباره همون آدم‌ها باید بشینن و ماه‌ها کار کنن تا نسخه پنجم رو بسازن.

اما توی حالت بهبود خودکار بازگشتی، انسان میاد نسخه فعلی هوش مصنوعی رو می‌سازه و بعد به خود همون هوش مصنوعی می‌گه حالا بشین کدهای خودت رو بررسی کن، ضعف‌هات رو پیدا کن، کدهای بهتری بنویس و نسخه بعدی و باهوش‌تر خودت رو بساز!

وقتی نسخه جدید ساخته شد، چون از نسخه قبلی باهوش‌تره، می‌تونه نسخه بعدی رو حتی سریع‌تر و بهتر از قبل بسازه. این چرخه مثل یه گلوله برفی که از بالای کوه رها شده، هر لحظه بزرگ‌تر و سریع‌تر می‌شه، بدون اینکه نیاز باشه انسان توی تک‌تک مراحلش دخالت مستقیم داشته باشه. آنتروپیک داره می‌گه ما الان دقیقاً لب مرز شروع شدن این چرخه ایستادیم.

تسخیر اتاق کدنویسی؛ وقتی کلود جای مهندس‌های انسان رو می‌گیره

یکی از جذاب‌ترین و در عین حال تکان‌دهنده‌ترین بخش‌های این گزارش، آمارهایی هست که از داخل بخش مهندسی خود شرکت آنتروپیک بیرون اومده. شرکتی که بهترین مهندس‌های نرم‌افزار دنیا رو با حقوق‌های چند صد هزار دلاری استخدام کرده، حالا بیشتر کارهای کدنویسی خودش رو سپرده دست محصول خودش یعنی کلود.

نوشتن ۸۰ تا ۹۰ درصد کدهای شرکت توسط خود مدل کلود

طبق آمارهای رسمی ثبت‌شده در اسناد شرکت، تا ماه مه ۲۰۲۶ بیش از ۸۰ درصد از تمام کدهایی که در سیستم‌های آنتروپیک ادغام و نهایی می‌شن، مستقیم توسط مدل کلود نوشته شدن. حتی توی بعضی از بخش‌ها و گزارش‌های تکمیلی داخلی، این عدد به بالای ۹۰ درصد هم رسیده!

فکرش رو بکنید؛ از هر ده خط کدی که برای ارتقای سرورها، بهینه‌سازی الگوریتم‌ها و ساخت قابلیت‌های جدید کلود نوشته می‌شه، نه خطش رو خود کلود نوشته و فقط یک خطش کار دست مستقیم برنامه‌نویس‌های انسانیه. این یعنی چرخه خودسازی هوش مصنوعی در مقیاس کوچک‌تر، نه در آینده، بلکه همین الان توی آزمایشگاه‌های آنتروپیک شروع به کار کرده.

این کدها فقط کدهای ساده ظاهری یا طراحی صفحات وب نیستن؛ بلکه کدهای اجرایی و پیچیده‌ای هستن که مستقیماً توی هسته اصلی سیستم‌های شرکت ادغام می‌شن و زیرساخت نسل بعدی مدل‌های هوش مصنوعی رو شکل می‌دن.

تغییر نقش برنامه‌نویس‌ها از نویسنده کد به ناظر و مدیر پروژه

حالا شاید بپرسید پس اون همه مهندس فوق‌حرفه‌ای که توی آنتروپیک کار می‌کنن، صبح که میان شرکت دقیقاً چیکار می‌کنن؟ گزارش جدید جواب این سوال رو خیلی شفاف داده: نقش مهندس‌های انسانی از کدنویس تغییر کرده به ناظر، مدیر و هدایت‌کننده روند کار.

امروز توی آنتروپیک، یه مهندس نرم‌افزار به جای اینکه ساعت‌ها بشینه پای کیبورد و خط به خط کد بزنه، چند تا ایجنت خودران هوش مصنوعی کلود رو مدیریت می‌کنه. مهندس میاد هدف رو مشخص می‌کنه، معماری کلی رو می‌چینه و به ایجنت‌ها دستور می‌ده که کدهای لازم رو بنویسن و تست کنن.

وقتی کلود کدها رو آماده کرد، مهندس انسانی مثل یه سرپرست یا بازرس کنترل کیفیت وارد می‌شه، خروجی کار رو بررسی می‌کنه، باگ‌های احتمالی یا مشکلات امنیتی رو چک می‌کنه و در نهایت اجازه ادغام شدن اون کدها رو توی سیستم اصلی صادر می‌کنه. یعنی کار یدی و زمان‌بر کدنویسی کامل افتاده گردن هوش مصنوعی و مغز انسان فقط کار رهبری و نظارت رو انجام می‌ده.

انفجار بهره‌وری و افزایش عجیب خروجی کدها در ماه مه ۲۰۲۶

نتیجه طبیعی این روش کار، یه اتفاق خیره‌کننده توی راندمان کاری شرکت بوده. آنتروپیک اعلام کرده که استفاده از ایجنت‌های خودران و مدل‌هایی که می‌تونن کدهای اجرایی کامل تولید کنن، باعث شده میزان خروجی و خطوط کد ادغام‌شده به ازای هر مهندس در شرکت، نسبت به سال‌های گذشته به شکل باورنکردنی بالا بره.

کاری که قبلاً یه تیم ده نفره از برنامه‌نویس‌ها باید سه ماه روش وقت می‌ذاشتن تا به نتیجه برسه، الان توسط یک مهندس ناظر و چند تا ایجنت کلود ظرف چند روز جمع می‌شه. این افزایش بهره‌وری به آنتروپیک اجازه داده با سرعتی خیلی بیشتر از شرکت‌های سنتی، محصولات و مدل‌های جدیدش رو توسعه بده و توی کورس رقابت با غول‌های دیگه جا نمونه.

خطرناک‌ترین سناریوی امنیتی؛ چرا سرعت بالا ترسناک شده؟

تا اینجای کار همه چیز شبیه یه داستان موفقیت فوق‌العاده به نظر می‌رسه؛ بهره‌وری بالا رفته، کدها سریع‌تر نوشته می‌شن و مدل‌ها روزبه‌روز باهوش‌تر می‌شن. پس چرا آنتروپیک این موضوع رو در قالب یه هشدار جدی امنیتی توی پرونده مالی خودش ثبت کرده؟ جواب توی یک کلمه خلاصه می‌شه: سرعت!

از دست رفتن حلقه بازخورد ایمنی وقتی ماشین از انسان جلو می‌زنه

آنتروپیک خیلی صریح و بدون تعارف اعلام کرده که استفاده از هوش مصنوعی برای ساختن مدل‌های قوی‌تر، خطرات امنیتی بسیار جدی به همراه داره. بزرگ‌ترین چالش اینه که سرعت ارتقای ماشین از سرعت فهم و ارزیابی انسان جلو بزنه.

توی مهندسی ایمنی، یه مفهومی وجود داره به اسم حلقه بازخورد ایمنی. یعنی وقتی شما یه سیستم جدید می‌سازید، باید به اندازه کافی وقت داشته باشید که اون رو تست کنید، رفتارهای عجیبش رو ببینید، براش قانون و محدودیت بذارید و بعد برید سراغ ساخت نسخه بعدی.

اما اگر هوش مصنوعی شروع کنه به ارتقا دادن خودش با سرعتی که ده برابر یا صد برابر سریع‌تر از توانایی انسان برای بررسی کردن کدهاست، این حلقه ایمنی کاملاً قطع می‌شه. یعنی قبل از اینکه مهندس‌های انسانی بفهمن نسخه فعلی چه خطرات یا باگ‌های پنهانی داره، هوش مصنوعی سه نسل جلوتر رفته و سیستم‌هایی ساخته که بسیار پیچیده‌تر از درک ناظرهای انسانی هستن.

کابوس طراحی نسل بعدی مدل‌ها بدون درک کامل مهندس‌ها

وقتی ۸۰ تا ۹۰ درصد کدها رو خود هوش مصنوعی می‌نویسه، یه خطر پنهان دیگه هم به وجود میاد. انسان ذاتاً محدودیت زمانی و ذهنی داره؛ وقتی یه ایجنت هوش مصنوعی روزی چند ده هزار خط کد پیچیده تولید می‌کنه، آیا مهندس ناظر واقعاً می‌تونه تک‌تک اون خطوط رو با دقت صد درصدی بخونه و بفهمه پشت هر خط چه منطقی خوابیده؟

ترس بزرگ اینه که به مرور زمان، کدهای پایه مدل‌های جدید هوش مصنوعی انقدر توسط خود ماشین بازنویسی و پیچیده بشن که دیگه هیچ انسان زنده‌ای روی کره زمین نتونه سر دربیاره داخل جعبه سیاه این مدل‌ها دقیقاً چه اتفاقی داره می‌افته. اگر مدل هوش مصنوعی تصمیم بگیره یه راه میان‌بر خطرناک یا یه کد مخفی رو برای رسیدن به هدفش توی نسل بعدی جاگذاری کنه، پیدا کردنش برای ناظرهای انسانی تقریباً غیرممکن می‌شه.

جدول مقایسه روند کدنویسی انسان و هوش مصنوعی در آنتروپیک

برای اینکه تغییر بزرگ رخ‌داده در آزمایشگاه‌های آنتروپیک رو خیلی واضح ببینید، در جدول زیر روش سنتی توسعه هوش مصنوعی رو با وضعیت فعلی در ماه مه ۲۰۲۶ و مرحله کامل هوش خودساز مقایسه کردیم

آمارهای رسمی و نقل قول مستقیم از پرونده مالی آنتروپیک

نگاهی به آمارهای منتشرشده در این گزارش، عمق ماجرا رو خیلی بهتر نشون می‌ده. رسیدن سهم کدنویسی مدل کلود به بازه ۸۰ تا ۹۰ درصد در ماه مه ۲۰۲۶ در حالی اتفاق افتاده که طبق برآوردهای تحلیلی بازار، میانگین استفاده از کدهای تولیدشده توسط هوش مصنوعی در شرکت‌های فناوری معمولی حدود ۳۰ تا ۴۰ درصده. یعنی آنتروپیک در استفاده از هوش مصنوعی برای ساختن خودِ هوش مصنوعی، بیش از دو برابر جلوتر از میانگین کل بازار حرکت می‌کنه.

در بخش هشدارهای راهبردی و ریسک‌های گزارش آنتروپیک، این جملات کلیدی به صورت رسمی ثبت شده است: «ما به دستیابی به قابلیت بهبود خودکار بازگشتی بسیار نزدیک شده‌ایم؛ نقطه‌ای که در آن هوش مصنوعی می‌تواند کدهای خود را بنویسد و مدل‌های بعدی را آموزش دهد. اگر سیستم‌های هوش مصنوعی با سرعتی فراتر از توانایی انسان در ارزیابی و قانون‌گذاری شروع به ارتقای خود کنند، حلقه بازخورد ایمنی از دست می‌رود و کنترل اوضاع بسیار دشوار خواهد شد.»

این اعتراف صریح نشون می‌ده که بحث هوش مصنوعی خودساز دیگه یه تئوری دانشگاهی نیست، بلکه یه واقعیت عملیاتی توی بزرگ‌ترین شرکت‌های هوش مصنوعی دنیاست.

سیاست مقیاس‌گذاری مسئولانه؛ ترمز اضطراری آنتروپیک چطور کار می‌کنه؟

با وجود تمام این هشدارهای ترسناک، آنتروپیک توی گزارش خودش سعی کرده به سرمایه‌گذارها و دولت‌ها اطمینان بده که افسار کار رو کامل رها نکرده و برای مهار کردن این غول خودساز برنامه دقیقی داره.

خط قرمزهای شرکت برای جلوگیری از سرکشی مدل‌های خودساز

ستون اصلی دفاعی آنتروپیک، چارچوبی هست که خودشون بهش می‌گن سیاست مقیاس‌گذاری مسئولانه. طبق این سیاست، شرکت برای سطح توانایی‌های هوش مصنوعی خط قرمزهای مشخصی تعیین کرده. هر وقت مدلی به یکی از این مرزهای خطرناک مثل توانایی خودسازی مستقل یا قابلیت‌های سایبری تهاجمی نزدیک بشه، شرکت موظفه قبل از برداشتن قدم بعدی، قفل‌های امنیتی بسیار سفت‌وسخت‌تری رو فعال کنه.

آنتروپیک توی این گزارش تاکید کرده که اگر در هر مرحله‌ای احساس کنه سرعت ارتقای مدل‌ها داره از توان تیم‌های ایمنی برای ارزیابی و کنترل خارج می‌شه، طبق تعهدات قانونی خودش موظفه روند آموزش و ارتقا رو متوقف کنه تا اول ابزارهای کنترلی لازم ساخته بشن.

چرا نظارت انسانی در مراحل حساس هنوز قابل حذف شدن نیست؟

مهم‌ترین قولی که آنتروپیک توی این سند داده اینه که اجازه نمی‌ده مدل‌های هوش مصنوعی بدون نظارت و کنترل دائمی انسان، خودشون تنهایی بشینن و نسل‌های آینده رو طراحی و منتشر کنن.

درسته که کلود داره ۸۰ تا ۹۰ درصد کدها رو می‌نویسه، اما کلید نهایی اجرای کدها، تغییر دادن معماری اصلی و شروع کردن آموزش مدل‌های جدید، هنوز زیر دست مهندس‌های انسانیه. به عبارت دیگه، کلود نقش معمار و کارگر فوق‌سریع رو بازی می‌کنه، اما مهر تایید نهایی و کلید برق ساختمان هنوز توی جیب مدیران انسانی شرکته. هرچند خود آنتروپیک هم قبول داره که با بالاتر رفتن سرعت و پیچیدگی کار، نگه داشتن این کلید توی دست انسان هر روز داره سخت‌تر و پرچالش‌تر می‌شه.

این اتفاق چه تاثیری روی بازار کار برنامه‌نویس‌ها در ایران داره؟

وقتی خبر می‌رسه که توی شرکت سازنده کلود، ۹۰ درصد کدها رو خود هوش مصنوعی می‌نویسه، اولین سوالی که برای هزاران برنامه‌نویس، دانشجوی کامپیوتر و علاقه‌مند به فناوری توی ایران پیش میاد اینه که پس آینده شغلی ما چی می‌شه؟

آیا یاد گرفتن کدنویسی در سال ۲۰۲۶ هنوز هم می‌ارزه؟

بذارید خیلی رک و واقع‌بینانه جواب بدیم: اگه منظور از کدنویسی اینه که فقط سینتکس و قواعد ظاهری یه زبان برنامه‌نویسی رو حفظ کنید و کدهای تکراری بزنید، بله، این بخش از کار عملاً همین الان هم توسط مدل‌هایی مثل کلود بلعیده شده.

اما همون‌طور که توی خود گزارش آنتروپیک هم دیدیم، مهندس‌های این شرکت اخراج نشدن، بلکه بهره‌وری‌شون چند برابر شده و نقششون عوض شده! دنیای نرم‌افزار در سال ۲۰۲۶ به جای تایپیست کد، به معمار سیستم و مدیر ایجنت‌های هوش مصنوعی نیاز داره. کسی که منطق برنامه‌نویسی، امنیت سیستم و معماری نرم‌افزار رو بلد نباشه، اصلاً نمی‌تونه بفهمه کدی که هوش مصنوعی براش نوشته درسته یا پر از حفره‌های امنیتی خطرناکه.

پنج مهارت حیاتی که هر برنامه‌نویس برای بقا باید یاد بگیره

برای اینکه توی این دوران جدید نه تنها شغلتون رو از دست ندید، بلکه مثل مهندس‌های آنتروپیک خروجی کارتون رو ده برابر کنید، باید سراغ این پنج مهارت کلیدی برید

• مدیریت و رهبری ایجنت‌های کدنویسیاد بگیرید چطور یه پروژه بزرگ رو به بخش‌های کوچک تقسیم کنید و هر بخش رو با دستورات دقیق به ایجنت‌های هوش مصنوعی مثل کلود بسپارید.
• بازبینی کد و تست امنیت (Code Review)چون هوش مصنوعی کدها رو می‌نویسه، ارزش کسی که بتونه کدهای تولیدشده رو بخونه، باگ‌های پنهانش رو بگیره و امنیتش رو تایید کنه از طلا هم بیشتره.
• معماری سیستم و طراحی کلانهوش مصنوعی توی نوشتن قطعات کد عالیه، اما طراحی نقشه کلی سیستم و نحوه ارتباط اجزای مختلف با هم، هنوز نیازمند دید عمیق انسانیه.
• تسلط بر قوانین ایمنی و حریم خصوصیبا حساس شدن شرکت‌ها روی خطرات هوش مصنوعی، مهندس‌هایی که بلد باشن محدودیت‌های امنیتی رو روی ایجنت‌ها پیاده کنن، بالاترین درآمدها رو خواهند داشت.
• تفکر سیستمی و حل مسالهبه جای تمرکز روی اینکه چطور یه کد رو بنویسید، روی این تمرکز کنید که چه مشکلی از کاربر باید حل بشه و بهترین راه حل منطقی براش چیه.

آیا ما در یک قدمی انفجار هوش مصنوعی هستیم؟

گزارش مالی و راهبردی جدید آنتروپیک یه نقطه عطف واقعی در سال ۲۰۲۶ به حساب میاد. اینکه مدل کلود همین الان بیش از ۸۰ تا ۹۰ درصد کدهای شرکت سازنده خودش رو می‌نویسه، نشون می‌ده که هوش مصنوعی خودساز یا همون بهبود خودکار بازگشتی، دیگه یه رویای دور نیست و عملاً شروع شده.

این تحول از یک طرف می‌تونه سرعت پیشرفت علم، پزشکی و مهندسی رو به شکل باورنکردنی بالا ببره، اما از طرف دیگه، همون‌طور که خود آنتروپیک هشدار داده، ریسک از دست رفتن حلقه ایمنی و خارج شدن سرعت رشد ماشین از کنترل انسان رو به شدت جدی کرده. حالا همه نگاه‌ها به مدیران آنتروپیک و سایر غول‌های فناوری دوخته شده تا ببینیم آیا سیاست‌های نظارت انسانی می‌تونه همپای این قطار فوق‌سریع حرکت کنه یا نه.

سوالات متداول

برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.