پایان عصر مهندسی انسان؛ با هوش مصنوعی خودبهبودبخش آشنا شوید

سال‌ها یک تصور ساده اما عمیق درباره هوش مصنوعی داشتیم: انسان ماشین را می‌سازد، انسان آن را آموزش می‌دهد، انسان خطاهایش را پیدا می‌کند و در نهایت انسان نسخه بعدی و بهتر آن را طراحی می‌کند.

اما اگر این زنجیره یک روز شکسته شود چه؟

خبرICTاگر ماشین فقط پاسخ‌گوی ما نباشد، بلکه بتواندکدهای خودش را بررسی کند، روش‌های بهتر را پیشنهاد دهد، آزمایش کند، نتیجه را ارزیابی کند و بخشی از نسخه بعدی خودش را بسازددیگر با همان هوش مصنوعی آشنای امروز روبه‌رو نیستیم.

اینجاست که مفهومهوش مصنوعی خودبهبودبخشیاRecursive Self-Improvementوارد داستان می‌شود.

و به نظر من، اتفاق مهمی که در حال رخ دادن است، «پایان هوش مصنوعی ساخته‌شده توسط انسان» نیست؛ بلکهپایان انحصار انسان بر فرایند مهندسی هوش مصنوعی است.

تحقیق و تدوینمهدی گمرکی

ایده ماشین خودبهبودبخش از کجا آمد؟

ایده اینکه یک ماشین بتواند در ساخت نسخه بهتر خودش نقش داشته باشد، متعلق به دوران ChatGPT و مدل‌های زبانی نیست.

از نخستین دهه‌های شکل‌گیریهوش مصنوعیپژوهشگران به این فکر می‌کردند که آیا می‌توان سیستمی ساخت که از تجربه‌های خود یاد بگیرد و عملکردش را بهتر کند.

در دهه‌های ۱۹۵۰ و ۱۹۶۰، نمونه‌هایی از سیستم‌های یادگیرنده و خودبهبوددهنده شکل گرفتند. برای مثال، برنامه بازی چکرز آرتور ساموئل از طریق بازی با خودش توانایی‌اش را بهبود می‌داد؛ یکی از نمونه‌های اولیه مهم یادگیری ماشینی از تجربه.

بعدها، این ایده در قالب‌های پیچیده‌تر ادامه پیدا کرد؛ از الگوریتم‌های تکاملی و AutoML گرفته تا یادگیری تقویتی، سیستم‌های خودارزیاب و در سال‌های اخیر، مدل‌هایی که می‌توانند در تولید و ارزیابی کد و طراحی سیستم‌های هوش مصنوعی مشارکت کنند.

اما یک تفاوت اساسی وجود دارد.

ماشین‌های قدیمی‌تر عمدتاً دریک مسئله مشخصبهتر می‌شدند.

هوش مصنوعی امروز کم‌کم وارد قلمروی دیگری شده است

بهبود خود فرایند ساخت هوش مصنوعی.

و همین نقطه است که ماجرا را جدی می‌کند.

هوش مصنوعی خودبهبودبخش دقیقاً چیست؟

برای درک ساده‌تر موضوع، تصور کنید یک برنامه‌نویس انسانی یک مدل هوش مصنوعی ساخته است.

در حالت معمول

۱. انسان مدل را طراحی می‌کند.
۲. انسان کد را می‌نویسد.
۳. انسان مدل را آموزش می‌دهد.
۴. انسان نتایج را بررسی می‌کند.
۵. انسان نقاط ضعف را پیدا می‌کند.
۶. انسان نسخه جدید را می‌سازد.

اما در یک سیستم خودبهبودبخش، بخشی از این چرخه می‌تواند به خود سیستم واگذار شود.

مدل می‌تواند

• کد را تحلیل کند؛
• خطاها را پیدا کند؛
• راه‌حل‌های جدید پیشنهاد دهد؛
• چند راه‌حل را آزمایش کند؛
• نتایج را با معیارهای مشخص مقایسه کند؛
• روش مؤثرتر را انتخاب کند؛
• و از تجربه حاصل برای دور بعدی استفاده کند.

اگر این چرخه بارها و بارها ادامه پیدا کند، با چیزی مواجه می‌شویم که به آنخودبهبودی بازگشتیگفته می‌شود.

در ساده‌ترین شکل

مدل >>> بهبود >>> مدل بهتر >>> بهبود دوباره >>> مدل بهتر

البته این تعریف ساده نباید ما را به یک برداشت اشتباه برساند.

امروز هنوز ماشین‌ها به‌صورت نامحدود و بدون محدودیت، خودشان را طراحی نمی‌کنند.

پژوهش‌های جدید نیز تأکید می‌کنند که میان «خوداصلاح محدود» و «خودبهبودی بازگشتی کاملاً خودمختار» فاصله قابل‌توجهی وجود دارد.

تجربه‌ای که نگاه ما به برنامه‌نویسی را تغییر می‌دهد

در تجربه کار باابزارهای هوش مصنوعی برای برنامه‌نویسییک اتفاق به ظاهر ساده اما بسیار مهم رخ داده است.

زمانی که یک خطای برنامه را پیدا می‌کردیم، انتظار داشتیم ماشین فقط توضیح بدهد مشکل کجاست.

امروز می‌توانیم کد را در اختیار یک مدل قرار دهیم و از آن بخواهیم

«خطا را پیدا کن، علتش را توضیح بده، راه‌حل ارائه کن، تست بنویس و دوباره بررسی کن.»

چند سال قبل، این فرایند بخش بزرگی از کار یک برنامه‌نویس بود.

امروز بخشی از آن را ماشین انجام می‌دهد.

اما اتفاق مهم‌تر زمانی رخ می‌دهد که سیستم از یک اصلاح منفرد عبور کند و بتواندروش حل مسئله خودش را نیز بهتر کند.

در این نقطه، نقش انسان از «نویسنده تمام کدها» به «طراح هدف، ناظر، ارزیاب و معمار سیستم» تغییر می‌کند.

به اعتقاد من، همین تغییر بسیار مهم‌تر از افزایش تعداد خطوط کدی است که هوش مصنوعی می‌تواند تولید کند.

آیا واقعاً به نقطه خودبهبودی بازگشتی رسیده‌ایم؟

نه؛ دست‌کم نه به معنای کامل و افراطی آن.

این همان جایی است که باید میان هیجان رسانه‌ای و واقعیت فنی فاصله بگذاریم.

هوش مصنوعی امروز می‌تواند در بخش‌هایی از توسعه هوش مصنوعی به انسان کمک کند. حتی برخی آزمایشگاه‌های پیشرو، بخش بیشتری از کارهای تحقیق و توسعه را به سیستم‌های هوش مصنوعی واگذار می‌کنند.

Anthropic در گزارش خود درباره خودبهبودی بازگشتی می‌گوید این روند در حال افزایش است و هوش مصنوعی می‌تواند به شکل فزاینده‌ای در توسعه نسل‌های بعدی سیستم‌های هوش مصنوعی مشارکت کند؛ با این حال، این شرکت تأکید می‌کند که هنوز به خودبهبودی بازگشتی کامل نرسیده‌ایم.

IEEE Spectrum نیز وضعیت فعلی را بیشتر یکطیف از خودبهبودیمی‌داند تا یک جهش ناگهانی به ماشین کاملاً خودمختار. سیستم‌های فعلی می‌توانند در ساخت هوش مصنوعی بهتر کمک کنند، اما همچنان انسان‌ها در تعیین هدف، تعریف معیار موفقیت و تصمیم‌گیری درباره تغییرات نقش دارند.

بنابراین اگر کسی بگوید «هوش مصنوعی همین حالا خودش را به‌طور کامل بازطراحی می‌کند»، این جمله بیشتر از آنکه یک توصیف دقیق علمی باشد، یک ساده‌سازی هیجان‌انگیز است.

اما اگر کسی بگوید «هیچ بخشی از فرایند خودبهبودی هنوز اتفاق نیفتاده»، آن هم با واقعیت امروز سازگار نیست.

واقعیت بین این دو قرار دارد؛ و اتفاقاً همین وضعیت از همه مهم‌تر است.

چرا این موضوع تا این اندازه مهم است؟

چون سرعت پیشرفت فناوری دیگر فقط به تعداد مهندسان یک شرکت وابسته نیست.

فرض کنید یک تیم تحقیقاتی ۱۰۰ مهندس دارد و هر مهندس می‌تواند بخشی از فرایند تحقیق را سریع‌تر انجام دهد.

حالا اگر همان تیم بتواند از سیستم‌هایی استفاده کند که بخشی از وظایف تحقیق، آزمایش، کدنویسی، ارزیابی و تحلیل را خودکار کنند، ظرفیت تیم افزایش پیدا می‌کند.

اگر این سیستم‌ها بتوانند خود ابزارهای مورد استفاده برای توسعه مدل را نیز بهبود دهند، یک حلقه شکل می‌گیرد

هوش مصنوعی بهتر >>> ابزارهای بهتر >>> تحقیق سریع‌تر >>> هوش مصنوعی بهتر

این حلقه همان چیزی است که مفهوم خودبهبودی بازگشتی را جذاب و در عین حال نگران‌کننده می‌کند.

پژوهش‌های منتشرشده در سال ۲۰۲۶ نیز تلاش کرده‌اند همین مسیر را از «خوداصلاح محدود» تا حلقه‌های تحقیقاتی خودکار و بسته بررسی کنند و نشان می‌دهند که هنوز محدودیت‌هایی مانند نیاز به ارزیابی قابل‌اعتماد، منابع محاسباتی و خطر حلقه‌های خودتأییدکننده وجود دارد.

اینجا پایان مهندسی انسان نیست

من با تیترهایی که می‌گویند «از فردا هوش مصنوعی جای همه مهندسان را می‌گیرد» موافق نیستم.

این تصویر بیش از حد ساده است.

اما با یک گزاره دیگر کاملاً موافقم

دوران انحصار انسان بر مهندسی هوش مصنوعی در حال پایان است.

این دو جمله تفاوت زیادی با یکدیگر دارند.

مهندس آینده الزاماً کسی نیست که بیشترین کد را خودش بنویسد.

ممکن است مهندس آینده کسی باشد که بتواند

• مسئله درست را تعریف کند؛
• هدف قابل اندازه‌گیری تعیین کند؛
• سیستم‌های هوش مصنوعی را هدایت کند؛
• خروجی آن‌ها را ارزیابی کند؛
• خطاهای پنهان را تشخیص دهد؛
• معماری مناسب را انتخاب کند؛
• و مهم‌تر از همه، مشخص کندچه چیزی نباید به ماشین واگذار شود.

این تغییر، حذف انسان نیست.

تغییر جایگاه انسان است.

بزرگ‌ترین خطر کجاست؟

خطر اصلی این نیست که یک ماشین ناگهان «باهوش» شود.

خطر واقعی زمانی ایجاد می‌شود که سرعت بهبود سیستم از توانایی ما برای ارزیابی آن جلو بزند.

فرض کنید یک سیستم بتواند هر روز چندین نسخه متفاوت از یک الگوریتم را تولید و آزمایش کند.

اگر معیار ارزیابی آن ناقص باشد، ممکن است سیستم به جای بهتر شدن، فقط یاد بگیرد چگونهمعیار ما را فریب دهد.

این مسئله اهمیت ارزیاب‌ها، تست‌ها، محیط‌های کنترل‌شده و نظارت انسانی را دوچندان می‌کند.

در یک سیستم خودبهبودبخش، سؤال فقط این نیست که

«آیا نسخه جدید بهتر است؟»

سؤال دشوارتر این است

«چه کسی تعیین کرده که این نسخه بهتر است؟»

و شاید این مهم‌ترین سؤال کل بحث باشد.

اگر ماشین بتواند ماشین بعدی را بسازد چه می‌شود؟

اینجا وارد قلمرویی می‌شویم که سال‌ها موضوع بحث پژوهشگران هوش مصنوعی بوده است.

اگر یک سیستم بتواند نسخه بعدی خود را طراحی کند و نسخه بعدی نیز بتواند نسخه‌ای بهتر از خودش بسازد، یک چرخه بازگشتی شکل می‌گیرد.

اما این چرخه الزاماً به معنای یک «انفجار هوش» فوری نیست.

سرعت پیشرفت همچنان به عواملی مانند توان محاسباتی، داده، الگوریتم، کیفیت ارزیابی، محدودیت‌های سخت‌افزاری و توانایی سیستم برای تشخیص درست و غلط وابسته خواهد بود.

با این حال، حتی یک خودبهبودی محدود نیز می‌تواند پیامدهای بزرگی داشته باشد.

زیرا تفاوت میان انسانی که یک ابزار را استفاده می‌کند و ماشینی که در ساخت نسل بعدی ابزار نقش دارد، تفاوت کوچکی نیست.

برنامه‌نویس حذف نمی‌شود؛ نقش او تغییر می‌کند

یکی از نخستین حوزه‌هایی که اثر این تحول را به شکل جدی احساس می‌کند، برنامه‌نویسی است.

کدنویسی دیگر تنها فعالیتی برای تبدیل یک ایده انسانی به دستورهای کامپیوتری نیست.

در حال حرکت به سمت دوره‌ای هستیم که در آن انسان می‌تواند مسئله را تعریف کند و مجموعه‌ای از عامل‌های هوش مصنوعی بخش بزرگی از طراحی، پیاده‌سازی، تست و اصلاح را انجام دهند.

اما همین موضوع یک مهارت جدید ایجاد می‌کند

توانایی قضاوت درباره کدی که خودمان ننوشته‌ایم.

این مهارت در آینده احتمالاً از توانایی تایپ سریع کد مهم‌تر خواهد بود.

زیرا اگر ماشین بتواند هزاران خط کد تولید کند، ارزش انسان دیگر در تولید همان هزاران خط نیست.

ارزش انسان در تشخیص این است که

• کدام خط لازم است؟
• کدام خط خطرناک است؟
• کدام معماری درست است؟
• کدام خروجی واقعاً مسئله را حل می‌کند؟

و چه چیزی را نباید به ماشین سپرد؟

یک تغییر بزرگ در مفهوم «مهندس»

برای مدت طولانی، مهندسی یعنی ساختن.

اما در عصر هوش مصنوعی خودبهبودبخش، مهندسی به تدریج به معنایطراحی سیستم‌هایی برای ساختنتبدیل می‌شود.

این تفاوت ظریف نیست.

یک مهندس ممکن است به جای نوشتن مستقیم تمام کد، محیطی بسازد که در آن چند عامل هوش مصنوعی کد تولید کنند، یک عامل دیگر آن را تست کند، عامل دیگری آسیب‌پذیری‌ها را پیدا کند و یک سیستم ارزیابی مستقل، نتیجه را بررسی کند.

در این مدل، انسان دیگر تنها سازنده نیست.

اوطراح کارخانه‌ای است که ماشین‌ها در آن به ساختن و بهبود دادن ادامه می‌دهند.

و این، به نظر من، یکی از عمیق‌ترین تغییرات تاریخ مهندسی است.

آیا باید از این آینده ترسید؟

ترس به‌تنهایی پاسخ مناسبی نیست.

هیجان هم پاسخ مناسبی نیست.

آنچه لازم داریمکنترل آگاهانه سرعت و دامنه خودکارسازیاست.

اگر قرار باشد هوش مصنوعی در فرایند ساخت هوش مصنوعی نقش بیشتری داشته باشد، باید همزمان ابزارهای ارزیابی، نظارت، امنیت و کنترل نیز رشد کنند.

چون نمی‌توانیم صرفاً بگوییم

«ماشین بهتر شد، پس نتیجه بهتر است.»

باید بدانیمچگونه بهتر شد، چرا بهتر شد و آیا این بهبود در همان جهتی است که انسان تعیین کرده است یا نه.

قضاوت نهایی: این یک انقلاب واقعی است، نه یک مد رسانه‌ای

ممکن است هنوز با نسخه کامل و خودمختار آن فاصله داشته باشیم؛ شواهد فعلی نیز همین را نشان می‌دهد.

اما چیزی بنیادی تغییر کرده است

هوش مصنوعی دیگر فقط موضوع مهندسی انسان نیست؛ خودش دارد به بخشی از فرایند مهندسی هوش مصنوعی تبدیل می‌شود.

و همین، مرز میان «ابزار» و «همکار مهندسی» را جابه‌جا می‌کند.

به نظر من، عنوان واقعی این تحول نباید «پایان مهندسی انسان» باشد.

عنوان دقیق‌تر این است

پایان دورانی که انسان تنها مهندس هوش بود.

از اینجا به بعد، رقابت فقط بر سر ساخت مدل‌های قدرتمندتر نیست.

رقابت بر سر ساخت سیستم‌هایی است که بتوانندبهتر فکر کنند، بهتر آزمایش کنند، بهتر ارزیابی کنند و در نهایت بهتر از نسل قبلی خودشان ساخته شوند.

و اگر این روند ادامه پیدا کند، شاید مهم‌ترین پرسش دهه آینده دیگر این نباشد که

«هوش مصنوعی چه کاری می‌تواند برای انسان انجام دهد؟»

بلکه این باشد

«وقتی هوش مصنوعی در ساخت نسل بعدی هوش مصنوعی شریک شد، انسان دقیقاً چه نقشی خواهد داشت؟»

پاسخ این سؤال هنوز قطعی نیست.

اما یک چیز قطعی است

ما وارد دوره‌ای شده‌ایم که در آن سرعت تکامل هوش مصنوعی فقط به سرعت مهندسان انسانی وابسته نخواهد بود.

نوشتههوش مصنوعی خودبهبودبخش؛ پایان عصر مهندسی انسان؟اولین بار درپایگاه خبری ارتباطات و فناوری اطلاعات. پدیدار شد.

برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.