هوش مصنوعی کدی تولید می‌کند که فراتر از درک انسان است
گسترش کدنویسی با هوش مصنوعی باعث شده برخی مهندسان درک کدهای تولیدشده را دشوار بدانند و درباره کاهش مهارت و افزایش خطاها هشدار دهند . هوش مصنوعی تک‌ناک این روند به جایی رسیده است که برخی مهندسان دیگر نمی‌توانند کدی را که هوش مصنوعی تولید می‌کند درک کنند. جرمی ن…
خلاصه تحلیلی خبر
گسترش کدنویسی با هوش مصنوعی باعث شده برخی مهندسان درک کدهای تولیدشده را دشوار بدانند و درباره کاهش مهارت و افزایش خطاها هشدار دهند . هوش مصنوعی تک‌ناک این روند به جایی رسیده است که برخی مهندسان دیگر نمی‌توانند کدی را که هوش مصنوعی تولید می‌کند درک کنند. جرمی ن…
موضوعات اصلی: پشتیبانی شبکه، هوش مصنوعی، مصنوعی، هوش، مهندسان، می‌کند
گسترش کدنویسی با هوش مصنوعی باعث شده برخی مهندسان درک کدهای تولیدشده را دشوار بدانند و درباره کاهش مهارت و افزایش خطاها هشدار دهند.
هوش مصنوعیتک‌ناکاین روند به جایی رسیده است که برخی مهندسان دیگر نمی‌توانند کدی را که هوش مصنوعی تولید می‌کند درک کنند.
جرمی نیکسون، بنیان‌گذار شرکت نرم‌افزاری Infinity که در زمینه بهینه‌سازی تراشه فعالیت می‌کند، این موضوع را در گفت‌وگو باBusiness Insiderمطرح کرده است.
فاصله گرفتن برنامه‌نویسان از کدنویسی
این وضعیت با توجه به یافته‌های پژوهشگران درباره تأثیر استفاده گسترده از هوش مصنوعی بر توانایی‌های شناختی و کاهش مهارت‌ها، از جمله در میان دانشمندان علوم کامپیوتر، نگرانی‌هایی ایجاد کرده است.
توسعه‌دهندگان نگران هستند که مهندسان نرم‌افزار با فشار شرکت‌ها برای افزایش خودکارسازی، بیش از پیش از فرایند واقعی کدنویسی و یادگیری مهارت‌های لازم برای طراحی پروژه‌های بزرگ فاصله بگیرند.
حتی کارکنان آزمایشگاه‌های پیشرو هوش مصنوعی نیز از ناتوانی برخی همکاران خود در درک خروجی مدل‌های هوش مصنوعی ابراز نگرانی کرده‌اند.
اوایل امسال، جردن نانوس، عضو فنی شرکت پژوهشی مستقل SemiAnalysis، در مصاحبه‌ای گفت مهندسان OpenAI هنگام بررسی کد کرنل واحد پردازش گرافیکی خودشان، نمی‌دانستند دقیقاً با چه چیزی روبه‌رو هستند.
این برنامه بخش مهمی از تلاش OpenAI برای استفاده بهتر از سخت‌افزار موجود جهت آموزش و اجرای مدل‌های هوش مصنوعی است.
نانوس در گفت‌وگو با منصور کرم از Fireside Alpha گفت: «نکته این است که افرادی که همراه ما این کد را بررسی می‌کردند، به‌وضوح اطلاعات زیادی درباره سخت‌افزار و مفاهیم مختلف سیستم داشتند، اما واقعاً نمی‌دانستند این کرنل MLA که برای DeepSeek به ما نشان می‌دادند دقیقاً چه کاری انجام می‌دهد.»
او افزود: «می‌توانید خط‌به‌خط کد را بررسی کنید و مدام به این نتیجه برسید که نه، این را هم نمی‌دانم و آن را هم نمی‌دانم. هوش مصنوعی آن را درک می‌کند، آزمایش می‌کند و شما نتیجه را می‌بینید. این سیستم کرنل‌های درست و دقیقی تولید می‌کند که عملکرد بسیار خوبی دارند.»
نانوس در آن زمان استدلال کرده بود که «کد واقعی لزوماً چیزی نیست که انسان مجبور باشد عمیقاً درباره آن استدلال کند»، زیرا «هوش مصنوعی می‌داند چگونه جابه‌جایی داده‌ها و عناصر پردازشی را روی سخت‌افزاری که در اختیارش قرار داده‌اید مدیریت کند.»
بیشتر بخوانیدمایکروسافت: پایان عصر کدنویسی دستی؛ آینده از آنِ مهندسی با هوش مصنوعی است
خطر خطاهای پنهان در کدهای تولیدشده
یکی از خطرات این روند آن است که خطاها یا توهمات هوش مصنوعی با کاهش نظارت انسانی از دید مهندسان پنهان بمانند. آمازون نمونه‌ای از این نگرانی است.
این شرکت در اوایل سال جاری و پس از مجموعه‌ای از اختلال‌ها که سفارش‌های مشتریان را تحت تأثیر قرار داد، مجبور شد یک «بازتنظیم ۹۰ روزه ایمنی کد» اجرا کند.
آمازون ادعاهای مربوط به نقش هوش مصنوعی در این اختلال‌ها را رد کرد، اما صورت‌جلسه‌های داخلی نشان داد مدیران درباره «دامنه اثرگذاری گسترده» تغییرات «با کمک هوش مصنوعی مولد» نگرانی داشتند.
تحلیل اخیر شرکت نرم‌افزاری Undo نیز نشان می‌دهد حرکت به سمت عامل‌های هوش مصنوعی می‌تواند این روند را تشدید کند.
این شرکت اعلام کرده است که حدود ۳۵ درصد از کدهای تولیدشده با هوش مصنوعی پیش از آنکه تیم‌های مهندسی آنها را وارد محیط تولید کنند، به‌طور کامل درک نشده‌اند.
همچنین ۲۹ درصد از مهندسان نرم‌افزار شرکت‌کننده در این بررسی گفته‌اند که چند بار در ماه شاهد کاهش بهره‌وری به دلیل نیاز مهندسان به «باز کردن و اصلاح کدهای تولیدشده توسط هوش مصنوعی» بوده‌اند. ۹۴ درصد نیز گفته‌اند که دست‌کم یک بار در شش ماه گذشته با چنین اتفاقی مواجه شده‌اند.
حجم بالای زمانی که مهندسان اکنون هر روز برای بررسی کدهای تولیدشده توسط هوش مصنوعی صرف می‌کنند، یک پرسش جدی ایجاد کرده است: آیا استفاده از این فناوری بیش از آنکه مفید باشد، دردسر ایجاد می‌کند؟
بیشتر بخوانیدساخت اپلیکیشن بدون کدنویسی در کوپایلت مایکروسافت ممکن شد
تغییر الگو در توسعه نرم‌افزار
از نگاه افرادی مانند نانوس، این مسئله لزوماً نشانه ناتوانی مهندسان نیست. سرگئی کلفتسوف، پژوهشگر هوش مصنوعی، نیز در مطلبی در Medium این وضعیت را «صرفاً نمونه‌ای از یک تغییر الگو در توسعه نرم‌افزار» توصیف کرده است.
او نوشت: «به بیان دیگر، هوش مصنوعی تا جایی پیشرفت کرده است که دیگر لازم نیست درباره بسیاری از مسائل نگران باشیم. توسعه‌دهندگان فقط باید معماری و معیارهای درستی را مشخص کنند و شبکه عصبی بقیه کارها را انجام خواهد داد.»
با این حال، مشخص نیست این نگاه خوش‌بینانه با غیرقابل‌شناسایی‌تر شدن فرایند توسعه نرم‌افزار تا چه اندازه دوام خواهد آورد.
از سوی دیگر، پژوهشگران نگران هستند که نسل جدید مهندسان در محیطی رشد کند که اهمیت درک خود کد را به‌طور جدی کاهش می‌دهد.
این مسئله در دنیایی که به‌طور فزاینده‌ای دیجیتال می‌شود و هوش مصنوعی نقش محوری در آن پیدا کرده است، نگرانی‌های بیشتری ایجاد می‌کند.
نوشتههوش مصنوعی کدی تولید می‌کند که فراتر از درک انسان استاولین بار درTechnoc. پدیدار شد.
برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.