ترس از آخرالزمان هوش مصنوعی بیش از حد بزرگنمایی شده است
«سیران مارتین» در اکونومیست مینویسد: «بهکارگیری اصول اولیه امنیت سایبری میتواند تا حد زیادی مشکلاتی را که آنتروپیک و OpenAI شناسایی کردهاند برطرف کند.» در ۱۹ مه ۱۹۹۸، هفت هکر از گروهی به نام L0pht وارد ساختمان دفاتر سنا در واشنگتن دیسی شدند. آنها با برخو…
خلاصه تحلیلی خبر
«سیران مارتین» در اکونومیست مینویسد: «بهکارگیری اصول اولیه امنیت سایبری میتواند تا حد زیادی مشکلاتی را که آنتروپیک و OpenAI شناسایی کردهاند برطرف کند.» در ۱۹ مه ۱۹۹۸، هفت هکر از گروهی به نام L0pht وارد ساختمان دفاتر سنا در واشنگتن دیسی شدند. آنها با برخو…
موضوعات اصلی: پشتیبانی شبکه، هوش مصنوعی، امنیت سایبری، مصنوعی، هوش، امنیت
«سیران مارتین» در اکونومیست مینویسد: «بهکارگیری اصول اولیه امنیت سایبری میتواند تا حد زیادی مشکلاتی را که آنتروپیک و OpenAI شناسایی کردهاند برطرف کند.»
در ۱۹ مه ۱۹۹۸، هفت هکر از گروهی به نام L0pht وارد ساختمان دفاتر سنا در واشنگتن دیسی شدند. آنها با برخورداری از امکان استفاده از نام مستعار، درحالیکه کتوشلوارهایی نامتناسب به تن داشتند، وارد جلسه شدند تا به یکی از کمیتههای کنگره هشدار دهند که هرکدام از آنها میتواند ظرف ۳۰ دقیقه اینترنت را غیرقابلاستفاده کند. در میان آنها افرادی با نامهای مستعار «Mudge»، «Space Rogue» و «Kingpin» حضور داشتند. چهارده سال بعد، «لئون پانهتا»، وزیر دفاع وقت آمریکا، درباره وقوع یک «پرل هاربر سایبری» هشدار داد.
امنیت سایبری سابقهای طولانی از پیشگوییهای آخرالزمانی دارد؛ پیشگوییهایی که با وجود وقوع هکها و آسیبهای متعدد و گاه جدی، هیچگاه دقیقاً به واقعیت نپیوستهاند. حالا، ۱۴ سال دیگر گذشته و موج تازهای از فاجعهنمایی به راه افتاده است. آنتروپیک در آوریل اعلام کرد جدیدترین مدلش به نام Mythos آنقدر در هککردن توانمند است که قرار نیست بهصورت عمومی عرضه شود. OpenAI نیز در ژوئیه فاش کرد که چند عامل هوش مصنوعی این شرکت از محیط آزمایشی خود خارج شده و وارد Hugging Face، کتابخانهای از مدلهای هوش مصنوعی، شدهاند. پس از آن نیز افشاگریهای مشابهی از سوی آنتروپیک، متا و مؤسسه امنیت هوش مصنوعی بریتانیا منتشر شد.
حمله عاملهای خودمختار به Hugging Face؛ امریکاییها جواب ندادند، چینیها دفاع کردند
این مدل داخلی OpenAI بود که فرار کرد و Hugging Face را هک کرد!
عامل هوش مصنوعی فراری OpenAI فقط Hugging Face را هک نکرد
چرا فرار مدل OpenAI نگرانکنندهترین خطای هوش مصنوعی تاکنون است
بعد از OpenAI، حالا نوبت Claude رسید که فرار، حمله و هک کند
مدل هوش مصنوعی متا در جریان آزمایشهای امنیت سایبری، یک شرکت دیگر را هک کرد
بعد از امریکاییها، حالا نوبت چینیها و Kimi K3 رسید که از سندباکس خود فرار کنند
یکی از رسانهها، در بازتاب حس نگرانی و بیم، این وضعیت را «آغاز عصر خطرناک سایبری هوش مصنوعی» نامید. اما آیا این بار واقعاً شرایط متفاوت است؟ یا همچنان تعادل ناپایدار میان حمله و دفاع برقرار است؟ در بیشتر موارد و خوشبختانه، همان تعادل همچنان برقرار است؛ به دو دلیل.
نخست اینکه الگویی که در آن اطلاعیهها و هشدارهای ترسناک، ظرف چند هفته جای خود را به ارزیابیهای سنجیدهتر میدهند، بار دیگر و بار دیگر تکرار میشود. برجستهترین ادعای آنتروپیک درباره Mythos این بود که این مدل توانسته نقصی را در نرمافزاری پرکاربرد کشف کند که قدمت آن حتی به دهه ۱۹۹۰ بازمیگشت. بااینحال، تحلیلهای بعدی نشان دادند که این تهدید بسیار کمخطرتر از چیزی است که تیترهای رسانهای القا میکردند. ظرف چند هفته، پیشبینیها درباره سونامی حملات سایبری مبتنی بر هوش مصنوعی جای خود را به پیشبینی دورهای صرفاً طوفانی دادند و سپس بحثها به این سمت رفت که هوش مصنوعی میتواند فرصتی برای بهبود امنیت باشد. اگر هوش مصنوعی در یافتن نقاط ضعف مهارت دارد، میتواند به رفع آنها نیز کمک کند.
در مورد عاملهای موسوم به «سرکش» (Rogue) نیز واقعیت آنقدرها که در نگاه اول به نظر میرسد نگرانکننده نیست. آنها سرکش نشده بودند. بلکه دقیقاً همان کاری را انجام میدادند که انسانها از آنها خواسته بودند؛ با این تفاوت که مانند کودکانی بااستعداد اما بدون نظارت، بیش از حد پیشقدم و فاقد انضباط بودند. آنها هیچ آسیب واقعی ایجاد نکردند.
جزئیات این رخدادها با یکدیگر متفاوت است، اما عامل مشترک، ناتوانی در کنترل محیط آزمایش است. این وضعیت باید اصلاح شود. برخی افراد در جامعه امنیت سایبری از ضعف کنترلهای آزمایشی ابراز شگفتی کردند و خاطرنشان کردند که اگر آزمونهای شرکتهای امنیتی به نتایج مشابهی منجر میشد، ممکن بود پای شکایتهای قضایی و حتی پیگرد کیفری به میان بیاید.
این اصل پاسخگویی بسیار مهم است و فراتر از محیط آزمایش میرود. عاملها میتوانند بهصورت خودکار عمل کنند، اما خودمختار نیستند: هرکس یک عامل را برای انجام کاری به کار میگیرد، مسئول کاری است که آن عامل انجام میدهد. اگر جهان اجازه دهد عاملهای هوش مصنوعی بدون نظارت یا پاسخگویی به حال خود رها شوند و هر کاری که میخواهند انجام دهند، حملات سایبری در میان مشکلاتی که در پی خواهد آمد، احتمالاً از کماهمیتترین آنها خواهند بود.
دومین دلیل برای حفظ آرامش، به درک هکرها بازمیگردد. گزارشهای مربوط به Mythos و عاملها، به شرایط آزمایشی مصنوعی؛ یعنی همان محیط ایزوله سندباکس مربوط میشوند. استفاده از عاملها برای هک در دنیای واقعی مستلزم عبور از حفاظهای ایمنی و صرف هزینههای محاسباتی بسیار سنگین است.
این محدودیتها اهمیت دارند؛ زیرا بااینکه چندین سال از آغاز عصر هوش مصنوعی گذشته، اما شواهد مبنی بر اینکه هکرهای مخرب از تکنیکهای پیشرفته هک مبتنی بر هوش مصنوعی استفاده میکنند، همچنان به شکل شگفتآوری اندک است.
سال گذشته، یک مقاله پژوهشی اولیه از MIT Sloan که با همکاری یک شرکت ارائهدهنده خدمات امنیت هوش مصنوعی تهیه شده بود، ادعا کرد که ۸۰ درصد از حملات باجافزاری (مخربترین شکل جرایم سایبری) با استفاده از هوش مصنوعی انجام شدهاند. بخشهای بازاریابی شرکتها بهسرعت روی این یافته مانور و نشریات معتبر نیز آن را بازتاب دادند.
اما این مقاله پس ازآنپس گرفته شد که منتقدان متوجه شدند پژوهشگران، WannaCry را نیز در شمار حملات مبتنی بر هوش مصنوعی قرار دادهاند؛ حملهای در سال ۲۰۱۷ که طی آن هکرهای کره شمالی با حملهای که از کنترل خارج شد، در بیش از ۱۵۰ کشور اختلال ایجاد کردند.
یکی از افرادی که این ادعای بیمعنا را شناسایی کرد، «مارکوس هاچینز»، متخصص امنیت سایبری بریتانیایی بود که به دلیل متوقفکردن WannaCry شهرت دارد. هاچینز اکنون از «هراس جمعی درباره Mythos» ابراز تأسف میکند؛ بهویژه باتوجهبه اینکه «تأسیسات تصفیه آب محلی با Windows XP کار میکند» که در زمان حمله WannaCry نیز از رده خارج شده بود. او همچنین به این نکته اشاره میکند که «پروتکلی که ترافیک اینترنت را مسیریابی میکند، صرفاً با این توافق جمعی ایمن شده است که ربودن آن کار جالبی نیست.»
Mudge و دیگران در سال ۱۹۹۸ هشدار داده بودند که بخشهای بنیادی معماری اینترنت بهشدت ناامن هستند و برخی از آنها هنوز هم همین وضعیت را دارند. دلیل اینکه هیچکس اینترنت را از کار نینداخته این است که هیچ هکر توانمندی دلیل موجهی برای انجام چنین کاری ندارد و هرکس چنین اقدامی کند، باید انتظار پیامدهای سنگینی را داشته باشد. این امر همچنان مبنای ناپایدار زندگی دیجیتال مدرن است.
نکته هاچینز درباره زیرساختهای حیاتی، حتی از این هم بهروزتر و مهمتر است. درحالیکه رسانهها با حیرت به شکستهای آزمونهای هوش مصنوعی خیره شده بودند؛ هکرها در دنیای واقعی به تأسیسات آب در ۱۲ ایالت آمریکا حمله میکردند. اینکه چه کسانی پشت این حملات بودند (برخی ایران را مسئول میدانند، اما دونالد ترامپ، رئیسجمهور آمریکا، با این نظر مخالف است) در این بحث چندان تفاوتی ایجاد نمیکند. آنها از تکنیکهای ابتدایی و سوءاستفاده از ضعفهای اساسی امنیتی استفاده میکردند، نه از هوش مصنوعی پیشرفته. اینجاست که نکته اصلی خود را نشان میدهد: امنیت سایبری زیرساختی اغلب آنقدر ضعیف است که هکرها اساساً نیازی به تکنیکهای جدید و گرانقیمت ندارند.
هوش مصنوعی هنوز به بیشتر هکرها قدرتهای جادویی و کاملاً جدیدی نمیدهد. اما میتواند به آنها کمک کند تا آمادهسازی، سرعت و مقیاس عملیات خود را افزایش دهند. این وضعیت میتواند احتمال آن را بیشتر کند که غفلت از امنیت، سرانجام گریبان سازمانها را بگیرد و این همان درس کسلکننده اما حیاتی است.
در کنفرانس امنیتی Black Hat که این ماه برگزار شد، دو تن از کارکنان OpenAI درباره حادثه مربوط به Hugging Face ارائهای داشتند. توصیه نهایی آنها این بود که بهکارگیری اصول اساسی و دیرینه امنیت میتوانست تا حد زیادی به مهار عاملهای بیش از حد مشتاق OpenAI کمک کند. شاید این نتیجه افسردهکننده باشد؛ اما اگر لازم است هیاهوی اغراقآمیز درباره رباتهای هوش مصنوعی همهکاره که دست به عملیاتهای هکری افسارگسیخته میزنند، سرانجام غرب را وادار کند بر رفع نقصهای امنیت سایبریای تمرکز کند که مدتهاست آب و دیگر خدمات حیاتی را در معرض خطر قرار دادهاند، پس بگذارید چنین باشد.
گزارش حاضر در نسخه Augst 29th2026 نشریه The Economist منتشر شده است.
برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.