پیام جدید بیل گیتس درباره فاجعه هوش مصنوعی؛ آن چیزی نیست که فکر می‌کنید

بیل گیتس هشدار داد قابلیت‌های فعلی هوش مصنوعی می‌توانند برای حملات سایبری سوءاستفاده شوند و به نظارت و سازوکارهای حفاظتی نیاز دارند.

هوش مصنوعیتک‌ناکاو این استدلال را در یک جمله چنین بیان کرد: «قابلیت انجام یک حمله سایبری که همه حساب‌های بانکی را مختل کند و شبکه برق را از کار بیندازد، همین امروز وجود دارد و ما می‌دانیم که چنین قابلیتی وجود دارد.»

ممکن است هنگام خواندن این جمله از کنار آن عبور کرده باشید، اما سه کلمه در این اظهارنظر بیش از همه قابل توجه هستند: «همین امروز وجود دارد.»

نگرانی گیتس از قابلیت‌های فعلی هوش مصنوعی

اگر بحث‌های مربوط به هوش مصنوعی را به ماه آوریل برگردانیم، احتمالاً اعلام پروژه Mythos توسط آنتروپیک را به یاد می‌آورید.

آنتروپیک آن زمان مدلی را معرفی کرد که به گفته این شرکت آن‌قدر قدرتمند و ترسناک بود که امکان عرضه عمومی آن وجود نداشت.

گیتس از قابلیت‌هایی که مدل‌ها در آن زمان نشان دادند، نگران شده بود و ظاهراً همچنان همان نگاه را حفظ کرده است.

گیتس گفت: «قابلیت هک سایبری واقعاً شگفت‌انگیز بود. سپس موضوعی به نام Project Glasswing از سوی آنتروپیک مطرح شد که بر اساس آن، هوش مصنوعی را در اختیار چند نفر قرار می‌دادید تا پیش از استفاده، باگ‌ها را برطرف کنند.

اما حجم کدها بیش از حد زیاد است. بنابراین ما اکنون در دوره‌ای از آسیب‌پذیری شدید در برابر حملات سایبری قرار داریم.»

گیتس به «برخی جنبه‌های Hugging Face» اشاره می‌کند و معتقد است مدل‌های هوش مصنوعی به «یک لایه نظارتی که دارای برخی اصول قطعی باشد» نیاز دارند.

به بیان دیگر، او معتقد است اگر به موج اخیر حوادث امنیت سایبری گزارش‌شده در جریان ارزیابی‌های ایمنی مدل‌های هوش مصنوعی نگاه کنیم، خطر مربوط به آینده نیست و همین حالا در برابر ما قرار دارد.

بیشتر بخوانیدبیل گیتس هشدار داد؛ هوش مصنوعی می‌تواند باعث مرگ یک میلیارد نفر شود

تهدید اصلی از نگاه گیتس، انسان‌ها هستند

گیتس هنگام صحبت درباره مدل‌های متن‌باز به‌طور ویژه تأکید می‌کند که برای ایجاد این خطر، نیازی نیست ناگهان نوعی خودآگاهی در مدل‌ها شکل بگیرد یا یک گرایش شرورانه دیجیتال در آن‌ها پدیدار شود. به گفته او، منشأ خطر انسان‌ها هستند.

گیتس گفت: «افرادی وجود دارند که به دلایل بد می‌توانند از این مدل‌ها استفاده کنند. بنابراین اگر سازوکارهای حفاظتی و نظارتی ایجاد نکنیم و وجود آن‌ها را برای همه مدل‌ها الزامی نکنیم، در نهایت شاهد رویدادهای بسیار بزرگی از این نوع خواهیم بود و پس از آن واکنش نشان خواهیم داد.»

گیتس در کنار این هشدارها، اظهارنظرهایی نیز مطرح کرده است که ممکن است اغراق‌آمیز به نظر برسند.

او به کلاین گفت توسعه هوش مصنوعی «شبیه تاریخ تکامل» است و «بیگانگان واقعاً اینجا هستند و آمده‌اند» که منظور او هوش مصنوعی است.

با این حال، مدل‌های هوش مصنوعی امروزی و قابلیت‌های آن‌ها دیگر برای بسیاری از مردم ناشناخته نیستند.

به نظر می‌رسد نگرانی اصلی گیتس بیشتر به این واقعیت مربوط می‌شود که این قابلیت‌ها همین حالا در دسترس هستند و در دنیای واقعی مورد استفاده قرار می‌گیرند.

گیتس در گذشته دلایل زیادی به جهان داده است که نسبت به نقش او در زمینه رهبری اخلاقی با احتیاط نگاه شود، اما این موضوع لزوماً به این معنا نیست که نمی‌توان از دیدگاه‌های او برای فکر کردن درباره خطرات هوش مصنوعی استفاده کرد.

بیشتر بخوانیدبیل گیتس هوش مصنوعی را به هوش فرازمینی تشبیه کرد؛ هشدار به دولت‌ها

نوشتهپیام جدید بیل گیتس درباره فاجعه هوش مصنوعی؛ آن چیزی نیست که فکر می‌کنیداولین بار درTechnoc. پدیدار شد.

برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.