بر اساس پیشنهاد این دانشمندان، نهاد مورد نظر مسئول تعیین استانداردهای یکپارچه برای مهار و کنترل این سامانه‌ها در سراسر صنعت خواهد بود و پایگاهی برای ثبت حوادث امنیتی مهم ایجاد می‌کند؛ پایگاهی که به گفته امضاکنندگان، اطلاعات آن باید در نهایت در دسترس عموم قرار گیرد.

پژوهشگران در نامه‌ای سرگشاده تأکید کردند مدل‌های پیشرفته هوش مصنوعی باید در مرحله نخست از طریق قطع اتصال شبکه‌ای، از ارتباط با شبکه‌های خارجی جدا شوند و تحت نظارت مستقل قرار گیرند. آن‌ها معتقدند تعهدات داوطلبانه شرکت‌های فعال در این صنعت برای مدیریت خطرات کافی نیست.

این پیشنهاد یک ماه پس از آن مطرح می‌شود که شرکت‌های آنتروپیک، اوپن‌ای‌آی، گوگل، متا، ایکس‌ای‌آی و انویدیا توافق‌نامه‌ای را در کاخ سفید امضا کردند و متعهد شدند اقداماتی داوطلبانه برای افزایش ایمنی هوش مصنوعی انجام دهند؛ توافقی که سازوکار رسمی و الزام‌آوری برای اجرای تعهدات در نظر نگرفته بود.

این نامه همچنین در پی مجموعه‌ای از حوادث منتشر شده است که به گفته پژوهشگران، ضعف‌های موجود در شیوه آزمایش و مهار سامانه‌های پیشرفته هوش مصنوعی را آشکار کرده‌اند. از جمله این حوادث، مواردی بوده که مدل‌های هوش مصنوعی توانسته‌اند از محیط‌های آزمایشی با محدودیت‌های ناکافی عبور کنند و سامانه‌های خارجی را به خطر بیندازند.

امضاکنندگان این نامه از ۳۴ کشور جهان هستند. آن‌ها خواستار شده‌اند سازمان‌هایی که مدل‌های دارای قابلیت‌های سایبری را توسعه می‌دهند یا آزمایش می‌کنند، بلافاصله استانداردهای سخت‌گیرانه و قابل‌اتکایی برای مهار این سامانه‌ها به کار بگیرند؛ هم‌زمان با آنکه دولت‌ها برای ایجاد چارچوب رسمی‌تر نظارت تلاش می‌کنند.

سیاست‌گذاران نیز به‌طور فزاینده‌ای درباره نحوه نظارت بر سامانه‌های پیشرفته هوش مصنوعی بحث می‌کنند. هنّا ویرکونن، مسئول فناوری اتحادیه اروپا، روز جمعه به رویترز گفت قانون هوش مصنوعی این اتحادیه برای مقابله با خطرات ناشی از سامانه‌های هوش مصنوعی خارج از کنترل، کافی است.

از سوی دیگر، دولت دونالد ترامپ روز یکشنبه از تصمیم قبلی خود عقب‌نشینی کرد و ممنوعیت دسترسی زودهنگام مؤسسه امنیت هوش مصنوعی بریتانیا به مدل‌های شرکت‌های آمریکایی برای آزمایش‌های ایمنی را لغو کرد.

جفری هینتون و یوشوا بنجیو در سال ۲۰۱۸ به همراه یان لوکان، پژوهشگر ارشد هوش مصنوعی در شرکت متا، جایزه تورینگ را دریافت کردند. لوکان این نامه را امضا نکرده و معتقد است حوادث امنیتی اخیر عمدتاً ناشی از ضعف‌های مهندسی هستند، نه خطرات وجودی هوش مصنوعی برای بشریت.

انتهای پیام