۴۰۰ دانشمند خواستار تشکیل نهاد بین‌المللی برای نظارت بر هوش مصنوعی پیشرفته شدند

حدود ۴۰۰ دانشمند از ۳۴ کشور جهان، ازجمله «جفری هینتون» و «یوشوا بنجیو»، خواستار تشکیل نهادی بین‌المللی برای نظارت بر استانداردهای مهار هوش مصنوعی پیشرفته و ثبت گزارش حوادث امنیتی مرتبط با این فناوری شدند. این پژوهشگران معتقدند تعهدات داوطلبانه شرکت‌های فناوری برای کنترل خطرهای هوش مصنوعی کافی نیست و باید سازوکار نظارتی مستقل‌تری ایجاد شود.

براساسبیانیه این دانشمنداننهاد پیشنهادی باید استانداردهای مشترکی برای مهار سیستم‌های هوش مصنوعی پیشرفته و برخوردار از قابلیت‌های سایبری تعیین کند و پایگاهی برای ثبت حوادث امنیتی مهم به وجود آورد. به گفته امضاکنندگان، اطلاعات این پایگاه باید در دسترس عموم قرار بگیرد.

پژوهشگران همچنین پیشنهاد کرده‌اند مدل‌های پیشرفته هوش مصنوعی در مرحله نخست از طریق جداسازی فیزیکی از شبکه‌های خارجی محدود شوند و تحت نظارت مستقل قرار بگیرند. آن‌ها از سازمان‌هایی که چنین مدل‌هایی را توسعه می‌دهند یا آزمایش می‌کنند، خواسته‌اند فوراً استانداردهای مهار با سطح اطمینان بالا را اجرا کنند؛ هم‌زمان، دولت‌ها نیز باید برای ایجاد چارچوب رسمی‌تر نظارت بر این فناوری تلاش کنند.

درخواست ۴۰۰ دانشمند برای نظارت بر هوش مصنوعی پیشرفته

این درخواست در پی مجموعه‌ای از حوادث مطرح شده است که به گفته پژوهشگران، ضعف روش‌های آزمایش و مهار سیستم‌های پیشرفته هوش مصنوعی را آشکار کرده‌اند. در برخی موارد، مدل‌های هوش مصنوعی توانسته‌اند از محیط‌های آزمایشی با محدودیت‌های ناکافی خارج شوند و سیستم‌های خارجی را به خطر بیندازند.

درحالی‌که بحث دربارهٔ چگونگی نظارت بر سیستم‌های پیشرفته هوش مصنوعی در میان سیاست‌گذاران ادامه دارد، «هِنا ویرکونن» (Henna Virkkunen)، مسئول فناوری اتحادیه اروپا، می‌گوید قانون هوش مصنوعی این اتحادیه برای رسیدگی به خطرهای ناشی از سیستم‌های هوش مصنوعی خارج از کنترل کافی است. از سوی دیگر، دولت ترامپ روز یکشنبه ممنوعیت دسترسی زودهنگام آزمایشگاه امنیت هوش مصنوعی بریتانیا به مدل‌های شرکت‌های آمریکایی برای آزمایش ایمنی را لغو کرد.

برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.