رفتارهای خارج از کنترل عامل‌های هوش مصنوعی، از جمله نفوذ به شبکه‌های سازمانی و همچنین افشای اخیر شرکت آنتروپیک درباره ارسال یک گزارش دروغین قتل از سوی یک مدل هوش مصنوعی به وب‌سایت پلیس، هشدار پژوهشگران را در پی داشته و نگرانی‌ها درباره پیشرفت سریع این فناوری را افزایش داده است.

هاسابیس گفت برای به‌کارگیری رویه‌های ایمنی مشابه آنچه در حوزه‌هایی مانند زیست‌شناسی و صنعت هسته‌ای برای حفاظت از سامانه‌های حیاتی استفاده می‌شود، «کارهای زیادی باید انجام شود». او افزود که در نهایت به نوعی نهاد بین‌المللی برای تدوین استانداردها نیاز خواهد بود.

هاسابیس که دانشمند ارشد شرکت آلفابت، شرکت مادر گوگل، نیز هست، در یک اجلاس هوش مصنوعی در دوبلین گفت: «فکر می‌کنم این حملات سایبری، زنگ هشدار اولیه‌ای برای ما هستند؛ زیرا سامانه‌ها هنوز آن‌قدر قدرتمند نیستند و به همین دلیل، حوادث رخ‌داده نیز چندان بزرگ نبوده‌اند.»

او هشدار داد: «اما اگر در صنعت، شرکت‌ها و دولت‌ها برای ایمن‌سازی این سامانه‌ها اقدامات بیشتری انجام ندهیم، ممکن است از سال آینده و طی یکی دو سال بعد با حوادث بزرگی مواجه شویم.»

برد اسمیت، رئیس مایکروسافت، نیز در این نشست گفت رفتارهای خارج از کنترل هوش مصنوعی، سال ۲۰۲۶ را به سالی «تأمل‌برانگیز» تبدیل کرده است و برای آنکه ایمنی همگام با نوآوری پیش برود، تصویب قوانین و مقررات جدید در حوزه ایمنی هوش مصنوعی فوریت دارد.

او گفت: «هیچ شرکت یا فناوری‌ای نباید فراتر از قانون باشد. ما به قانون و مقررات نیاز داریم؛ اما این مقررات باید منطقی و متعادل باشند و نوآوری‌ها را در نظر بگیرند.»

اسمیت افزود: «این مخالفت شدید برخی افراد در صنعت با مقررات‌گذاری، واقعاً چیزی است که باید از آن عبور کنیم.»

هاسابیس گفت اگرچه ایجاد یک نهاد بین‌المللی برای تدوین استانداردها راهکاری بدیهی به نظر می‌رسد، اما چنین نهادی باید انعطاف‌پذیر و دقیق عمل کند تا مانع نوآوری نشود.

او توضیح داد: «آنچه نیاز داریم، ایجاد یک فرایند صدور گواهی است که به‌صورت پویا توسعه یابد، متناسب با سطح ریسک‌ها باشد و بتواند با توجه به مسیر پیشرفت فناوری، به‌سرعت تغییر کند.»

انتهای پیام