مهار هوش مصنوعی سرکش؛ اتحادیه اروپا نگران هشدارها نیست

مقام‌های ارشد اتحادیه‌ی اروپا اعلام کرده‌اند که مقررات تدوین‌شده در قاره‌ی سبز آمادگی کامل برای مهار خطرات ناشی از مدل‌های سرکش هوش مصنوعی و خروج احتمالی عامل‌های هوشمند از کنترل انسان را دارند.

پس از رویدادهای اخیر در شرکت‌های اوپن‌ای‌آی و آنتروپیک، نگرانی‌های جهانی پیرامون احتمال خودمختاری سامانه‌های پیشرفته افزایش یافته است.

کمیسیون اروپا ابزارهای قانونی لازم را برای نظارت بر فناوری‌های نوظهور در اختیار دارد.حنا ویرکاننمسئول ارشد فناوری اتحادیه اروپا، درگفت‌وگو با رویترزگفت: «ما می‌بینیم که ایمنی و امنیت مدل‌های بسیار توانمند به موضوعی بسیار داغ در سطح بین‌المللی تبدیل شده است و ما در اروپا برای مواجهه با چنین وضعیتی کاملا مجهز هستیم.»

قانون هوش مصنوعی اتحادیه‌ی اروپا که دو سال پیش تصویب شد، بر پایه‌ی سطوح ریسک فعالیت می‌کند و از سخت‌گیرانه‌ترین چارچوب‌های نظارتی جهان به‌شمار می‌رود. ویرکونن ضمن رد ادعای منتقدانی که قوانین اروپا را قدیمی می‌دانند، گفت: «ما قانون هوش مصنوعی خود را در اختیار داریم و این قانون تمام چرخه‌ی حیات چنین مدل‌هایی را پوشش می‌دهد.»

رگولاتورهای اروپایی با در نظر گرفتن توصیه‌های ۶۰ کارشناس برجسته، راهنمایی‌های لازم برای ارزیابی مدل‌ها را به شرکت‌ها ارائه می‌دهند.

کمیسیون اروپا در اواخر اوت از بیش از ۳۰ شرکت فعال در حوزه توسعه الگوریتم‌ها درخواست اطلاعات کرد تا جزئیات تدابیر ایمنی و امنیتی خود را شفاف سازند. ویرکونن هم‌اکنون مشغول بررسی پاسخ‌های ارسالی این شرکت‌ها است.داریو آمودیمدیرعامل آنتروپیک، پیش‌تر در یادداشتی هشدار داده بود که سرعت خیره‌کننده‌ی پیشرفت فناوری به‌دلیل قابلیت خودبهبودی بازگشتی ممکن است از توانایی درک و مهار انسان فراتر برود.