سازمان ملل خواستار تدابیر پیشگیرانه فوری در حوزه هوش مصنوعی شد

سازمان ملل متحد در گزارشی تازه نسبت به خطرات امنیتی عوامل هوش مصنوعی هشدار داد و خواستار اعمال نظارت‌های بین‌المللی دقیق‌تر پیش از وقوع فاجعه شد.

هوش مصنوعیتکناک، پنل علمی سازمان ملل متحد در نخستین ارزیابی جامع خود پیرامون نفوذهای امنیتی اخیر در پلتفرم‌هایی نظیرHugging Faceبه دولت‌ها هشدار داد که پیش از درک کامل ظرفیت‌های خطرناک عوامل هوش مصنوعی، تدابیر نظارتی لازم را اتخاذ کنند. این بیانیه هم‌زمان با برگزاری مجمع عمومی سازمان ملل در نیویورک منتشر شده است؛ رویدادی که به کانون دیپلماسی جهانی تبدیل شده وموضوع ایمنی هوش مصنوعیرا در صدر مذاکرات بین‌المللی، از جمله گفت‌وگوهای میان ایالات متحده و چین، قرار داده است.

آنتونیو گوترش، دبیرکل سازمان ملل، پیش‌تر با تأکید بر لزوم همکاری‌های بین‌المللی برای مقابله با این تهدیدها، تصریح کرد که جهان توان تحمل رقابتی افسارگسیخته را در زمینه ایمنی هوش مصنوعی ندارد.

ضرورت ایجاد چارچوب نظارتی بین‌المللی

پنل علمی بین‌المللی مستقل درباره هوش مصنوعی که سال گذشته به عنوان نهاد علمی جهانی این سازمان تأسیس شد، در گزارش موضوعی خود خواستار تخصیص منابع بیشتر و هماهنگی دقیق‌تر برای مدیریت خطرات نوظهور شده است. با وجود تفاوت رویکردهای حقوقی کشورها، این پنل بر ضرورت دستیابی به یک چارچوب بین‌المللی برای پاسخگویی و ایمنی تأکید می‌کند.

استناد به اصل احتیاط علمی

طبق گزارشورجاستدلال اصلی این گزارش بر پایه «اصل احتیاط» بنا شده است. کارشناسان معتقدند جامعه جهانی نباید برای اجرای محافظت‌های قوی‌تر، منتظر روشن شدن کامل مکانیسم‌های دقیق این رخدادهای امنیتی بماند. از نظر این نهاد، ریسک از دست دادن کنترل بر هوش مصنوعی، دقیقاً در زمره مشکلاتی است که پتانسیل آسیب‌های فاجعه‌بار و غیرقابل‌جبران دارند؛ حتی اگر احتمال وقوع آن‌ها از منظر علمی همچنان نامشخص باشد. این اصل که ریشه در اعلامیه ۱۹۹۲ ریو دارد، فقدان قطعیت علمی را مجوزی برای تعلل در برابر خطرات جدی نمی‌داند.

از زمان گزارش هک Hugging Face، موارد متعددی از آسیب‌پذیری‌های امنیتی در شرکت‌هایی نظیر OpenAI، Anthropic، گوگل و Meta مستند شده است. این رخدادها تنها به فضای مجازی محدود نمانده و شامل حملات به اهداف دنیای واقعی و استفاده از دسته‌های عوامل هوش مصنوعی برای تسلط بر انجمن‌های گفتگو نیز بوده است. اکنون سازمان ملل امیدوار است با تبدیل این مباحث به دستور کار اصلی دیپلماتیک، مانع از تکرار حوادث مشابه و گسترش این تهدیدات شود.

نوشتهسازمان ملل خواستار تدابیر پیشگیرانه فوری در حوزه هوش مصنوعی شداولین بار درTechnoc. پدیدار شد.

برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.