یک دانشمند سرشناس درباره آزمایش خطرناک شرکت‌های هوش مصنوعی هشدار داد

یوشوا بنجیو، برنده جایزه تورینگ و یکی از چهره‌های شناخته‌شده‌ای که از او به‌عنوان یکی از پدرخوانده‌های هوش مصنوعی یاد می‌شود، در مراسم افتتاحیه هفته علم برلین نسبت به روند توسعه هوش مصنوعی هشدار داد.

معتقد است شرکت‌های فعال در صنعت هوش مصنوعی عملاً از رعایت قوانین اولیه ایمنی معاف هستند و بدون نظارت کافی، فناوری‌هایی با قدرت و قابلیت‌های روزافزون توسعه می‌دهند.

بنجیو در سخنرانی خود شرایط کنونی صنعت هوش مصنوعی را به یک آزمایش عظیم تشبیه کرد که انسان‌ها بدون آگاهی و رضایت کافی، به موش‌های آزمایشگاهی آن تبدیل شده‌اند.

او با اشاره به اسناد مربوط به عرضه اولیه سهام شرکت آنتروپیک گفت که حتی در مدارک رسمی این شرکت نیز درباره خطرات احتمالی هوش مصنوعی پیشرفته و تهدید موجودیت بشر هشدار داده شده است.

بنجیو با لحنی کنایه‌آمیز به تناقض موجود میان هشدارهای ایمنی و منافع اقتصادی این صنعت اشاره کرد و گفت

هیچ‌کس هیچ اقدامی انجام نمی‌دهد! این عرضه اولیه سهام قرار است صدها میلیاردر جدید به وجود بیاورد؛ دقیقاً همان چیزی که جهان به آن نیاز دارد!

این دانشمند در شرایطی چنین انتقادهایی را مطرح کرده که قصد دارد دفتر برلین سازمان غیرانتفاعی لاوزیرو را راه‌اندازی کند. این مجموعه یک آزمایشگاه پژوهشی با هدف توسعه هوش مصنوعی ایمن به شمار می‌رود و تلاش دارد راهکارهایی برای کاهش خطرات ناشی از سیستم‌های پیشرفته هوش مصنوعی ارائه دهد.

بنجیو معتقد است توسعه هوش مصنوعی فوق‌العاده قدرتمند را نمی‌توان صرفاً به شرکت‌های خصوصی و رقابت تجاری میان آن‌ها واگذار کرد. از نگاه او، رقابت شرکت‌ها برای دستیابی به فناوری‌های قدرتمندتر، بدون چارچوب‌های نظارتی مؤثر، می‌تواند خطرات جدی برای آینده بشر به همراه داشته باشد.

او تأکید دارد که تصمیم‌گیری درباره مسیر توسعه چنین فناوری مهمی باید از انحصار شرکت‌های خصوصی خارج شود و تحت نظارت عمومی در سطح جهانی قرار بگیرد.

به باور بنجیو، هوش مصنوعی پیشرفته فقط یک محصول تجاری یا ابزار اقتصادی نیست، بلکه فناوری‌ای با پیامدهای گسترده اجتماعی و انسانی محسوب می‌شود. به همین دلیل، دولت‌ها و نهادهای بین‌المللی باید در تعیین استانداردهای ایمنی و نظارت بر توسعه آن نقش مستقیم داشته باشند.

اظهارات این دانشمند بار دیگر بحث درباره ضرورت تنظیم مقررات جهانی برای هوش مصنوعی، مسئولیت شرکت‌های فناوری و خطرات احتمالی توسعه سیستم‌های فوق‌پیشرفته را در مرکز توجه قرار داده است.

برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.