پژوهشگران هوش مصنوعی با انتشار ویدیوهایی نسبت به خطر اَبَرهوش هشدار دادند

جفری ایروینگ، پژوهشگر سابق OpenAI و Google DeepMind، در مصاحبه‌ای تازه گفت احتمال انقراض بشر از نظر او تقریبا مثل شیر یا خط است.

این گفت‌وگو یکی از حدود ۱۲ مصاحبه‌ای محسوب می‌شود که با پژوهشگران هوش مصنوعی، از جمله کارکنان فعلی و سابق OpenAI، گوگل و Anthropic انجام شده است. مؤسسه Palisade Research که خود را یک سازمان غیرانتفاعی فعال در زمینه بررسی توانایی‌ها و انگیزه‌های سامانه‌های هوش مصنوعی معرفی می‌کند، این مصاحبه‌ها را گردآوری کرده و در وب‌سایت frominside.ai منتشر نموده است.

هشدار درباره خطر انقراض بشر

چند تن از پژوهشگران حاضر در این مجموعه نیز مانند ایروینگ درباره احتمال نابودی انسان‌ها در نتیجه پیشرفت هوش مصنوعی هشدار داده‌اند. نیل ناندا، دانشمند پژوهشی در Google DeepMind، گفت

دست‌کم ۱۰ درصد احتمال دارد که این فناوری باعث انقراض بشر شود و این رقم به شکل مضحکی بالاست.

اظهارات ناندا و ایروینگ پیش‌تر در گزارشی درباره جامعه فعال در حوزه ایمنی هوش مصنوعی نیز مطرح شده بود؛ حوزه‌ای که تعریف دقیق آن، تعیین اقداماتی که باید در این زمینه انجام شود و حتی توافق بر سر یک راه‌حل مشخص، همچنان دشوار به نظر می‌رسد. این ویدیوها نیز راهکار واحد و منسجمی برای مقابله با خطرات مورد بحث ارائه نمی‌دهند.

دانیل کوکوتایلو، پژوهشگر سابق OpenAI، هشدار خود را حتی صریح‌تر بیان کرد و گفت

هوش مصنوعی ابرهوشمند اساسا قدرتی شبیه خدا خواهد داشت. متأسفانه ما اصلا نمی‌دانیم چگونه باید آنها را کنترل کنیم. بنابراین احتمالا هیچ‌کس قادر به کنترلشان نخواهد بود. این دقیقا به همان اندازه که به نظر می‌رسد خطرناک است و نباید اجازه داد چنین چیزی اتفاق بیفتد.

مری فونگ از گوگل گفت

فکر می‌کنم کاملا باید نسبت به حرف‌هایی که من می‌زنم بدگمان باشید، چون آزمایشگاهی که در آن کار می‌کنم به من حقوق می‌دهد.

نیل ناندا نیز درباره دلیل ادامه فعالیت خود در این حوزه توضیح داد

اگر باور نداشتم کاری که انجام می‌دهم مستقیما خطرات وجودی را کاهش می‌دهد، استعفا می‌دادم… این شرکت‌ها فقط به این دلیل که من استعفا بدهم، ساخت این سامانه‌ها را متوقف نخواهند کرد.

برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.