OpenAI، انتروپیک و دیپ‌مایند برای مقابله با خطرات AI مذاکره کردند

OpenAIتأییدکرد که باآنتروپیکوGoogle DeepMindدرباره ایمنی و خطرات هوش مصنوعی پیشرفته و امکان همکاری میان این شرکت‌ها گفت‌وگو کرده است.

هوش مصنوعیتک‌ناککریس لِهین، مدیر سیاست‌گذاری جهانی OpenAI، گفته است که این شرکت‌ها درباره روش‌های مختلف همکاری در زمینه ایمنی هوش مصنوعی گفت‌وگو می‌کنند.

او همچنین تأکید کرده است که OpenAI معتقد نیست چنین همکاری‌هایی به معافیت از قوانین ضدانحصار آمریکا نیاز داشته باشد.

هشدار درباره خطر ابرهوش خودبهبوددهنده

این روند پس از استعفای جیکوب کاکسون، پژوهشگر سابق OpenAI و آنتروپیک، آغاز شد. کاکسون پس از ترک این شرکت‌ها، آن‌ها را متهم کرد که برای رسیدن به ابرهوش خودبهبوددهنده با سرعت زیادی رقابت می‌کنند، بدون اینکه اقدامات مسئولانه کافی برای کنترل خطرات آن انجام دهند.

او هشدار داد که برخی کارکنان این شرکت‌ها واقعاً معتقدند هوش مصنوعی ممکن است تا پایان این دهه تمام انسان‌ها را از بین ببرد.

کاکسون همچنین گفت آزمایشگاه‌های هوش مصنوعی در حال «قمار کردن با جان انسان‌ها» هستند.

این هشدار حتی از سوی همکاران سابق او نیز نادیده گرفته نشد. ایوان هوبینگر، مدیر بخش Alignment Science در آنتروپیک، به‌صورت عمومی از اظهارات کاکسون حمایت کرد و گفت شخصاً احتمال کشته شدن تمام انسان‌ها توسط هوش مصنوعی طی دهه آینده را بیش از ۱۰ درصد می‌داند.

اظهارات این دو پژوهشگر بحث گسترده‌تری را درباره سرعت توسعه مدل‌های پیشرفته هوش مصنوعی ایجاد کرد و این پرسش را مطرح کرد که آیا آزمایشگاه‌های پیشرو باید روند توسعه این فناوری را کاهش دهند یا خیر.

بیشتر بخوانیدبیل گیتس هوش مصنوعی را به هوش فرازمینی تشبیه کرد؛ هشدار به دولت‌ها

پیشنهاد آنتروپیک برای کاهش سرعت توسعه AI

چند روز پس از این هشدارها، داریو آمودی، مدیرعامل آنتروپیک، مقاله‌ای با عنوان «We Must Pace the Frontier» منتشر کرد و از شرکت‌های فعال در حوزه هوش مصنوعی خواست سرعت ارتقای قدرتمندترین سیستم‌های خود را کاهش دهند.

پیشنهاد آمودی شامل ایجاد امکان دسترسی دائمی ارزیاب‌های مستقل ایمنی به شرکت‌های توسعه‌دهنده مدل‌های پیشرفته است.

بر اساس این پیشنهاد، ارزیاب‌های شخص ثالث باید بتوانند به‌صورت مستقل ایمنی مدل‌ها را بررسی کنند.

او همچنین خواستار توافق آزمایشگاه‌های هوش مصنوعی بر سر استانداردهای مشترک ایمنی و در نهایت حرکت به سمت هماهنگی بین‌المللی شد.

آنتروپیک نیز اعلام کرده است که اجرای طرح استفاده از ارزیاب‌های مستقل را خودش آغاز خواهد کرد.

بیشتر بخوانیداعمال محدودیت انویدیا و پالانتیر برای استفاده از مدل‌های پیشرفته AI

حمایت مدیران فناوری از همکاری ایمنی

سم آلتمن، مدیرعامل OpenAI، نیز در شبکه اجتماعی X از ایده همکاری برای افزایش ایمنی هوش مصنوعی حمایت کرده است.

ایلان ماسک نیز از این پیشنهاد پشتیبانی کرده است.

با وجود آغاز گفت‌وگوهای میان OpenAI، آنتروپیک و Google DeepMind، هیچ‌یک از این شرکت‌ها تاکنون به‌صورت رسمی اعلام نکرده‌اند که توسعه مدل‌های پیشرفته خود را متوقف یا محدود خواهند کرد.

بنابراین، هنوز مشخص نیست مذاکرات فعلی میان سه آزمایشگاه هوش مصنوعی به توافق‌های مشخص و الزام‌آوری منجر خواهد شد یا خیر.

نوشتهOpenAI، انتروپیک و دیپ‌مایند برای مقابله با خطرات AI مذاکره کردنداولین بار درTechnoc. پدیدار شد.

برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.