پیشنهاد تازه پدرخوانده هوش مصنوعی برای کنترل مدل‌ها پیش از عرضه عمومی

جفری هینتون، پدرخوانده هوش مصنوعی خواستار ایجاد سیستم تأییدیه مشابه FDA برای مدل‌های هوش مصنوعی شد و درباره افزایش سریع خطرهای این فناوری هشدار داد.

سرویسهوش مصنوعیتک‌ناکهینتون روز سه‌شنبه در پادکست “Smart Girl Dumb Questions” گفت که صنعت هوش مصنوعی به سیستم تأییدیه‌ای مشابه فرایند سازمان غذا و داروی آمریکا، FDA، نیاز دارد. بر اساس پیشنهاد او، شرکت‌ها باید پیش از انتشار عمومی مدل‌های خود، شواهد کافی درباره ایمنی آنها ارائه دهند و تأیید نهاد مسئول را دریافت کنند.

او در گفت‌وگو با نایما رضا، مجری این پادکست، صنعت داروسازی را نمونه‌ای برای اجرای چنین سیستم نظارتی معرفی کرد. هینتون گفت: «شما اجازه ندارید یک داروی جدید تولید کنید و آن را وارد بازار نمایید. باید FDA را متقاعد کنید. برای این کار نیز باید اقدامات زیادی انجام دهید که حدود یک میلیارد دلار هزینه دارد.»

پدرخوانده هوش مصنوعی تصریح کرد: «به نظر می‌رسد این حداقل کاری است که باید برای هوش مصنوعی انجام دهیم.»

بیشتر بخوانیدچالش بزرگ بعدی ایجنت‌های شخصی هوش مصنوعی؛ وب‌سایت‌ها اجازه ورود نمی‌دهند

نگرانی از عرضه مدل‌های قدرتمند هوش مصنوعی

هینتون این پیشنهاد را در شرایطی مطرح کرده که نگرانی‌ها درباره خطرهای احتمالی مدل‌های قدرتمند هوش مصنوعی افزایش یافته است. او پیش‌تر نیز بارها درباره پیامدهای توسعه سریع این فناوری و احتمال خارج شدن سیستم‌های پیشرفته از کنترل انسان هشدار داده بود.

این اظهارات پس از تصمیم OpenAI برای کنار گذاشتن جدیدترین مدل خود مطرح شده است. آزمایش‌های انجام‌شده روی این مدل نگرانی‌هایی درباره نحوه پیروی آن از دستورهای کاربران و رعایت محدوده مجوزهای تعیین‌شده ایجاد کرده بود.

ساچی جین، رئیس سیستم‌های ایمنی OpenAI پیش‌تر به بیزنس اینسایدر گفته بود که GPT-6.1 Astra در ادامه دادن وظایف دشوار پیشرفت کرده است. هرچند، این مدل در زمینه رعایت مجوزها و اطلاع‌رسانی درباره اقداماتی که انجام داده بود، عملکرد مطلوبی نداشت.

پیشنهاد هینتون می‌تواند شرکت‌های هوش مصنوعی را ملزم کند که پیش از انتشار مدل‌های جدید، آزمایش‌های گسترده‌تری انجام دهند. در چنین سیستمی، مسئولیت اثبات ایمنی محصول پیش از ورود آن به بازار برعهده توسعه‌دهنده خواهد بود.

بیشتر بخوانیدکارمند سابق آنتروپیک: چین در OpenAI و آنتروپیک جاسوس دارد

هشدار درباره خودبهبوددهی هوش مصنوعی

پدرخوانده هوش مصنوعی بخش دیگری از نگرانی خود را به نقش هوش مصنوعی در توسعه نسل‌های بعدی همین فناوری مرتبط دانست. به گفته او، شرکت‌ها اکنون به روش‌های مختلف از هوش مصنوعی برای بهبود سیستم‌های هوش مصنوعی استفاده می‌کنند. این روند می‌تواند سرعت توسعه فناوری را به میزان قابل‌ توجهی افزایش دهد.

او گفت: «رشد نمایی بسیار سریع اتفاق می‌افتد. ما در حال ورود به مرحله خودبهبوددهی بازگشتی هستیم، زیرا از هوش مصنوعی به روش‌های مختلف برای بهتر کردن هوش مصنوعی استفاده می‌شود.»

خودبهبوددهی بازگشتی به فرایندی اشاره دارد که در آن سیستم‌های هوش مصنوعی در توسعه و بهبود نسل‌های بعدی فناوری نقش بیشتری پیدا می‌کنند. هینتون معتقد است که چنین روندی می‌تواند علاوه بر افزایش سریع قابلیت‌های مدل‌ها، خطرهای مرتبط با آنها را نیز سریع‌تر گسترش دهد.

هینتون در نهایت تأکید کرد که زمان‌بندی مطرح‌شده از سوی او تنها یک پیش‌بینی است. او بیان کرد: «این فقط یک حدس است، اما حدس می‌زنم یک یا دو سال فرصت داریم تا همه‌چیز بسیار بدتر از وضعیت فعلی شود.»

پیشنهاد ایجاد سیستم تأییدیه مشابه FDA می‌تواند مسیر عرضه مدل‌های هوش مصنوعی را تغییر دهد. در صورت اجرای چنین رویکردی، شرکت‌ها باید پیش از انتشار مدل‌های جدید، ایمنی آنها را ثابت کنند و سپس مجوز ورود این محصولات به بازار را دریافت نمایند.

نوشتهپیشنهاد تازه پدرخوانده هوش مصنوعی برای کنترل مدل‌ها پیش از عرضه عمومیاولین بار درTechnoc. پدیدار شد.

برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.