مدیرعامل آنتروپیک: ترمز توسعه هوش مصنوعی باید کشیده شود

مدیرعاملآنتروپیک با ارائه برنامه‌ای سه‌مرحله‌ای خواستار کاهش سرعت توسعه هوش مصنوعی و ایجاد استانداردهای مشترک برای افزایش ایمنی مدل‌ها شد.

هوش مصنوعیتک‌ناکداریو آمودی در مقاله‌ای مفصل، برنامه‌ای سه‌مرحله‌ای برای «تنظیم سرعت پیشرفت» هوش مصنوعی پیشنهاد کرده است.

این اصطلاح در عمل به معنای کاهش سرعت آموزش و توسعه مدل‌هاست تا شرکت‌ها فرصت کافی برای ایجاد سازوکارهای ایمنی داشته باشند و نهادهای نظارتی نیز بتوانند مدل‌های جدید را ارزیابی کنند.

آمودی می‌گوید فراهم کردن دسترسی گسترده برای ارزیابان خارجی، تنها گام نخست این برنامه است و آنتروپیک همین حالا این اقدام را به‌صورت یک‌جانبه آغاز کرده است.

همکاری صنعت و دولت برای ایجاد استانداردهای ایمنی

گام دوم، همکاری گسترده شرکت‌های فعال در صنعت هوش مصنوعی است که احتمالاً با مشارکت نهادهای دولتی انجام خواهد شد.

هدف این همکاری، «ایجاد استانداردهای مشترک ایمنی و همچنین محدودیت‌هایی برای سرعت پیشرفت کنترل‌نشده هوش مصنوعی» خواهد بود.

این مرحله بر شرکت‌های هوش مصنوعی فعال در کشورهای دموکراتیک تمرکز دارد. آمودی معتقد است تصویب قوانین و ایجاد زیرساخت‌های نظارتی به زمان نیاز دارد و به همین دلیل، شرکت‌های این صنعت باید پیش از شکل‌گیری کامل چارچوب‌های قانونی، برای تدوین استانداردهای ایمنی با یکدیگر همکاری کنند.

بیشتر بخوانیدآنتروپیک چین را به دزدی هوش مصنوعی متهم کرد

چالش توافق با چین و روسیه

گام سوم از همه دشوارتر خواهد بود. آمودی می‌گوید دولت‌های اقتدارگرا، مانند دولت‌های چین و روسیه، باید برای کاهش سرعت توسعه هوش مصنوعی و پذیرش مجموعه‌ای جهانی از استانداردهای ایمنی با یکدیگر به توافق برسند.

او در عین حال تأکید می‌کند که آمریکا و سایر کشورهای دموکراتیک باید برتری فناوری خود را نسبت به چین و دیگر حکومت‌های اقتدارگرا حفظ کنند.

از نظر آمودی، محدود کردن دسترسی این کشورها به تراشه‌های قدرتمند و مقابله با روش‌هایی مانند «تقطیر» مدل‌های هوش مصنوعی اهمیت دارد.

این روش‌ها به شرکت‌ها اجازه می‌دهند با آموزش مدل‌های خود برای تقلید از رفتار یک مدل قدرتمندتر، فاصله فناوری را در مدت کوتاهی کاهش دهند.

آمودی می‌گوید نگرانی او درباره سرعت توسعه هوش مصنوعی از دو عامل اصلی ناشی می‌شود.

بیشتر بخوانیدآنتروپیک فعالیت‌های مشکوک برای تولید سلاح بیولوژیکی را خنثی کرد

نوشتهمدیرعامل آنتروپیک: ترمز توسعه هوش مصنوعی باید کشیده شوداولین بار درTechnoc. پدیدار شد.

برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.