سم آلتمن: با پیشرفت هوش مصنوعی وقوع برخی حوادث اجتناب‌ناپذیر است

سم آلتمن با پذیرش جدی بودن حوادثاحتمالی هوش مصنوعی، بر ضرورت پیشتازی ایمنی، هم‌راستاسازی و نظارت نسبت به قابلیت‌های مدل‌ها و آمادگی شرکت‌ها برای کاهش سرعت یا توقف توسعه در صورت لزوم تأکید کرد.

به‌گزارشسرویس هوش مصنوعیتک‌ناکسم آلتمن می‌گوید وقوع برخی حوادث در مسیر توسعه هوش مصنوعی اجتناب‌ناپذیر است، اما آنچه اهمیت دارد نحوه یادگیری از این حوادث است. مدیرعامل OpenAI روز سه‌شنبه در کنفرانس دریم‌فورس شرکت Salesforce اعلام کرد شرکت‌های فناوری باید فرهنگ گزارش‌دهی شفاف درباره حوادث را در پیش بگیرند؛ رویکردی که به گفته او مشابه استانداردهای رایج در صنعت هوانوردی است. آلتمن گفت: «فکر می‌کنم وقوع برخی حوادث با فناوری‌های هوش مصنوعی اجتناب‌ناپذیر است. چیزی که واقعا برایم اهمیت دارد، این است که فرهنگ مناسبی برای گزارش حوادث و یادگیری از آن‌ها داشته باشیم.»

بیشتر بخوانیدآنتروپیک و OpenAI در دوراهی هوش مصنوعی؛ شفاف‌سازی یا مدیریت بحران برق؟

او سازمان هوانوردی فدرال آمریکا و هیئت ملی ایمنی حمل‌ونقل را نمونه‌هایی دانست که صنعت هوش مصنوعی می‌تواند از آن‌ها الگوبرداری کند. به گفته آلتمن، تمرکز این دو نهاد بر تحقیق درباره حوادث و بررسی عوامل وقوع آن‌ها، در نهایت به افزایش ایمنی صنعت هوانوردی کمک کرده است. آلتمن درباره رویکرد سازمان هوانوردی فدرال و هیئت ملی ایمنی حمل‌ونقل گفت: «حوادث اتفاق خواهند افتاد. ما تا جایی که بتوانیم از هرکدام یاد می‌گیریم و بر اساس آن واکنش نشان می‌دهیم.» این اظهارات در حالی مطرح شده‌اند که صنعت هوش مصنوعی بار دیگر با پرسش‌هایی درباره سرعت توسعه سیستم‌های خودمختار قدرتمند توسط بزرگ‌ترین آزمایشگاه‌های این حوزه مواجه است. جیکوب کوکسون، پژوهشگری کههفته گذشته از آنتروپیک جدا شدو پیش‌تر نیز در OpenAI فعالیت می‌کرد، با طرح این ادعا که شرکت‌های هوش مصنوعی با سرعت به سمت ابرهوش خودبهبوددهنده حرکت می‌کنند و «زندگی انسان‌ها را به قمار می‌گذارند»، بحث تازه‌ای درباره سرعت توسعه این فناوری به راه انداخت.

دنیا حق دارد از این موضوع بترسد

مرتبطشرکت OpenAI در تیررس کنگره آمریکا قرار گرفت

شماری از پژوهشگران حوزه ایمنی هوش مصنوعی نیز به Business Insider گفته‌اند سیستم‌های پیشرفته ممکن است در آینده از کنترل انسان خارج شوند یا اجرای حملات سایبری، تهدیدهای زیستی و دیگرسناریوهای فاجعه‌باررا آسان‌تر کنند؛ هرچند این سیستم‌ها برای تاثیرگذاری مستقیم بر دنیای فیزیکی همچنان با موانعی جدی مواجه خواهند بود. سم آلتمن نیز پذیرفته است که نگرانی‌ها درباره سناریوهای فاجعه‌بار حوادث هوش مصنوعی بی‌اساس نیستند. مدیرعامل OpenAI در کنفرانس دریم‌فورس گفت: «دنیا حق دارد از این موضوع بترسد» و به دو خطر اصلی؛ یعنی احتمال وقوع حادثه‌ای ناشی از از دست رفتن کنترل سیستم‌های هوش مصنوعی و تمرکز بیش از حد قدرت در دست تعداد محدودی از توسعه‌دهندگان این فناوری اشاره کرد.

مقابله با حوادث هوش مصنوعی

آلتمن تاکید کرد راه‌حل، کنار گذاشتن هوش مصنوعی نیست؛ بلکه شرکت‌های فعال در این حوزه باید اطمینان حاصل کنند که سازوکارهای هم‌راستاسازی، ایمنی و نظارت با فاصله قابل‌توجهی جلوتر از قابلیت‌های مدل‌ها حرکت می‌کنند. او همچنین گفت شرکت‌ها باید در صورتی که نتوانند این شرایط را حفظ کنند، آمادگی کاهش سرعت توسعه یا حتی توقف آن را داشته باشند. این اظهارات می‌تواند انتقاد محوری مدافعان ایمنی هوش مصنوعی را نیز پررنگ‌تر کند؛ منتقدانی که می‌گویند آزمایشگاه‌های پیشرو از اهمیت و ریسک‌های توسعه مدل‌های قدرتمند آگاه هستند، اما با وجود این همچنان به ساخت سیستم‌های توانمندتر ادامه می‌دهند. آلتمن گفت نگرانی عمومی زمانی افزایش پیدا می‌کند که این تصور شکل بگیرد که فشارهای تجاری ممکن است مانع از انجام آنچه درست است توسط شرکت‌ها یا کشورها شود.

او تاکید کرد هدف، پذیرفتن وقوع یک فاجعه نیست؛ بلکه باید حوادث هوش مصنوعی را شفاف گزارش کرد، با سرعت از آن‌ها درس گرفت و اجازه نداد پیامدهایشان تشدید شود. آلتمن افزود: «شاید بتوانیم اصلا به چنین سطحی از خطر نرسیم.» این بحث هم‌زمان بارویکرد دولت ترامپدر قبال مقررات‌گذاری هوش مصنوعی ادامه دارد؛ رویکردی که بر حفظ برتری آمریکا در رقابت فناوری با چین تأکید دارد و تمایل محدودی به اعمال محدودیت‌های گسترده بر این صنعت نشان داده است.

برای مطالعه بیشترسناتورهای آمریکا به‌ دنبال مهار خطر هوش مصنوعی هستند

دیوید ساکس، مشاور رئیس‌جمهور آمریکا در امور علم و فناوری و رئیس پیشین سیاست‌گذاری هوش مصنوعی کاخ سفید، روز یکشنبه بار دیگر همین موضع را تکرار کرد. او در واکنش به درخواست داریو آمودی، مدیرعامل آنتروپیک، و سم آلتمن برای کاهش سرعت توسعه هوش مصنوعی مرزی، در شبکه اجتماعی ایکس نوشت که اگر این شرکت‌ها واقعا معتقدند باید سرعت توسعه را کاهش دهند، می‌توانند خودشان این کار را انجام دهند و نیازی به اجازه دیگران ندارند. ساکس در ادامه نوشت: «داریو گفته استکه باید سرعت توسعه مرزی را کنترل کنیم و سم نیز موافق است. شاید مردم از پاسخ من تعجب کنند؛ انجامش دهید. اما وانمود نکنید که برای این کار به اجازه شخص دیگری نیاز دارید.»

نوشتهسم آلتمن: با پیشرفت هوش مصنوعی وقوع برخی حوادث اجتناب‌ناپذیر استاولین بار درTechnoc. پدیدار شد.

برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.