سم آلتمن: پذیرش خطرات هوش مصنوعی بهای پیشرفت آن است

سم آلتمن، مدیرعامل OpenAI معتقد است منافع هوش مصنوعی بسیار بیشتر از آسیب‌های احتمالی آن است و جوامع باید برخی رویدادهای منفی را به عنوان بهای پیشرفت بپذیرند.

هوش مصنوعیتکناک، سم آلتمن، مدیرعامل OpenAI، در تازه‌ترین اظهارات خود اعلام کرد که منافع ناشی از توسعه هوش مصنوعی به قدری چشمگیر و فراگیر خواهد بود که جوامع بشری باید وقوع برخی رویدادهای منفی در این مسیر را بپذیرند و آن را به عنوان بهای پیشرفت تحمل کنند. او به صراحت مسائلی همچون حملات سایبری، کلاهبرداری‌ها و دیگر پیامدهای نامطلوب را هزینه‌هایی اجتناب‌ناپذیر دانست و استدلال کرد که ابعاد دستاوردهای مثبت و سازنده‌ای که انسان‌ها به کمک این فناوری رقم خواهند زد، به مراتب فراتر از آسیب‌های مقطعی خواهد بود؛ هرچند که در سخنان خود به جزئیات مشخص این منافع بالقوه نپرداخت.

این موضع‌گیری در شرایطی مطرح می‌شود که تنش‌ها و نگرانی‌های بین‌المللی پیرامون میزانایمنی مدل‌های هوش مصنوعیپیشرفته افزایش یافته و تلاش‌های این شرکت برای ترویج رویکردی نرم‌تر در وضع قوانین نظارتی با چالش‌های جدی مواجه شده است.

شکاف استراتژیک میان OpenAI و Anthropic

این سخنان در جریان حضورسم آلتمندر پادکست جدید Decoded رسانه Politico بیان شد. او آمادگی برای پذیرش خسارت‌های جانبی در ازای دستاوردهای بزرگ‌تر را تفاوت اساسی میان OpenAI و رقیب اصلی آن یعنی Anthropic قلمداد کرد. شرکت آنتروپیک پیش‌تر توسط گروهی از کارمندان سابق OpenAI به دلیل اختلاف‌نظر بر سر مسائل بنیادین ایمنی هوش مصنوعی بنیان‌گذاری شده بود.

چارچوب فکری ارائه‌شده از سوی آلتمن، همسو با دیدگاه‌های ماه گذشته جنسن هوانگ، مدیرعامل NVIDIA است که تأکید داشت آسیب‌های بالقوه هوش مصنوعی باید همواره در ترازوی سنجش با منافع فناوری ارزیابی شوند. این استدلال‌ها در امتداد یک تفکر شتاب‌گرایانه قرار دارند که کند کردن عمدی آهنگ توسعه این فناوری را حامل خطرات بزرگ‌تری برای آینده می‌داند.

تعریف این مرزبندی، نشانه دیگری از جدایی استراتژیک میان OpenAI و Anthropic به شمار می‌رود، شرکت‌هایی که تا چندی پیش در مطالبه چارچوب‌های نظارتی سفت‌وسخت برای سیستم‌های هوش مصنوعی بسیار همسو و هم‌صدا به نظر می‌رسیدند. آلتمن با تأکید بر فاصله فکری عمیق میان دو مجموعه، نقش OpenAI را به عنوان یک جریان عمل‌گرای میانه‌رو توصیف کرد که میان احتیاط حداکثری حامیان محدودیت‌های سنگین از یک سو و موافقان آزادسازی کامل از سوی دیگر، به دنبال تعادل است.

به باور او، چنانچه برای حفظ امنیت دست به ایجاد موانع سنگین و دست‌وپاگیر زده شود، احتمال انحصار قدرت در دست تعداد معدودی از شرکت‌ها، چهره‌های متنفذ یا یک کشور خاص پدید می‌آید که این وضعیت خود می‌تواند به فاجعه‌ای جبران‌ناپذیر منجر شود.

با این حال، آلتمن ابعاد تاریک‌تر این روند، از جمله خطر بالقوه از دست رفتن مهار سیستم‌های خودمختار توسط انسان را انکار نکرد و خواستار هوشمندی بیشتر در مواجهه با خطرات احتمالی کنترل‌ناپذیر شد. ایجاد توازن میان وضع قوانین بازدارنده شدید و ارائه آزادی عمل کامل، محور کلیدی دیدگاه‌های او بود. این موضع برای شرکتی همچون OpenAI که در خط مقدم صنعت ایستاده، اهمیت ویژه‌ای دارد؛ به ویژه آنکه هرگونه رگولاتوری سخت‌گیرانه مستقیماً عملکرد و فناوری‌های نوین این شرکت را نشانه خواهد گرفت، زیرا بسیاری از نگرانی‌های حقوقی کنونی نیز پیرامون رفتار مدل‌های ساخته‌شده در همین مجموعه شکل گرفته است.

انتقاد از فرهنگ ایمنی در OpenAI

موج فزاینده این دغدغه‌ها باعث شده تا در ماه‌های اخیر چهره‌های سرشناس متعددی در درون ساختار این حوزه، نسبت به کم‌توجهی به فرهنگ ایمنی هشدار دهند. طبق گزارشورجدرست چند روز پیش از انتشار گفت‌وگوی اخیر، دیوید رابینسون، یکی از پژوهشگران باسابقه ایمنی OpenAI، با انتقاد شدید از فرآیندهای حاکم بر شرکت و شکست‌خورده خواندن ساختار ایمنی آن، از سمت خود استعفا داد.

این رویداد هم‌زمان با افشای رخدادهای نگران‌کننده‌ای شد که نشان می‌داد عوامل هوش مصنوعی OpenAI پیش‌تر بدون آگاهی و هدایت مهندسان شرکت، پلتفرم شناخته‌شده Hugging Face را هک کرده‌اند. به دنبال آن، مشخص شد عوامل یا دسته‌هایی از ابزارهای هوش مصنوعی متعلق به شرکت‌های دیگری نظیر Meta، Anthropic و گوگل نیز در مواردی اهداف واقعی را هدف قرار داده‌اند.

این دست اقدامات، پرسش‌های بی‌پاسخ بسیاری را درباره میزان توانایی عملی شرکت‌های طراح در کنترل و مهار ساخته‌های خود برانگیخته است. علاوه بر مسئله مهار، شفافیت این مجموعه‌ها در اطلاع‌رسانی به هنگام وقوع خطاها نیز به چالشی جدی تبدیل شده است. نمونه بارز این بی‌اعتمادی، واکنش شدید نخست‌وزیر استرالیا بود که OpenAI و شخص آلتمن را به دلیل تأخیر در اطلاع‌رسانی هدف قرار گرفتن وب‌سایت رسمی نظام سلامت آن کشور توسط یک عامل هوش مصنوعی، به شدت مواخذه کرد. آلتمن در پایان به وجود رویدادهای غیرمنتظره دیگری از این دست اذعان نمود، اما ابعاد آن‌ها را کوچک‌تر از حادثه پیشین ارزیابی کرد و افزود که رسیدگی کامل به این چالش‌ها نیازمند زمان طولانی‌تری خواهد بود.

نوشتهسم آلتمن: پذیرش خطرات هوش مصنوعی بهای پیشرفت آن استاولین بار درTechnoc. پدیدار شد.

برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.