سم آلتمن در سازمان ملل درباره خطر هوش مصنوعی برای آینده بشریت هشدار داد

سم آلتمن هشدار داده است که هوش مصنوعی در کنار ظرفیت بالایی که برای ایجاد تحول و پیشرفت دارد، اگر بدون کنترل توسعه یابد، می‌تواند آینده بشریت را نیز با خطر مواجه کند.

مدیرعامل OpenAI در سخنرانی خود در سازمان ملل خواستار تقویت سازوکارهای ایمنی، نظارت انسانی و همکاری بین‌المللی شد تا هم‌زمان با افزایش توانایی‌های هوش مصنوعی، خطرات آن نیز مهار شود.

آلتمن در شورای امنیت سازمان ملل متحد اعلام کرد هوش مصنوعی می‌تواند در حوزه‌هایی مانند پزشکی، آموزش و افزایش بهره‌وری اقتصادی دستاوردهای بزرگی به همراه داشته باشد، اما سامانه‌های پیشرفته‌تر ممکن است به مرحله‌ای برسند که درک یا کنترل رفتار آنها برای انسان دشوار شود. به گفته او، هوش مصنوعی خارج از کنترل می‌تواند تهدیدی جدی برای آینده انسان‌ها ایجاد کند.

آلتمن روز چهارشنبه در نیویورک خطاب به اعضای شورای امنیت گفت سرعت پیشرفت اخیر هوش مصنوعی باعث شده بازه زمانی تحقق قابلیت‌های جدید فشرده‌تر به نظر برسد و در نتیجه هم فرصت‌ها و هم تهدیدهای این فناوری زودتر از گذشته خود را نشان دهند.

او گفت

ما با یک انتخاب مهم روبه‌رو هستیم. هوش مصنوعی می‌تواند برای دوران ما شبیه یک رنسانس تازه در خلاقیت و کشف باشد یا مانند انقلاب صنعتی جدیدی عمل کند که آشفتگی و بی‌نظمی گسترده‌ای به همراه می‌آورد.

آلتمن با اشاره به دوره رنسانس گفت آن دوران زمانی بود که ابزارهای تازه، ایده‌های جدید و نهادهای نوظهور، تصور انسان‌ها از توانایی‌های خود را گسترش دادند.

او اظهار داشت

هوش مصنوعی می‌تواند در عصر ما نیز چنین نقشی داشته باشد. بهترین شکل هوش مصنوعی این نیست که انسان‌ها را به چرخ‌دنده‌هایی درون یک ماشین عظیم تبدیل کند یا زندگی را آن‌قدر بهینه‌سازی کند که جنبه‌های انسانی آن از بین برود. هدف باید این باشد که در جهانی هر روز پیچیده‌تر، اختیار و توانایی بیشتری در اختیار مردم قرار گیرد؛ توانایی بیشتر برای یادگیری، خلق کردن، کشف کردن، ساختن و مشارکت داشتن. بسیاری از کارها هستند که هوش مصنوعی نه می‌تواند و نه باید آنها را خودکار کند.

او در عین حال تأکید کرد قدرت بسیار زیاد این فناوری به خودی خود می‌تواند هراس‌آور باشد و شرایط کنونی هم‌زمان ظرفیت فوق‌العاده‌ای برای پیشرفت و نگرانی‌هایی کاملاً قابل درک ایجاد کرده است.

آلتمن دو مسیر اصلی را مطرح کرد که می‌توانند آینده هوش مصنوعی را به سمت نتایج خطرناک سوق دهند و گفت شرکت‌ها و دولت‌ها باید تلاش خود را برای جلوگیری از وقوع چنین سناریوهایی افزایش دهند.

او گفت

نخستین خطر این است که کنترل آینده را به هوش مصنوعی واگذار کنیم. ممکن است پیشرفت فناوری آن‌قدر سریع شود که انسان‌ها دیگر نتوانند روند اتفاقات را دنبال کنند یا در زمان لازم برای مداخله وارد عمل شوند. چنین وضعیتی آشکارا فاجعه‌بار خواهد بود.

به گفته آلتمن، خطر دوم به تمرکز بیش از اندازه قدرت در اختیار تعداد بسیار محدودی از افراد یا نهادها مربوط می‌شود.

او در شورای امنیت سازمان ملل گفت

هیچ فرد، شرکت یا کشوری نباید بتواند از قدرتمندترین مدل‌های هوش مصنوعی برای تحمیل دیدگاه خود بر سایر مردم جهان استفاده کند.

نگرانی درباره خودبهبود هوش مصنوعی

آلتمن معتقد است این نگرانی‌ها زمانی اهمیت بیشتری پیدا می‌کنند که سامانه‌های هوش مصنوعی به قابلیت بهبود عملکرد خود و حتی نسخه‌های آینده خود نزدیک شوند؛ فرایندی که معمولاً با عنوان خودبهبود بازگشتی شناخته می‌شود.

او گفت

هرچه فرایند ساخت هوش مصنوعی بیشتر خودکار شود، سرعت پیشرفت این فناوری می‌تواند به شکل چشمگیری افزایش پیدا کند. شرایط کنونی به احتیاط بسیار شدید نیاز دارد.

مدیرعامل OpenAI همچنین تأکید کرد شرکت‌های فعال در حوزه هوش مصنوعی نباید صرفاً به دلیل مزایای احتمالی این فناوری دست به ریسک‌های بیش از حد بزنند. از نگاه او، رقابت میان شرکت‌ها نیز نباید آنها را به سمت تصمیم‌گیری‌های عجولانه سوق دهد.

آلتمن یادآوری کرد OpenAI در گذشته سرعت برخی فعالیت‌های خود را کاهش داده و در صورت نیاز دوباره چنین رویکردی را در پیش خواهد گرفت. او همچنین گفت توسعه‌دهندگان باید تنها زمانی سامانه‌های جدید را بسازند که بتوانند از همسویی رفتار سیستم با اهداف انسانی، نظارت مناسب و ایمنی آن اطمینان حاصل کنند.

او خواستار آن شد که سامانه‌های قدرتمند هوش مصنوعی همچنان تحت کنترل انسان باقی بمانند. آلتمن همچنین تدوین استانداردهای ملی و بین‌المللی برای ارزیابی خطرات، بررسی میزان کارآمدی سازوکارهای ایمنی و حفظ نظارت معنادار انسان بر این فناوری را ضروری دانست.

در جریان نشست شورای امنیت سازمان ملل، داریو آمودی، مدیرعامل Anthropic نیز بر ضرورت همکاری بین‌المللی برای افزایش ایمنی هوش مصنوعی تأکید کرد. آمودی در همان نشست از کشورها خواست مذاکرات را با توافق‌هایی مشخص آغاز کنند؛ از جمله ممنوعیت استفاده از هوش مصنوعی برای ساخت سلاح‌های بیولوژیکی.

او همچنین خواستار ایجاد استانداردهای جهانی برای آزمایش سامانه‌های پیشرفته هوش مصنوعی شد تا خطرات مربوط به از دست رفتن کنترل و سوءاستفاده از این فناوری شناسایی شوند. آمودی در ادامه پیشنهاد کرد سازوکاری بین‌المللی برای گزارش حوادث مرتبط با هوش مصنوعی که می‌توانند پیامدهای مهمی برای امنیت جهانی داشته باشند، ایجاد شود.

برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.