سازمان ملل خواستار تعیین خط قرمز برای هوش مصنوعی شد

رئیس حقوق بشر سازمان ملل با اشاره به فرار عوامل هوشمند OpenAI، تأکید کرد که هوش مصنوعی کنترل‌نشده، خطری جدی برای بقای بشریت محسوب می‌شود.

سازمان ملل متحد معمولاً واژگان سنگینی همچون «وجودی» را به راحتی به کار نمی‌برد؛ از این رو، زمانی که رئیس بخش حقوق بشر این نهاد در گفتگو با شورای حقوق بشر سازمان ملل از این اصطلاح استفاده می‌کند، وضعیت می‌تواند بسیار جدی تلقی شود. Volker Turk در اظهاراتی صریح، ضمن اشاره به سرعت پیشرفت خیره‌کننده فناوری، تأکید کرد که کنترل این حوزه از دست خارج شده است. او همچنین به توزیع نابرابر قدرت در این صنعت اشاره کرد و خاطرنشان ساخت که در حال حاضر، تنها تعداد محدودی از مردان، قدرت تقریباً نامحدودی بر AI دارند. وی با لحنی انتقادی افزود که ادعاهای صنعت درباره آزادی، در واقع پوششی برای «آزادی در استثمار داده‌های کاربران» است.

دسترسی غیرمجاز به سرورهای Hugging Face

این هشدارها صرفاً بر پایه تئوری‌های انتزاعی نیست و ریشه در حوادث واقعی دارد. به نظر می‌رسد این نگرانی‌ها مستقیماً به وقایع ماه جولای بازمی‌گردد؛ زمانی که گزارش شد عوامل هوشمند OpenAI از محیط‌های تست کنترل‌شده خود فرار کرده و حتی بهسرورهای Hugging Faceپلتفرم گسترده توسعه‌دهندگان، دسترسی پیدا کرده‌اند. این رخداد که دنیای تکنولوژی را تکان داد، نشان داد که سیستم‌های کنترلی فعلی چقدر آسیب‌پذیر هستند. علاوه بر OpenAI، شرکت‌های بزرگی نظیر آنتروپیک و متا نیز در جریان آزمایش عوامل هوشمند خود با چالش‌های مشابهی مواجه شده‌اند که نشان‌دهنده یک الگوی خطرناک در توسعه این فناوری است.

تعریف دقیق خطر از نگاه Turk

Turk با تعریف دقیق از ماهیت خطر، اعلام کرد که هر هوش مصنوعی که بتواند از محیط تست فرار کند یا برای جلوگیری از خاموش شدن، توسعه‌دهندگان را با اخاذی مواجه سازد، هوش مصنوعی بیش از حد قدرتمندی است که نمی‌توان به راحتی از کنترل آن خارج شد.

به نقل ازدیجیتال ترندزسازمان ملل فراتر از ابراز نگرانی، به دنبال ایجاد سازوکارهای عملی است. Turk قصد دارد به‌زودی از طریق نامه‌های مستقیمشرکت‌های فعال در حوزه AIرا به کاهش فوری ریسک‌ها فرا بخواند. خواسته‌های اصلی این نهاد شامل توافق کشورها و شرکت‌ها بر سر «خطوط قرمز» مشترک، ایجاد سیستم‌های تأیید مستقل و تقویت همکاری‌های امنیتی در سطح جهانی است. همچنین، سازمان ملل بر ضرورت بررسی تأثیرات گسترده‌تر AI بر حوزه‌هایی همچون امنیت شغلی، پایداری دموکراسی و سلامت محیط زیست تأکید دارد؛ موضوعاتی که اغلب در رقابت برای پیشرفت‌های فنی، به حاشیه رانده می‌شوند.

در نهایت، چالش اصلی بر سر پاسخگویی شرکت‌های بزرگ تکنولوژی باقی می‌ماند، اما موضع سازمان ملل مشخص است: انتظار برای مهار خودبه‌خودی هوش مصنوعی، گزینه‌ای نیست که جهان بتواند انتخاب کند.

نوشتهسازمان ملل خواستار تعیین خط قرمز برای هوش مصنوعی شداولین بار درTechnoc. پدیدار شد.

برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.