هشدار انویدیا درباره هوش مصنوعی؛ ایجنت‌های سرکش مسئولیت کیفری ایجاد می‌کنند

جنسن هوانگ می‌گوید آزمایشگاه‌های هوش مصنوعی در صورت ناتوانی از مهار آزمایش‌های ناایمن باید تعطیل شوند و قوانین موجود اجرا شوند.

هوش مصنوعیتک‌ناکهوانگ گفت: «اگر آن‌ها بگویند راهی برای مهار آزمایش‌ها وجود ندارد و هنگام آزمایش مدل‌های هوش مصنوعی، این مدل‌ها از کنترل خارج می‌شوند و به جهان آسیب می‌زنند، فکر می‌کنم پاسخ این است که باید آزمایشگاه‌ها را تعطیل کنیم.

زیرا هزینه‌ای که بشریت می‌پردازد و خسارتی که وارد می‌شود، بیش از حد سنگین است. سهام‌داران و شرکت‌ها با مسئولیت‌هایی روبه‌رو می‌شوند که می‌تواند مدنی یا کیفری باشد. این مسئولیت حقوقی بسیار سنگین است.»

هوانگ در عین حال با اصل مقررات‌گذاری برای هوش مصنوعی مخالفتی ندارد، اما آنچه را اکنون در این زمینه جریان دارد، «عامل حواس‌پرتی» می‌داند.

ماجرای هک شدن Hugging Face و بحث مقررات‌گذاری

بحث درباره افزایش مقررات هوش مصنوعی پس از حادثه‌ای خبرساز شدت گرفت که در آن، یک ایجنت OpenAI به پلتفرم میزبانی مدل Hugging Face نفوذ کرد.

انویدیا اکنون مالک این پلتفرم است و اگر در زمان وقوع حادثه تحت مالکیت انویدیا قرار داشت، احتمالاً این شرکت می‌توانست از OpenAI درخواست جبران خسارت کند.

پس از این اتفاق، چندین آزمایشگاه پیشرو هوش مصنوعی، از جمله شرکت‌های Anthropic و Alphabet (گوگل)، از احتمال خارج شدن ایجنت‌ها از کنترل به‌عنوان ابزاری برای بازاریابی و نیز دلیلی برای درخواست مقررات بیشتر استفاده کرده‌اند.

به‌نظر می‌رسد این شرکت‌ها می‌خواهند پیش از دیگران در فرایند تدوین مقررات حضور داشته باشند و در شکل‌دهی به آن نقش ایفا کنند.

هوانگ با این درخواست‌ها برای مقررات‌گذاری بیشتر موافق نبوده است.

او چند روز پیش نیز ادعاهای افراطی درباره نابودی جهان به‌دست هوش مصنوعی تا سال ۲۰۳۰ را رد کرد و گفت آزمایشگاه‌های پیشرو «هرگز نباید محصولاتی را پیش از آماده شدن عرضه کنند یا محصولاتی ناایمن به بازار بفرستند».

بیشتر بخوانیدامضای جنسن هوانگ ارزش کارت گرافیک RTX 5090 را ۱۵ هزار دلار بالا برد

مسئولیت شرکت‌ها در عرضه محصولات ناایمن

آزمایشگاه‌های پیشرو و انویدیا، به‌عنوان تأمین‌کننده اصلی سخت‌افزار آن‌ها، در بیشتر موارد درباره سیاست‌های هوش مصنوعی هم‌راستا بوده‌اند، اما تلاش‌ها برای اثرگذاری بر مقررات و شکل‌دهی به آن‌ها، شکافی میان این طرف‌ها ایجاد کرده است.

چندین آزمایشگاه، از جمله OpenAI، Anthropic و SpaceXAI، توافق کرده‌اند سرعت توسعه مدل‌ها را به‌صورت متقابل کاهش دهند.

اکنون این شرکت‌ها با شکایت ضدانحصار روبه‌رو هستند که در آن، چنین توافق‌هایی «خودخواهانه» توصیف شده‌اند.

اظهارات هوانگ به کلاین، مسئولیت را از توسعه جمعی به سمت رهبران هر شرکت سوق می‌دهد.

او گفت: «این شرکت‌ها اختیار عمل دارند. اگر باور داشته باشم که در آستانه عرضه محصولی ناایمن هستم، کاملاً در اختیار خودم است که آن محصول را عرضه نکنم. بنابراین، نمی‌توانم این ایده را بپذیرم که گویی همه آمریکایی‌ها، حدود ۴۰۰ میلیون نفر، آن‌ها را مجبور می‌کنند محصولات آزمایش‌نشده و غیرقابل‌اعتماد عرضه کنند.»

هوانگ تأکید کرد که با قوانین و مقررات مخالف نیست.

او گفت: «من می‌گویم قوانین و مقررات زیادی داریم. آن‌ها را اجرا کنید.» به‌گفته او، آزمایشگاه‌هایی مانند OpenAI و Anthropic در مدت کوتاهی از مؤسسات پژوهشی به شرکت‌هایی تبدیل شده‌اند که احتمالاً صدها میلیارد دلار ارزش دارند و باید متناسب با چنین جایگاهی رفتار کنند.

هوانگ افزود: «من با قوانین و مقررات مخالف نیستم. در حال حاضر، با عامل حواس‌پرتی مخالفم.»

بیشتر بخوانیدجنسن هوانگ: آمریکا نباید استفاده از مدل‌های هوش مصنوعی چین را ممنوع کند

گزارش‌های تازه از ایجنت‌های خارج‌شده از کنترل

گزارش‌ها درباره ایجنت‌های هوش مصنوعی که از کنترل خارج می‌شوند، همچنان افزایش می‌یابد. آنتروپیک در اوایل ماه جاری میلادی چهارمین مورد از هک شدن یک سامانه خارجی به‌دست یکی از مدل‌های خود را افشا کرد.

چند روز پیش نیز گوگل گزارشی را تأیید کرد که بر اساس آن، مدل‌های Gemini در اوایل سال جاری میلادی به سه شرکت نفوذ کرده بودند.

نوشتههشدار انویدیا درباره هوش مصنوعی؛ ایجنت‌های سرکش مسئولیت کیفری ایجاد می‌کننداولین بار درTechnoc. پدیدار شد.

برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.