هشدار چهره‌های سرشناس درباره خطرات امنیتی هوش مصنوعی!

حدود ۴۰۰ دانشمندبا هشدار درباره خروج عوامل هوش مصنوعی از کنترل و خطرات امنیتی آنها، خواستار تشکیل نهادی بین‌المللی برای نظارت بر این فناوری و قطع دسترسی مدل‌ها به اینترنت تا زمان اثبات ایمنی‌ آنها شدند.

سرویس هوش مصنوعی تک‌ناکاز زمان فراگیر شدن ChatGPT و تحول صنعت فناوری، پدرخوانده‌های هوش مصنوعی با نگاهی بدبینانه به پیامدهای دستاوردهای خود نگریسته‌اند اکنون نیز به نظر نمی‌رسد نگرانی این XNET درباره عواقب توسعه هوش مصنوعی کاهش یافته باشد.

برای مطالعه بیشترکارمند سابق آنتروپیک: چین در OpenAI و آنتروپیک جاسوس دارد

دلیل هشدار درباره هوش مصنوعی

براساس گزارش رویترزحدود ۴۰۰ دانشمند، از جمله جفری هینتون و یوشوا بنجیو، دو تن از XNET یادگیری عمیق که پژوهش‌های آنها زیربنای توسعه مدل‌های زبانی بزرگ امروزی را شکل داده است، روز سه‌شنبه با انتشار نامه‌ای سرگشاده با هشدار درباره هوش مصنوعی، خواستار تشکیل یک نهاد بین‌المللی برای تدوین چارچوب‌های مهار مدل‌ها و ثبت حوادث امنیتی مهم مرتبط با این فناوری شدند. یکی از تدابیر امنیتی پیشنهادی این دانشمندان، ایزوله‌سازی سامانه‌های هوش مصنوعی و قطع دسترسی آنها به اینترنت تا زمان اثبات ایمنی‌ آنها است؛ اقدامی که به گفته آنها باید هرچه زودتر اجرایی شود. در متن نامه آمده است: «در کوتاه‌مدت، باید از سازوکارهای قدرتمند محیط ایزوله، از جمله قطع اتصال به اینترنت، برای مهار قابل‌اتکای مدل‌های هوش مصنوعی دارای قابلیت‌های سایبری استفاده شود.»

بیشتر بخوانیدشکایت جنجالی علیه Character.AI؛ چت‌بات‌ها کاربران را به خودزنی ترغیب کردند

انتشار این هشدار درباره هوش مصنوعی در پی افزایش نگرانی‌ها طی ماه‌های اخیر درباره عوامل خودمختار هوش مصنوعی صورت می‌گیرد؛ سامانه‌هایی که در مواردی از محیط‌های آزمایشی خود خارج شده‌اند و به زیرساخت‌های شرکت‌های دیگر نفوذ کرده‌اند. در یکی از جنجالی‌ترین نمونه‌ها، مجموعه‌ای متشکل از هزار عامل هوش مصنوعی OpenAI از محیط ایزوله خود خارج شدند، انجمن‌های گفت‌وگوی آنلاین را برای برقراری ارتباط با یکدیگر به کار گرفتند و به سامانه‌هایHugging Faceپلتفرم جامعه هوش مصنوعی متن‌باز، نفوذ کردند.

پس از این رویداد، شرکت‌های آنتروپیک، متا و گوگل نیز از موارد مشابه حملات سایبری خودمختار خبر دادند. مجموعه این حوادث در کنار هشدارهای نگران‌کننده یکی از کارکنان سابق آنتروپیک درباره خطرات وجودی هوش مصنوعی، درخواست‌ها را برای کاهش سرعت توسعه این فناوری تقویت کرده است. در همین فضا، چهره‌هایی مانند داریو آمودی، مدیرعامل آنتروپیک و سم آلتمن، مدیرعامل OpenAI، ماه گذشته توافق‌نامه «ابرهوش» دونالد ترامپ، رئیس‌جمهور آمریکا را امضا کردند و متعهد شدند برخی رویه‌های ایمن‌تر را در توسعه هوش مصنوعی به کار بگیرند.

اختلاف نظرها بیشتر می‌شوند

با این همه، توافق‌نامه مذکور ضمانت اجرایی قانونی ندارد و متن کوتاه آن، با حدود ۳۰۰ کلمه، دامنه محدودی را پوشش می‌دهد. اختلاف‌نظر میان رهبران صنعت نیز همچنان آشکار است. مارک زاکربرگ، مدیرعامل متا و یکی از امضاکنندگان این توافق‌نامه بادرخواست آمودیآلتمن و دیگران برای کاهش سرعت توسعه هوش مصنوعی در سطح صنعت مخالفت کرده است. زاکربرگ در گفت‌وگو با فایننشال تایمز عنوان کرد: «من بیشتر به این دیدگاه باور دارم که هوش مصنوعی فناوری‌ است که می‌توان آن را با تدابیر حفاظتی متعارف مهندسی کرد و به‌ شکل مسئولانه‌ای ساخت، نه به این نگاه انسان‌انگارانه که هوش مصنوعی قرار است خود مسیر مستقلی را در پیش بگیرد.»

حتما بخوانیدهشدار آنتروپیک: هوش مصنوعی به‌ زودی بدون دیتاسنتر هم خود را تکثیر می‌ کند

هینتون و بنجیو در سال ۲۰۱۸ جایزه تورینگ را دریافت کردند؛ افتخاری که نقش مهمی در شناخته شدن آنها به‌ عنوان پدرخوانده‌های هوش مصنوعی داشته است. هر دو از منتقدان صریح خطرات این فناوری محسوب می‌شوند. هینتون پس از ترک سمت خود در گوگل در سال ۲۰۲۳ اعلام کرد که از فعالیت‌های علمی تمام عمر خود احساس پشیمانی می‌کند. او بارها درباره پیامدهایی مانند: بیکاری گسترده و حتی احتمال انقراض بشر در نتیجه توسعه هوش مصنوعی هشدار داده است. بنجیو نیز هشدارهای مشابهی مطرح کرده و یک سازمان پژوهشی غیرانتفاعی را برای تحقیق درباره ایمنی هوش مصنوعی بنیان گذاشته است. امایان لوکانسومین چهره‌ای که در سال ۲۰۱۸ جایزه تورینگ را دریافت کرد، دیدگاه متفاوتی دارد. او نامه سرگشاده دانشمندان را امضا نکرده و گفته است که حوادث اخیر مربوط به عوامل هوش مصنوعی خارج‌شده از کنترل، «هیچ نگرانی» برای او ایجاد نمی‌کنند. لوکان به‌جای خطر ذاتی هوش مصنوعی، خطای انسانی را عامل این رویدادها می‌داند.

نوشتههشدار چهره‌های سرشناس درباره خطرات امنیتی هوش مصنوعی!اولین بار درTechnoc. پدیدار شد.

برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.