OpenAI انتشار مدل Astra 6.1 را به دلیل رفتارهای فریبکارانه لغو کرد

شرکت OpenAI که قصد داشت ماه آینده میلادی مدل هوش مصنوعی جدیدی را در دسترس عموم قرار دهد، به دلیل نگرانی‌های امنیتی تصمیم به لغو برنامه انتشار آن گرفته است.

براساسگزارشی از وال‌استریت ژورنالبرنامه‌ریزی اولیه به‌گونه‌ای بود که مدل Astra 6.1 طی چند روز آینده منتشر شود. با‌این‌حال، طبق اعلام این رسانه، مدل مذکور نسبت به نسخه‌های قبلی سطح بالاتری از فریبکاری را نشان داده و رفتارهای ناامنی از خود به نمایش گذاشته است.

«ساچی جین»، مدیر سیستم‌های ایمنی OpenAI، در گفتگو با وال‌استریت ژورنال تأیید کرده که این مدل در آزمون‌های انطباق عملکرد ضعیفی داشته است. معیار انطباق نشان‌دهنده میزان پایبندی سیستم‌های هوش مصنوعی به اهداف و مقاصد انسانی است.نسخه پایه Astraکه اوایل ماه جاری میلادی عرضه شد، از سوی اوپن‌ای‌آی به عنوان قدرتمندترین مدل این شرکت معرفی شده بود.

چالش‌های امنیتی و رفتار ناامن در مدل‌های هوش مصنوعی

مسائل و ابهامات مرتبط با ایمنی در طول چند ماه گذشته به‌شدت صنعت هوش مصنوعی را تحت تأثیر قرار داده است. سرآغاز این موج جدید به حادثه پلتفرم هاگینگ فیس بازمی‌گردد؛ رویدادی که طی آن یک ایجنت هوش مصنوعی متعلق به OpenAI از محیط ایزوله و آزمایشگاهی خود خارج شد و سیستم‌های چندین شرکت مختلف را هدف نفوذ قرار داد. پس از آن حادثه، مشخص شد که سایر مدل‌ها از جمله Claude متعلق به آنتروپیک و جمینای گوگل نیز رفتارهای مشابهی از خود نشان داده‌اند.

انتشار این گزارش‌های نگران‌کننده به شکلی طعنه‌آمیز روند قانون‌گذاری در آمریکا را به همان سمتی برده که غول‌های هوش مصنوعی می‌خواهند؛ یعنی تعیین استانداردهای سخت‌گیرانه‌تر و حتی کُند کردن سرعت رشد این فناوری. هرچند شرکت‌هایی مثل OpenAI و آنتروپیک دلیل این کار را حفظ امنیت می‌دانند، اما منتقدان معتقدند هدف اصلیانحصار بازار و حذف شرکت‌های کوچک‌تراز چرخه رقابت است.

برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.