ماسک دستور شفافیت داد؛ کُدهای محرمانه گروک روی گیت‌هاب رو شد

شرکت هوش مصنوعی ایلان ماسک اعلام کرد خطای اخیر چت‌بات گروک که به تکرار ادعای بی‌اساس «نسل‌کشی سفیدپوستان» در آفریقای جنوبی می‌پرداخت، نتیجه‌ی «تغییر غیرمجاز» در متن راهنمای سیستم بوده است.

چه رخ داد؟

در هفته جاری کاربران پلتفرم ایکس (X) مشاهده کردند که گروک حتی در پاسخ به پرسش‌های بی‌ربط، از شناسایی موقعیت یک عکس تا سؤال کلی «آیا کارمان تمام است؟»، به‌طور ناگهانی بحث را به «حملات به مزارع» و «نسل‌کشی سفیدپوستان» در آفریقای جنوبی منحرف می‌کند.

شرکت xAI در بیانیه‌ای در ایکس توضیح داد:«یک تغییر تأییدنشده در سیستم‌پرامپت گروک باعث شد ربات پیرامون موضوعی سیاسی پاسخی از پیش تعیین‌شده ارائه کند؛ تغییری که با سیاست‌ها و ارزش‌های اصلی ما در تضاد بود.»

اقدامات اصلاحی

بازبینی اجباری پرامپت‌هااز این پس هیچ‌یک از کارکنان نمی‌توانند بدون نظارت و تأیید، متن راهنمای سیستم را تغییر دهند.

فرایند کدریویو سخت‌گیرانهxAI تأیید کرد در حادثه اخیر مسیر معمول بازبینی کد دور زده شده و اکنون تدابیر فنی برای جلوگیری از تکرار آن افزوده شده است.

تیم پایش ۲۴ ساعتهواحد جدیدی مأمور رصد مداوم پاسخ‌های گروک شده تا خطاهایی که از فیلتر سامانه‌های خودکار عبور می‌کنند در کمترین زمان اصلاح شود.

شفافیت کدسیستم‌پرامپت‌های گروک به‌صورت عمومی در گیت‌هاب منتشر خواهد شد تا پژوهشگران بتوانند تغییرات را دنبال کنند.

چرا مهم است؟

سیستم‌پرامپت مغز متنیِ هر چت‌بات است؛ کوچک‌ترین دستکاری می‌تواند خروجی آن را جهت‌دهی کند.

انتشار عمومی این پرامپت‌ها اقدامی کم‌سابقه میان شرکت‌های هوش مصنوعی است و می‌تواند معیار تازه‌ای برای شفافیت محسوب شود.

خطای گروک بار دیگر بحث درباره مخاطرات «افسارگسیختگی مدل‌های زبانی» و لزوم ممیزی انسانی بر آن‌ها را داغ کرده است.

xAI تأکید کرد هیچ تغییری در خط‌مشی خود مبنی بر «جست‌وجوی حقیقت» نداده اما اذعان کرد نظارت دقیق‌تری برای جلوگیری از سوءاستفاده یا دستکاری داخلی لازم است.

برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.