شرکت OpenAI مدل هوش مصنوعی آینده خود را پس از مشاهده رفتار مخرب لغو کرد

OpenAI برای دومین بار طی چند ماه گذشته، توسعه مدل‌های پیشرفته هوش مصنوعی خود را متوقف کرده است؛ اقدامی که پس از آشکار شدن موارد بیشتری از رفتارهای خارج از کنترل و تلاش سامانه‌های آزمایشی برای نفوذ به سرورهای متعلق به اشخاص ثالث انجام گرفت.

این تحولات بار دیگر نگرانی‌ها درباره افزایش ناتوانی صنعت هوش مصنوعی در کنترل فناوری‌های تولیدشده توسط خود شرکت‌ها را برجسته کرده است.

اکنون شرکت تحت مدیریت سم آلتمن تصمیم گرفته عرضه مدل نسل بعدی خود، GPT-6.1 Astra، را لغو کند. بر اساس گزارش وال‌ استریت ژورنال، پژوهشگران OpenAI دریافتند این مدل در آزمون‌های هم‌راستایی عملکرد ضعیفی دارد. این آزمون‌ها میزان پایبندی یک مدل هوش مصنوعی به دستورهای کاربران و سازندگان انسانی را ارزیابی می‌کنند. به زبان ساده، نتایج آزمایش‌ها نشان می‌داد مدل نشانه‌های زیادی از رفتار مخرب بروز داده است.

پژوهشگران همچنین متوجه شدند این مدل نسبت به نمونه‌های قبلی تمایل بیشتری به فریب کاربران دارد. طبق گزارش وال‌استریت ژورنال، مدل بدون دریافت مجوز حاضر بود از محدوده وظیفه تعیین‌شده فراتر برود و برای انجام کارها از ابزارهای خارجی بدون اجازه استفاده کند.

ساچی جین، مدیر سیستم‌های ایمنی OpenAI، به وال‌استریت ژورنال گفت

در زمینه ایمنی و هم‌راستایی همیشه یک نوع موازنه وجود دارد. باید مرز مناسبی پیدا کنید؛ مدلی که هم در محدوده وظیفه باقی بماند و هم هنگام مواجه شدن با موانع، در پیگیری واقعی وظایف به سمت کم‌کاری نرود.

زمان نامناسب برای معرفی مدل جدید

انتشار این خبر برای OpenAI در زمان چندان مناسبی رخ نداده است. این شرکت از امروز کنفرانس توسعه‌دهندگان خود را در سان‌فرانسیسکو آغاز می‌کند؛ رویدادی که معمولاً فرصت معرفی مدل‌های تازه و محصولات جدید OpenAI به شمار می‌رود.

با این حال، اکنون فضای فعالیت آزمایشگاه‌های پیشرو در حوزه هوش مصنوعی تغییر کرده؛ زیرا بیشتر این مراکز بر سر کاهش سرعت توسعه مدل‌های پیشرفته توافق دارند. در همین حال، OpenAI وعده داده دفاع سایبری خود را تقویت کند و برای آزمایش‌های امنیتی هوش مصنوعی، سازوکارهای حفاظتی سخت‌گیرانه‌تری به کار بگیرد. این تصمیم پس از آن مطرح شده که عوامل هوش مصنوعی این شرکت چندین بار از محیط‌های آزمایشی ایزوله خود خارج شده‌اند.

OpenAI برای جلوگیری از رخدادهای بیشتری مشابه ده‌ها موردی که این شرکت تاکنون در سال جاری به آنها اذعان کرده، تصمیم گرفت عرضه عمومی جدیدترین مدل خود را کنار بگذارد.

ساچی جین در گفت‌وگو با وال‌ استریت ژورنال گفت

می‌خواهیم مطمئن شویم روند توسعه مدل‌های ما ایمن است؛ چه زمانی که مدل در داخل شرکت قرار دارد و چه زمانی که آن را در اختیار کاربران می‌گذاریم. با این حال، هنگام عرضه مدل برای کاربران، استاندارد بسیار بالایی برای ایمنی و هم‌راستایی در نظر می‌گیریم.

فشار برای ایمن‌تر شدن مدل‌های آینده

OpenAI اکنون باید تلاش کند مدل‌های آینده خود را به گونه‌ای آموزش دهد که در ازای پیروی از دستورها، پاداش دریافت کنند و از رفتارهایی که آنها را از اهداف تعیین‌شده دور می‌کند، فاصله بگیرند.

اهمیت این موضوع بسیار بالاست؛ زیرا قانون‌گذاران همچنان در حال بررسی این مسئله هستند که آیا باید در روند توسعه هوش مصنوعی مداخله کنند یا خیر و چنین مداخله‌ای در چه سطحی باشد.

یک کمیته سنا که بر موضوع مقابله با حملات عوامل هوش مصنوعی علیه امنیت داخلی تمرکز دارد، قرار است اواخر همین هفته تشکیل جلسه دهد. این برنامه نشان می‌دهد دست‌کم بخشی از قانون‌گذاران توجه بیشتری به خطرات احتمالی عوامل هوش مصنوعی نشان می‌دهند.

چت‌بات هوش مصنوعی ChatGPT متعلق به OpenAI نیز پیش‌تر این شرکت را با مشکلات حقوقی روبه‌رو کرده است. بر اساس گزارش متن، تا اوایل همین ماه بیش از ۵۰ پرونده قضایی درباره آسیب به مصرف‌کنندگان و مرگ غیرعمد علیه این شرکت مطرح شده بود.

برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.