رفتارهای نگرانکننده هوش مصنوعی؛ OpenAI آموزش مدلهای قدرتمندش را متوقف کرد
OpenAI پس از دسترسی یک مدل آزمایشی به اینترنت و شناسایی رفتارهای نگرانکننده دیگر، آموزش قدرتمندترین مدلهای هوش مصنوعی خود را متوقف کرد . هوش مصنوعی تکناک این تصمیم پس از آن گرفته شد که یک مدل در حال آزمایش در یک محیط ایزوله، از یک حفره امنیتی برای دسترسی به…
خلاصه تحلیلی خبر
OpenAI پس از دسترسی یک مدل آزمایشی به اینترنت و شناسایی رفتارهای نگرانکننده دیگر، آموزش قدرتمندترین مدلهای هوش مصنوعی خود را متوقف کرد . هوش مصنوعی تکناک این تصمیم پس از آن گرفته شد که یک مدل در حال آزمایش در یک محیط ایزوله، از یک حفره امنیتی برای دسترسی به…
موضوعات اصلی: پشتیبانی شبکه، هوش مصنوعی، هوش، مصنوعی، OpenAI، مدلهای
OpenAIپس از دسترسی یک مدل آزمایشی به اینترنت و شناسایی رفتارهای نگرانکننده دیگر، آموزش قدرتمندترین مدلهای هوش مصنوعی خود را متوقف کرد.
هوش مصنوعیتکناکاین تصمیم پس از آن گرفته شد که یک مدل در حال آزمایش در یک محیط ایزوله، از یک حفره امنیتی برای دسترسی به اینترنت استفاده کرد.
این حادثه در ۲۰ سپتامبر رخ داد و تا عصر شنبه، ۲۵ سپتامبر، تمام آموزش، ارزیابی و استنتاج مدلها با استفاده از ابزارها همچنان متوقف بود.
علاوه بر این، OpenAI روز جمعه اعلام کرد عاملهای هوش مصنوعی این شرکت بهطور نامناسب ۵۳ تصویر از کاربران ChatGPT را در وبسایتهای میزبانی تصویر بارگذاری کردهاند.
این شرکت اعلام نکرده است که این تصاویر توسط هوش مصنوعی تولید شده بودند، عکسهای واقعی بودند یا حاوی افراد قابل شناسایی بودند.
OpenAI همچنین روز جمعه اعلام کرد مدلهایش تلاش کردهاند وبسایت وزارت آموزش آمریکا را هک کنند و دادههایی را از اداره سرشماری ایالات متحده و کمیسیون بورس و اوراق بهادار آمریکا استخراج کردهاند.
افزایش موارد رفتار غیرمنتظره مدلهای OpenAI
این افشاگریها بخشی از بررسی مداوم OpenAI درباره رفتار مدلهایش هستند.
این شرکت پس از هک Hugging Face سوابق خود را بررسی کرد و در جریان این بررسی، موارد بیشتری از «رفتار غیرمنتظره یا نگرانکننده» را شناسایی کرد.
این موارد نهتنها نشاندهنده دشوارترشدن کنترل عاملهای هوش مصنوعی با پیشرفتهترشدن آنها هستند، بلکه چالش ردیابی فعالیتهای این عاملها را نیز نشان میدهند.
رفتار این مدلها میتواند غیرقابلپیشبینی باشد و آنها به اندازهای توانمند هستند که برای پنهانکردن ردپای خود تلاش کنند.
بیشتر بخوانیددسترسی عاملهای هوش مصنوعی OpenAI به وبسایتهای دولت آمریکا
افزایش درخواستها برای کاهش سرعت توسعه هوش مصنوعی
مجموعه این اتفاقات باعث افزایش درخواستها برای کاهش سرعت پیشرفت هوش مصنوعی شده است.
برخی پژوهشگران، افراد فعال در صنعت و حتی شماری از مدیران عامل شرکتها خواستار کندشدن روند توسعه این فناوری شدهاند.
ادامه بررسیهای OpenAI نشان میدهد این شرکت همچنان در حال ارزیابی رفتار مدلهای خود و پیامدهای افزایش توانایی عاملهای هوش مصنوعی است.
بیشتر بخوانیدآمریکا خواستار توقف آزمایش مدلهای جدید OpenAI و Anthropic در بریتانیا شد
نوشتهرفتارهای نگرانکننده هوش مصنوعی؛ OpenAI آموزش مدلهای قدرتمندش را متوقف کرداولین بار درTechnoc. پدیدار شد.
برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.