اقدام مذکور درحالی انجام می شود که شرکت های هوش مصنوعی با فشارهای فزاینده ای درباره ریسک های چت بات برای کاربران جوان و نقش شرکت ها در ردیابی تهدید های آسیب زا روبرو شده اند.

براساس اطلاعات موجود اوپن ای آی اطلاعات عملی درباره اسلحه ها و سیستم های امنیتی که ممکن است مورد سواستفاده قرار گیرد را محدود می کنند. این محدودیت حتی زمانیکه هیچ قصدی از خشونت دیده نمی شود، برای نوجوانان اعمال خواهد شد.

چت جی پی تی زمانیکه به نظر می رسد یک نفر روی خشونت متمرکز شده برای تمام کاربران خودکار پایان می یابد و شرکت پس از چندبار تکرار چنین چت هایی حساب های کاربر را به طور موقت می بندد.

این شرکت همچنین اعلام کرد سیستم های پیش بینی سن خود را قدرتمندتر می کند تا کاربرانی را که تخمین می زند زیر ۱۸ سال دارند، به نسخه تجربه نوجوانان منتقل کند. همچنین اوپن ای آی تصمیم دارد اگر حساب نوجوان به دلیل تکرار گفتگو درباره خشونت به طور موقت مسدود شد به والدین اطلاع دهد.

اوپن ای آی جزئیات درباره حملات گسترده از جمله اسلحه های به کار رفته در چنین رویدادهایی و چگونگی به دست آمدن آنها را برای تمام کاربران محدود می کند. این شرکت اعلام کرد اقدامات ایمنی جدید از چند هفته آینده اعمال می شوند و به ارتقای آنها ادامه می دهد.