کانادا از OpenAI شکایت کرد؛ هشدار ChatGPT پیش از تیراندازی مرگبار زیر ذره‌بین رفت

استان بریتیش کلمبیا به دلیل کوتاهی OpenAI در گزارش تهدیدات خشونت‌آمیز پیش از یک تیراندازی مرگبار، شکایتی رسمی علیه این شرکت در دادگاه فدرال آمریکا ثبت کرد.

هوش مصنوعیتکناک، استان بریتیش کلمبیا در کانادا، علیه OpenAI در دادگاه فدرال آمریکا شکایت کرد. این اقدام حقوقی در پی کوتاهی این شرکت در اطلاع‌رسانی به مقامات انتظامی درباره تعاملات نگران‌کننده یک کاربر در پلتفرم ChatGPT پیش از وقوع تیراندازی جمعی درمنطقه Tumbler Ridgeصورت گرفته است.

در حادثه مرگبار ماه فوریه، Jessie Van Rootselaar هجده‌ساله هشت نفر از جمله شش کودک را به قتل رساند. بررسی‌ها نشان می‌دهد کهتیم ایمنی OpenAIماه‌ها پیش از وقوع این حمله، فعالیت‌های حساب کاربری این فرد را به دلیل ارجاعات صریح به خشونت مسلحانه علامت‌گذاری کرده بود، اما این شرکت از هشدار به مقامات محلی درباره این تهدیدات امتناع ورزید.

واکنش دادستان کل بریتیش کلمبیا

نیکی شارما، دادستان کل بریتیش کلمبیا، در جریان ثبت این شکایت در روز دوشنبه اعلام کرد که هدف اصلی، پاسخگو کردن شرکت‌های فناوری در برابر تهدیدات جدی و خشونت‌آمیز است. شارما تأکید دارد که این شرکت تاکنون اقدامات مؤثری برای رسیدگی به نگرانی‌های بازماندگان، خانواده‌های قربانیان و جامعه آسیب‌دیده Tumbler Ridge انجام نداده است و OpenAI باید با تقویت تدابیر امنیتی و افزایش شفافیت، مسئولیت‌پذیری خود را در این زمینه اثبات کند.

ناکافی بودن عذرخواهی سم آلتمن

سم آلتمن، مدیر اجرایی OpenAI، در ماه آوریل طی نامه‌ای سرگشاده ضمن ابراز تأسف عمیق، بابت عدم اطلاع‌رسانی به مجریان قانون عذرخواهی کرده بود. با این حال، دولت بریتیش کلمبیا معتقد است که این عذرخواهی برای حل چالش‌های امنیتی کافی نیست. مسئولان این استان از OpenAI خواسته‌اند تا محتوای چت‌های رد و بدل شده با ضارب را برای بررسی‌های بیشتر افشا کند، اما این شرکت تاکنون از انجام این درخواست سر باز زده است.

براساس گزارشBBCاز آنجایی که تصمیم برای عدم گزارش حساب کاربری ضارب در ایالت کالیفرنیا اتخاذ شده، شکایت مذکور در دادگاه‌های همین ایالت طرح شده است. مقامات بریتیش کلمبیا اعلام کرده‌اند که در صورت پیروزی در این پرونده و دریافت هرگونه خسارت مالی، تمام مبالغ حاصل از آن صرف بازسازی دبیرستان آسیب‌دیده خواهد شد. این شکایت پرسش‌های جدی درباره مرزهای مسئولیت‌پذیری شرکت‌های هوش مصنوعی و ضرورت همکاری میان آنان و نهادهای امنیتی در پیشگیری از فجایع انسانی مطرح کرده است. دولت کانادا انتظار دارد OpenAI با تغییر رویکرد خود، گام‌های عملی و ملموسی برای جلوگیری از تکرار حوادث مشابه در آینده بردارد و استانداردهای حفاظتی پلتفرم خود را به سطح قابل‌قبولی برای امنیت عمومی ارتقا دهد.

نوشتهکانادا از OpenAI شکایت کرد؛ هشدار ChatGPT پیش از تیراندازی مرگبار زیر ذره‌بین رفتاولین بار درTechnoc. پدیدار شد.

برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.