نیویورک نظارت‌ بر شرکت‌های هوش مصنوعی OpenAI و آنتروپیک را تشدید می‌کند

نیویورک خود را برای اجرای یکی از مهم‌ترین قوانین ایمنی هوش مصنوعی در آمریکا آماده می‌کند.

این ایالت روز سه‌شنبه درگاه ثبت‌نام جدیدی راه‌اندازی کرد که بر اساس آن، شرکت‌های بزرگ توسعه‌دهنده مدل‌های پیشرفته هوش مصنوعی، از جمله OpenAI و آنتروپیک، موظف‌اند تا اول ژانویه ۲۰۲۷ در این سامانه ثبت‌نام کنند.

قانون RAISE که با هدف افزایش ایمنی و شفافیت هوش مصنوعی در نیویورک تصویب شده، از ابتدای سال آینده میلادی اجرایی خواهد شد. طبق این قانون، شرکت‌های بزرگ فعال در حوزه توسعه هوش مصنوعی پیشرفته که درآمد سالانه آن‌ها بیش از ۵۰۰ میلیون دلار است، باید چارچوب‌های ایمنی خود را در وب‌سایت‌هایشان منتشر کنند، حوادث جدی مرتبط با ایمنی را حداکثر ظرف ۷۲ ساعت گزارش دهند و گزارش‌های عمومی درباره شفافیت مدل‌های خود ارائه کنند.

دفتر تازه‌تأسیس نوآوری دیجیتال، حکمرانی، یکپارچگی و اعتماد (DIGIT) مسئول اجرای قانون RAISE و نظارت بر آزمایشگاه‌های بزرگ هوش مصنوعی خواهد بود. شرکت‌های متخلف ممکن است برای نخستین تخلف تا یک میلیون دلار و برای تخلفات بعدی تا سه میلیون دلار جریمه شوند.

دولت نیویورک همچنین می‌تواند علیه شرکت‌هایی که از ثبت‌نام در سامانه جدید خودداری کنند، اقدامات قانونی و اجرایی انجام دهد. با این حال، سخنگوی ایالت از ارائه جزئیات بیشتر درباره نحوه اجرای این اقدامات خودداری کرد.

کَتی هوکول، فرماندار نیویورک، روز سه‌شنبه در نشست خبری خود با انتقاد از رویکرد برخی مدیران صنعت فناوری گفت

غول‌های فناوری به ما می‌گویند چشم‌اندازی که برای هوش مصنوعی در نظر گرفته‌اند، اجتناب‌ناپذیر است. آن‌ها می‌گویند یا همراه ما شوید یا از رقابت عقب بمانید. به باور آن‌ها، هر میزان خسارت جانبی قابل‌قبول خواهد بود، به شرط آنکه در مسابقه حرکت به‌سوی پرتگاه هوش مصنوعی پیروز شویم.

هوکول همچنین روز سه‌شنبه مرکز نیویورک برای مسئولیت‌پذیری و پژوهش هوش مصنوعی را در دانشگاه بینگهمتون، زیرمجموعه دانشگاه ایالتی نیویورک، افتتاح کرد. این مرکز به‌صورت مستقل ایمنی، امنیت و عملکرد سامانه‌های پیشرفته هوش مصنوعی را ارزیابی خواهد کرد و در همکاری با دفتر DIGIT، چارچوب‌های ایمنی شرکت‌ها را مورد بررسی قرار می‌دهد.

هوکول نخستین بار در ماه ژانویه از تأسیس این مرکز خبر داده بود. برای راه‌اندازی آن نیز ۵۵ میلیون دلار کمک مالی و سرمایه اختصاص یافت. فرماندار نیویورک درباره اهداف این طرح گفت

ما در حال ایجاد الگویی ملی برای تنظیم هوشمندانه و منطقی مقررات هوش مصنوعی هستیم؛ الگویی که در آن منافع جوامع بر منافع شرکت‌ها و انسان‌ها بر فناوری‌های قدرتمند اولویت داشته باشند.

قانون RAISE تنها اقدام نیویورک برای افزایش ایمنی هوش مصنوعی نیست. این ایالت سال گذشته اجرای قانونی را آغاز کرد که اپراتورهای چت‌بات‌های همراه هوش مصنوعی را ملزم می‌کند به‌طور منظم به کاربران اطلاع دهند که در حال گفت‌وگو با یک ربات هستند.

این قانون همچنین شرکت‌های ارائه‌دهنده چنین خدماتی را موظف می‌کند اقدامات معقولی برای شناسایی نشانه‌های افکار خودکشی و رفتارهای خودآسیب‌رسان در کاربران انجام دهند.

هوکول در ماه اکتبر قانون جداگانه دیگری را برای افزایش ایمنی چت‌بات‌های هوش مصنوعی مورد استفاده افراد زیر سن قانونی امضا کرد. این قانون رفتارهایی مانند تعاملات فریبنده و انسان‌مانند، پاسخ‌های دارای دست‌کاری عاطفی یا چاپلوسانه و تشویق کاربران به رفتارهایی نظیر خودکشی یا اختلالات تغذیه‌ای را محدود می‌کند. اجرای این قانون از اول ژوئن ۲۰۲۷ آغاز خواهد شد.

ایالت‌های دیگر آمریکا نیز قوانینی مشابه قانون RAISE نیویورک برای افزایش ایمنی و شفافیت هوش مصنوعی تصویب کرده‌اند. قانون SB 53 کالیفرنیا که از ماه ژانویه اجرایی شده، آزمایشگاه‌های توسعه‌دهنده مدل‌های پیشرفته هوش مصنوعی را ملزم می‌کند چارچوب‌های ایمنی مشخصی تدوین و منتشر کنند، از افشاگران تخلفات حمایت کنند و حوادث مهم مرتبط با ایمنی را حداکثر ظرف ۱۵ روز گزارش دهند.

در ایلینوی نیز قانون SB 315 با الزامات مشابهی تصویب شده که از ابتدای سال ۲۰۲۷ اجرایی خواهد شد. این قانون علاوه بر الزام شرکت‌ها به رعایت چارچوب‌های ایمنی و گزارش حوادث مهم، انجام ممیزی‌های مستقل برای بررسی میزان پایبندی آن‌ها به الزامات ایمنی را نیز در نظر گرفته است.

برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.