لایحه آنتروپیک جلوی تعطیلی مدل‌های پیشرفته هوش مصنوعی را می‌ گیرد

شرکت آنتروپیک با ارائه پیش‌نویس یک لایحه به کنگره آمریکا می‌خواهد اختیار دولت را برای توقف مدل‌های پیشرفته هوش مصنوعی به تهدیدهای فاجعه‌بار مشخص و تایید قضایی محدود کند.

به‌ گزارشسرویس هوش مصنوعی تک‌ناکاین شرکت از کنگره آمریکا می‌خواهد ضوابط سخت‌گیرانه‌ای برای مداخله مقام‌های فدرال در دسترسی کاربران به مدل‌های پیشرفته هوش مصنوعی تعیین کند.

بر اساس پیش‌نویس محرمانه یک لایحه کهپولیتیکوبه آن دست یافته است، مداخله دولت باید به تهدیدهای فاجعه‌بار مشخص محدود شود و هرگونه تعلیق فعالیت یک مدل نیز به تایید قضایی نیاز داشته باشد. این پیشنهاد با هدف ایجاد چارچوبی حقوقی و شفاف‌تر برای توسعه‌دهندگان مدل‌های مرزی هوش مصنوعی تدوین شده است و در عین حال، دامنه شرایطی را که می‌توانند به اقدام دولت منجر شوند، محدود می‌کند. همچنین این طرح پرسش‌هایی اساسی درباره حدود نظارت نهادهای تنظیم‌گر بر سامانه‌هایی مطرح می‌کند که قابلیت‌های آنها با سرعت در حال افزایش است.

بیشتر بخوانیدآیا حملات سایبری هوش مصنوعی نظام مالی جهان را از کار می‌اندازند؟

آستانه‌های سخت‌گیرانه برای مداخله

طبق لایحه آنتروپیک، مقام‌های فدرال تنها در صورتی می‌توانند خواستار توقف یک مدل شوند که آن مدل تهدیدی قابل پیش‌بینی و قریب‌الوقوع ایجاد کند. شدت تهدید نیز باید به‌اندازه‌ای باشد که خسارتی بیش از یک میلیارد دلار به بار آورد یا باعث مرگ یا جراحت شدید بیش از ۵۰ نفر شود. این لایحه دامنه تهدیدهای مشمول مداخله را به سه دسته تولید یا انتشار سلاح‌های زیستی، خارج شدن مدل‌ها از کنترل توسعه‌دهندگان و حملات سایبری محدود می‌کند. سایر اشکال آسیب، خارج از چارچوب مشخص مداخله در این طرح قرار می‌گیرند.

حتما بخوانیدبا این ابزار مدل‌های هوش مصنوعی را با یک کلیک روی ویندوز اجرا کنید

آنتروپیک اعلام کرده است که این لایحه بازتاب‌دهنده «چارچوب هوش مصنوعی پیشرفته» این شرکت است؛ چارچوبی که از ماه ژوئن برای جلب حمایت قانون‌گذاران فدرال و ایالتی ترویج شده است. بر اساس گزارش پولیتیکو، سخنگوی آنتروپیک گفته است: «این‌ موارد سیاست‌هایی منطقی هستند که معتقدیم کنگره باید برای تصویب آنها اقدام کند.»

نظارت بر رعایت الزامات لایحه به ارزیابان مستقل سپرده می‌شود. این ارزیابان باید در وزارت بازرگانی آمریکا ثبت‌نام کنند و به‌طور دوره‌ای توسعه‌دهندگان مدل‌های مرزی و مدل‌های آنها را بررسی نمایند. شرکت‌های تحت ارزیابی می‌توانند هزینه خدمات ارزیابان را بپردازند، به شرط آنکه میزان پرداختی به یافته‌ها و نتایج ارزیابی وابسته نباشد. اگر ارزیابی‌ها وجود تهدیدی قریب‌الوقوع و مشمول مفاد لایحه را تایید کنند، ارزیابان موظف‌ هستند حداکثر تا ۷۲ ساعت پس از تکمیل بررسی، وزارت بازرگانی را در جریان قرار دهند.

شرط لایحه آنتروپیک برای توقف مدل‌ها

بر اساس پیش‌نویس، وزارت بازرگانی آمریکا اختیار توقف مستقل یک مدل هوش مصنوعی را نخواهد داشت و باید برای این کار از دادگاه فدرال ناحیه کلمبیا حکم بگیرد. این محدودیت شامل سایر وزارتخانه‌ها، سازمان‌ها و مقام‌های فدرال نیز می‌شود و آنها را از تعلیق فرایند توسعه، استقرار یا استفاده داخلی از یک مدل منع می‌کند. هدف این بند، کاهش احتمال اقدام ناگهانی قوه مجریه علیه توسعه‌دهندگان هوش مصنوعی است.

این موضوع در پی محدودیت‌های صادراتی آمریکا اهمیت ویژه‌ای پیدا کرده است؛ محدودیت‌هایی که بنا بر گزارش‌ها، تابستان گذشته دو مدل پیشرفته آنتروپیک را از دسترس خارج کردند یا فعالیت آنها را مختل ساختند. این رویداد نگرانی‌هایی را در صنعت فناوری برانگیخت که مقام‌های دولتی ممکن است دسترسی به سامانه‌های قدرتمند هوش مصنوعی را محدود کنند.

با وجود این، لایحه پیشنهادی آنتروپیک برخی الزامات ایالتی از جمله مقررات مربوط به افشای عمومی ریسک‌ها، ارزیابی مستقل و گزارش‌دهی حوادث بحرانی را نیز بی‌اثر می‌کند. این بند ممکن است مناقشه دیرینه بر سر تعیین استاندارد واحدی در سطح فدرال یا حفظ مقررات حفاظتی سخت‌گیرانه‌تر در ایالت‌ها را دوباره شعله‌ور کند.

رویکردهای متفاوت برای تنظیم مقررات هوش مصنوعی

پیش‌نویس آنتروپیک در میانه بحث‌های گسترده قانون‌گذاری درباره نحوه تنظیم مقررات مدل‌های مرزی هوش مصنوعی در آمریکا مطرح شده است. لوری ترهان و جی اوبرنولته، نمایندگان کنگره، طرح «قانون فرانتیر» را پیش برده‌اند؛ طرحی که اختیار مداخله دولت در برابر مدل‌های پرخطر را به رسمیت می‌شناسد و برخی قوانین ایالتی را کنار می‌زند. در سنا نیز جان تون، رهبر اکثریت، همراه با ایمی کلوبوچار و تد کروز در حال تدوین قانونی برای مقابله با خطرات فاجعه‌بار هوش مصنوعی است. در مقابل، برخی مدافعان ایمنی هوش مصنوعی و ماریا کانتول، سناتور آمریکایی، خواستار سازوکار نظارتی فدرال سخت‌گیرانه‌تری هستند. برخی قانون‌گذاران نیز خواهان محدودیت‌هایی فراگیرتر شده‌اند. گرگ کاسار، نماینده کنگره و برنی سندرز، سناتور آمریکایی، از توقف موقت توسعه هوش مصنوعی پیشرفته و ممنوعیت ابرهوش مصنوعی حمایت کرده‌اند.

برای مطالعه بیشترهشدار چهره‌های سرشناس درباره خطرات امنیتی هوش مصنوعی!

در مقایسه با این رویکردها، لایحه آنتروپیک دامنه محدودتری دارد. این طرح توسعه‌دهندگان مدل‌های مرزی را ملزم می‌کند چارچوب‌های ایمنی مشخصی تدوین کنند، گزارش‌های شفافیت درباره مدل‌های جدید منتشر سازند، از افشاگران حمایت کنند و حوادث بحرانی را به وزارت بازرگانی گزارش دهند. تصمیم کنگره درباره پذیرش یا رد این محدودیت‌ها، نقش تعیین‌کننده‌ای در مشخص شدن حدود اختیارات دولت فدرال بر سامانه‌های پیشرفته هوش مصنوعی خواهد داشت. در نهایت، مسئله اصلی این است که آیا می‌توان با تدوین چارچوبی ملی از عموم مردم محافظت کرد، بی‌آنکه اختیاراتی بیش از اندازه در اختیار نهادهای تنظیم‌گر قرار گیرد.

نوشتهلایحه آنتروپیک جلوی تعطیلی مدل‌های پیشرفته هوش مصنوعی را می‌ گیرداولین بار درTechnoc. پدیدار شد.

برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.