پیشنهاد جنجالی آنتروپیک به کنگره؛ توقف هوش مصنوعی فقط با ۵۰ کشته یا یک میلیارد دلار خسارت

شرکت آنتروپیک با ارائه طرحی به قانون‌گذاران آمریکا اعلام کرد دادگاه‌ها تنها باید زمانی مانع هوش مصنوعی شوند که خطر مرگ پنجاه انسان یا خسارت میلیاردی محرز باشد.

این پیشنهاد تازه که به عنوانپیشنهاد جامع ایمنی هوش مصنوعی در واشنگتنمعرفی شده، ساختار حقوقی جدیدی را پیش پای کنگره می‌گذارد تا میان نوآوری پرسرعت و ریسک‌های آخرالزمانی موازنه‌ای تازه برقرار سازد. داریو آمودئی مدیرعامل شرکت آنتروپیک در اظهارنظری صریح پیرامون رویکرد ایمنی شرکتش اعلام کرده است که جامعه جهانی بدون داشتن قوانین مشخص در قبال آزمایش‌های پرخطر، با احتمال غیرقابل جبران فجایع بیولوژیک و فروپاشی شبکه‌های حیاتی مواجه خواهد شد. با این حال رویکرد تازه این آزمایشگاه پیشرو، جنجال‌های فراوانی میان قانون‌گذاران و پژوهشگران مستقل به راه انداخته است.

جزییات لایحه پیشنهادی آنتروپیک برای نظارت قضایی بر مدل‌های هوش مصنوعی

پیشنهاد مذکور با هدف کاهش مداخلات سلیقه‌ای دولت طراحی شده و تلاش می‌کند تنها بر فجایع در مقیاس ملی و جهانی تمرکز کند. شرکت آنتروپیک که به عنوان خالق مدل‌های قدرتمند خانواده کلود شناخته می‌شود، مدعی است که تنظیم‌گری هوش مصنوعی نباید دست و پای شرکت‌ها را در توسعه فناوری ببندد، مگر آنکه احتمال وقوع یک تراژدی بزرگ انسانی یا مالی در میان باشد.

خطوط قرمز مداخله فدرال؛ تلفات انسانی و خسارت‌های نجومی

لایحه پیشنهادی سازوکاری را تعریف می‌کند که بر اساس آن، نهادهای اجرایی دولت ایالات متحده از اختیار مسدودسازی مستقیم مدل‌ها محروم می‌شوند. بر پایه این طرح، تنها یک قاضی فدرال می‌تواند دستور توقف توسعه یا جلوگیری از عرضه عمومی یک سیستم هوش مصنوعی پیشرفته را صادر کند. برای دریافت چنین حکمی، دادستان‌ها و نهادهای نظارتی باید دلایل روشن و مدارکی محکم ارائه دهند که نشان دهد سیستم مذکور تهدیدی قریب‌الوقوع و مستند به حساب می‌آید.

تعریف این تهدید به شکلی دقیق کمّی‌سازی شده است. خطر باید دست‌کم جان پنجاه انسان بی‌گناه را بگیرد، باعث آسیب جسمی شدید و دائمی به همین تعداد شهروند شود یا به صورت مستقیم بیش از یک میلیارد دلار خسارت به دارایی‌ها، صنایع کلیدی و زیرساخت‌های اقتصادی وارد سازد. تا زمانی که این آستانه عددی نقض نشود، شرکت‌ها در ادامه آزمایش‌ها و استقرار مدل‌های خود آزادی عمل خواهند داشت.

تعیین سقف یک میلیارد دلاری و آستانه مرگ پنجاه نفر، منتقدان را شگفت‌زده کرده است. بسیاری می‌پرسند چرا خطرات کوچک‌تر که هر روزه زندگی میلیون‌ها کاربر را تهدید می‌کنند، از دایره برخورد قضایی پیشگیرانه خارج شده‌اند. طرفداران لایحه اما استدلال می‌کنند که اگر دادگاه‌ها وارد اختلافات جزئی شوند، پیشرفت پردازش داده‌ها در آمریکا کند شده و سایر رقبای بین‌المللی گوی سبقت را خواهند ربود.

سه حوزه خطر مرگبار تحت پوشش رگولاتوری پیشنهادی

لایحه آنتروپیک دامنه فعالیت خود را به هر نوع نقصی تعمیم نمی‌دهد، بلکه نوک پیکان را به سمت حوزه‌هایی گرفته که خطای هوش مصنوعی در آن‌ها بازگشت‌ناپذیر است. در این سند به روشنی ذکر شده که سه حوزه رفتاری مدل‌های مرزی باید زیر ذره‌بین دائمی قرار بگیرند و تخطی از آنها موجب مداخله قضایی خواهد شد.

تسلیحات نامتعارف، حملات سایبری و از دست رفتن مهار مدل

نخستین و جدی‌ترین محور، پتانسیل هوش مصنوعی در ساخت، ترکیب یا تسهیل انتشار تسلیحات بیولوژیک و شیمیایی است. اگر سامانه‌ای بتواند اطلاعات گام‌به‌گام برای مهندسی پاتوژن‌های مرگبار در اختیار بازیگران مخرب بگذارد، بلافاصله در گروه ریسک غیرقابل قبول دسته‌بندی خواهد شد. کارشناسان ایمنی زیستی مدت‌هاست درباره توانایی مدل‌های بزرگ در طراحی ویروس‌های جهش‌یافته هشدار می‌دهند و این لایحه تلاش دارد این گلوگاه را با اهرم دادگاه مسدود کند.

محور دوم، اجرای حملات سایبری خودکار و تهاجمی به شبکه‌های برق، سامانه‌های تصفیه آب، پایگاه‌های داده مالی و مراکز ارتباطاتی است. چنانچه عاملیت یک هوش مصنوعی مرزی به نقطه‌ای برسد که توانایی شکستن لایه‌های دفاعی نرم‌افزارهای زیرساختی را بدون نیاز به دستور انسانی داشته باشد، تهدید امنیتی درجه یک شناسایی می‌شود.

سومین مؤلفه، فرار از پروتکل‌های مهار و هدایت‌پذیری است. این بخش به شرایطی اشاره دارد که هوش مصنوعی کنترل فرایندهای حیاتی سپرده‌شده به خود را به دست بگیرد، نسخه‌های خود را در سرورهای خارجی تکثیر کند یا از اجرای فرامین توقف مهندسان سرپیچی نماید. از دست رفتن مهار مدل، نقطه آغازی برای فجایع بعدی به شمار می‌رود و لایحه خواهان اقدام ضربتی در برابر آن است.

ساختار نظارتی نوین با همکاری ارزیابان مستقل و وزارت بازرگانی

مکانیسم پیشنهادی برای شناسایی و پیگیری این خطرات از پیچیدگی‌های بوروکراتیک فاصله گرفته است. در چارچوب مورد نظر آنتروپیک، وزارت بازرگانی آمریکا بازوی اصلی هدایت ارزیابان مستقل خواهد بود. این ارزیابان متشکل از متخصصان امنیت نرم‌افزار، پژوهشگران ارشد هوش مصنوعی و دانشمندان مستقل حوزه‌های دفاعی هستند که کدهای مدل‌ها، وزن‌ها و رفتارهای سیستم را پیش از عرضه عمومی و حین اجرای عملیاتی بررسی می‌کنند.

شیوه اجرای حکم دادگاه برای توقف یک سیستم مرزی

اگر تیم ارزیابی مستقل نشانه‌ای از رد شدن مدل از شاخص‌های پرخطر مشاهده کند، فوراً گزارش فنی خود را به وزیر بازرگانی تسلیم خواهد کرد. وزیر بازرگانی در نقش شاکی عمومی وارد میدان شده و پرونده را در دادگاه فدرال ثبت می‌کند. این ساختار اجازه نمی‌دهد دولت سرخود و با دلایل مبهم سیاسی، کلید خاموش کردن یک سرویس هوش مصنوعی را فشار دهد، بلکه تصمیم نهایی به قاضی واگذار شده تا شفافیت ماجرا تضمین شود.

این شیوه تعامل از تکرار مجادلات گذشته که شرکت‌های فناوری دولت را به سنگ‌اندازی متهم می‌کردند جلوگیری می‌کند. در عین حال، سازوکارهای بازرسی مستقل تضمین می‌دهند که شرکت‌ها نمی‌توانند ارزیابی‌های خودسرانه یا گزینشی را به عنوان کارنامه قبولی به خورد رسانه‌ها و کاربران بدهند.

وظایف تکلیفی شرکت‌های هوش مصنوعی و حمایت قانونی از افشاگران

لایحه آنتروپیک تمام بار را به دوش دولت و قاضی نینداخته، بلکه وظایف سخت‌گیرانه‌ای نیز برای کمپانی‌های بزرگ هوش مصنوعی تعیین کرده است. این تکالیف به شکل استانداردهای درون‌سازمانی اجباری تعریف می‌شوند و سرپیچی از آنها جرایم نقدی سنگینی به دنبال دارد.

گزارش‌دهی شفاف و چتر حمایتی برای سوت‌زنان درون‌سازمانی

مهم‌ترین بخش این تکالیف، تدوین و به‌روزرسانی چارچوب‌های ایمنی داخلی است. شرکت‌ها باید نقشه‌های راه مشخصی منتشر کنند که نشان دهد چگونه برای مهار خطرات احتمالی آمادگی دارند. افزون بر این، انتشار دوره‌ای گزارش‌های شفافیت پیرامون آزمایش‌های انجام‌شده و تست‌های نفوذ قرمز الزامی خواهد بود. چنانچه سانحه‌ای بحرانی حتی در محیط بسته آزمایشگاهی رخ دهد، مدیران ارشد ملزم به ارسال اعلان رسمی به نهاد ناظر هستند.

یکی از درخشان‌ترین بخش‌های این پیش‌نویس، ایجاد کانال‌های ایمن برای افشاگران داخلی است. در سال‌های اخیر بسیاری از مهندسان و دانشمندان ایمنی به دلیل ترس از اخراج، لغو ویزا یا پرونده‌سازی‌های حقوقی، از صحبت درباره خطرات پنهان مدل‌ها خودداری می‌کردند. بر اساس این طرح، هر پژوهشگری که نقض موازین ایمنی یا رفتارهای پرخطر مدل را به بازرسان گزارش دهد، از حمایت کامل قانون فدرال برخوردار خواهد شد و هیچ شرکتی حق تلافی یا قطع همکاری با او را نخواهد داشت.

مقایسه الگوی آنتروپیک با لایحه کالیفرنیا و قوانین اروپایی

طرح پیشنهادی آنتروپیک در خلأ شکل نگرفته است. این سند در واکنش به فضای پرتنش تقنینی در واشنگتن و کالیفرنیا متولد شده است. در گذشته تلاش‌های متعددی در ایالت‌های مختلف انجام گرفت تا کنترل‌های سختی بر این غول‌ها تحمیل شود، اما اغلب این تلاش‌ها به علت پیچیدگی یا فشارهای لابی‌گری شکست خوردند.

بررسی تفاوت‌ها نشان می‌دهد که آنتروپیک سعی دارد از تکرار سرنوشت تلخقوانین سخت‌گیرانه ایمنی کالیفرنیاکه به خاطر نگرانی از نابودی استارتاپ‌ها با وتوی فرماندار روبرو شد، فاصله بگیرد. در طرح‌های پیشین ایالتی، تمرکز زیادی روی مدل‌های با هزینه آموزش فراتر از صد میلیون دلار وجود داشت و مسئولیت مدنی سنگینی روی دوش توسعه‌دهندگان گذاشته می‌شد. اما آنتروپیک تمرکز را از هزینه آموزش، به خروجی رفتاری و پیامدهای فیزیکی سیستم تغییر داده است.

در مقایسه با قانون هوش مصنوعی اتحادیه اروپا نیز رویکرد آنتروپیک به مراتب ملایم‌تر است. اتحادیه اروپا مدل‌ها را بر پایه ریسک‌های بنیادی مانند تبعیض، نقض حریم شخصی و حق اعتراض دسته‌بندی کرده، در حالی که لایحه آنتروپیک این مسائل را به حقوق عامه سپرده و قانون ویژه هوش مصنوعی را منحصراً به فجایع عظیم مادی و جانی اختصاص داده است.

چالش‌ها و انتقادات جدی؛ آیا غول‌های فناوری مصونیت می‌گیرند؟

با وجود جذابیت ظاهری این سند، کارشناسان مستقل ایمنی، کنشگران حقوق مصرف‌کننده و جامعه دانشگاهی انتقادات بسیار تندی به آن وارد کرده‌اند. هسته اصلی اعتراض‌ها متوجه تعیین آستانه پنجاه نفری برای کشته‌ها و سقف یک میلیارد دلاری است.

نادیده گرفتن آسیب‌های خزنده و خطرات مقیاس متوسط

منتقدان بر این باورند که چنین ارقامی، مصونیتی آشکار برای رفتارهای مخرب در مقیاس پایین‌تر ایجاد می‌کند. اگر یک مدل هوش مصنوعی باعث تصادف زنجیره‌ای چند خودروی خودران شده و چهل نفر جان خود را از دست بدهند، طبق این قانون دادگاه توان صدور دستور توقف سراسری مدل را نخواهد داشت. همین مسئله در خصوص کلاهبرداری‌های الگوریتمی، دستکاری سهام، تولید اخبار جعلی در انتخابات و اخاذی‌های سریالی نیز صدق می‌کند.

علاوه بر این، اثبات قریب‌الوقوع بودن خسارت یک میلیارد دلاری پیش از وقوع حادثه، از منظر بار اثبات در دادگاه کاری طاقت‌فرساست. وکلای شرکتی به‌راحتی می‌توانند پیوند علی و معلولی میان خروجی مدل و خسارت فیزیکی را زیر سوال ببرند. در نتیجه، این شروط ممکن است دست دادستان‌ها را در مهار شرکت‌های خاطی ببندد و عملاً دادگاه را به نظاره‌گری ناتوان تبدیل کند.

از سوی دیگر، طرفداران آزادی متن‌باز نیز از این لایحه خشنود نیستند. آنها معتقدند واگذاری صلاحیت به تاییدکنندگان وابسته به وزارت بازرگانی، در عمل انحصاری دوطرفه میان غول‌های سیلیکون‌ولی و دولت پدید می‌آورد که پروژه‌های کدباز کوچک‌تر تاب هزینه‌های اخذ مجوز آن را نخواهند داشت.

آینده لایحه ایمنی آنتروپیک در کنگره و سناریوهای پیش‌رو

ارائه این پیش‌نویس نقطه آغاز ماراتنی نفس‌گیر در دالان‌های کنگره آمریکا به شمار می‌رود. قانون‌گذاران دموکرات و جمهوری‌خواه که تاکنون بر سر چگونگی مهار هوش مصنوعی به اشتراک نظر نرسیده بودند، اکنون سندی منسجم از سوی یکی از XNET این صنعت در دست دارند که مبنای چانه‌زنی‌های آتی خواهد بود.

پیش‌بینی می‌شود که لایحه در فرایند بررسی با تغییرات گسترده‌ای همراه شود. نمایندگان احتمالاً برای کاستن از شدت انتقادات عمومی، آستانه پنجاه کشته را بازنگری کرده یا دایره اختیارات ارزیابان مستقل را برای مقابله با تقلب‌های گسترده مالی و دیپ‌فیک‌های انتخاباتی افزایش خواهند داد. با این وجود، همین که یک شرکت پیشرو در حوزه مدل‌های زبانی بزرگ پیش‌قدم نگارش قانون توقف برای فناوری خود شده، گامی مهم در پخته‌تر شدن گفتمان حاکمیت فناوری محسوب می‌شود.

روزهای آینده نشان خواهد داد که آیا سایر رقبا نظیر اوپن‌ای‌آی و گوگل نیز از چنین استانداردی پشتیبانی خواهند کرد یا این که در برابر آستانه‌های دادگاهی آنتروپیک مقاومت می‌کنند. پرونده ایمنی مدل‌های مرزی وارد ایستگاهی سرنوشت‌ساز شده است؛ جایی که خط میان آزادی بی‌قیدوشرط مهندسی و امنیت جان شهروندان، با اعداد و احکام قضایی ترسیم می‌شود.

سوالات متداول

برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.