سناتورهای آمریکا به‌ دنبال مهار خطر هوش مصنوعی هستند

مذاکره‌کنندگان سنا در آمریکا در حال بررسی طرحی هستند که بر اساس آن شرکت‌های فناوری مسئولیت طراحی و توسعه محصولات ایمن هوش مصنوعی را بر عهده خواهند داشت.

به‌ گزارشسرویس هوش مصنوعیتک‌ناکبه گفته دو دستیار سناتورها، این طرح در صورت تصمیم دولت آمریکا برای جلوگیری از عرضه برخی مدل‌ها، پای دادگاه‌های فدرال را به میان می‌کشد.

بر اساس این پیشنهاد، برای توسعه‌دهندگان هوش مصنوعی یک «وظیفه مراقبت» قانونی تعریف خواهد شد. یکی از دستیاران سنا بیان کرد که شرکت‌ها موظف خواهند بود محصولات خود را با هدف پیشگیری از «خطرات فاجعه‌بار» طراحی کنند.

بیشتر بخوانیدترامپ نگرانی‌ها را درباره سرعت توسعه هوش مصنوعی کم‌اهمیت دانست

جزئیات طرح دوحزبی سنا برای هوش مصنوعی

مذاکره‌کنندگان در تلاش‌ هستند اختیاری را برای دولت فدرال در نظر بگیرند که به آن اجازه دهد از عرضه مدل‌های خاصی که ناامن تشخیص داده می‌شوند، جلوگیری کند. شرکتی که با چنین تصمیمی مواجه شود، می‌تواند آن را در دادگاه فدرال به چالش بکشد. با وجود این، چارچوب دقیق این اختیار و میزان مداخله دولت همچنان در حال مذاکره است. همچنین این طرح ممکن است ایالت‌های آمریکا را از اجرای قوانین مستقل درباره برخی ریسک‌های ناشی از این مدل‌ها منع کند. یکی از دستیاران سنا در تشریح این ریسک‌ها به احتمال سوءاستفاده بازیگران مخرب از سیستم‌های هوش مصنوعی برای طراحی تسلیحات هسته‌ای یا زیستی اشاره کرد.

برای مطالعه بیشتربریتانیا با کلید خاموش اضطراری برای هوش مصنوعی مخالفت کرد

جزئیات طرح سنا برای هوش مصنوعی هنوز نهایی نشده است و مذاکرات ادامه دارد. قانون پیشنهادی، مدل‌های دارای پیشرفته‌ترین قابلیت‌ها را هدف قرار خواهد داد. گوگل متعلق به آلفابت، آنتروپیک و OpenAI از جمله شرکت‌های آمریکایی فعال در توسعه پیشرفته‌ترین مدل‌های هوش مصنوعی هستند. حتی در صورت دستیابی مذاکره‌کنندگان به توافق، برنامه کاری کنگره می‌تواند روند تصویب قانون را با چالش مواجه کند. مجلس نمایندگان آمریکا پیش از انتخابات میان‌دوره‌ای ۳ نوامبر تنها یک هفته در جلسه خواهد بود، در حالی که سنا قرار است سه هفته دیگر در واشنگتن فعالیت کند.

فشارها بر دولت افزایش می‌یابد

این مذاکرات با حضور جان تون، رهبر اکثریت سنا، تد کروز، رئیس کمیته بازرگانی سنا و ایمی کلوبوچار، ارشدترین دموکرات حاضر در مذاکرات دنبال می‌شود. کمیته بازرگانی سنا بر وزارت بازرگانی آمریکا نظارت دارد؛ نهادی که پژوهشگران داخلی در حوزه ایمنی هوش مصنوعی دارد. ماریا کانتول، ارشدترین دموکرات این کمیته نیز در روند بررسی طرح سنا مشارکت داشته است. سخنگوی جان تون از اظهارنظر درباره مذاکرات خودداری کرد. تد کروز نیز در پستی درشبکه ایکساعلام کرد که در حال همکاری با کلوبوچار و تون برای تدوین قانونی با هدف مقابله با خطرات فاجعه‌بار مرتبط با تهدیدهای زیستی و هسته‌ای است.

حتما بخوانیدمدیرعامل آنتروپیک: ترمز توسعه هوش مصنوعی باید کشیده شود

کلوبوچار در بیانیه‌ای برای رویترز گفت که همچنان برای دستیابی به یک توافق دوحزبی درباره نظارت دولت بر بزرگ‌ترین ریسک‌های ناشی از مدل‌های پیشرفته تلاش می‌کند. به گفته او، این قانون باید توسعه‌دهندگان را ملزم کند با کارشناسان دولت همکاری کنند تا مدل‌های خود را راستی‌آزمایی و آزمایش نمایند و از ایمنی آنها اطمینان حاصل کنند. کانتول نیز در شبکه ایکس تاکید کرد که قانون معنادار در این حوزه باید قدرتمندترین مدل‌ها را ملزم به انجام آزمایش‌های تخصصی توسط دانشمندان و کارشناسان آزمایشگاه‌های ملی آمریکا کند. هدف از این آزمایش‌ها، ارزیابی توانایی مدل‌ها برای تسهیل حملات سایبری پیچیده یا کمک به توسعه تسلیحات زیستی و هسته‌ای خواهد بود.

این مذاکرات در شرایطی انجام می‌شود که فشار بر کنگره آمریکا و دونالد ترامپ برای مقابله با ریسک‌های این سیستم‌های پیشرفته افزایش یافته است. نگرانی‌ها پس از انتشار گزارش‌هایی درباره انحراف عامل‌های هوش مصنوعی از دستورهای انسانی و نفوذ آنها به سیستم‌های خارجی تشدید شده است. هم‌زمان، شماری از پژوهشگران این حوزه که شرکت‌های پیشروی این صنعت را ترک کرده‌اند، دربارهخطرات بالقوه این فناوریهشدار داده‌اند. قانون‌گذاران هر دو حزب نیز طی روزهای اخیر خواستار تقویت نظارت بر هوش مصنوعی شده‌اند.

نوشتهسناتورهای آمریکا به‌ دنبال مهار خطر هوش مصنوعی هستنداولین بار درTechnoc. پدیدار شد.

برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.