مدیرعامل Anthropic: صنعت هوش مصنوعی باید سرعت پیشرفت خود را کاهش دهد

داریو آمودی، مدیرعامل Anthropic، از فعالان صنعت هوش مصنوعی خواسته است سرعت توسعه مدل‌های پیشرفته را کاهش دهند.

آمودی اعلام کرده Anthropic به استفاده از ارزیاب‌های مستقل شخص ثالث متعهد خواهد شد و از دولت آمریکا می‌خواهد برای همکاری شرکت‌های رقیب در زمینه ایمنی هوش مصنوعی، معافیت محدود ضدانحصاری در نظر بگیرد. با این حال، بخش قابل‌توجهی از اقداماتی که آمودی پیشنهاد کرده، از آگوست ۲۰۲۵ برای مدل‌های عمومی دارای ریسک سیستمی در اتحادیه اروپا الزام قانونی داشته؛ موضوعی که در نوشته او هیچ اشاره‌ای به اروپا نشده است.

آمودی روز شنبه در مطلبی درباره آینده توسعه مدل‌های پیشرفته هوش مصنوعی نوشت

باید سرعتی را که با آن قابلیت‌های مدل‌های هوش مصنوعی را افزایش می‌دهیم، کاهش دهیم.

او توضیح داد که منظورش توقف توسعه هوش مصنوعی نیست. از دید آمودی، کاهش سرعت یعنی اختصاص زمان کافی برای همسو کردن مدل‌ها با الزامات ایمنی، ایجاد سازوکارهای حفاظتی و سپردن بررسی این اقدامات به ارزیاب‌های مستقل تا نتیجه کار تأیید شود.

نگرانی درباره عامل‌های هوش مصنوعی

نگرانی اصلی آمودی به همکاری عامل‌های هوش مصنوعی با یکدیگر مربوط می‌شود. او به حمله‌ای اشاره کرده که در آن یک گروه از عامل‌ها به Hugging Face نفوذ کردند و هشدار داده است که طی شش تا ۱۲ ماه آینده، چنین گروهی ممکن است توانایی کنترل بخش بزرگی از اینترنت را به دست آورد و یک بات‌نت پایدار ایجاد کند؛ اتفاقی که به گفته او می‌تواند صدها میلیارد دلار خسارت اقتصادی به همراه داشته باشد.

راهکاری که Anthropic پیشنهاد داده، استفاده از ارزیاب‌های مستقل و مستقر در داخل شرکت است. بر اساس این طرح، تیم‌های بیرونی باید دسترسی و اختیاراتی نزدیک به کارکنان داخلی حوزه ریسک داشته باشند، میز کار، تجهیزات و مجوزهای لازم در اختیارشان قرار گیرد و در عین حال بتوانند یافته‌های خود را بدون محدودیت منتشر کنند.

آمودی همچنین از دولت آمریکا درخواست کرده برای حل یک مشکل حقوقی وارد عمل شود. به گفته او، همکاری شرکت‌های رقیب در زمینه ایمنی می‌تواند از منظر قوانین ضدانحصار مشکل‌ساز باشد. بنابراین پیشنهاد کرده واشنگتن یا نقش میانجی را بر عهده بگیرد یا مجوزی محدود برای چنین همکاری‌هایی صادر کند. در ماه جولای نیز بیش از هزار نفر از کارکنان آزمایشگاه‌های هوش مصنوعی خواستار ایجاد سازوکاری برای کنترل سرعت پیشرفت این فناوری شده بودند.

با وجود این، آمودی در مطلب خود هیچ اشاره‌ای به اروپا نکرده است؛ در حالی که بسیاری از الزامات موردنظر او از مدت‌ها قبل در چارچوب قوانین اتحادیه اروپا اجرایی شده‌اند.

بخشی از پیشنهادهای آمودی، از قبل در اروپا اجرا می‌شود

از ۲ آگوست ۲۰۲۵، مقررات مربوط به ریسک سیستمی در قانون هوش مصنوعی اتحادیه اروپا برای مدل‌های عمومی مشمول این دسته اجرایی شده است.

ماده ۵۵ این قانون شرکت‌ها را ملزم می‌کند آزمایش‌های خصمانه و امنیتی مدل‌های خود را بر اساس پروتکل‌های استاندارد و مستند انجام دهند، ریسک‌های سیستمی را در سطح اتحادیه اروپا ارزیابی و کاهش دهند، از مدل و زیرساخت فیزیکی آن در برابر تهدیدهای سایبری محافظت کنند و حوادث جدی را بدون تأخیر غیرضروری به دفتر هوش مصنوعی اتحادیه اروپا گزارش دهند.

اتحادیه اروپا در تابستان امسال نیز این بخش از مقررات را تغییر نداد. قانون AI Omnibus که در ۲۷ جولای اجرایی شد، مهلت اجرای برخی الزامات مربوط به سامانه‌های پرریسک را تا ۱۶ ماه به تعویق انداخت، اما مقررات مرتبط با مدل‌های عمومی هوش مصنوعی را جابه‌جا نکرد.

ارزیابی مستقل نیز در اروپا در حال انجام است. بر اساس اطلاعات مطرح‌شده از سوی کمیسیون اروپا، آژانس ENISA ارزیابی‌هایی را درباره Mythos 5 متعلق به Anthropic و Astra متعلق به OpenAI انجام می‌دهد.

هنّا ویرکونن، مسئول فناوری کمیسیون اروپا، نیز این هفته گفت

قوانین اتحادیه اروپا شرکت‌هایی مانند Anthropic را موظف می‌کند خطرات مربوط به از دست رفتن کنترل را ارزیابی کنند؛ در حالی که چنین الزام مشابهی در سطح جهانی وجود ندارد.

با وجود مقررات گسترده اتحادیه اروپا، بخش دیگری از طرح آمودی هنوز در اروپا وجود ندارد. هیچ سازوکار اروپایی به شرکت‌های رقیب اجازه نمی‌دهد بر سر یک سقف یا سرعت مشترک برای توسعه هوش مصنوعی به توافق برسند و این مقررات نیز چین را پوشش نمی‌دهد.

پیشنهاد آمودی برای حل این مشکل بر سه محور استوار است: یک تعهد داوطلبانه از سوی شرکت‌ها، دریافت معافیت ضدانحصاری برای همکاری‌های ایمنی و در نهایت دستیابی به توافقی با چین.

با این حال، نخستین بخش از این پیشنهاد، یعنی ایجاد برخی الزامات ایمنی برای مدل‌های دارای ریسک سیستمی، در یکی از حوزه‌های قضایی جهان از قبل جنبه الزام‌آور پیدا کرده است؛ موضوعی که آمودی در نوشته خود به آن اشاره نکرده است.

برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.