مدیر بین‌الملل آنتروپیک: مدل‌های متن‌باز ذاتاً خطرات بیشتری به همراه دارند

مدیر بخش بین‌الملل شرکت آنتروپیک اعلام کرده که مدل‌های متن‌باز در مقایسه با مدل‌های اختصاصی این شرکت، ذاتاً و طبق تعریف، خطرات بیشتری به همراه دارند. این اظهارات نسبت به موضع‌گیری قبلی «داریو آمودی»، مدیرعامل این شرکت، ادعایی بسیار گسترده‌تر درباره خطرات هوش مصنوعی محسوب می‌شود. آمودی پیش‌تر اعلام کرده بود مدل‌های دارای وزن‌های باز که فاقد قابلیت‌های خطرناک باشند، کالای عمومی محسوب می‌شوند.

«گیوم پرنسن»، مدیر آنتروپیک، این دیدگاه را در جریان یک اجلاس دولتی در دوبلین مطرح کرده است. او تأکید کرده که در حوزه ایمنی هوش مصنوعی بایدنسبت به مدل‌های متن‌بازبسیار محتاط بود؛ زیرا این دسته از مدل‌ها، براساس تعریفی که برای آنها وجود دارد، خطرات به‌مراتب بیشتری ایجاد می‌کنند. مدل‌های متن‌باز اساساً به مدل‌هایی گفته می‌شود که کدها، معماری و وزن‌های پردازشی آنها به‌صورت عمومی منتشر می‌شود و هر کاربری می‌تواند آنها را دانلود و روی سیستم‌های شخصی خود اجرا کند یا تغییر دهد.

چالش‌های امنیتی و رقابت در عرصه مدل‌های متن‌باز هوش مصنوعی

این اظهارات هم‌زمان با تشدید رقابت شرکت‌های اروپایی مطرح شده است. Mistral هفته گذشته مدل Large 4موسوم به Le Chonkرا معرفی کرد؛ مدلی با یک تریلیون پارامتر که در اروپا آموزش دیده و بر حاکمیت داده‌ها تأکید دارد. البته عرضه وزن‌های باز این مدل هنوز نهایی نشده و دسترسی فعلی تنها از طریق API میسترال امکان‌پذیر است و انتشار وزن‌ها برای ۲۷ اکتبر (۵ آبان) برنامه‌ریزی شده است.

پرنسن درحالی به نگرانی‌ها پیرامون مدل‌های متن‌باز اشاره کرده که طی هفته‌های اخیر نیز برخی پژوهش‌ها نتایج یکسانی به همراه داشته‌اند. برای مثال ارزیابی‌های مؤسسه SaferAI مشخص کرده بود که مدل چینی GLM-5.2 هیچ‌کدام از وظایف مربوط به حملات سایبری مخرب یا زیست‌شناسی دومنظوره را رد نکرده است؛ درحالی‌که مدل Claude آنتروپیک آن‌قدر درخواست‌ها را به دلیل ملاحظات ایمنی رد کرده که امکان به پایان رساندن بنچمارک وجود نداشت. همچنینتحقیقات گروه Frontier Red Teamآنتروپیک نشان داده بود که مدل‌های کوچک توانسته‌اند روی اندروید تی‌وی باکس‌های ارزان‌قیمت تکثیر شوند و تمام مدل‌های این آزمون، از جمله Gemma4 و GLM-5.2، متن‌باز بودند.

پرنسن همچنین درباره قیمت‌گذاری مدل‌ها اعلام کرده که هزینه معمول Claude Opus 5.5 نسبت به نسخه قبلی خود ۴۰ درصد کاهش یافته است. این صرفه‌جویی حاصل افت ۲۰ درصدی قیمت رسمی و کاهش استفاده از توکن‌ها در نسخه جدید است.

درنهایت باید اشاره کرد که ادعای مدیر آنتروپیک در اجلاس رسمی هوش مصنوعی تحت نظارت اتحادیه اروپا در دوبلین ایرلند مطرح شده است. انتخاب ایرلند به تعبیر برخی نشریات حاشیه‌ساز است؛ چراکه این کشور به‌دلیل گرفتن مالیات بسیار کم از غول‌های فناوری، سال‌هاست به پناهگاه مالیاتی آنها در اروپا تبدیل شده و از همین پول سود کلانی می‌برد؛ تا جایی که نهادهای مدنی معتقد هستند دولت ایرلند به‌خاطر همین سود مالی نمی‌تواند در مدیریت قوانین هوش مصنوعی بی‌طرف باشد. در این میان، آنتروپیک هم منافع بزرگی دارد؛ اروپا سریع‌ترین بازار درحال رشد آن است، نخستین دفتر اروپایی‌ این شرکت در دوبلین تأسیس شده و با نزدیک‌شدن به ورود به بورس با ارزش نجومی ۹۶۵ میلیارد دلار، به‌شدت نگران از دست دادن بازار به رقبای اروپایی است.

برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.