پژوهشگران رازهای تازه‌ای از الگوهای نوشتاری هوش مصنوعی را فاش کردند

پژوهشگران با شناسایی حدود ۱۳ هزار نشانه زبانی، دریافته‌اند که مدل‌های هوش مصنوعی الگوهای نوشتاری مشخصی دارند.

به‌ گزارشسرویس هوش مصنوعیتک‌ناکبحث درباره «ردپاهای زبانی هوش مصنوعی» در متون به حدی گسترده شده که حتی یک اقتصاد کوچک پیرامون ابزارهای موسوم به آشکارساز هوش مصنوعی شکل گرفته و ارزش آن به میلیون‌ها دلار رسیده است. پژوهش جدیدی که شرکت گرافایت، فعال حوزه بازاریابی انجام داده حدود ۱۳ هزار واژه و عبارت را شناسایی کرده است که به اعتقاد این شرکت می‌توانند از الگوهای نوشتاری مدل‌های هوش مصنوعی باشند. البته با توجه به ماهیت تجاری گرافایت، نتایج این مطالعه باید با احتیاط ارزیابی شود. همچنین این پژوهش هشدار داده است که دست‌کم در یک مورد، این نشانه‌ها ممکن است به‌تدریج دشوارتر از گذشته قابل تشخیص باشند.

بیشتر بخوانیدکارمند سابق OpenAI؛ هوش مصنوعی باید مثل نیروگاه اتمی کنترل شود

الگوهای نوشتاری مدل‌های هوش مصنوعی

دیگر دوران استفاده افراطی از خط تیره بلند به‌ عنوان مهم‌ترین نشانه متن‌های تولیدشده با هوش مصنوعی گذشته است. بر اساسیافته‌های گرافایتاکنون برجسته‌ترین شاخص منفرد عبارت «این موضوع اهمیت دارد» است که در محتوای تولیدشده توسط هوش مصنوعی ۱۱۶ برابر بیشتر از نمونه‌های انسانی مورد استفاده در مقایسه دیده می‌شود. در حال حاضر، این عبارت بیش از همه به‌ عنوان ردپای نوشتاری Claude Opus 5.5، مدل پرچم‌دار آنتروپیک ظاهر می‌شود. همچنین خروجی‌های کلود تمایل بیشتری به استفاده از عبارت «با نگاهی به آینده» دارند که فراوانی آن ۴۰ برابر بیشتر از متون انسانی است. عبارت «چرا [موضوعی] اهمیت دارد» نیز ۹۲ برابر بیشتر در خروجی‌های این مدل دیده می‌شود. واژه «قابل اعتماد» هم ۲۶ برابر بیشتر از نمونه‌های انسانی در نوشته‌های کلود به کار می‌رود.

برای مطالعه بیشترترامپ تزار هوش مصنوعی منصوب می‌کند

مطالعه گرافایت نشان می‌دهد مدل هوش مصنوعی آسترا از OpenAI نیز مجموعه‌ای از الگوهای نوشتاری متمایز دارد. برای نمونه، این مدل پرچم‌دار عبارت «این موضوع را اثبات نمی‌کند» را با فراوانی غیرمعمولی به کار می‌برد. این عبارت در متن‌های تولیدشده توسط آسترا ۲۷۵ برابر بیشتر از خروجی‌های کلود دیده می‌شود. این مطالعه در مجموع نشان می‌دهد که Claude Opus 5.5 در مقایسه با آسترا کمتر به محدودسازی یا مشروط‌ کردن ادعاهای خود تمایل دارد و در مقابل، بسیار بیشتر از عبارات برترین‌ساز و اغراق‌آمیز استفاده می‌کند.

ردپاها از بین می‌روند؟

با وجود این، شاید مهم‌ترین تفاوت میان Opus و Astra این باشد که اوپوس در حال از بین بردن ردپاهای زبانی قابل شناسایی خود است. یافته‌های پژوهش نشان می‌دهد متن‌های تولیدشده توسط کلود به‌مرور به نوشتار انسانی نزدیک‌تر شده‌اند. حتی به نظر می‌رسد این مدل در حال اصلاح، یا شاید بیش‌ازحد اصلاح کردن، برخی از نشانه‌هایی است که پیش‌تر می‌توانستند سرچشمه ماشینی متن را آشکار کنند. برای نمونه، Claude Opus 5.5 در مقایسه با Claude Opus 5 حدود ۹۹ درصد کمتر از خط تیره بلند استفاده می‌کند.

حتما بخوانیدگوگل دسترسی رایگان به Gemini را محدود می‌کند

البته این روند را می‌توان به نوعی بازی «موش و گربه» تشبیه کرد. هر بار که یک مدل هوش مصنوعی یکی از الگوهای نوشتاری خود را حذف یا اصلاح می‌کند، نشانه‌های جدیدی پدیدار می‌شوند. با وجود این، دست‌کم در مورد اوپوس، روند کلی به سمت کاهش تمایز میان خروجی مدل و متن عمومی نوشته‌شده توسط انسان پیش می‌رود. درباره آسترا اما وضعیت متفاوت است و روند خروجی‌های این مدل در واقع به سمت نوشتاری با شباهت کمتر به متن انسانی حرکت می‌کند.

نوشتهپژوهشگران رازهای تازه‌ای از الگوهای نوشتاری هوش مصنوعی را فاش کردنداولین بار درTechnoc. پدیدار شد.

برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.