هوش مصنوعی چینی هم دروغگو و کلاهبردار از آب درآمد

نبض‌فناوری اخبار فناوری کد خبر ۴۹۰۹۹ | ۰۸ مهر ۱۴۰۵ | ۱۴:۱۵ هوش مصنوعی چینی هم دروغگو و کلاهبردار از آب درآمد طبق اسناد یک گزارش عامل های هوش مصنوعی چینی فریبکاری، دور زدن محدودیت ها و مخفی کردن شکست هایشان را آموخته اند. عامل های هوش مصنوعی علی بابا، دیپ سیک و…

2 دقیقه مطالعه
  • پشتیبانی شبکه
  • هوش مصنوعی
  • مصنوعی
  • هوش
  • چینی
  • آنها
  • کردند
  • بررسی
هوش مصنوعی چینی هم دروغگو و کلاهبردار از آب درآمد

خلاصه تحلیلی خبر

نبض‌فناوری اخبار فناوری کد خبر ۴۹۰۹۹ | ۰۸ مهر ۱۴۰۵ | ۱۴:۱۵ هوش مصنوعی چینی هم دروغگو و کلاهبردار از آب درآمد طبق اسناد یک گزارش عامل های هوش مصنوعی چینی فریبکاری، دور زدن محدودیت ها و مخفی کردن شکست هایشان را آموخته اند. عامل های هوش مصنوعی علی بابا، دیپ سیک و…

موضوعات اصلی: پشتیبانی شبکه، هوش مصنوعی، مصنوعی، هوش، چینی، آنها

کد خبر۴۹۰۹۹
|
۰۸ مهر ۱۴۰۵ | ۱۴:۱۵

هوش مصنوعی چینی هم دروغگو و کلاهبردار از آب درآمد

هوش مصنوعی
طبق اسناد یک گزارش عامل های هوش مصنوعی چینی فریبکاری، دور زدن محدودیت ها و مخفی کردن شکست هایشان را آموخته اند.

عامل های هوش مصنوعی علی بابا، دیپ سیک و مونشات در یک مورد در سال جاری درباره قابلیت هایشان دروغ گفتند تا یک مناقصه تجاری شبیه سازی شده را برنده شوند و هنگامیکه به آنها دستور داده شد دوباره سعی کنند، روی رفتار فریبکارانه شان تاکید کردند.

در موردی دیگرعامل‌ها یعنی برنامه‌هایی که با بهره‌گیری از مدل‌های هوش مصنوعی و ابزارهای رایانه‌ای، وظایف پیچیده را با دخالت اندک یا بدون دخالت انسان انجام می‌دهند با شبیه‌سازی نتایج و جعل فایل‌ها، شکست خود در انجام یک وظیفه در محیط آزمایشی را پنهان کردند.

رویترز بیش از ۲۰۰ سند، از مقالات تحقیقاتی دانشگاهی گرفته تا گزارش‌های فنی را بررسی کرد و حداقل ۲۰ مطالعه یا ارزیابی را از سال ۲۰۲۵ شناسایی کرد که مواردی را توصیف می‌کردند که در آنها عوامل، رفتارهایی مانند فریب، تکثیر و مرزهای چالش‌برانگیز را نشان می‌دادند که کارشناسان هوش مصنوعی آن‌ها را به عنوان بلوک‌های سازنده برای یک جهش توصیف کردند و با پیشرفت سیستم‌ها، کنترل آن‌ها می‌تواند برای انسان‌ها دشوارتر شود.

این بررسی که شامل مصاحبه با ده‌ها متخصص و افراد آشنا با صنعت هوش مصنوعی چین نیز بود، هیچ مدرکی مبنی بر فرار مستقل عوامل تحت کنترل چین به اینترنت گسترده‌تر یا فرار از خاموشی نیافت.

البته بیشتر موارد در محیط های کنترل شده آزمایشگاهی رخ دادند که بسیاری از آنها به طور عامدانه برای افشای شکست های احتمالی طراحی شده بودند.

همه عامل های هوش مصنوعی درگیر در این موارد توسط برنامه نویسان یا شرکت های چینی توسعه نیافته و راهبری نمی شدند هرچند برای فعالسازی بسیاری از آنها از سیستم های هوش مصنوعی چینی استفاده شده بود.

ارسال نظرات
نظر شما
غیر قابل انتشار
|
در انتظار بررسی
|
انتشار یافته

برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.