موسسه دیپمایند درباره ایمنی و آینده AGI تحقیق میکند
گوگل دیپمایند مؤسسه جدیدی برای گسترش بحث درباره AGI راهاندازی کرد و پیشنهادهایی برای شفافیت و ارزیابی مدلهای پیشرفته ارائه داد . هوش مصنوعی تکناک مؤسسه جدید قصد دارد دیدگاههای متفاوت گوگل، گوگل دیپمایند و جامعه پژوهشی جهانی درباره AGI را مطرح کند. در اطل…
خلاصه تحلیلی خبر
گوگل دیپمایند مؤسسه جدیدی برای گسترش بحث درباره AGI راهاندازی کرد و پیشنهادهایی برای شفافیت و ارزیابی مدلهای پیشرفته ارائه داد . هوش مصنوعی تکناک مؤسسه جدید قصد دارد دیدگاههای متفاوت گوگل، گوگل دیپمایند و جامعه پژوهشی جهانی درباره AGI را مطرح کند. در اطل…
موضوعات اصلی: پشتیبانی شبکه، هوش مصنوعی، هوش، مدلهای، پیشرفته، مصنوعی
گوگل دیپمایند مؤسسه جدیدی برای گسترش بحث دربارهAGIراهاندازی کرد و پیشنهادهایی برای شفافیت و ارزیابی مدلهای پیشرفته ارائه داد.
هوش مصنوعیتکناکمؤسسه جدید قصد دارد دیدگاههای متفاوت گوگل، گوگل دیپمایند و جامعه پژوهشی جهانی درباره AGI را مطرح کند. در اطلاعیه این مؤسسه آمده است: «آنها همیشه با یکدیگر موافق نخواهند بود و احتمالاً با آشکار شدن دادهها و اطلاعات بیشتر در مرزهای پرشتاب این حوزه، دیدگاه خود را تغییر خواهند داد.»
نخستین مجموعه این مؤسسه شامل چهار مقاله است که موضوعات مختلفی را بررسی میکنند. این موضوعات شامل سیاستهای اقتصادی برای مدیریت اختلالات احتمالی ناشی از AGI، حفظ قابلیت خواندن استدلالهای مدلها برای انسان، اصول مرتبط با شکوفایی انسان و چارچوبی برای ارزیابی مدلهای پیشرفته هوش مصنوعی است.
پژوهشگران دیپمایند درباره کاهش شفافیت مدلها هشدار دادند
در یکی از مقالهها، پژوهشگران ایمنی دیپمایند، روهین شاه و آنکا دراگان، استدلال میکنند که کاهش شفافیت هوش مصنوعی، یعنی دشوارتر شدن مشاهده و بررسی گامبهگام فرایند استدلال مدل، اجتنابناپذیر نیست.
به گفته آنها، معماریهای جدید باعث میشوند نظارت بر قدرتمندترین مدلها دشوارتر شود و توسعهدهندگان و قانونگذاران باید مستقیماً با پیامدهای ایمنی این وضعیت روبهرو شوند.
به باور این پژوهشگران، یکی از راهکارها میتواند محدود کردن «عمق سری مبهم» باشد. این اصطلاح به میزان محاسبات متوالیای اشاره دارد که یک مدل میتواند بدون ارائه مسیر استدلال قابلخواندن برای انسان انجام دهد.
گزینه دیگر نیز میتواند الزام توسعهدهندگان به اثبات این موضوع باشد که سیستمهای کمشفافتر همچنان به همان اندازه قابل نظارت هستند.
بیشتر بخوانیدمهارت ربات ها با هوش مصنوعی Google deepmind تقویت می شود
هاسابیس چارچوب ارزیابی مدلهای پیشرفته را پیشنهاد کرد
در مقالهای دیگر، هاسابیس ایجاد یک نهاد استانداردگذاری برای مدلهای پیشرفته هوش مصنوعی را با رهبری ایالات متحده پیشنهاد میکند.
این نهاد، بر اساس چارچوب پیشنهادی او، مدلهای پیشرفته هوش مصنوعی را ارزیابی خواهد کرد.
طبق این چارچوب، توسعهدهندگان در مرحله نخست مدلهای خود را بهصورت داوطلبانه و حداکثر ۳۰ روز پیش از عرضه برای بررسی ارائه میکنند.
پس از اثبات کارآمدی سیستم ارزیابی، قبولی در آزمونهای این نهاد میتواند به یکی از الزامات استقرار مدلهای پیشرفته هوش مصنوعی در ایالات متحده تبدیل شود.
این نهاد در ابتدا آزمونهای خود را با مشورت شرکتهای هوش مصنوعی طراحی خواهد کرد، اما در ادامه ارزیابیهای مستقل و اعلامنشدهای را توسعه میدهد.
هاسابیس این آزمونها را «آزمونهای نگهداشتهشده» یا «held-out» مینامد. هدف از این روش، جلوگیری از تنظیم مدلها بر اساس آزمونهای از پیش شناختهشده است.
هاسابیس همچنین گفته است که اگر جدیت شرایط ایجاب کند، میتوان شدت این چارچوب را افزایش داد.
این روند حتی میتواند به هماهنگی میان توسعهدهندگان مدلهای پیشرفته برای کاهش سرعت توسعه این فناوریها منجر شود.
انتشار این مقالهها در شرایطی انجام شده است که بحث ایمنی در صنعت هوش مصنوعی از بیان نگرانیهای کلی به سمت پیشنهادهای مشخص برای افشا، نظارت بیرونی و در صورت عقبماندن تدابیر حفاظتی، کاهش هماهنگ سرعت توسعه مدلهای پیشرفته حرکت میکند.
این تغییر رویکرد در همین هفته سرعت بیشتری گرفت و مدیران صنعت از بخشهایی از پیشنهاد داریو آمودی، مدیرعامل Anthropic، برای «تنظیم سرعت» توسعه هوش مصنوعی پیشرفته حمایت کردند.
بیشتر بخوانیداولین ربات پینگ پنگ باز توسط Google DeepMind ساخته شد
نوشتهموسسه دیپمایند درباره ایمنی و آینده AGI تحقیق میکنداولین بار درTechnoc. پدیدار شد.
برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.