ریاضی‌دانان خواستار شفافیت OpenAI شدند

ریاضی‌دانان ازOpenAIخواسته‌اند درباره استفاده احتمالی از پژوهش‌ها و گفت‌وگوهایChatGPTدر آموزش مدل‌های این شرکت شفاف‌سازی کند.

هوش مصنوعیتک‌ناکآندریاس توم، ریاضی‌دان، در مجموعه‌ای از پست‌ها در شبکه اجتماعی Mastodon نگرانی خود را درباره تعاملاتی که او و همکارانش پیش از اعلام دستاورد مهم OpenAI با چت‌بات ChatGPT داشتند، مطرح کرد.

او احتمال داده است این تعاملات در موفقیت OpenAI در حوزه ریاضیات نقش داشته باشند.

OpenAI نیز پذیرفته است که این نتیجه به‌شدت بر پژوهش‌های پیشین توم و گابور کون، ریاضی‌دان دیگر، تکیه داشته است.

افزایش پرسش‌ها درباره استفاده از پژوهش‌های ریاضی‌دانان

توم می‌گوید پس از آن شروع به بررسی تعاملات خود با OpenAI کرد که تریستان باک‌مستر، استاد ریاضیات دانشگاه نیویورک، به‌صورت عمومی این پرسش را مطرح کرد که آیا مدل‌های هوش مصنوعی OpenAI از استفاده او از Codex بهره برده‌اند یا خیر.

پس از اعلام دستاورد OpenAI درباره گروه‌های non-sofic، این شرکت در محافل ریاضی به دلیل نادیده گرفتن مشارکت‌های اخیر توم و کون با انتقادهای گسترده‌ای مواجه شد و در نهایت OpenAI متن توضیحات خود درباره این دستاورد را بدون سروصدا اصلاح کرد.

گروه‌های non-sofic به‌طور کلی به ساختارهای ریاضی نامتناهی گفته می‌شود که نمی‌توان آن‌ها را با ساختارهای متناهی تقریب زد.

بیشتر بخوانیدشرکت OpenAI مدعی حل یکی از دشوارترین مسائل ریاضی شد

تردید درباره نحوه استفاده از داده‌های ChatGPT

توم همچنین می‌گوید از «تسلط دقیق OpenAI بر تکنیک‌های ما» متعجب شده است.

به گفته او، این تکنیک‌ها در آن زمان نه بدیهی‌ترین مسیرها برای رسیدن به راه‌حل بودند و نه امیدبخش‌ترین مسیرها محسوب می‌شدند.

توم در ادامه برای سباستین بوبک، پژوهشگر OpenAI، و مارک سِلکه، آماردان دانشگاه هاروارد، ایمیل‌هایی ارسال کرد.

او از آن‌ها پرسید آیا تعاملاتش با ChatGPT «بخشی از داده‌های آموزشی بوده یا برای فرایند استدلال قابل دسترسی بوده‌اند» و در نتیجه می‌توانسته‌اند در رسیدن OpenAI به این نتیجه نقش داشته باشند یا خیر.

با این حال، پاسخ OpenAI توم را قانع نکرد. او می‌گوید پاسخ این شرکت فقط به این موضوع پرداخته است که آیا گفت‌وگوهای او با چت‌بات مستقیماً قابل دسترسی بوده‌اند یا خیر، اما مشخص نکرده است که آیا این گفت‌وگوها وارد مجموعه عظیم داده‌های آموزشی شده‌اند که OpenAI برای بهبود مدل‌های خود از آن‌ها استفاده می‌کند یا خیر.

بیشتر بخوانیدGPT-6 Astra واقعا AGI است؟ ادعای OpenAI جنجال‌برانگیز شد

نوشتهریاضی‌دانان خواستار شفافیت OpenAI شدنداولین بار درTechnoc. پدیدار شد.

برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.