استانداردهای کیفی باید از ابتدای طراحی مدل‌های هوش مصنوعی وارد شوند

او در سخنرانی خود، با تشریح فعالیت‌های کنسرسیوم Bridge AI که با مشارکت متخصصانی از کشورهای مختلف شکل گرفته است، گفت برای کاهش فاصله میان پروژه‌های دانشگاهی و نیازهای واقعی صنعت، استانداردهای کیفی و الزامات رگولاتوری باید از مرحله پایانی پژوهش به نخستین مراحل طراحی و توسعه مدل منتقل شوند.

نیمی از ابزارهای هوش مصنوعی آکادمیک، فاقد استانداردهای لازم‌اند

مراتب با اشاره به نتایج یک ارزیابی علمی گسترده، اظهار کرد: «بررسی بیش از ۵۰ هزار مقاله علمی در این حوزه نشان می‌دهد که نیمی از کارهای آکادمیکی که به تولید ابزارهای هوش مصنوعی برای صنعت منجر می‌شوند، از هیچ استاندارد مشخصی پیروی نمی‌کنند.»

وی تأکید کرد که دقت و صحت بالای یک مدل در محیط آزمایشگاهی، لزوماً به معنای عملکرد مناسب، ایمن و قابل‌اعتماد آن در محیط‌های صنعتی نیست. به گفته او، نادیده‌گرفتن استانداردها و الزامات کیفی، یکی از موانع اصلی رشد و استقرار مؤثر فناوری‌های هوش مصنوعی در صنایع به شمار می‌رود.

کنسرسیوم Bridge AI؛ تلاشی بین‌المللی برای هوش مصنوعی قابل‌اعتماد

رئیس کنسرسیوم بین‌المللی Bridge AI، این نهاد را مجموعه‌ای علمی با مشارکت بیش از ۷۰ متخصص از ۴۰ کشور جهان معرفی کرد. به گفته او، دانشمندان هوش مصنوعی، مهندسان داده، پزشکان متخصص، کارشناسان اخلاق، فعالان صنعت و سیاست‌گذاران در این کنسرسیوم حضور دارند.

مراتب افزود این کنسرسیوم در پایگاه بین‌المللی ECOR ثبت شده و با تشکیل هشت کارگروه تخصصی، فرایندی ۹ماهه را بر اساس روش دلفی (Delphi Process) دنبال کرده است. در این فرایند، طی شش دور نظرسنجی و اصلاح، تلاش شده است تا درباره الزامات کیفی توسعه و استقرار ابزارهای هوش مصنوعی، میان متخصصان بین‌المللی اجماع ایجاد شود.

کارگروه‌های تخصصی این کنسرسیوم، موضوعاتی از جمله کاهش سوگیری، اعتبارسنجی و مقاوم‌سازی مدل‌ها، مدیریت چرخه عمر محصول و سایر الزامات لازم برای توسعه هوش مصنوعی قابل‌اعتماد را پوشش می‌دهند.

مواجهه با ۲۳ نوع سوگیری در مدل‌های هوش مصنوعی

مراتب در ادامه، به چالش سوگیری در سامانه‌های هوش مصنوعی اشاره کرد و گفت: «حدود ۲۳ نوع سوگیری، از جمله سوگیری انسانی، سوگیری داده و سوگیری مهندسی، در سیستم‌های هوش مصنوعی وجود دارد که می‌توانند عملکرد مدل را برای گروه‌های مختلف جامعه مختل کنند.»

به گفته او، شرکت‌های بین‌المللی فعال در حوزه فناوری و تجهیزات پزشکی، از جمله GE Healthcare و Philips، در کنار متخصصان حوزه‌هایی مانند سرطان، دیابت، آمار زیستی و حقوق، در تدوین راهنماهای این کنسرسیوم مشارکت داشته‌اند.

وی با انتقاد از محدودبودن دسترسی به روش‌های اجرایی ارزیابی سوگیری افزود: «استانداردهایی مانند ISO/IEC 24027 عمدتاً انواع سوگیری را معرفی می‌کنند؛ اما روش‌های اجرایی ارزیابی و کاهش آن‌ها معمولاً به‌صورت عمومی و عملیاتی در اختیار همه شرکت‌ها قرار نمی‌گیرد.»

مراتب ادامه داد که کنسرسیوم Bridge AI با همکاری متخصصان بین‌المللی، افزونه‌هایی طراحی کرده است که به سازمان‌ها کمک می‌کند فرایند ارزیابی و کاهش سوگیری در مدل‌ها را به‌صورت خودکار یا نیمه‌خودکار انجام دهند.

استاندارد؛ از مانع پایانی تا ورودی طراحی

عضو هیئت علمی دانشگاه اصفهان، یکی از دلایل اصلی شکاف میان خروجی دانشگاه‌ها و نیاز صنعت را ترتیب نادرست ورود استانداردها به چرخه پژوهش و توسعه دانست.

او گفت: «در الگوی رایج، پژوهشگر ابتدا تحقیق دانشگاهی را انجام می‌دهد، مدل را آموزش می‌دهد و اعتبارسنجی می‌کند؛ اما در مرحله نهایی و هنگام استقرار محصول در صنعت یا حوزه سلامت، با الزامات سخت‌گیرانه‌ای مانند شفافیت، مدیریت ریسک، کنترل سوگیری و قابلیت اطمینان مواجه می‌شود.»

به گفته مراتب، اگر یک مدل از ابتدا بر مبنای این الزامات طراحی نشده باشد، ممکن است در مرحله استقرار یا ورود به بازار با شکست مواجه شود و پژوهشگر ناچار شود بخش بزرگی از مسیر را دوباره طی کند.

الگوی پیشنهادی، استانداردهای کیفی به‌عنوان «ورودی طراحی»

مراتب در مقابل این الگوی سنتی، رویکرد شرکت‌های پیشرو جهان را مطرح کرد؛ رویکردی که در آن استانداردهای رگولاتوری و کیفی از همان ابتدا به‌عنوان «ورودی طراحی» یاDesign Inputدر نظر گرفته می‌شوند.

در این رویکرد

• پژوهشگر پیش از آغاز استخراج ویژگی‌ها و آموزش مدل، با معیارهای کیفی، الزامات رگولاتوری و شاخص‌های ارزیابی آشنا می‌شود؛
• مدل از ابتدا با توجه به موضوعاتی مانند شفافیت، سوگیری، مدیریت ریسک و قابلیت اطمینان توسعه می‌یابد؛
• فرایند توسعه محصول و تجاری‌سازی کوتاه‌تر می‌شود؛
• رفت‌وبرگشت‌های اصلاحی میان دانشگاه، صنعت و نهادهای ارزیاب کاهش می‌یابد؛
• خروجی‌های علمی برای صنعت و سرمایه‌گذاران، قابلیت اتکای بیشتری پیدا می‌کنند.

مراتب در پایان ابراز امیدواری کرد که نگاه استانداردمحور در بدنه علمی و دانشگاهی کشور گسترش یابد تا فاصله میان پژوهش‌های دانشگاهی و نیازهای واقعی بازار و صنعت کاهش پیدا کند.

برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.