پالایش داده‌های غیرساختاریافته؛ راز خلق ارزش از هوش مصنوعی مولد

ایمیل‌ها، قراردادها، فرم‌های داخلی، فایل‌های به اشتراک گذاشته شده در سامانه‌های داخلی، صورت‌جلسات و هر گونه داده و محتوای دیگری که در طی فرایندهای کاری تولید می‌شوند و وابستگی چندانی به پایگاه‌های داده متداول ندارند، در دسته «داده‌های غیرساختاریافته» (Unstructured Data) قرار می‌گیرند.

این محتوای اختصاصی که بخش عمده‌ای از اطلاعات و داده‌های سازمانی را در برمی‌گیرند؛ در ترکیب با هوش مصنوعی مولد (Gen AI) می‌توانند آن را به ابزاری متمایز و آگاه از محصولات و خدمات سازمان تبدیل و ارزش تجاری بسیار بیشتری خلق کنند. از همین رو در گزارشی با عنوان «To Create Value with AI, Improve the Quality of Your Unstructured Data» از «مجله کسب‌وکار هاروارد»، به بررسی اهمیت داده‌های غیرساختاریافته به‌عنوان یکی از مهم‌ترین دغدغه‌های کسب‌وکارهای امروزی که در تلاش هستند تا ابزارهای هوش مصنوعی مولد را در فرایندهای کاری خود ادغام کنند، پرداخته شده است.

معضل داده‌های تاریخی پراکنده

بسیاری از سازمان‌ها به این نتیجه رسیده‌اند که بیشترین ارزش هوش مصنوعی مولد زمانی حاصل می‌شود که توانایی زبانی، استدلالی و دانش عمومی فوق‌العاده مدل‌های زبانی بزرگ (LLMها) با محتوا و داده‌های اختصاصی خودشان ترکیب شود. این ترکیب برای کاربردهای سازمانی هوش مصنوعی مولد، از خدمات مشتریان و بازاریابی گرفته تا امور حقوقی، توسعه نرم‌افزار و ارائه محصولات و خدمات مبتنی بر هوش مصنوعی کاملاً ضروری است.

رایج‌ترین رویکرد برای افزودن محتوای سازمانی به مدل‌های زبانی بزرگ، روشی موسوم به «تولید تقویت‌شده با بازیابی» (Retrieval Augmented Generation) یا به‌اختصار RAG است. در این روش، ابزارهای سنتی بازیابی اطلاعات مانند پایگاه‌های داده با اطلاعات واکشی‌شده توسط مدل‌های زبانی ترکیب می‌شوند. دلیل استفاده از این روش آن است که ارسال حجم بالایی از محتوا به‌صورت مستقیم در پرامپت معمولاً از نظر فنی دشوار یا پرهزینه است. با وجود پیچیدگی‌های فنی، رویکرد RAG در صورت استفاده از داده‌های غیرساختاریافته باکیفیت، کاملاً کارآمد بوده و پاسخ‌های دقیقی به درخواست کاربران ارائه می‌دهد. اما مشکل اصلی همین‌جاست: داده‌های غیرساختاریافته ساختار اغلب کیفیت پایینی دارند، قدیمی، تکراری، نادرست یا فاقد ساختار مناسب هستند.

واقعیت این است که بسیاری از شرکت‌ها حتی در مدیریت کیفیت داده‌های ساختاریافته؛ یعنی داده‌هایی که هر روز در تراکنش‌های تجاری و تحلیل عملکرد مورد استفاده قرار می‌گیرند نیز عملکرد مطلوبی ندارند. حال تصور کنید که در مقابل با داده‌های بدون ساختار که حتی پیچیده‌ترند، چه وضعیتی دارند. آخرین تلاش‌های جدی برای سامان‌دهی این نوع داده‌ها به دهه‌های ۱۹۹۰ و ۲۰۰۰ بازمی‌گردد، زمانی که «مدیریت دانش» (knowledge management) به‌عنوان یک رویکرد محبوب مطرح بود و البتهاین تلاش‌ها اغلب ناموفقبودند.بررسی‌هانشان می‌دهد اغلب مدیران می‌دانند کیفیت پایین داده‌ها مانع جدی در مسیر موفقیت پروژه‌های هوش مصنوعی مولد است، اما تا پیش از ظهور این فناوری، تمرکز کافی روی داده‌های غیرساختاریافته وجود نداشت.

بدیهی است کهبهترین راه برای مقابله با مشکلات کیفیت داده، پیشگیری از ایجادآن‌ها است. شرکت‌هایی که به‌صورت جدی روی هوش مصنوعی سرمایه‌گذاری می‌کنند، باید در بلندمدت برنامه‌هایی برای پیشگیری از تولید داده‌های بی‌کیفیت تدوین کنند. برای مثال، کارکنانی که مستندات تولید می‌کنند، باید آموزش ببینند تا بتوانند کیفیت اسناد خود را ارزیابی کرده و عناصر کلیدی آن‌ها را برچسب‌گذاری کنند. اما این مسیر نیازمند تلاش فراوان و بلندمدت است و در کوتاه‌مدت کمکی به بهره‌برداری از هوش مصنوعی مولد نمی‌کند. برای بهره‌برداری واقعی از هوش مصنوعی مولد، شرکت‌ها باید برنامه‌هایی مبتنی بر RAG تولید کنند و در آن‌ها از داده‌های غیرساختاریافته و باکیفیت استفاده کنند.

در جست‌وجوی کیفیت

داده باکیفیت، چه ساختاریافته و چه غیرساختاریافته تنها در نتیجه تلاش‌های هدفمند به دست می‌آید؛ تلاشی که می‌بایست با مدیریت فعالانه، حضور حرفه‌ای‌ها در موقعیت‌های کلیدی، تعریف شفاف مسئولیت‌های مدیریتی برای تمام افرادی که با داده‌ها سروکار دارند و تعهد مستمر به بهبود مداوم همراه باشد. اگر این عوامل وجود نداشته باشند، به‌احتمال زیاد داده‌های شما از استاندارد لازم برخوردار نیستند. به قول «الکس بورک» (Alex Borek) مربی و مشاور «Data Masterclass»، وقتی هوش مصنوعی کار نمی‌کند، اغلب ایراد را باید در سیستم انسانی جست‌وجو کرد.

در واقعتخمین زده می‌شودکه حدود ۸۰ درصد زمان صرف‌شده در پروژه‌های هوش مصنوعی، به داده‌ها اختصاص دارد. به‌عنوان‌نمونه، تیم شرکت «Morgan Stanley» در فیلیپین چندین را سال صرف سامان‌دهی و انتخاب گزارش‌های تحقیقاتی خود کرد تا بتواند زیرساخت لازم برای پروژه دستیار هوش مصنوعی «Morgan Stanley AI Assistant» را فراهم کند. این فرآیند قبل از فراگیرشدن هوش مصنوعی مولد آغاز شده بود و همین آمادگی باعث شد که آن‌ها بتوانند پروژه خود را سریع‌تر به مرحله اجرا برسانند.

برای آنکه روش RAG عملکرد مؤثری داشته باشد، لازم است اسنادی که مورداستفاده قرار می‌گیرند، مستقیماً به مسئله موردنظر مربوط باشند، محتوای تکراری تا حد ممکن کاهش یافته باشد و اطلاعات درون این اسناد کامل، دقیق و به‌روز باشد. افزون بر این، همان‌طور که «ست ارلی» (Seth Earley) یکی از اعضا شرکت «Earley Information Science» بیان می‌کند: «می‌بایست تا جای ممکن بافت محتوایی و زمینه (Context) لازم را در اختیار مدل زبانی قرار داد تا بتواند این اسناد را به‌درستی تفسیر کند.»

داده‌های غیرساختاریافته، به طور پیش‌فرض فاقد چنین زمینه‌ای هستند و مدل‌های زبانی معمولاً نمی‌توانند به‌تنهایی تشخیص دهند که کدام اطلاعات برای پاسخ به کدام پرسش تجاری خاص مناسب‌تر است. این مدل‌ها همچنین در کار «تشخیص موجودیت‌های یکتا و هم‌ارز» (Entity Resolution) نیز عملکرد ضعیفی دارند. به‌عنوان‌مثال، آیا «جان اسمیت» در سند A که درباره مشتریان است، همان «J. A. Smith» در سند B درباره تأمین‌کنندگان است؟ یا همان «Mr. J Smith» در سند C درباره کمک مالی به بنیاد شرکت است؟

بیشتر داده‌های ساختاریافته، در قالب یک مدل داده یا واژه‌نامه داده (Data Dictionary) تعریف می‌شوند. این ساختارمندی، یک زمینه و معنای اولیه را فراهم و به کاهش مشکلاتی مانند مورد «جان اسمیت» کمک می‌کند. در پایگاه‌های داده ساختاریافته، راحت‌تر می‌توان داده موردنظر را یافت، مسئول آن را شناخت و معنای دقیق آن را درک کرد. به گفته «جان دانکن» (John Duncan)، مدیر حاکمیت داده شرکت CarMax، داده‌های غیرساختاریافته نیز به همین سطح شفافیت نیاز دارند؛ باید معلوم باشد که مالک داده کیست، چه کسی آن را تولید کرده، چه کسی آن را مصرف می‌کند و چه کسی مسئول نگهداری از آن است. همچنین تعیین استانداردهایی برای کیفیت داده، شجره‌نامه داده (Data Lineage)، کنترل دسترسی و مدت نگهداری نیز برای داده‌های غیرساختاریافته مفید خواهد بود و این اطلاعات معمولاً در واژه‌نامه داده ثبت می‌شوند.

اما درباره داده‌های غیرساختاریافته، چنین واژه‌نامه‌ای اغلب وجود ندارد. مدیریت این نوع از محتوا معمولاً متمرکز نیست؛ اسناد با نام‌گذاری‌های مختلف، به‌صورت پراکنده و در کامپیوترها یا فضای ابری شرکت‌های مختلف ذخیره شده‌اند و غالباً تعریف یکسانی از انواع مختلف این محتوا وجود ندارد. به گفته یکی از مدیران داده در یک آژانس تبلیغاتی، حتی تعریف مشخصی از چیزی به‌ظاهر ساده مثل «پیشنهاد تبلیغاتی» (pitch) در آن مجموعه وجود ندارد. افزون بر این، اسناد غیرساختاریافته معمولاً برای هدفی متفاوت از خوراک ورودی مدل هوش مصنوعی طراحی شده‌اند. مثلاً یک قرارداد با تأمین‌کننده، با هدف تحلیل ریسک رابطه تأمین تألیف نشده است. همان‌طور که «چارلز هَندی» (Charles Handy) اندیشمند فقید حوزه مدیریت، بیان کرده بود: «اطلاعاتی که برای هدفی مشخص گردآوری شده، به‌ندرت برای هدفی دیگر مفید خواهد بود.»

فرایند ارتقا کیفیت

خوشبختانه ابزارها و رویکردهای متعددی وجود دارند که می‌توانند به بهبود کیفیت داده‌های غیرساختاریافته کمک کنند. توصیه می‌شود همه پروژه‌های هوش مصنوعی یک فرایند منظم و مرحله‌به‌مرحله را دنبال کنند و تا حد ممکن کیفیت در همان ابتدا و در جریان توسعه وارد کار شود. چنین فرایندی می‌بایست شامل این ۶ مرحله باشد

حل مسئله کیفیت داده‌های غیرساختاریافته به‌صورت موردی، نه یکجا و هم‌زمان

حجم داده‌های غیرساختاریافته آن‌قدر زیاد است که ارتقا یکجا و هم‌زمان همه آن‌ها با هم غیرممکن است. مدیران پروژه باید اطمینان حاصل کنند که تمام افراد مرتبط با پروژه، درباره مسئله یا فرصت مشخصی که باید به آن رسیدگی شود به توافق رسیده باند. اولویت‌ها نیز باید بر اساس دو معیار تعیین شوند

1. میزان ارزش تجاری حل مسئله
2. امکان‌پذیری و هزینه توسعه راه‌حل (از جمله هزینه ارتقای کیفیت داده)

بخش‌هایی از سازمان که داده‌های آن‌ها از ابتدا کیفیت نسبتاً خوبی دارد، باید در اولویت بالاتری قرار گیرند. این دقیقاً روشی است که «نلسون فردریک بامونداجئا» (Nelson Frederick Bamundagea)، مدیر فناوری اطلاعات شرکت خدمات یخچال‌سازی کامیون «W&B Services» اتخاذ کرده است. برنامه بازیابی دانش او برای تکنسین‌های خدمات، بر اساس طرح‌های شماتیک‌های مربوط به حدود ۲۰ مدل یخچال از دو تولیدکننده ساخته شده است. این نقشه‌ها بارهاوبارها استفاده شده‌اند و اصطلاحات به‌کاررفته در آن‌ها نیز محدود و ثابت هستند و همین سبب اعتمادپذیری بالای این برنامه شده است. به‌طورکلی، «الکس بورک» به شرکت‌ها توصیه می‌کند که: «در صورت امکان ابتدا سراغ محصولات با داده‌های مدون بروند.»

شناسایی و ارزیابی داده‌های مورداستفاده

ازآنجایی‌که داده‌ها نقش حیاتی در موفقیت یک پروژه دانش‌محور مبتنی بر LLM دارند، ارزیابی آن‌ها باید در مراحل اولیه صورت گیرد. یک تمایل طبیعی انسانی وجود دارد که هر سندی که احتمالاً مرتبط است را در سیستم RAG وارد کند. اما شرکت‌ها باید نگاهی نقادانه و با فلسفه «هر چه کمتر، بهتر» به این فرایند داشته باشند و اگر دلیل قانع‌کننده‌ای برای اعتماد به یک سند یا منبع محتوا ندارند، آن را اصلاً وارد چرخه فرایند نکنند.

ممکن است امکان بررسی تمام اسناد توسط متخصصان وجود نداشته باشد، اما می‌توان یک نمونه کوچک را به‌صورت عمیق ارزیابی کرد. آیا اسناد نمونه بارگذاری‌شده دارای خطا، تناقض و زبان مبهم هستند یا نسبتاً تمیز هستند؟ با قضاوت درست پیش بروید؛ داده‌های تمیز را نگه دارید، بااحتیاط ادامه دهید و داده‌های نامناسب را کنار بگذارید. اگر داده‌ها وضعیت فاجعه‌باری دارند یا داده‌های باکیفیت به‌اندازه کافی در دسترس نیست، باید در کل پروژه تجدیدنظر کرد.

تشکیل تیم مناسب برای رسیدگی به مسئله

باتوجه‌به نیاز به پالایش انسانی داده‌های غیرساختاریافته، بعید است که یک تیم کوچک از متخصصان بتواند این کار را به‌تنهایی انجام دهد. از طرف دیگر، کسانی که به طور روزمره با داده‌ها سروکار دارند، معمولاً بهتر می‌دانند که «داده باکیفیت» چه ویژگی‌هایی دارد و چطور می‌توان به آن رسید؛ بنابراین، در بسیاری از موارد، بهتر است پروژه بهبود کیفیت داده به‌صورت مشارکتی و همه‌گیر پیش برود.

برای نمونه، در بانک «اسکوشیا» (Scotiabank)، تیم مرکز تماس نیاز داشت اسناد مربوط به چت‌بات پاسخگوی مشتری را پالایش کند. کارکنان مرکز تماس مسئولیت کیفیت پایگاه دانش پشتیبانی مشتری را بر عهده گرفتند و اطمینان حاصل کردند که هر سندی که به سیستم RAG داده می‌شود، شفاف، یکتا و به‌روز باشد.

آماده‌سازی داده با مشارکت انسانی

اگر به این نتیجه رسیده‌اید که مشارکت انسانی در بهبود کیفیت داده‌های غیرساختاریافته ضروری است، اکنون زمان آن رسیده که این مشارکت را آغاز کنید. این مشارکت می‌تواند شامل تشکیل یک گروه ذی‌نفعان برای توافق بر سر اصطلاحات کلیدی مانند «قرارداد»، «پیشنهاد»، «یادداشت فنی» و «مشتری» (Contract, Proposal, Technical Note, Customer) و تعریف دقیق آن‌ها باشد و این تعاریف می‌بایست در یک واژه‌نامه تجاری (Business Glossary) مستندسازی شوند.

این کار ساده نیست و مطابق «قانون دونپورت» (Davenport’s Law) که بیش از ۳۰ سال پیش مطرح شد؛ هرچه یک سازمان درباره یک عنصر اطلاعاتی بیشتر بداند یا اهمیت بیشتری برای آن قائل باشد، احتمال اینکه درباره تعریف و کاربرد آن اجماع نظر وجود داشته باشد، کمتر می‌شود. این مشکل تنها با «استدلال داده‌محور» (Data Arguing) قابل‌حل است، نه با معماری داده (Data Architecture) تا گروه در نهایت به یک اجماع نظر نهایی برسد.

بدیهی است که اگر قرار است نقش انسانی در پالایش داده ایفا شود، در این مرحله باید وارد شود. این فرایند شامل انتخاب بهترین اسناد یا منابع محتوا برای یک موضوع خاص، برچسب‌گذاری آن‌ها با فراداده (Metadata) و امتیازدهی به محتوا بر اساس شاخص‌هایی چون تازگی، وضوح و ارتباط موضوعی است. مثلاً شرکت Morgan Stanley تیمی متشکل از حدود ۲۰ تحلیلگر در فیلیپین دارد که هر سند را بر اساس ۲۰ شاخص مختلف ارزیابی می‌کنند.

آماده‌سازی داده به کمک هوش مصنوعی

مدل‌های هوش مصنوعی مولد نیز می‌توانند برخی وظایف مربوط به آماده‌سازی داده‌های غیرساختاریافته برای استفاده در سایر برنامه‌های هوش مصنوعی مولد را به‌خوبی انجام دهند. به‌عنوان‌مثال، می‌توانند محتوای متنی را خلاصه، اسناد را بر اساس نوع دسته‌بندی، و عناصر کلیدی داده را برچسب‌گذاری کنند. به‌عنوان‌مثال، شرکت CarMax از هوش مصنوعی مولد استفاده می‌کند تا زبان خاص و متفاوت خودروسازان درباره قطعات و قابلیت‌های خودرو را به مجموعه‌ای از توصیف‌های استاندارد تبدیل کند و این کار باعث می‌شود مشتریان بتوانند راحت‌تر خودروهای مختلف را با هم مقایسه کنند.

همچنین هوش مصنوعی مولد می‌تواند پیش‌نویس اولیه «گراف‌های دانش» (Knowledge Graphs) را تولید کند. گراف‌های دانش نمودارهایی هستند که نشان می‌دهند کدام اطلاعات با چه اطلاعاتی دیگری در شبکه‌ای از مفاهیم در ارتباط هستند. این گراف‌ها، توان RAG را در یافتن محتوای مناسب و سریع افزایش می‌دهند. هوش مصنوعی مولد همچنین در حذف نسخه‌های تکراری (de-duplication)، یعنی شناسایی نسخه‌های کاملاً مشابه یا تقریباً مشابه از یک سند و حذف همه به‌جز یکی بسیار مؤثر است. در رویکرد RAG، انتخاب اسناد بر اساس معیارهای مشخصی مانند تازگی، نویسنده و… انجام می‌شود که همیشه می‌توان این معیارها را مجدداً تنظیم و اولویت‌بندی کرد تا در جست‌وجوی یک محتوا خاص، وزن بیشتری به برخی معیارهای اختصاصی داده شود.

اما بااین‌حال، نویسندگان گزارش ادعا می‌کنند که هوش مصنوعی در تشخیص بهترین سند از میان اسناد مشابه، حتی با وجود راهنمای امتیازدهی، عملکرد ضعیفی دارد؛ بنابراین همچنان برای این کار و مرور اسناد، حضور ناظر انسانی ضروری است. گزارش پیشنهاد می‌دهد که ابتدا انسان تصمیم بگیرد چه کاری باید انجام شود و سپس مدل هوش مصنوعی برای افزایش مقیاس و کاهش هزینه اجرایی وارد عمل شود.

توسعه برنامه و اعتبارسنجی عملکرد

توسعه برنامه‌های مبتنی بر RAGبا استفاده از داده‌های پالایش‌شده، شامل چند مرحله فنی پیچیده است که بهتر است توسط تیم‌های فنی مجرب انجام شود. حتی پس از همه تلاش‌هایی که برای آماده‌سازی داده‌ها صورت گرفته، سازمان می‌بایست برنامه RAG خود را پیش از بهره‌برداری به‌طورجدی و دقیق مورد آزمایش قرار دهد. این موضوع به‌ویژه در کاربردهایی که مقررات سخت‌گیرانه دارند یا با سلامت انسان سروکار دارند، حیاتی است. یکی از روش‌های اعتبارسنجی این است که تیم پروژه «۵۰ سؤال طلایی» (50 Golden Questions) را شناسایی کند. مجموعه‌ای از پرسش‌هایی که برنامه می‌بایست حتماً پاسخی صحیح به آن‌ها بدهد. عملکرد برنامه در پاسخ‌گویی به این سؤالات بررسی شده و بر اساس نتایج آن، اقدامات اصلاحی صورت می‌گیرد. ازآنجاکه مدل‌های پایه LLM دائماً به‌روزرسانی می‌شوند این فرایند اعتبارسنجی نیز می‌بایست به‌صورت مستمر انجام شود.

به‌عنوان‌مثال یک شرکت بیمه اروپایی هنگام اعتبارسنجی سیستم دانش خود برای رسیدگی به دعاوی بیمه، متوجه شد که اطلاعات ارائه‌شده در قراردادهای مشتری، کارکنان مرکز تماس، پایگاه دانش شرکت و واحد رسیدگی به مطالبات، با یکدیگر ناسازگار است. نتیجه این شد که شرکت صراحتاً مشخص کرد «واحد دعاوی» مالک پاسخ‌ها و مرجع نهایی است و سپس تغییراتی در چت‌بات، قراردادهای مشتریان و آموزش کارکنان مرکز تماس انجام شد.

پشتیبانی از برنامه و نهادینه‌سازی فرایند بهبود کیفیت مداوم تولید محتوا

در عمل، هیچ برنامه‌ای بلافاصله پس از راه‌اندازی، مورد استقبال همگانی قرار نمی‌گیرد. ممکن است دچار خطا (توهم) شود، مشکلات فنی داشته باشد یا با نارضایتی‌هایی از سوی کاربران مواجه شود. برخی اگر حتی برنامه عملکرد خوبی داشته باشد، فقط به دلیل بروز یک خطا کل سیستم را زیر سؤال می‌برند. علاوه بر این، به‌مرور که برنامه در کاربردهای جدید مورداستفاده قرار می‌گیرد، نیاز به تغییرات و بهبودهای جدید هم حس خواهد شد.

بنابراین، باید از ابتدا برنامه‌ای برای مدیریت و بهبود مداوم کیفیت وجود داشته باشد. این برنامه باید شامل موارد زیر باشد

• استفاده از «انسان متخصص در حلقه» (Qualified Human-in-the-Loop) به‌ویژه در موقعیت‌های حساس
• سازوکاری برای ثبت خطاها، تحلیل ریشه‌ای علل آن‌ها و پیشگیری از تکرار خطا
• تلاش برای شناخت کاربران برنامه‌های RAG، نحوه استفاده آن‌ها و درک آن‌ها از «کارکرد مطلوب»
• ارائه بازخورد مستمر به مدیران فرایندهایی که داده‌های غیرساختاریافته تولید می‌کنند، برای بهبود ورودی‌های آینده
  (برای مثال، می‌توان سازندگان محتوا را آموزش داد تا اسناد باکیفیت‌تری تولید، آن‌ها را در لحظه تولید برچسب‌گذاری و در یک مخزن مرکزی ذخیره کنند)

به نظر می‌رسد رویکرد «تولید مبتنی بر بازیابی اطلاعات»، RAG که محتوای اختصاصی سازمان را با مدل‌های زبانی بزرگ ترکیب می‌کند، قرار است در آینده‌ای نزدیک در کنار ما بماند. اگر بتوانید مدل‌ها را با داده‌های غیرساختاریافته و باکیفیت تغذیه کنید، RAG یکی از بهترین راهکار‌ها برای خلق ارزش از هوش مصنوعی مولد خواهد بود.

برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.