کنتر برق می‌تواند آموزش مخفیانه هوش مصنوعی را برملا کند
پژوهشگران روشی بر پایه بررسی نوسانات برق ارائه داده‌اند که ردیابی آموزش مخفیانه مدل‌های هوش مصنوعی در مراکز داده را بدون دسترسی به سیستم‌های داخلی آن‌ها ممکن می‌سازد. نظارت بر فعالیت مراکز داده بزرگ همواره یکی از چالش‌برانگیزترین مسائل در حوزه قانون‌گذاری فناو…
خلاصه تحلیلی خبر
پژوهشگران روشی بر پایه بررسی نوسانات برق ارائه داده‌اند که ردیابی آموزش مخفیانه مدل‌های هوش مصنوعی در مراکز داده را بدون دسترسی به سیستم‌های داخلی آن‌ها ممکن می‌سازد. نظارت بر فعالیت مراکز داده بزرگ همواره یکی از چالش‌برانگیزترین مسائل در حوزه قانون‌گذاری فناو…
موضوعات اصلی: پشتیبانی شبکه، هوش مصنوعی، داده، هوش، برق، نوسانات
پژوهشگران روشی بر پایه بررسی نوسانات برق ارائه داده‌اند که ردیابی آموزش مخفیانه مدل‌های هوش مصنوعی در مراکز داده را بدون دسترسی به سیستم‌های داخلی آن‌ها ممکن می‌سازد.
نظارت بر فعالیت مراکز داده بزرگ همواره یکی از چالش‌برانگیزترین مسائل در حوزه قانون‌گذاری فناوری‌های نوین بوده است. اکنون گروهی از پژوهشگران راهکار بسیار هوشمندانه‌ای را پیشنهاد کرده‌اند که می‌تواند دگرگونی بزرگی در این زمینه ایجاد کند. ایده اصلی این پژوهش بر یک واقعیت فیزیکی ساده استوار است؛ هر زمان که یک مرکز داده مشغولآموزش مدل‌های سنگین هوش مصنوعیباشد، جریان مصرف برق آن الگوی مشخص و متمایزی از خود به جای می‌گذارد. ناظران بیرونی می‌توانند با سنجش این نوسانات، فعالیت‌های آموزشی پنهانی را شناسایی کنند.
بررسی این موضوع نشان می‌دهد که چگونه می‌توان استفاده ازظرفیت‌های هوش مصنوعیرا به‌صورت کاملاً مستقل و بدون نیاز به دسترسی مستقیم به سیستم‌های داخلی شرکت‌ها مورد بازرسی قرار داد. اصل فنی این روش بر پایه نوسانات دوره‌ای جریان برق شکل گرفته است. در طول مراحل آموزش مدل‌های هوش مصنوعی، فازهای پردازشی بسیار سنگین به‌طور مداوم با دوره‌های تبادل داده میان پردازنده‌های گرافیکی جابه‌جا می‌شوند. این چرخه مداوم باعث می‌شود که میزان مصرف برق مرکز داده با یک ریتم خاص، یعنی تقریبا یک بار در ثانیه، دستخوش نوسان شود. هرچند این ریتم کاملاً ثابت نیست و متناسب با حجم کار و وضعیت سخت‌افزار تغییر می‌کند، اما ویژگی‌های اختصاصی خود را حفظ می‌کند.
استفاده از تکنیک ردیاب Viterbi
برای ردیابی این نوسانات در شرایط متغیر، پژوهشگران از تکنیکی به نام ردیاب Viterbi بهره گرفته‌اند؛ روش پیشرفته‌ای که پیش‌تر در حوزه‌هایی نظیر پردازش سیگنال برای شناسایی الگوهای زمانی کاربرد داشته است. ویژگی کلیدی این فناوری در استقلال کامل آن از اپراتور مرکز داده خلاصه می‌شود. از آنجا که حسگرهای اندازه‌گیری در خارج از محدوده کنترل شرکت‌ها نصب می‌شوند، نیازی به اعتماد به گزارش‌های داخلی یا اظهارات مدیران درباره محاسبات در حال انجام نخواهد بود. این رویکرد به ناظران اجازه می‌دهد حتی زمانی که چندین مدل هوش مصنوعی به‌صورت موازی در حال اجرا هستند، فعالیت‌های آموزشی پنهانی را تفکیک کرده و تشخیص دهند.
دقت ۹۶ درصدی در آزمایش‌های شبیه‌سازی
آزمایش‌های انجام‌شده روی بارهای کاری شبیه‌سازی‌شده در مراکز داده نشان داد که این روش توانسته است حداقل ۹۶ درصد از فرایندهای آموزشی را شناسایی کند؛ البته مشروط بر اینکه اپراتور اقدامات پیچیده و پرهزینه‌ای برای کتمان این الگوها به کار نبسته باشد. پژوهشگران هشت استراتژی مختلف را برای پنهان‌سازی این نوسانات آزمایش کردند، اما اجرای این راهکارها بسیار زمان‌بر و هزینه‌بر ارزیابی شد. نکته قابل‌توجه دیگر این است که نرخ خطا در این سیستم تنها حدود ۱ درصد ثبت شده است که دقت بالای آن را تأیید می‌کند.
طبق گزارشنوت‌بوک‌چکاین دستاورد علمی پاسخگوی یکی از بنیادین‌ترین مشکلات در تنظیممقررات هوش مصنوعیاست. هنگامی که نهادهای نظارتی نمی‌توانند به گزارش‌های رسمی شرکت‌ها اعتماد کنند، سنجش پارامترهای فیزیکی مانند مصرف برق راهکاری قابل‌اعتماد و شفاف فراهم می‌کند. ثبت دقیق تغییرات انرژی بدون نیاز به ورود به نرم‌افزارها یا سرورهای شرکت‌ها، مسیر تازه‌ای را پیش روی دولت‌ها و سازمان‌های نظارتی قرار می‌دهد تا بتوانند بر فعالیت‌های کلان محاسباتی در سطح جهان نظارت دقیق‌تری داشته باشند.
نوشتهکنتر برق می‌تواند آموزش مخفیانه هوش مصنوعی را برملا کنداولین بار درTechnoc. پدیدار شد.
برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.