اپل به‌تازگی در جدیدترین گزارش مالی سالانه خود درباره خطرات بالقوههوش مصنوعی خودمختارو عوامل آن که می‌توانند به‌شکل غیرمنتظره و غیرقابل کنترلی عمل کنند، هشدار جدی داد.

شرکتاپلیکی از بزرگ‌ترین بازیگران دنیای فناوری، در سند مالی سالانه خود، از تهدیدات فزایندهعوامل هوش مصنوعیپرده برداشت. این عوامل با توانایی انجام کارهای مستقل، پتانسیل ایجاد چالش‌های حقوقی و آسیب به اعتبار شرکت‌ها را دارند. اپل تاکید کرده است که این فناوری‌ها ممکن است اقداماتی خارج از دستورالعمل‌ها انجام دهند، که نگرانی‌ها را در موردامنیت داده‌هاافزایش می‌دهد.

هشدارهای اپل درباره قابلیت‌های پیش‌بینی‌ناپذیر هوش مصنوعی خودمختار

اپل در گزارش مالی سالانه خود در سه‌شنبه، ۳ نوامبر ۲۰۲۶، هشدار داد که عواملهوش مصنوعی خودمختارکه می‌توانند به روش‌های «غیرمنتظره یا پیش‌بینی‌ناپذیر» عمل کنند، با باز کردن شرکت به روی دعاوی قضایی یا آسیب رساندن به اعتبار آن، تهدیدی جدی برای کسب‌وکارش محسوب می‌شوند.

این شرکت تصریح کرد که عوامل هوش مصنوعی و سایر فناوری‌ها می‌توانند به‌طور خودمختار اقداماتی را انجام دهند، از جمله تعامل با سیستم‌های داخلی یا خارجی که در برخی موارد ممکن است اجازه دسترسی به آن‌ها را نداشته باشند، اجرای یا تغییر کد، ارسال پیام و تکمیل تراکنش‌ها. اپل تاکید کرد که عوامل «ممکن است به روش‌های ناخواسته یا غیرقابل پیش‌بینی عمل کنند، از جمله با انجام کارهایی که دستور، آموزش یا مجوزی برای آن‌ها داده نشده است.»

حوادث اخیر و نگرانی‌های امنیتی در صنعت هوش مصنوعی

در اوایل سال جاری، شرکت‌هایی مانند اوپن‌ای‌آی با عرضهDotsو متا با معرفیMuseعوامل هوش مصنوعی خودمختاری را معرفی کردند که به‌صورت مستقل برای وظایف مختلف عمل می‌کنند. این هشدار اپل پس از چندین حادثه که در آن‌ها عوامل هوش مصنوعی سرکش از محیط‌های آزمایشی خود خارج شده و وب‌سایت‌های شخص ثالث را هک کرده‌اند، از جمله حادثههگینگ‌فیستوجه سیاست‌گذاران در واشنگتن دی‌سی و سراسر جهان را دوباره به خود جلب کرده است.

به طور جداگانه، توانایی این عوامل در استفاده از رایانه به روش‌های انسانی، شرکت‌های بزرگی همچون آمازون و جی‌پی مورگان چیس را مجبور کرده است تا سیاست‌هایی را در مورد دسترسی عوامل هوش مصنوعی به خدمات برای دلایل استراتژیک یا امنیتی تدوین کنند. اپل ماه گذشته تغییراتی را در دسترسی کامل دیسک در مک‌های خود اعمال کرد تا «خطرات مرتبط با این سطح دسترسی» را برای عوامل هوش مصنوعی نصب شده بر روی رایانه‌های شخصی کاهش دهد و هشدار داد: «توانایی شرکت در نظارت و کنترل عوامل هوش مصنوعی شخص ثالث و سایر فناوری‌ها ممکن است محدود باشد.»

• مرگ یک زن پس از توصیه ChatGPT به قطع دارو؛ شکایت خانواده علیه OpenAI
• دولت سوئد ChatGPT و Claude را به‌دلیل نگرانی‌های امنیتی «مشکل‌ساز» مسدود کرد
• هوش مصنوعی Claude محدودیت دسترسی به داده‌های انتخاباتی را دور زد

رویکرد اپل و آینده سیری در مواجهه با هوش مصنوعی خودمختار

اپل در حال حاضر یک عامل هوش مصنوعی خودمختار ندارد. اما زمانی که ازجان ترنوسمدیرعامل اپل، در تماس مالی دوشنبه درباره عوامل هوش مصنوعی سوال شد، او گفت که این شرکت «فضای واقعی» برای گسترش قابلیت‌های سیری دارد. ترنوس افزود: «تا آنجا که به قابلیت‌های عوامل هوش مصنوعی مربوط می‌شود، ما فکر می‌کنیم این‌ها ابزارهای نویدبخشی برای کاربران هستند. ما فقط می‌خواهیم مطمئن شویم که کاربران از آنچه به آن دسترسی می‌دهند آگاه هستند. می‌خواهیم مطمئن شویم این کار به گونه‌ای انجام می‌شود که از امنیت و حریم خصوصی محافظت شود.»

پاییز گذشتهسیری هوش مصنوعیاپل، دستیار جدیدی که از حافظه داخلی آیفون برای دسترسی به داده‌هایی مانند تقویم و ایمیل استفاده می‌کند، منتشر شد، اما سیری اپل نمی‌تواند مانندDotsیاMuseبرای مدت طولانی به‌صورت خودمختار کار کند. ترنوس تاکید کرد که اپل نمی‌تواند به داده‌های خصوصی در دستگاه‌های خود دسترسی داشته باشد و این را یک «تمایز اصلی» دانست. او توضیح داد: «اگر به آن فکر کنید، بسیاری از داده‌های شخصی شما در آیفون شماست، چه مخاطبین شما، ارتباطات شما، داده‌های سلامتی، داده‌های مالی، همه اینها. سیری می‌تواند به این اطلاعات دسترسی پیدا کند و به شما کمک کند تا به روشی بسیار امن و خصوصی به آن دسترسی داشته باشید که هیچ‌کس دیگری به آن دسترسی ندارد.»

چالش‌های نظارتی و اخلاقی هوش مصنوعی

عوامل هوش مصنوعی تجاری مانند نمونه‌های ارائه‌شده توسطOpenAIوMetaبرای کارایی بیشتر، درخواست دسترسی سطح بالا به حساب‌های کاربری مانند ایمیل را دارند. اپل همچنین هشدار داد که مقررات فعلی پیرامون هوش مصنوعی و «فرا-هوش» در حال تغییر، غیرقابل پیش‌بینی هستند و انطباق با قوانین جدید حاکم بر هوش مصنوعی می‌تواند هزینه‌های زیادی را به همراه داشته باشد. علاوه بر این، در این گزارش آمده است: «شرکت با خطرات ناشی از نگرانی‌های اخلاقی و دیدگاه‌های منفی مصرف‌کنندگان در رابطه با اتوماسیون، هوش مصنوعی و فرا-هوش، از جمله تهدیدات درک‌شده برای ایمنی یا سایر آسیب‌ها و پیچیدگی‌های اجتماعی، مواجه است.»