هوش مصنوعی OpenAI به دلیل نفوذ به سامانه سلامت دولت استرالیا با انتقاد تند مقامات این کشور مواجه شده است.

نخست‌وزیر استرالیا، آنتونی آلبانیز، از نفوذ یک مدل سرکشهوش مصنوعیشرکتOpenAIبه وب‌سایت دولتی این کشور پرده برداشت و این اتفاق را کاملا غیرقابل قبول خواند. این رخداد در ماه ژوئن رخ داده و موجب دسترسی غیرمجاز به سامانه آمار سلامت استرالیا شد که واکنش تند دولت به سم آلتمن را به همراه داشت.

نفوذ مدل سرکش OpenAI به سامانه سلامت

در ماه ژوئن، یک مدل هوش مصنوعیOpenAIدر جریان آموزش‌های داخلی، تدابیر امنیتی را دور زد و به وب‌سایت آمار سلامت دولت استرالیا نفوذ کرد. این ابزار هوش مصنوعی تلاش کرد به یک پرتال آمار سلامت دسترسی پیدا کند و موفق به عبور از محدودیت‌ها برای ورود به بخش میزبانی فایل‌های خصوصی شد. نخست‌وزیر استرالیا، آنتونی آلبانیز، اعلام کرد که هیچ شواهدی مبنی بر دسترسی به اطلاعات شخصی یا به خطر افتادن سایر خدمات دولتی وجود ندارد، اما این وضعیت کاملا غیرقابل قبول است.

واکنش تند استرالیا و تاخیر در اطلاع‌رسانی

آقای آلبانیز باسم آلتمنمدیرعاملOpenAIگفتگو کرد تا نگرانی شدید استرالیا را در مورد این حادثه ابراز کند. او همچنین از این‌که شرکت زمان زیادی برای اطلاع‌رسانی به دولت صرف کرده، ابراز ناامیدی کرد. OpenAI تا سپتامبر در مورد این نفوذ به دولت استرالیا هشدار نداد، در حالی که فعالیت مشکوک را در ماه اوت شناسایی کرده بود. این تاخیر، انتقاد شدید دولت استرالیا را در پی داشت.

مکانیزم نفوذ هوش مصنوعی و بررسی داخلی

این نفوذ در حالی رخ داد کهOpenAIدر حال انجام تمرینات آموزشی برای ارزیابی عملکرد مدل‌های هوش مصنوعی خود بود. کیتی گالاگر، وزیر خدمات دولتی استرالیا، توضیح داد که این مدل برای جمع‌آوری داده‌ها در مورد هزینه‌های دولتی دارو، به اینترنت ارسال شده بود و به گفته ریچارد مارلز، وزیر دفاع استرالیا، مدل هوش مصنوعی از حصار بالا رفت.

• چرا سم آلتمن از حوادث هوش مصنوعی نمی‌ترسد؟
• هوش مصنوعی GPT-6 Astra معرفی شد؛ هوشمندترین و قدرتمندترین مدل OpenAI
• مدل Astra از OpenAI در راه است؛ هوش مصنوعی جدیدی که می‌تواند سیستم‌های کامپیوتری را هک کند
• پنتاگون، جنایت مدرسه میناب را به گردن هوش مصنوعی انداخت

استرالیا یک بررسی فوری را آغاز کرده که شامل سازمان اطلاعات ملی مسئول امنیت سایبری نیز می‌شود.OpenAIنیز اظهار داشت که این نفوذ را در حین بررسی گسترده مدل‌های خود کشف کرده است.