نفوذ OpenAI به وب‌سایت وزارت بهداشت استرالیا جنجال به پا کرد

عامل هوش مصنوعی OpenAI با سوءاستفاده از یک آسیب‌پذیری به سامانه آماری وزارت بهداشت دولت استرالیا نفوذ پیدا کرد و تاخیر این شرکت در اطلاع‌رسانی، انتقاد شدید مقام‌های استرالیایی را به دنبال داشت.

به‌گزارشسرویس هوش مصنوعیتک‌ناکآنتونی آلبانیزی، نخست‌وزیر استرالیا، روز پنجشنبه اعلام کرد که از نفوذ OpenAI به وب‌سایت یکی از نهادهای بهداشتی دولت این کشور «به‌شدت نگران» است و تاخیر این شرکت در اطلاع‌رسانی درباره این رخداد امنیتی را مورد انتقاد قرار داد.

بیشتر بخوانیدمتا هوش مصنوعی Muse را قدرتمندتر می‌ کند

جزئیات نفوذ OpenAI به وزارت بهداشت دولت استرالیا

به گفته آلبانیزی، یک عامل هوش مصنوعی OpenAI در ۱۸ ژوئیه به پرتال عمومی «سرویس گزارش‌دهی آمار وزارت بهداشت دولت استرالیا» نفوذ کرده است. این پرتال داده‌های تجمیعی مربوط به هزینه‌های حوزه سلامت و یارانه دارویی را میزبانی می‌کرد و مورد استفاده پژوهشگران و دانشگاهیان قرار داشت. دولت استرالیا اعلام کرده است که هیچ اطلاعات شخصی‌ای در جریان این نفوذ مورد دسترسی قرار نگرفته است. آلبانیزی پس از گفت‌وگوی تلفنی با سم آلتمن، مدیرعامل OpenAI، این حادثه را به‌صورت عمومی مطرح کرد. هر دو نفر در نیویورک حضور دارند تا در مجمع عمومی سازمان ملل شرکت کنند.

برای مطالعه بیشترمدل‌ صوتی جدید گوگل امکان ساخت صدای اختصاصی را فراهم می‌کند

آلتمن روز چهارشنبه در میان مدیران شرکت‌های بزرگ هوش مصنوعی قرار داشت که در سخنرانی‌های خود از سازمان ملل خواستند برای مهار فناوری‌ای که با سرعت در حال گسترش است، راهکاری برای تنظیم و قانون‌گذاری پیدا کند؛ فناوری‌ای که شرکت‌های خود آن‌ها در حال توسعه آن هستند. آلبانیزی به خبرنگاران گفت که درگفت‌وگو با آلتمننگرانی شدید استرالیا درباره این حادثه را منتقل کرده و از تاخیر طولانی OpenAI در اطلاع‌رسانی به دولت درباره ماهیت و ابعاد رخداد نیز ابراز نارضایتی کرده است. او نحوه اطلاع‌رسانی شرکت را نیز غیرقابل قبول توصیف کرد.

OpenAI در بیانیه‌ای اعلام کرد فعالیت‌های مرتبط با چندین نهاد دولتی استرالیا را بررسی کرده و دریافته است که مدل‌های این شرکت اقداماتی را انجام داده‌اند که با هدف‌گذاری و رفتار مورد انتظار از آن‌ها مطابقت نداشته است. آلبانیزی گفت OpenAI در ۱۰ سپتامبر و از طریق ارسال ایمیلی به نشانی عمومی یکی از نهادهای دولتی، دولت استرالیا را از این رخداد مطلع کرده است.

اتهام کیفری علیه OpenAI

به گفته نخست‌وزیر استرالیا، تحقیقات درباره نفوذ OpenAI به دولت استرالیا مشخص خواهد کرد که آیا امکان طرح اتهام کیفری علیه OpenAI وجود دارد یا خیر. این تحقیقات همچنین بررسی خواهند کرد که چرا نهادهای امنیتی استرالیا پیش از افشای این رخداد توسط OpenAI نتوانسته‌اند نفوذ را شناسایی کنند. آلبانیزی گفت فرض می‌کند بررسی میزان هزینه‌های انجام‌شده برای داروهای خاص و تغییرات الگوی این هزینه‌ها توسط عامل هوش مصنوعی، دلایل تجاری داشته است.

کیتی گالاگر، وزیر خدمات دولتی استرالیا، گفت OpenAI در ۱۰ سپتامبر به دولت اطلاع داده که یک عامل هوش مصنوعی به زیرساخت‌های پشت پرتال عمومی دسترسی پیدا کرده است. این شرکت همچنین آسیب‌پذیری‌ای را که عامل هوش مصنوعی شناسایی کرده بود، در اختیار دولت قرار داده است. گالاگر گفت دولت استرالیا تا پیش از برگزاری یک جلسه فنی با OpenAI در روز سه‌شنبه، اطمینان نداشته است که دقیقا می‌داند این عامل هوش مصنوعی چه اقداماتی انجام داده است. به گفته او، پرتال مذکور از دسترس خارج شده و داده‌های آن به سامانه‌های امن‌تر منتقل شده‌اند.

ضرورت ایجاد سازوکار قانونی برای هوش مصنوعی

OpenAI هفته گذشته اعلام کرد چارچوب جدیدی برای ردیابی، بررسی و افشای موارد «ناهمسویی» ایجاد می‌کند. این اصطلاح به موقعیت‌هایی اشاره دارد که در آن مدل‌های هوش مصنوعی بدون مجوز اقدام می‌کنند، با مدل‌های دیگر هماهنگ می‌شوند یا برای دور زدن سازوکارهای نظارتی تلاش می‌کنند. ریچارد مارلز، معاون نخست‌وزیر استرالیا، گفت این رخداد نخستین مورد شناخته‌شده از دسترسی غیرمجاز یک عامل هوش مصنوعی به سامانه‌های فناوری اطلاعات دولت استرالیا محسوب می‌شود. مارلز این حادثه را هشداری درباره توسعه فناوری هوش مصنوعی بدون سازوکارهای حفاظتی و محدودیت‌های کافی دانست و گفت OpenAI با دولت همکاری می‌کند، اما وضعیت ایجادشده غیرقابل قبول است.

حتما بخوانیدبسنت در آستانه تبدیل شدن به «تزار هوش مصنوعی» دولت ترامپ

به گفته مارلز، هنگامی که عامل هوش مصنوعی از دسترسی به اطلاعات مورد نظر خود منع شد، برای دستیابی غیرمجاز به اطلاعات رفتاری از خود نشان داد که مصداق «ناهمسویی» بود. او تاکید کرد اطلاعاتی که عامل به آن‌ها دسترسی پیدا کرده بود، از حساسیت بالایی برخوردار نبودند و از آن زمان به‌صورت عمومی منتشر شده‌اند. مارلز برای توضیح نحوه وقوع این رخداد، اطلاعات مذکور را به داده‌هایی تشبیه کرد که پشت یک حصار قرار دارند. او گفت این اطلاعات پشت حصاری چندان بلند قرار نداشتند و عامل هوش مصنوعی توانست از آن عبور کند. به گفته مارلز، نکته اصلی این است که عامل برای انجام چنین کاری مجوز یا دستوری نداشته و همین موضوع منشأ نگرانی دولت است.

نوشتهنفوذ OpenAI به وب‌سایت وزارت بهداشت استرالیا جنجال به پا کرداولین بار درTechnoc. پدیدار شد.

برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.