کارمند ایمنی اوپن‌ای‌آی استعفا داد: «هوش مصنوعی را مثل نیروگاه‌های هسته‌ای قانون‌مند کنید»

موج کناره‌گیری متخصصان ایمنی از استارتاپ‌های پیش‌رو هوش مصنوعی وارد مرحله‌ی تازه‌ای شده است.دیوید رابینسونکه وظیفه‌ی تدوین گزارش‌های رسمی ایمنی برای مدل‌های شاخص را در اوپن‌ای‌آی بر عهده داشت، از سمت خود کناره‌گیری کرد تا با نگارش مقاله‌ای تحلیلی، فرهنگ شتاب‌زده‌ی حاکم بر سیلیکون ولی را به چالش بکشد.

رابینسون دریادداشتی برای نشریه‌ی آتلانتیکساختار رفتاری غول‌های فناوری را «از اساس معیوب» خواند و تأکید کرد اعمال چند قانون موقت بر شیوه‌ی آموزش مدل‌ها برای مهار خطرات کفایت نمی‌کند. شرکت‌های مستقر در کالیفرنیا سال‌ها با خوش‌بینی مفرط، اعتمادبه‌نفس کاذب و شتاب مداوم به جلو رانده شده‌اند و پیامدهای ناخواسته‌ی سیستم‌های قدرتمند را دست‌کم گرفته‌اند.

به گفته‌ی رابینسون، سازندگان مدل‌های زبانی بزرگ باید رویکرد کنونی را کنار بگذارند و به استانداردهای آزموده‌شده در صنایع پرخطر روی آورند. رابینسون بر این باور است که آزمایشگاه‌های پیشرفته‌ی فناوری باید مشابه نیروگاه‌های هسته‌ای یا فرودگاه‌های پرترافیک سازمان‌دهی شوند؛ مراکزی که با تعریف لایه‌های متعدد و افزونه‌های حفاظتی همراه با برنامه‌ریزی‌های دقیق و زمان‌بر فعالیت می‌کنند تا خطای اجتناب‌ناپذیر انسانی به بحرانی غیرقابل جبران ختم نشود.

استعفای رابینسون بخشی از جریانی گسترده‌تر میان متخصصان ارزیابی ریسک به شمار می‌رود. پیش از او، پژوهشگران نام‌آشنای دیگری به دلیل نگرانی از پیامدهای اجتماعی و ایمنی دست از همکاری با بازیگران اصلی برداشته‌اند.

خروج متوالی مهندسان نشان می‌دهد شکاف میان اهداف تجاری توسعه‌دهندگان و الزامات بنیادی ایمنی رو به افزایش است؛ مسئله‌ای که لزوم نظارت‌های مستقل بر روند آموزش مدل‌های نسل بعد را بیش از پیش پررنگ می‌کند.