یان لوکان خطر انقراض انسان به‌ دست هوش مصنوعی را رد کرد

یان لوکان نگرانی‌های افراطی را درباره انقراض انسان به دست هوش مصنوعی رد و بیان کرد که نگرانی اصلی باید روی خطر تصویب مقررات توسط شرکت‌های بزرگ متمرکز باشد.

به‌ گزارشسرویس هوش مصنوعیتک‌ناکیان لوکان در سال ۲۰۱۸ به همراه جفری هینتون و یوشوا بنجیو، دو پژوهشگر دیگر هوش مصنوعی، جایزه تورینگ را دریافت کرد؛ جایزه‌ای که از آن به‌ عنوان معادل نوبل در علوم کامپیوتر یاد می‌شود. این سه پژوهشگر به‌ دلیل فعالیت‌های XNETه خود در حوزه یادگیری عمیق، یعنی فناوری شبکه‌های عصبی که زیرساخت رونق کنونی هوش مصنوعی را تشکیل می‌دهد، این جایزه را به دست آوردند. با وجود این‌، اکنون و نزدیک به یک دهه بعد، یان لوکان تنها عضو این سه‌نفره موسوم به «پدرخوانده‌های هوش مصنوعی» است که نگرانی عمیقی درباره خطرات هوش مصنوعی ندارد. او حتی معتقد است بسیاری از این خطرات بیش از اندازه بزرگ‌نمایی شده‌اند و هشدارهای مستمر مدیران برخی از شرکت‌های پیشروی هوش مصنوعی درباره آنها، رویکردی گمراه‌کننده و در نهایت زیان‌بار است.

بیشتر بخوانیداپل دسترسی عامل‌های هوش مصنوعی را به دیسک مک محدود می‌ کند

نظر یان لوکان درباره خطرات هوش مصنوعی

لوکان عنوان کرد که «به‌هیچ‌وجه» نگران نابودی بشریت به‌ دست هوش مصنوعی نیست و درباره سلسله حوادث اخیر مرتبط با رفتارهای خودسرانه عامل‌های هوش مصنوعی نیز نگران نیست. از جمله این حوادث می‌توان به هک خودکارHugging Faceتوسط عامل‌های OpenAI در ماه ژوئیه اشاره کرد. به اعتقاد او، این حوادث نتیجه ضعف نظارت انسانی و طراحی نامناسب سامانه‌ها هستند و «کاملا قابل پیشگیری» محسوب می‌شوند؛ دیدگاهی که اسکات بسنت، وزیر خزانه‌داری آمریکا نیز با آن همسو است. بسنت اوایل همین ماه حادثه Hugging Face را «مسئولیت مدیریت OpenAI» توصیف کرد.

یان لوکان گفت: «این عامل‌ها دقیقا کاری را انجام می‌دهند که از آنها خواسته شده است. قرار بود در محیط‌های سندباکس اجرا شوند، اما سندباکس‌ها نشت‌پذیر و به‌شدت بد طراحی شده بودند.» او معتقد است بسیاری از آزمایشگاه‌های هوش مصنوعی درک بنیادی مناسبی از امنیت سایبری ندارند. یکی از پژوهشگران ایمنی OpenAI نیز همین هفته این مسئله را یکی از دلایل اصلی احتمال وارد شدن «آسیب بزرگی به جهان» توسط هوش مصنوعی دانست.

مرتبطآمازون خواستار پایان مخالفت‌ با توسعه دیتاسنترهای هوش مصنوعی شد

او بیان کرد که بسیاری از فعالان حوزه ایمنی هوش مصنوعی «معمولا دستورکار مشخصی برای پیشبرد دارند». سپس یان لوکان روشن کرد که منظور او جنبش «نوع‌دوستی موثر» یا EA است؛ جریان فلسفی‌ که تمرکز زیادی بر خطرات هوش مصنوعی برای بشریت دارد. جنبش EA تا مدت‌ها در میان عموم مردم چندان شناخته‌شده نبود، اما در هفته‌های اخیر و پس از انتشار گسترده پستی در شبکه‌های اجتماعی از سویجیکوب کاکسونپژوهشگر سابق آنتروپیک و OpenAI، وارد جریان اصلی اخبار شد. کاکسون مدعی شده بود که کارکنان این شرکت‌ها «واقعا باور دارند که هوش مصنوعی می‌تواند تا پایان این دهه همه ما را بکشد».

یان لوکان جنبش نوع‌دوستی موثر را «بسیار سمی» و «یک فاجعه کامل» توصیف کرد. به گفته او، پیروان این جریان که در آزمایشگاه‌های هوش مصنوعی فعالیت دارند، تحت تاثیر «پارانویا» قرار می‌گیرند و این مسئله به تصمیم‌گیری‌های نادرست منجر می‌شود. او گفت: «افراد دچار مشکلات روانی می‌شوند.»فایننشال تایمزنیز این ماه گزارش داد برخی کارکنان موسسه ایمنی هوش مصنوعی بریتانیا، همچنین OpenAI، آنتروپیک و گوگل دیپ‌مایند برای مقابله با فشار روانی ناشی از نگرانی درباره پیامدهای کار خود، به مشاوره روی آورده‌اند، مرخصی گرفته‌اند یا به‌ صورت علنی درباره پریشانی خود صحبت کرده‌اند.

آمودی «توهم‌زده» و «دیوانه» است

یان لوکان درباره داریو آمودی، مدیرعامل آنتروپیک نیز گفت که او «توهم‌زده» و «دیوانه» است. آمودی و بسیاری از اعضای موسس آنتروپیک به همدلی با ایده‌های جنبش نوع‌دوستی موثر و حضور در رویدادهای مرتبط با این جریان در گذشته شناخته می‌شوند، هرچند آمودی عضویت خود را در این جنبش رد کرده است و آنتروپیک نیز تاکید دارد که کارکنان آن طیف متنوعی از دیدگاه‌ها را نمایندگی می‌کنند. یان لوکان خاطرنشان کرد که دانیلا، خواهر آمودی که از بنیان‌گذاران آنتروپیک و رئیس این شرکت نیز محسوب می‌شود، همسر هولدن کارنفسکی است. کارنفسکی در تاسیس دو نهاد خیریه همسو با جنبش نوع‌دوستی موثر، از جمله اوپن فیلانتروپی که اکنون با نام کوافیشنت گیوینگ شناخته می‌شود، نقش داشته است. او همچنین از سال ۲۰۱۷ تا ۲۰۲۱ عضو هیئت‌مدیره OpenAI بود.

لوکان گفت: «داریو تلاش می‌کند از اوپن فیلانتروپی فاصله بگیرد، اما کاملا درگیر آن است. فکر می‌کنم او کاملا توهم‌زده است.» لوکان در بخش دیگری از مصاحبه نیز آمودی را «دیوانه» توصیف کرد. به گفته یان لوکان، اظهارات آمودی و سم آلتمن، مدیرعامل OpenAI، مبنی بر اینکه «هوش مصنوعی می‌تواند همه ما را بکشد»، «به‌شدت مخرب» است و حتی برای افکار عمومی که به‌ شدت از این فناوری ترسیده‌اند پیامد منفی دارد. او همچنین این رویکرد را برای صنعت هوش مصنوعی زیان‌بار دانست و آن را «بدترین کمپین بازاریابی قابل تصور» توصیف کرد.

به نظر می‌رسد نگرانی درباره این موضوع در میان مردم واقعا وجود دارد. لوکان و خبرنگار در یک کافه مجلل در محله سوهو نیویورک در نزدیکی دفتر شرکت جدید او، AMI Labs، پشت یک میز گرد دونفره با یکدیگر گفت‌وگو می‌کنند. آنها چای می‌نوشند، هرچند یان لوکان که فرانسوی است، اشاره می‌کند زمان ملاقات عصرگاهی بیشتر برای «آپرو»، یعنی نوشیدنی و خوراکی‌های سبک، مناسب بوده است. با وجود این‌، او قرار بوده است بعد از این دیدار برای مراسم سالگرد ازدواج با همسر خود شام بخورد و به همین دلیل چای را انتخاب مناسبی می‌داند. کافه تقریبا نیمی از ظرفیت خود را پر کرده است و تقریبا تمام مشتریان با لپ‌تاپ‌هایشان مشغول کار هستند. وقتی خبرنگار و یان لوکان با یکی از مشتریان وارد گفت‌وگو می‌شوند، خبرنگار اشاره می‌کند که لوکان از چهره‌های برجسته حوزه هوش مصنوعی است، اما آن زن او را نمی‌شناسد. با وجود این‌، بلافاصله سؤال دیگری می‌پرسد: «پس، آیا هوش مصنوعی قرار است ما را بکشد؟»

یان لوکان با ترامپ اشتراک‌نظر دارد

ترس عمومی از هوش مصنوعی آن‌قدر فراگیر شده است که دونالد ترامپ، رئیس‌جمهور آمریکا تلاش کرده است با بازتعریف این فناوری، تصویری اطمینان‌بخش‌تر از آن ارائه دهد. او این هفته با امضای یک فرمان اجرایی، نام «هوش مصنوعی» را به «ابرهوش» تغییر داد و حساب‌های رسمی دولت در شبکه‌های اجتماعی نیز طی بخش زیادی از این ماه، پیام‌هایی در مخالفت با روایت‌های آخرالزمانی درباره هوش مصنوعی منتشر کرده‌اند. در سوی دیگر، بخش عمده حضور یان لوکان در شبکه‌های اجتماعی به انتقاد از دولت ترامپ اختصاص دارد، به‌ویژه از کاهش بودجه‌های پژوهشی مورد نیاز برای تقویت نوآوری و آنچه او «جنگ علیه علم» می‌نامد، اما این دو چهره در موضوع خطرات هوش مصنوعی، برخلاف بسیاری از حوزه‌های دیگر، دیدگاه‌های کم‌وبیش همسویی دارند.

برای مطالعه بیشترارسال هشدار رفتار مشکوک هوش مصنوعی به ۱۰۰ سازمان توسط OpenAI

لوکان بیش از خطر انقراض انسان، نگران پدیده «تسخیر مقررات» در صنعت هوش مصنوعی است. تسخیر مقررات به وضعیتی گفته می‌شود که شرکت‌های مسلط بر بازار بتوانند بر قوانین و مقررات دولتی اثر بگذارند و آنها را به شکلی تنظیم کنند که جایگاه بازار آنها تثبیت شود و ورود رقبای کوچک‌تر دشوار یا ناممکن شود. گروه‌های همسو با جنبش نوع‌دوستی موثر در کنگره آمریکا برای تصویب لوایح مرتبط با ایمنی هوش مصنوعی فعال هستند و بسیاری از شرکت‌های بزرگ فناوری و هوش مصنوعی نیز در این حوزه لابی می‌کنند.

یان لوکان در مقابل معتقد است هوش مصنوعی به مقررات جدیدی نیاز ندارد. او در عین حال آمودی را فردی «صادق» می‌داند. وی تصریح کرد: «او تلاش می‌کند بهترین کار را برای شرکت انجام دهد؛ شرکتی که به عرضه اولیه سهام نزدیک است. اما اینکه ادعا کنیم هوش مصنوعی آن‌قدر خطرناک است که نباید در اختیار ما قرار بگیرد، یا اینکه باید تحت مقررات قرار گیرد و مدل‌های متن‌باز بیش از حد خطرناک هستند، مصداق تسخیر مقررات است و اگر در ادامه به تصویب قوانین در کنگره منجر شود، پیامدهای بسیار بدی خواهد داشت.»

ساخت AMI Labs

تمرکز اصلی یان لوکان در زندگی حرفه‌ای روزمره، ساخت شرکت جدید AMI Labs است. او این شرکت را پس از ترک متا، جایی که ۱۲ سال فعالیت کرد و هفت سال از این مدت دانشمند ارشد هوش مصنوعی بود، تاسیس کرد. لوکان همچنان رابطه خوبی با متا دارد و استفاده از عامل‌های هوش مصنوعی جدید این شرکتبا نام Museرا آغاز کرده است. او یکی از این عامل‌ها را «هال» نامیده است که اشاره‌ای مستقیم به هال ۹۰۰۰، شخصیت هوش مصنوعی فیلم «۲۰۰۱: یک ادیسه فضایی»، دارد. کافه محل ملاقات در نزدیکی دفتر نیویورک AMI Labs قرار داشت، هرچند دفتر مرکزی شرکت در پاریس است و این شرکت در مونترال و سنگاپور نیز نیرو دارد. نام شرکت به‌ صورت یک واژه، «آمی» تلفظ می‌شود که در زبان فرانسوی به معنای «دوست» است. این شرکت از زمان آغاز فعالیت عمومی در مارس ۲۰۲۶، با تیمی حدود ۶۰ نفره روی فناوری موسوم به «مدل‌های جهان» کار می‌کند؛ فناوری‌ که لوکان معتقد است در نهایت جای مدل‌های زبانی بزرگ را به‌ عنوان سیستم زیربنایی اصلی هوش مصنوعی خواهد گرفت.

شرکت AMI Labs به‌طور مشخص در حال توسعه مدل‌های جهان مبتنی بر جپا یا «معماری پیش‌بینی تعبیه مشترک» است. جپا یک معماری شبکه عصبی است که یان لوکان از XNET توسعه آن محسوب می‌شود و به مدل‌ها می‌آموزد داده‌ها را در یک فضای بازنمایی در لایه‌های میانی شبکه عصبی پیش‌بینی کنند، نه اینکه مانند بسیاری از مدل‌های جهان رقیب، پیکسل‌های خام را تولید کنند یا مانند مدل‌های زبانی بزرگ، کلمات را به‌ صورت مستقیم تولید نمایند. تمرکز اصلی شرکت در حال حاضر بر کاربردهای صنعتی است. لوکان گفت: «این هوش مصنوعی برای دنیای فیزیکی است، بنابراین به زبان ارتباطی ندارد. این‌ها سامانه‌هایی هستند که دنیای واقعی مانند یک کارخانه یا موتور توربوجت را درک می‌کنند.» از کاربردهای اصلی این فناوری می‌توان به تشخیص ناهنجاری و رباتیک اشاره کرد. او توضیح داد: «اگر دستگاهی داشته باشید که ناگهان صدای غیرعادی تولید کند و شروع به خراب شدن کند، طبیعتا می‌خواهید این اتفاق را هرچه زودتر تشخیص دهید.»

همچنین لوکان به سامانه‌ای اشاره کرد که بتواند جهان را مشابه یک گربه درک کند؛ برای مثال، بداند اگر گلدانی را از روی پیشخوان هل دهد، گلدان سقوط خواهد کرد. چنین مثالی نشان می‌دهد مدل‌های جهان مدنظر او قرار است به درک روابط علت و معلولی و پیامدهای کنش‌ها در محیط فیزیکی نزدیک شوند. شرکت AMI Labs فرصت مهمی برای یان لوکان فراهم کرده است تا دیدگاه‌های خود را درباره مسیر آینده هوش مصنوعی در عمل به نمایش بگذارد. او درباره نخستین محصول شرکت سکوت کرد و تنها گفت که این محصول «به‌ زودی» معرفی خواهد شد. او همچنین احتمال استفاده از برخی مدل‌های متن‌باز در این محصول را مطرح کرد، زیرا خود از حامیان جدی رویکرد متن‌باز در هوش مصنوعی است. یان لوکان در پایان گفت: «چیزی که می‌خواهم مردم بدانند این است که هوش مصنوعی تمام نشده است.» سپس برای رفتن به شام خود سوار تاکسی شد.

نوشتهیان لوکان خطر انقراض انسان به‌ دست هوش مصنوعی را رد کرداولین بار درTechnoc. پدیدار شد.

برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.