در عصر هوش مصنوعی، چه چیزی انسانها را منحصربهفرد میکند؟
فهرست تواناییهایی مثل شعر گفتن که زمانی بعضی انسانها را منحصربهفرد میکرد؛ اما اکنون و با ورود هوش مصنوعی دیگر چنین انحصاری چندان معنی ندارد روزبهروز طولانیتر میشود. به نقل از The New Yorker سیستمهای امروزی هوش مصنوعی میتوانند شعر، کد و مقاله قابلقبو…
خلاصه تحلیلی خبر
فهرست تواناییهایی مثل شعر گفتن که زمانی بعضی انسانها را منحصربهفرد میکرد؛ اما اکنون و با ورود هوش مصنوعی دیگر چنین انحصاری چندان معنی ندارد روزبهروز طولانیتر میشود. به نقل از The New Yorker سیستمهای امروزی هوش مصنوعی میتوانند شعر، کد و مقاله قابلقبو…
موضوعات اصلی: پشتیبانی شبکه، هوش مصنوعی، مصنوعی، هوش، باید، درباره
فهرست تواناییهایی مثل شعر گفتن که زمانی بعضی انسانها را منحصربهفرد میکرد؛ اما اکنون و با ورود هوش مصنوعی دیگر چنین انحصاری چندان معنی ندارد روزبهروز طولانیتر میشود.
به نقل ازThe New Yorkerسیستمهای امروزی هوش مصنوعی میتوانند شعر، کد و مقاله قابلقبول تولید کنند. درباره اقتصاد، اگزیستانسیالیسم و خاورمیانه مکالمههای مفیدی ارائه دهند و حتی برخی جنبههای کار علمی مثل برنامهریزی آزمایش، پیشبینی نتایج و تفسیر دادهها را انجام دهند. آنها میتوانند درباره موقعیتهای پیچیده مانند الگوهای ترافیکی و سرمایهگذاری، با سرعتی فرابشری قضاوت کنند. واقعیت این است که هنوز نمیدانیم دقیقاً چه کارهایی از دستشان برمیآید. بزرگترین شرکتهای فناوری برای استقرار این فناوری عجله دارند تا همین را بفهمیم.
کاملاً محتمل است که فهرست تواناییهای هوش مصنوعی از این هم بیشتر شود و همین باعث میشود وسوسه شویم بپرسیم دقیقاً انسانها به چه درد میخورند؟ در گذشته، الهیاتدانان و فیلسوفان ما را با حیوانات مقایسه میکردند و مشخص میکردند که در چه چیزهایی از آنها برتری داریم. اما حالا ورق فقط برنگشته، بلکه کاملاً زیر و رو شده. در برخی موارد به نظر میرسد باید رو به بالا و به سوی ماشینها نگاه کنیم؛ مثلاً هیچ انسانی نمیتواند با سرعت یک هوش مصنوعی بنویسد. در برخی دیگر، از حماقتشان حیرت میکنیم؛ مثلاً هیچ انسانی به شما توصیه نمیکند که «هر روز حداقل یک سنگ کوچک بخورید»، اما هوش مصنوعی گوگل اخیراً در پاسخ به سؤال «روزانه چند تا سنگ باید بخورم؟» چنین پاسخی داد. در مواردی دیگر، فقط از تفاوت میان استدلال مصنوعی و واقعی سردرگم میشویم. هوش مصنوعی نمیتواند عاشق شود، اما میتواند مفهوم عشق را بیان کند؛ نمیتواند هنرمند باشد، اماشاید بتواند نوعی هنر خلق کند؛ نمیتواند نسبت به یک تصمیم مهم عذاب بکشد، اما همچنان میتواند تصمیم بگیرد. میدانیم که بین یک کامپیوتر متفکر و یک انسان تفاوتهای اساسی وجود دارد، اماتعریف این تفاوتهاآسان نیست.
بااینحال این معمای انتزاعی پیامدهای عملی نیز دارد. با گسترش هوش مصنوعی، هر روز بیشازپیش به توانایی ما برای بیان ارزش خودمان وابسته میشویم. به نظر میرسد در آستانه جهانی هستیم که در آن نیروی کار در انواع نقشها مثل معلم، پزشک، نویسنده، عکاس، وکیل، برنامهنویس و بسیاری دیگر؛ بامعادلهای هوش مصنوعیجایگزین یا دستکم کنار زده میشوند. اما وقتی هوش مصنوعی وارد میشود، چه چیزهایی حذف میشود؟
در کتاب «روغن مار هوش مصنوعی: آنچه هوش مصنوعی میتواند انجام دهد، آنچه نمیتواند و چگونه تفاوتشان را تشخیص دهیم» (AI Snake Oil: What Artificial Intelligence Can Do, What It Can’t, and How to Tell the Difference.) «سیاش کاپور» (Sayash Kapoor) و «آرویند نارایانان» (Arvind Narayanan)، دو دانشمند کامپیوتر در پرینستون، این مسئله را در سطحی عملی بررسی میکنند. آنها نسبت به فناوری بدبین هستند و معتقدند واژه کلی «هوش مصنوعی» میتواند پوششی برای فناوریهای ناکارآمد باشد و مینویسند: «جهانی را تصور کنید که در آن مردم هیچ واژهای برای انواع مختلف وسایل نقلیه ندارند و فقط یک واژه جمعی به نام وسیله نقلیه وجود دارد.» چنین جهانی شاهد «بحثهای پرشوری درباره این است که آیا وسایل نقلیه دوستدار محیطزیست هستند یا نه؛ بدون آن که کسی بفهمد یک طرف بحث دارد درباره دوچرخه حرف میزند و طرف دیگر درباره کامیون.» به همین شکل عنوان میکنند که هوش مصنوعی مجموعهای از فناوریها با سطوح کاملاً متفاوتی از توانایی را در بر میگیرد.
نارایانان و کاپور بهویژه نسبت به هوش مصنوعی پیشبینیکننده (predictive) که برای حدسزدن درباره آینده طراحی شده هشدار میدهند. برخلاف هوش مصنوعی مولد، هوش مصنوعی پیشبینیکننده از مدتها پیش و تا حد قابلتوجهی در زندگی ما ادغام شده است. بخشهای منابع انسانی از آن برای پیشنهاد اینکه کدام داوطلبان در کار موفق خواهند شد استفاده میکنند؛ بیمارستانها از آن برای تصمیمگیری در مورد اینکه چه کسی مرخص یا بستری شود بهره میبرند. بااینحال این سیستمها تقریباً هیچوقت مستقل و سختگیرانه آزمایش نمیشوند و وقتی هم آزمایش میشوند، اغلب شکست میخورند. نارایانان و کاپور یافتههای پژوهشگرانی را نقل میکنند که سیستمی به نام Retorio را بررسی کردند؛ سیستمی که ادعا میکند با تحلیل ویدئوی مصاحبههای شغلی، میتواند رفتار آینده کارکنان و بنابراین عملکرد آنها را پیشبینی کند. مشخص شد که زدن عینک یا پوشیدن روسری، نشستن جلوی قفسه کتاب، یا فرستادن رزومه در قالب پیدیاف میتواند امتیاز یک داوطلب را بهشدت تغییر دهد. به عقیده نویسندگان: «واضح است که عینکزدن توانایی یک فرد را در انجام یک کار به نحو احسن را تغییر نمیدهد.» از نظر آنها، این سیستم همان روغن مار هوش مصنوعی است.
مشکلات هوش مصنوعی پیشبینیکننده میتواند فراتر از صرفاً نادقیق بودن باشد. در یکی از آزمایشهای اولیه، پژوهشگران سیستمی ساختند تا حدس بزند آیا بیماران مبتلا به سینهپهلو که وارد بیمارستان میشوند نیاز به مراقبت شبانه دارند یا نه. سیستم دادهها را بررسی کرد و متوجه شد بیمارانی که آسم دارند معمولاً سریعتر از سینهپهلو بهبود مییابند؛ بنابراین احتمال بیشتری میداد که این بیماران را برای مرخصی توصیه کند. البته این توصیه کاملاً غیرمنطقی است؛ همبستگیای که بر مبنای آن شکل گرفته بازتاب این واقعیت است که بیماران آسمی مبتلا به سینهپهلو معمولاً مستقیم به ICU منتقل میشوند و مراقبتهای ویژه دریافت میکنند. نارایانان و کاپور مینویسند: «یک پیشبینی خوب، یک تصمیم خوب نیست.» تصمیمگیرنده خوببودن یعنی فقط منشأ شهودتان را زیر سؤال نبرید، بلکه تصور کنید تصمیمهای پیش رویتان چطور ممکن است همان شهود را بیاعتبار کنند. بعید است داوطلبانی که جلوی قفسه کتاب در تماس ویدئویی مینشینند، کارمندان بهتری باشند؛ اما حتی اگر چنین پیشبینی درست هم بود، عملکردن مداوم بر اساس آن فقط داوطلبان را وادار میکرد که جلوی قفسه کتاب بنشینند. ما انسانها از خطاپذیری ذهن خود آگاه هستیم و چنین چیزی از نقاط قوت ماست.
«شانون ولر» (Shannon Vallor)، فیلسوف دانشگاه ادینبرو که بهعنوان متخصص اخلاق هوش مصنوعی در گوگل هم کار کرده، بهجای برشمردن شکستهای هوش مصنوعی، دامنه و قدرت فضیلتهای انسانی را بررسی میکند. در کتاب «آینه هوش مصنوعی: چگونه انسانیت خود را در عصر تفکر ماشینی باز پس بگیریم» (The A.I. Mirror: How to Reclaim Our Humanity in an Age of Machine Thinking)، استدلال میکند که ما بهشدت غنای خود را در مقایسه با هوش مصنوعی دستکم میگیریم و مینویسد: «تصویری را در نظر بگیرید که هر صبح در آینه حمامتان میبینید. آن تصویر نه کپی بدن شماست و نه تقلیدی از آن؛ فقط یک بازتاب است.» به همین ترتیب، سیستمهای امروزی هوش مصنوعی «نه فکر تولید میکنند و نه احساس؛ همانطور که آینه یک بدن تولید نمیکند. چیزی که آنها تولید میکنند نوعی بازتاب جدید است.»
ولر نهتنها در فلسفه تکنولوژی متخصص است؛ بلکه در اخلاقیات فضیلت (virtue ethics – مطالعه اینکه چه چیزی یک انسان را صاحب صفات عالی میکند) نیز صاحبنظر است. او اشاره میکند که پرورش فضیلتهایی مانند شجاعت، صداقت، درستکاری، تخیل، همدلی، کنجکاوی و… زمانبر است. بافضیلت بودن چیزی نیست که یکبار به آن برسید؛ مثل پاسکردن یک امتحان نیست. در عوض، شامل مواجهه با جهان و با مجموعهای خاص از اولویتها و طرح پرسشهای بیپایان درباره این است که چهکار باید کرد، چگونه باید انجامش داد، با چه کسانی باید انجامش داد و چرا باید انجامش داد، شود. ولر مینویسد: «این کشمکش ریشه فلسفه اگزیستانسیالیسم است. در هر لحظه باید انتخاب کنیم که چگونه وجود داشته باشیم. سپس، حتی وقتی این انتخاب را انجام میدهیم؛ برای عشقورزیدن به دیگری، پذیرفتن یک وظیفه، پیوستن به یک هدف، رد یک ایمان یا غرقشدن در آن این انتخاب دوباره گشوده میشود. بدون تعهد ما برای تکرار دوباره و دوباره آن انتخاب، پابرجا نمیماند.»
از نظر ولر، هرچند سیستمهای هوش مصنوعی تواناییهای چشمگیری دارند، اما نمیتوانند بافضیلت باشند. شاید این مسئله کوچک به نظر برسد، اما در واقع عمیق است. دوستداشتن یک فضیلت است و انسانها میتوانند تمام عمر تلاش کنند تا بهتر عشق بورزند. اما وقتی یک چتبات میگوید «تمام روز دلتنگت بودم»؛ ولر مینویسد؛ «این حرف مزخرف است؛ چون چتبات اصلاً مفهومی از حقیقت احساسی ندارد که بخواهد آن را زیر پا بگذارد.» بات خودش را طوری جا میزند که انگار موجودی عاشقپیشه است؛ اما این کلمات بیپایه اساس هستند و ولر استدلال میکند: «یک آینه دیجیتال تخت، بدنی ندارد که بتواند درد بکشد و گذر زمان را نمیشناسد که بر آن سنگینی کند.» خلاصه اینکه این سیستم زنده نیست و بدون داشتن زندگی، نمیتواند هیچ نوع بودنی را تجربه کند.
نگرانی ولر این نیست که رایانههای هوشمند بر انسانها مسلط شوند؛ بلکه این است که وقتی با رایانههایی روبهرو میشویم که وانمود میکنند صاحب فضیلتهای انسانی هستند، ما درک خود از این فضیلتها را از دست بدهیم. با راحت شدن خیالمان از کامپیوترهایی که به ما میگویند عاشقمان هستند، ممکن است فراموش کنیم عشق چیست. تحتتأثیر سیستمهایی که خلاق به نظر میرسند، ممکن است برای خلاقیت واقعی انسان؛ یعنی مبارزهای برای بیان خود که میتواند همراه با «بازآفرینی دردناک» خویشتن باشد؛ کمتر احترام قائل شویم. ولر هشدار میدهد که این فرایند فراموشی از همین حالا نیز شروع شده؛ ما شیفته فناوری خود شدهایم و تقریباً مشتاقانه در حال محدودکردن تعریفمان از انسان بودن هستیم و مینویسد: «تهدید از داخل خانه است. هوش مصنوعی فقط به این دلیل میتواند انسانیت ما را بیارزش کند که خودمان قبلاً این کار را کردهایم.» ما باید دوباره در واژگان مربوط به ارزش انسانی سرمایهگذاری کنیم، پیش از آنکه ماشینها معنای آنها را تهی کنند.
در مقایسه با بسیاری از فناوران، نارایانان، کاپور و ولر نسبت به فناوریهای هوش مصنوعی امروز و دستاوردهایش بدبین هستند. شاید نباید چنین باشند. بعضی کارشناسان از جمله جفری هینتون، «پدرخوانده هوش مصنوعی» بر این باورند که شاید هماکنون هم منطقی باشد درباره مدلهایی از هوش مصنوعی که احساسات یا نقطهنظرهای ذهنی دارند صحبت کنیم. در سراسر جهان میلیاردها دلار برای قدرتمندتر کردن هوش مصنوعی هزینه میشود. شاید بشود سیستمهایی با ذهنهایی پیچیدهتر، با حافظه، هدفها، تعهدات اخلاقی، مقاصد والاتر و… ساخت.
بااینحال، این کتابها فقط درباره هوش مصنوعی که همچنان در حال تحول است نیستند؛ بلکه درباره وضعیت انسانی حرف میزنند. کاری که بهآسانی قابل پایان نیست، هرچند تاریخ اندیشه پر از تلاشهایی برای آن بوده. این کار سخت است، زیرا زندگی انسانی گریزان، متغیر و فردی است و همچنین چون توصیف تجربه انسانی ما را تا مرزهای تواناییهای بیانی خودمان پیش میبرد؛ پس بنابراین احتمالاً باید قطبیت گفتوگوهایمان درباره هوش مصنوعی را تغییر دهیم. بهجای فرض اینکه میدانیم انسانها چه میکنند، باید فرض کنیم که هرگاه هوش مصنوعی جای انسان را در یک نقش میگیرد؛ چیزی و شاید مقدار زیادی از دست میرود. باید تواناییهای هوش مصنوعی را قدرتمند بدانیم؛ اما هرگز واقعاً شبیه انسان تلقی نکنیم. باید دوباره این ایده را بپذیریم که طبیعت انسان ضروری است و به این واقعیت افتخار کنیم که باید برای تعریف آن تلاش کنیم.
برای ارزیابی پایداری، امنیت و نگهداری این زیرساخت، راهنمای پشتیبانی شبکه را نیز مطالعه کنید.