حماقت مصنوعی

حماقت مصنوعی

اسلاوی ژیژک

مترجم: سپهر مقصودی

هیچ‌چیز جدیدی در مورد «چت‌بات‌ها»^۱ وجود ندارد که قادر به حفظ مکالمه به زبان طبیعی، درک مقصود اصلی کاربر و ارائه‌ی پاسخ‌هایی بر اساس قوانین و داده‌های ازپیش‌تعیین‌شده باشند. اما ظرفیت چنین چت‌بات‌ها در ماه‌های اخیر به‌طرز چشمگیری افزایش یافته که به قیل‌وقال و وحشت در محافل بسیاری منجر شده است.

درباره‌ی چت‌بات‌هایی که مقاله‌نویسی سنتی دانش‌آموزی را به گور می‌فرستند، بسیار گفته شده است. اما موضوعی که توجه بیشتری نیاز دارد این است که زمانی که همکارهای انسانی از اظهارات پرخاشگرانه، جنسیت‌پرستانه یا نژادپرستانه استفاده می‌کنند تا ربات را ترغیب کنند تا در ازای آن فانتزی‌های بد خود را ارائه دهد، چت‌بات‌ها چگونه باید واکنش نشان دهند؟ آیا هوش مصنوعی باید طوری برنامه‌ریزی شود که در سطح همان سوالاتی که مطرح می‌شود، پاسخ دهد؟

اگر تصمیم بگیریم که وضع نوعی مقررات درست است، باید مشخص کنیم که سانسور تا کجا باید پیش برود. آیا مواضع سیاسی که برخی گروه‌ها آن را «توهین‌آمیز» می‌دانند، ممنوع خواهند بود؟ در مورد ابراز همبستگی با فلسطینیان کرانه‌ی باختری، یا ادعای اینکه اسرائیل یک کشور آپارتاید است (که جیمی کارتر، رئیس جمهور سابق ایالات متحده زمانی در عنوان یک کتاب آورده بود) چطور؟ آیا این ربات‌ها به‌عنوان «یهودستیز» مسدود خواهند شد؟

مشکل به همین جا ختم نمی‌شود. همانطور که جیمز بریدل^۲، هنرمند و نویسنده هشدار می‌دهد،، هوش مصنوعیِ تازه براساس رویکرد تصاحب فرهنگ موجود خلق شده است و این باور که آنها در حقیقت آگاه^۳ یا معنادار^۴ هستند، به‌طرز فعالانه‌ای خطرناک خواهد بود. از این رو، ما باید نسبت به تولیدکنندگان تصویر جدید هوش مصنوعی نیز بسیار محتاط باشیم. بریدل می‌گوید: «در تلاششان برای درک و تکرار کل فرهنگ بصری انسان، به نظر می‌رسد که [آنها] سیاه‌ترین ترس‌های ما را نیز بازسازی کرده‌اند. شاید فقط نشانه‌ای از این باشد که سیستم‌ها واقعاً در تطبیق آگاهی انسان بسیار خوب هستند، تا وحشتی که در اعماق وجود نهفته است: ترس ما از پلیدی، مرگ، و فساد.»

جیمز بریدل

اما هوش مصنوعی‌های جدید چقدر در تقریب آگاهی انسان خوب هستند؟ باری را در نظر بگیرید که اخیراً یک نوشیدنی ویژه را با عبارات زیر تبلیغ کرده است: «یک آبجو به قیمت دو عدد بخرید و آبجو دوم را کاملاً رایگان دریافت کنید!» برای هر انسانی واضح خواهد بود که این یک شوخی است. امر ویژه‌ی کلاسیکِ «یکی بخر، یکی بگیر»^۵ دوباره ساختاربندی شده تا خود را باطل کند. ‌همه‌چیز برای افزایش فروش است. آیا چت‌بات هریک از این موارد را می‌فهمد؟

کلمه‌ی «فاک» (Fuck) مشکل مشابهی را ارائه می‌دهد. اگرچه نمایانگر کاری است که بیشتر مردم از انجام آن لذت می‌برند (رابطه‌ی جنسی)، اما اغلب ظرفیتی منفی نیز به‌دست می‌آورد («ما به فنا رفتیم!» «برو خودت را…!»). زبان و واقعیت به هم ریخته است. آیا هوش مصنوعی آماده تشخیص چنین تفاوت‌هایی است؟

شاعر آلمانی، هاینریش فون کلایست^۶، در مقاله‌ی خود در سال ۱۸۰۵ ‌«در باب شکل‌گیری تدریجی افکار در فرآیند گفتار»^۷ (برای اولین بار پس از مرگش در سال ۱۸۷۸ منتشر شد) این حکمت رایج را وارونه می‌کند که شخص نباید دهان خود را برای صحبت کردن باز کند، مگر اینکه ایده‌ی روشنی داشته باشد. در مورد اینکه چه باید گفت: «بنابراین اگر یک فکر به صورت مبهم بیان شود، اصلاً به این معنی نیست که این فکر به شکلی مغشوش تصور شده است. برعکس، کاملاً ممکن است که ایده‌هایی که به گیج‌کننده‌ترین شکل ممکن بیان می‌شوند، آنهایی باشند که به وضوح راجع‌به‌شان فکر شده‌ است.»

رابطه‌ی زبان و اندیشه به طرز خارق‌العاده‌ای پیچیده است. در بخشی از یکی از سخنرانی‌های استالین در اوایل دهه‌ی ۱۹۳۰، او اقدامات رادیکالی را پیشنهاد می‌کند تا «حتی کسانی که تنها در افکارشان مخالف جمع‌گرایی^۸ هستند را شناسایی کرده و با آنها بدون هیچ رحمی مبارزه کنند… بله، منظورم این است که ما حتی باید با افکار مردم مبارزه کنیم». با خیال راحت می‌توان حدس زد که این قسمت از قبل آماده نشده بود. استالین پس از گرفتاری در این لحظه، بلافاصله از آنچه گفته بود آگاه شد. اما به جای عقب‌نشینی، تصمیم گرفت به هذل‌گویی خود ادامه دهد.

همانطور که ژاک لاکان^۹ بعداً بیان کرد، این یک مورد از حقیقت بود که از طریق امر بیان به‌طور شگفت‌انگیزی آشکار شد. لوئی آلتوسر^۱۰ پدیده‌ی مشابهی را در تعامل بین جایزه^۱۱ و شگفتی^۱۲ شناسایی کرد. کسی که به‌شکل ناگهانی ایده‌ای را درک می‌کند، (با غرور) از آنچه که انجام داده شگفت‌زده خواهد شد. تکرار می‌کنم، آیا هیچ چت‌باتی از پس این کار برمی‌آید؟

مشکل این نیست که چت‌بات‌ها احمق هستند. این است که آنها به اندازه کافی احمق نیستند. اینطور نیست که آنها ساده‌لوح باشند (از طنز^۱۳ و انعکاس^۱۴ غافل شده‌اند). مشکل این است که آن‌ها به اندازه کافی ساده لوح نیستند (وقتی ساده‌لوحی هشیاری را می‌پوشاند، از دست می‌رود). بنابراین، خطر واقعی این نیست که مردم یک چت‌بات‌ را با یک شخص واقعی اشتباه بگیرند، این است که برقراری ارتباط با چت‌بات‌ها باعث می‌شود افراد واقعی مانند چت‌بات‌ها صحبت کنند – تمام ظرافت‌ها و کنایه‌های خود را از دست می‌دهند و با وسواس تنها و دقیقاً همان چیزی را خواهند گفت که فکر می‌کنند می‌خواهند بگویند.

وقتی جوانتر بودم، یکی از دوستانم پس از تجربه‌‌ای آسیب‌زا و برای درمان به روانکاو مراجعه کرد. تصور این دوست از انتظار تحلیل‌گران از بیمارانشان کلیشه‌ای بود، بنابراین او اولین جلسه خود را با ارائه‌ی «تداعی‌های آزاد»^۱۵ و جعلی درباره‌ی اینکه چگونه از پدرش متنفر است و می‌خواهد او را بکشد گذراند. واکنش تحلیل‌گر مبتکرانه بود: او یک موضع ساده «پیشافرویدی»^۱۶ اتخاذ کرد و دوستم را به‌خاطر ‌بی‌احترامی به پدرش سرزنش کرد. («چگونه می‌توانی در مورد کسی که تو را به چیزی که هستی تبدیل کرده این‌گونه صحبت کنی؟»). این ساده لوحی ساختگی پیام روشنی را ارسال کرد: من ارزشی برای «تداعی‌های آزاد» و جعلی شما قائل نمی‌شوم. آیا یک چت‌بات‌ می‌تواند این زیرمتن^۱۷ را بفهمد؟

به احتمال زیاد اینطور نخواهد بود، زیرا مانند تفسیر روآن ویلیامز^۱۸ از شاهزاده میشکین^۱۹ در ابله داستایوفسکی^۲۰ به‌نظر می‌رسد. بر اساس خوانش استاندارد، میشکین، احمق، مردی مقدس، مثبت، خوب و زیبا است که توسط بی‌رحمی‌ها و احساسات خشن دنیای واقعی به جنون منزوی سوق داده می‌شود. اما در بازخوانی رادیکال ویلیامز، میشکین نمایانگر چشم طوفان است: هرچقدر هم که خوب و مقدس باشد، او کسی است که به دلیل نقشش در شبکه‌ی پیچیده روابط اطرافش، باعث خرابی و مرگی می‌شود که شاهد آن است.

فقط به این خاطر نیست که میشکین یک ساده‌لوح است، بلکه به این دلیل است که نوع خاصی از ابهام او را از تأثیرات فاجعه‌بار خود بر دیگران بی‌خبر می‌گذارد. او فردی صاف و ساده است که به معنای واقعی کلمه، مانند یک چت‌بات صحبت می‌کند. «خوبیِ» او در این واقعیت نهفته است که مانند یک چت‌بات، بدون کنایه به چالش‌ها واکنش نشان می‌دهد، حرف‌های عاری از هرگونه انعکاسی ارائه می‌کند، همه‌چیز را به معنای واقعی‌اش برداشت می‌کند و به جای شکل‌دهی ایده‌ای اصیل، بر تکمیل خودکار ذهنی تکیه می‌کند. به همین دلیل، چت‌‌بات‌های جدید به خوبی با ایدئولوگ‌های مختلف، از جمعیتِ «بیدار»^۲۱ امروز گرفته تا ناسیونالیست‌هایی که ترجیح می‌دهند در خواب بمانند، کنار می‌آیند.