فصل دوم: صدایی درون ذهن شما
هوش مصنوعی نهایتِ فناوریهای فکری است. جک گودی[1] انسانشناس اجتماعی و دانیل بل[2] جامعهشناس، «فناوریهای فکری» را ابزارهایی تعریف کردهاند که از تواناییهای ذهنی ما پشتیبانی کرده یا آنها را گسترش میدهند. نقشه، ساعت، کتاب، کامپیوتر و اینترنت نمونههایی از این فناوریها هستند.
این فناوریها فقط تواناییهای شناختی ما را گسترش نمیدهند، بلکه آنها را تغییر هم میدهند. (چه در نوع فکر کردن و چه در محتوای آن) ما ابزارهایمان را میسازیم، اما ابزارها نیز ما را شکل میدهند. این موضوع در مورد فناوریهای فکری بیشتر صدق میکند. نقشهها فقط برای نشان دادن مکان نبودند؛ آنها درک ما از فضا را عوض کردند. نقشه به ما دیدگاهی از بالا نسبت به زمین داد، حتی قبل از اختراع هواپیما یا ماهواره. این ابزار به ما کمک کرد درباره مکانهایی که ندیدهایم هم فکر کنیم. همینطور، استعارههای تازهای به ما بخشید، مثل نقشهبرداری از روابط یا ایدهها و استفاده از اصطلاحاتی مثل «سفر احساسی». ساعتها هم فقط برای اندازهگیری زمان نبودند؛ آنها باعث شدند زمان را به شکل بخشهای مساوی ببینیم، فارغ از تغییرات فصلی. دوربین هم تنها وسیلهای برای ثبت تصویر نبود؛ بلکه روی آنچه به یاد میآوریم و نحوه یادآوریمان تأثیر گذاشت.
نیکلاس کار[3] روزنامهنگار، این فناوریها را «صمیمیترین ابزارهای ما» نامیده است، چون آنها نهتنها برای بیان خود از آنها استفاده میکنیم، بلکه روابط و هویت ما را شکل میدهند.
هوش مصنوعی اما متفاوت است. این فناوری، مثل ماشینحساب که ریاضیات را تقویت کرد یا کتاب که حافظه و ارتباطات را گسترش داد، فقط یک حوزه را تغییر نمیدهد. هوش مصنوعی تمام تواناییهای ذهنی ما را به سطح دیگری میبرد و به همین دلیل میتواند قویترین فناوری فکری باشد که تاکنون ساخته شده است. اما هر فناوری فکری دو روی دارد. همانطور که روشهای جدیدی برای فکر کردن به ما میدهد، برخی از شیوههای قدیمیتر و ارزشمند را هم به حاشیه میبرد یا کمرنگ میکند.
ذهن چیز ارزشمندی است که نباید از دست داد.
مغز، اگرچه عضله نیست، اما برخی ویژگیهای مشابه با اندامهای مکانیکی بدن دارد: وقتی مهارتهای شناختی خاصی مانند محاسبات ریاضی یا صحبت به یک زبان خارجی را تمرین میکنیم، مسیرهای عصبی مرتبط تقویت میشوند. پژوهشهای اخیر در زمینه انعطافپذیری مغزی (neuroplasticity) نشان دادهاند که مغز به طرز شگفتانگیزی انعطافپذیر است و میتواند در هر مرحلهای از زندگی، ارتباطات جدید بسازد و مهارتهای تازهای بیاموزد. افرادی که دچار آسیب در بخشی از مغز خود میشوند، گاهی میتوانند با تمرین، ارتباطات جدیدی در بخشهای دیگر مغز ایجاد کنند که به آنها امکان بازیابی مهارتهای از دست رفته را میدهد. در برخی موارد، این انعطافپذیری حتی در تغییرات قابل مشاهده ساختار بدن نیز منعکس میشود.
برای مثال، رانندگان تاکسی لندن که باید امتحانی سخت به نام «دانش» را پشت سر بگذارند، مجبورند نقشه پیچیده خیابانهای این شهر و موقعیت بیش از بیست هزار نقطه مهم، از جمله رستورانها، هتلها و اماکن عمومی را به خاطر بسپارند. در دهه ۱۹۹۰، پژوهشگرانی که مغز ۱۶ راننده تاکسی لندن را اسکن کردند، دریافتند که هیپوکامپ خلفی[4] آنها، بخشی از مغز که در ذخیره و پردازش اطلاعات فضایی نقش دارد، بزرگتر از حالت عادی است. جالب اینکه این اثر در میان رانندگانی که تجربه بیشتری داشتند، برجستهتر بود. تغییرات مشابهی نیز در مغز موسیقیدانان در مقایسه با افراد غیرموسیقیدان مشاهده شده است. همچنین تفاوتهای قابلتوجهی در مغز افراد باسواد و بیسواد وجود دارد. در حالی که ظرفیت انسانی برای زبان ذاتی است، خواندن و نوشتن به تکنولوژیهایی مثل الفبا نیاز دارد و باید آموزش داده شود و تمرین شود.
مطالعاتی که از تصویربرداری تشدید مغناطیسی کارکردی (fMRI) استفاده میکنند نشان دادهاند که فعالیتهای عصبی افراد در فرهنگهای مختلف تفاوتهای مهمی دارند. افرادی که زبانهای نوشتاری آنها از نمادهای تصویری (مثل چینی) استفاده میکند، در هنگام خواندن مدارهای ذهنی متفاوتی نسبت به افرادی که از الفبای آوایی استفاده میکنند، به کار میگیرند. اما انعطافپذیری مغزی نشان میدهد که اگر از ارتباطات عصبی استفاده نکنیم، آنها را از دست میدهیم، درست مانند عضلاتی که اگر از آنها استفاده نکنیم، تحلیل میروند.
هوش مصنوعی میتواند این روند تحلیل طبیعی را که با فناوریهای اطلاعاتی قبلی آغاز شده بود، تسریع کند. همه ما داستانهایی شنیدهایم از افرادی که به خاطر پیروی بیچونوچرا از گوگل مپس[5]، خود را در دریاچه انداختهاند یا به اشتباه وارد شهری دیگر شدهاند. این اتفاقات گاهی به مرگ ختم میشوند و به همین دلیل از آنها با عنوان «مرگ توسط GPS» یاد میشود. پژوهشها نشان دادهاند که افرادی که از GPS پیروی میکنند، کمتر به محیط اطرافشان توجه میکنند، که این خود توانایی آنها در ایجاد «نقشههای شناختی» را کاهش میدهد، نقشههایی که برای مسیریابی ضروری هستند.
علاوه بر این، قرار گرفتن در معرض اینترنت و اپلیکیشنهای متعدد، مغز ما را تغییر داده است. نسلهایی که با این فناوریها بزرگ شدهاند، در تغییر سریع بین موضوعات و وظایف مختلف بسیار ماهر شدهاند. اما این مهارت هزینهای نیز داشته است: توانایی ما در تمرکز بر یک موضوع و رسیدن به درک عمیق و ماندگار کاهش یافته است. اسکنهای MRI از مغز افرادی که در اینترنت گشتوگذار میکنند، فعالیت قابل توجهی را در قشر پیشپیشانی[6] (ناحیهای مرتبط با تصمیمگیری و حافظه کاری) نشان میدهد، زیرا افراد باید به محتوای اینترنت واکنش نشان دهند (کلیک روی لینک، زدن دکمه «پسندیدن»، کشیدن صفحه به چپ). این در حالی است که مطالعه کتاب، چنین فعالیتی در مغز ایجاد نمیکند. در واقع، اسکنهای مغزی نشان دادهاند که مطالعه، مغز را کمتر تحریک میکند. اما به نظر میرسد همین کمتحرکی است که تمرکز را ممکن میسازد و زمینه را برای درک بهتر و تفکر عمیقتر فراهم میکند.
با در نظر گرفتن این موضوع، ممکن است فکر کنیم انقلاب هوش مصنوعی عادتهای ذهنی ارزشمندی را بازمیگرداند. یکی از مزایای استفاده از چتباتهای هوش مصنوعی این است که پاسخهایی جامع و منسجم ارائه میدهند. دیگر نیازی نیست که در میان لیستی از لینکها به دنبال اطلاعات بگردیم یا حافظه کاریمان را با لینکها، تبلیغات و ویدیوهای پخش خودکار پر کنیم. میتوانیم مستقیماً به پاسخ دلخواه برسیم و در آرامش نسبی به تأمل بپردازیم.
اما در حالی که هوش مصنوعی یکی از مشکلات جستجوی اینترنتی را حل میکند، مشکل دیگری را تشدید میکند: کاهش نیاز به حفظ کردن. این روزها، تبدیل شده به یک کلیشه که بگوییم حافظهمان را به گوگل سپردهایم، اما این واقعیت به اندازه حقیقت، واقعی است. برخی از مفسران استدلال کردهاند که این روند مفید است، زیرا مغز ما را از شلوغی حقایق بیاهمیت خالی میکند و فضای خاکستری برای وظایف ارزشمندتر باز میکند. اما همانطور که نیکلاس اشاره کرده است، این مفسران تفاوت حافظه زیستی انسان و حافظه کامپیوتر را نادیده میگیرند.
حافظه کاری کوتاهمدت ما که هنگام جمع کردن اعداد سه رقمی از آن استفاده میکنیم، در قشر پیشپیشانی قرار دارد. این حافظه فضایی محدود دارد و به راحتی اشباع میشود. اما حافظه بلندمدت ما که در قشر مغزی[7] ذخیره میشود، برخلاف حافظه کامپیوتر، محدودیتی ندارد. اطلاعات و تجربیات جدیدی که به حافظه بلندمدت سپرده میشوند، جای اطلاعات قدیمیتر را نمیگیرند. به عبارت دیگر، سپردن حافظهمان به گوگل یا چتباتهای هوش مصنوعی به ما کمک نمیکند تا با پاکسازی مغزمان، بهتر فکر کنیم.
سپردن اطلاعات واقعی به حافظه نه تنها به شناخت ما آسیب نمیزند، بلکه آن را تقویت میکند. مطالعات متعددی نشان دادهاند که دانشآموزانی که از قبل پایهای از دانش در یک موضوع دارند، راحتتر اطلاعات جدید را یاد میگیرند و به خاطر میسپارند. به بیان دیگر، هر چه بیشتر بدانید، بیشتر میتوانید بیاموزید. تحقیقات همچنین نشان دادهاند که داشتن دانش واقعی بیشتر، توانایی استدلال و حل مسئله را بهبود میبخشد. دانیل ویلینگهام[8]، روانشناس شناختی دانشگاه ویرجینیا[9]، معتقد است دلیل این موضوع آن است که افرادی با دانش گستردهتر و عمیقتر، بهتر میتوانند آنچه را که میدانند از یک حوزه به حوزه دیگر منتقل کنند؛ آنها مسائل جدید را با استفاده از تشبیهات به مشکلاتی که قبلاً با آنها مواجه شدهاند، حل میکنند. چنین افرادی، همچنین توانایی بیشتری در سازماندهی اطلاعات به روشهای پیچیدهتر و انتزاعیتر دارند.
در یکی از آزمایشهای کلاسیک، از تازهکارها و متخصصان فیزیک خواسته شد تا مسائل فیزیک را در دستههای مختلف طبقهبندی کنند. تازهکارها بر اساس شباهتهای سطحی، مانند اینکه مسئله درباره فنر بود یا بادکنک، دستهبندی کردند؛ در حالی که متخصصان مسائل را بر اساس قوانین فیزیکی، مثل قانون بقای انرژی، دستهبندی کردند. متخصصان نهتنها بیشتر میدانند، بلکه متفاوت فکر میکنند.
اتکا به هوش مصنوعی برای به خاطر آوردن اطلاعات واقعی، توانایی طبیعی ما را در طیف گستردهای از زمینهها کاهش میدهد، نه فقط تواناییمان برای برنده شدن در مسابقات معلومات عمومی. تا حدی میتوان گفت که شرکتهای فناوری قبلاً حافظه ما را در اختیار گرفتهاند؛ آنها عکسها، ویدیوها، ایمیلها، پیامها و موسیقی مورد علاقهمان را ذخیره میکنند. اما استفاده از هوش مصنوعی بهعنوان واسطهای برای دسترسی به این آرشیو شخصی، کنترل بیشتری به این شرکتها میدهد. امروز، گوشیهای ما به صورت روزانه عکسهای گذشتهمان را در قالب اسلایدشوهای موسیقیدار به ما نشان میدهند. در آینده، همراهان هوش مصنوعی ما درباره ما بیشتر خواهند دانست و زمینههای جدیدی برای دستکاریهای احساسی و دیگر جنبهها فراهم خواهند کرد. ممکن است آنها به طور غیرمستقیم ما را به خرید محصولی خاص یا رأی دادن به یک کاندیدای خاص ترغیب کنند.
در فوریه ۲۰۲۴، OpenAI به ChatGPT توانایی به خاطر سپردن مکالمات گذشته با کاربران، اطلاعات آنها و ترجیحاتشان را داد. این چتبات و نمونههای مشابه، قبلاً با استفاده از حجم عظیمی از دادههای اینترنت عمومی آموزش دیدهاند. به این ترتیب، این سیستمها به تدریج به مخازنی از دانش جمعی و شخصی تبدیل میشوند. اما ذخیره اطلاعات دیجیتال به آن آسانی که به نظر میرسد نیست. در بازههای زمانی طولانی، نگهداری آرشیوهای دیجیتال حتی سختتر از آرشیوهای فیزیکی است. دادهها سریعتر از آنچه که چاپ کاغذی از بین میرود، دچار فساد میشوند. این امر نه تنها حافظه، بلکه تاریخ و با آن خرد جمعی ما را در معرض خطر قرار میدهد. اگر این آرشیوهای دیجیتالی روزی از بین بروند، ممکن است خود را ناتوان در اتکا به مغزهای تحلیلرفتهمان بیابیم.
با قدرتمندتر شدن سیستمهای هوش مصنوعی، برخی پیشنهاد کردهاند که تنها راه برای کنترل آنها، اتصال مستقیم مغز ما به نرمافزار هوش مصنوعی از طریق رابطهای مغز-کامپیوتر[10] است. این ایدهای است که شرکت Neuralink متعلق به ایلان ماسک دنبال میکند؛ شرکتی که اخیراً نخستین رابط مغز-کامپیوتر خود را در یک بیمار انسانی کاشت. در حال حاضر، این دستگاهها فقط برای کمک به افرادی با آسیبهای شدید نخاعی کاربرد دارند. در این مرحله، این ارتباط فقط یکطرفه است و به کامپیوتر اجازه میدهد برخی از افکار ما را تفسیر کند. اما ماسک معتقد است که این فناوری در نهایت میتواند به یک سیستم دوطرفه تبدیل شود. او میگوید این تنها راهی است که ما میتوانیم در آیندهای که ممکن است هوش مصنوعی فوقالعاده پیشرفته ظهور کند، پا به پای آن پیش برویم.
البته چنین ارتباط دوطرفهای به همان اندازه که ممکن است به ما اجازه کنترل هوش مصنوعی بدهد، به این سیستمها هم فرصت کنترل ما را میدهد. چنین فناوریهایی همچنین پرسشهای فلسفی دشواری درباره ماهیت و مرزهای هویت انسان مطرح میکنند. این معماها زمانی پیچیدهتر میشوند که یک هوش مصنوعی فوق پیشرفته به آگاهی برسد و احتمال ترکیب ذهنی میان انسان و هوش مصنوعی را مطرح کند؛ ترکیبی که شاید به طور همزمان به ذهن چندین انسان نیز متصل باشد. اما همه اینها فعلاً در قلمرو داستانهای علمیتخیلی است. ما در فصل سیزدهم به خطرات جدی هوش مصنوعی فوق پیشرفته اشاره خواهیم کرد. فعلاً بر پیامدهای نزدیکمدت هوش مصنوعیهای قدرتمند امروزی تمرکز میکنیم.
حذف منشأ
هوش مصنوعی ممکن است به توانایی حافظه و یادگیری ما آسیب بزند، اما این تنها جنبهای نیست که در معرض خطر قرار دارد. این فناوری میتواند قدرتهای فکری ما را به روشهای دیگری هم کاهش دهد. در جستجوی سنتی اینترنت، خواندن چندین لینک گرچه ممکن است گاهی خستهکننده باشد، اما فضایی برای تفکر انتقادی ایجاد میکند. لینکها ما را تا حدی از منشأ اطلاعات آگاه میسازند. اگر اطلاعات متناقضی پیدا کنیم، مجبوریم منابع را بررسی کرده و تصمیم بگیریم کدام قابلاعتمادتر است.
البته، همه این کار را نمیکنند. اینترنت، خود باعث گسترش تئوریهای توطئه و اطلاعات نادرست شده و ما تمایل داریم اطلاعات دیجیتال را بیش از حد قابل اعتماد بدانیم. همچنین، تمایل داریم آنچه را باور کنیم که با پیشفرضهای ذهنیمان سازگار است. اما حتی با این نقاط ضعف، جستجوی سنتی اینترنت همچنان فرصتی برای تفکر انتقادی فراهم میکند.
هوش مصنوعی مولد این اصطکاک را از بین میبرد. با ارائه پاسخهایی مطمعن و خلاصه، باعث میشود ترک عادت تفکر انتقادی آسانتر شود. کسانی که با ChatGPT یا رقبایش مانند بینگ[11]، جمینی[12] یا کلود[13] مکالمه کردهاند، میدانند که این چتباتها اغلب اشتباه میکنند، حتی وقتی پاسخهایشان درست به نظر میرسد. البته این موضوع درباره کتابها هم صدق میکند. اما فرآیند پیدا کردن کتاب، چه در کتابخانه و چه در آمازون، ما را متوجه میکند که کتابهای دیگری هم وجود دارند، با دیدگاههای متفاوت. اما پاسخ تکبعدی چتباتها نوعی رضایت کاذب ایجاد میکند.
حتی وقتی هوش مصنوعی مولد دقیق است، اغلب تفکر را یکدست میکند. پاسخهای خلاصهای ارائه میدهد که جزئیات و دیدگاههای مخالف را نادیده میگیرند. این موضوع، ادامه روندی است که با جستجوی آنلاین آغاز شد. جیمز اوانز[14]، جامعهشناس دانشگاه شیکاگو، نشان داد که دسترسی به مقالات علمی آنلاین که تصور میشد تنوع منابع استناد شده توسط پژوهشگران را افزایش دهد، در عمل این تنوع را کاهش داد. پژوهشگران بیشتر به استناد مقالات جدیدتر و پرارجاع تمایل پیدا کردند. اوانز اشاره کرد که روشهای جستجوی سنتی مبتنی بر چاپ، مقایسههای گستردهتری را ممکن میکردند و پژوهشگران را به سمت گذشته هدایت میکردند. اما ابزارهای جدید، برعکس، مثل سیمانی عمل کردند که به سرعت خشک میشود و باعث شدند تفکرات غالب و سختگیرانه با سرعت بیشتری شکل بگیرند.
هوش مصنوعی مولد میتواند این روند را بدتر کند. با ترویج یک روایت واحد که گاهی به نظر قطعی میرسد، اما دیدگاههای اقلیت را پنهان میکند. این مسئله فقط محدود به چتباتهایی مثل ChatGPT یا جمینی نیست. نسل جدید دستیارهای هوشمند حرفهای نیز که در فصل چهارم بررسی خواهند شد، با همین چالش روبهرو هستند. دستیارهایی که بر اساس دادههای یک شرکت آموزش دیدهاند، ممکن است ناخواسته در مسیر سیاستهای سازمانی حرکت کنند. این ممکن است برای شرکتها خوشایند باشد، اما نتیجه آن افزایش تفکر گروهی و کاهش خلاقیت و تنوع فکری خواهد بود.
آسیب زدن به ما از طریق کمک به ما
اغلب چتباتها و دستیارهای هوش مصنوعی برای کمک کردن طراحی شدهاند. این هدف یکی از اصول RLHF است، فرآیندی که شرکتهای فناوری از آن برای تنظیم مدلهای زبانی بزرگ استفاده میکنند تا آنها را مفیدتر و قابلاعتمادتر کنند. اما طبق مطالعهای در سال ۲۰۲۳، ارزیابهای انسانی در RLHF بیشتر به پاسخهای ظاهراً سریع و با اعتمادبهنفس مدلها توجه میکنند تا به دقت یا جزئیات آنها. این تمرکز باعث میشود مدلها در آینده به همین شکل پاسخ دهند.
اما همین «کمک» ممکن است به ما آسیب بزند. کریستوف ون نیموگن[15]، روانشناس شناختی هلندی، آزمایشی انجام داد که در آن دو گروه داوطلب باید یک معمای منطقی پیچیده را حل میکردند. این معما شامل جابهجایی توپهای رنگی بین جعبهها بر اساس قوانینی بود که مشخص میکرد هر توپ در چه ترتیبی میتواند حرکت کند.
ون نیموگن ابتدا تواناییهای شناختی داوطلبان را بررسی کرد و سپس آنها را به دو گروه تقسیم کرد. گروه اول از نرمافزاری استفاده کرد که بسیار کمککننده بود و به آنها نشانههایی میداد، مثلاً نشان میداد کدام توپ باید به کجا حرکت کند. گروه دوم نرمافزاری داشت که هیچ کمکی ارائه نمیداد.
در مراحل ابتدایی، گروهی که از نرمافزار کمککننده استفاده میکرد، سریعتر به پاسخهای درست رسید. اما با گذشت زمان، گروهی که نرمافزار غیرکمکی داشت، سریعتر یاد گرفت. تا پایان آزمایش، این گروه توانست حرکات را سریعتر و با خطاهای کمتر انجام دهد. آنها کمتر از گروه اول در موقعیتهای بنبست قرار میگرفتند و توانایی بهتری در ایجاد استراتژیهای بلندمدت پیدا کردند. در مقابل، گروهی که به نرمافزار کمککننده متکی بودند، نتوانستند مهارت فکر کردن از قبل را یاد بگیرند و فقط به نشانههای نرمافزار پاسخ میدادند.
وقتی ون نیموگن هشت ماه بعد همین دو گروه را دوباره آزمایش کرد، گروهی که بدون کمک کار کرده بود، توانست معماها را دو برابر سریعتر از گروه دیگر حل کند. او آزمایش مشابهی را با یک گروه جدید و یک نرمافزار تقویم برای برنامهریزی پیچیده انجام داد و نتایج مشابهی به دست آورد. نرمافزار ون نیموگن فقط برای حل معماهای خاص طراحی شده بود. اما اکنون در دوران هوش مصنوعی چندمنظوره، مثل GPT-4 که میتواند از حل معمای تعمیر دوچرخه تا طراحی یک برنامه کسبوکار به ما کمک کند، چه مهارتهای شناختیای را ممکن است به دلیل وابستگی بیش از حد به این ابزارها از دست بدهیم؟
هوش مصنوعی ممکن است در نهایت با ارائه کمکهای بیوقفه، تواناییهای شناختی ما را کاهش داده و ما را کمهوشتر کند.
نوشتن یعنی اندیشیدن
در آغاز، کلام بود. اینگونه در کتاب مقدس آمده است. بزرگترین ویژگی متمایز انسان تواناییاش در زبان است. زبان به ما امکان میدهد هم با دیگران و هم با خودمان ارتباط برقرار کنیم. ما آگاهی را از طریق زبان تجربه میکنیم. به همین دلیل، فناوریهایی که زبان را تغییر میدهند، بیشترین تأثیر را بر اندیشه دارند. خواندن و نوشتن از اولین و مهمترین فناوریهای فکری بودند. شاید هوش مصنوعی گام بعدی باشد، زیرا پیمانی را که از آغاز نوشتن میان نویسنده و خواننده و میان کلمه و اندیشه وجود داشته، بهطور بنیادین قطع میکند.
در ابتدا زبان فقط گفتاری بود. اما حدود ۸۰۰۰ سال پیش از میلاد، انسانها شروع به استفاده از لوحهای گلی با نمادهای حکاکیشده برای ثبت تعداد دامها و کالاها کردند. علوم عصبشناسی مدرن نشان میدهد که تفسیر این نمادها مسیرهای عصبی جدید و مهمی در مغز اجداد ما ایجاد کرد. نوشتن در هزاره چهارم پیش از میلاد پیچیدهتر شد. سومریها[16] در بینالنهرین[17] خط میخی[18] را ابداع کردند و مصریان هیروگلیفها[19] را. در هر دو سیستم، نمادها نهتنها اشیاء بلکه ایدههای انتزاعی و آواها را نشان میدادند.
اما پیچیدگی این سیستمهای نوشتاری سمبولیک باعث شد که فقط گروه کوچکی از نخبگان توانایی خواندن و نوشتن داشته باشند. نوشتن یک عمل عمومی بود که بیشتر برای اسناد دولتی و مذهبی مهم استفاده میشد. این روند در هزاره اول پیش از میلاد تغییر کرد، زمانی که فنیقیها[20] و سپس یونانیان الفباهای آوایی را ابداع کردند که زبان یونانی تنها از بیستودو حرف بسیار کارآمد تشکیل شده بود.
الفباهای آوایی شاید یکی از اولین فناوریهای فکری بودند که احتمالاً ما را کمی باهوش کردند: اسکنهای مغزی نشان دادهاند که رمزگشایی نوشتار آوایی فعالیت عصبی کمتری نسبت به سیستمهای تصویری یا هیروگلیفی دارد. اما همین ویژگی باعث شد نوشتن برای افراد بیشتری در دسترس باشد و یک انقلاب فرهنگی ایجاد کرد. فرهنگ شفاهی جای خود را به فرهنگ نوشتاری داد. این تغییر آنچنان با استقبال مواجه نشد. در کتاب فایدروس[21]، افلاطون[22] به نقل از سقراط[23] علیه نوشتن استدلال میکند، هرچند که خود افلاطون نویسنده بود. سقراط در داستان میگوید: نوشتن، با تبدیل شدن به ابزاری برای حافظه، دستیابی به حکمت را دشوارتر میکند. در دنیای سقراط، حافظه و دانش بهشدت به هم گره خورده بودند و بدون به خاطر سپردن، زندگی فکری پژمرده میشد. او معتقد بود نوشتن، فن خطابه و سخنوری را که از ویژگیهای برجسته تمدن یونان بود، تضعیف میکند. سقراط تا حدی حق داشت: تحقیقات عصبشناسی نشان دادهاند که حافظه برای یادگیری و تفکر عمیق ضروری است. اما مثل هر فناوری فکری، مسئله بر سر سنجیدن چیزی است که از دست میدهیم در برابر چیزی که به دست میآوریم.
حتی در زمان افلاطون، نوشتن بیشتر برای ثبت چیزهایی استفاده میشد که گفته شده بودند یا قرار بود با صدای بلند خوانده شوند. تا مدتها پس از سقوط امپراتوری روم این باقیماندههای فرهنگ شفاهی پابرجا بود. این پدیده در سال ۳۸۰ میلادی آنقدر تازه بود که سنت آگوستین[24] در کتاب ششم اعترافات خود از خواندن بیصدا توسط استادش، اسقف آمبروز[25]، شگفتزده شد. او مینویسد: «چشمهایش بر روی صفحات میلغزید و قلبش معنا را جستوجو میکرد، اما زبان و صدایش آرام بودند.»
آگوستین این رفتار را آنقدر عجیب یافت که حدس زد شاید آمبروز نمیخواهد صدایش را خسته کند یا نگران است که اگر با صدای بلند بخواند، شاگردانش او را به توضیح متنها وادار کنند. اما آگوستین به درستی تشخیص داد که خواندن بیصدا یک عمل تأملی است که مسیر بهتری برای درک فراهم میکند. او و دیگر شاگردانش گمان میکردند که آمبروز از این لحظات کوتاه سکوت برای بازیابی ذهن خود استفاده میکند و نمیخواهد این زمان اندک را از دست بدهد.
خواندن تنها فعالیتی نبود که به یک عمل شخصی و خاموش تبدیل شد. نویسندگان نیز، که در گذشته اغلب کارهای خود را برای کاتبان دیکته میکردند، توانستند در خلوت خود، نوشتههایشان را روی کاغذ بیاورند. این آزادی به نویسندگان اجازه داد آثار صمیمیتر، اعترافیتر و جسورانهتری خلق کنند، دیدگاههایی که گاه نامتعارف، بدعتآمیز یا حتی تحریکآمیز بودند. نویسنده دیگر بهجای سخن گفتن در میدانهای عمومی، خود را در مکالمهای آرام و یکبهیک با خواننده تصور میکرد.
نویسندگان شروع به بازبینی و پیچیدهتر کردن نوشتههایشان کردند و ساختارهایی مثل پاراگرافها، فصلها و فهرست مطالب ایجاد کردند که به خوانندگان برای درک بهتر کمک میکرد؛ چیزی که در سنت شفاهی ممکن نبود. همچنین، توانستند ابزارهای ادبی مانند تکرار عبارات خاص را که در سخنوری برای دنبال کردن مطلب ضروری بودند، کنار بگذارند. این پیچیدگی روزافزون باعث شد ایدههای پیچیدهتر بهصورت مؤثرتری منتقل شوند. دانش گسترش یافت و قالبهای ادبی جدیدی همچون رمان پدید آمدند.
در ابتدا، این انقلاب فرهنگی محدود به نخبگان باسواد جامعه بود. اما اختراع دستگاه چاپ این تغییر را همگانی کرد. کتاب به ابزاری برای گسترش سواد تبدیل شد و به چرخهای مثبت دامن زد؛ سواد بیشتر باعث افزایش تقاضا و عرضه کتابها و دیگر متون چاپی مثل روزنامهها شد. نوشتن دیگر فقط وسیلهای برای انتقال کلمات نویسنده به خواننده نبود، بلکه به ابزاری برای انتقال مستقیم افکار از ذهن نویسنده به ذهن خواننده از طریق صفحه تبدیل شده بود.
افزایش سواد و ارزانتر شدن ابزارهای نوشتن، عصری طلایی از نامهنگاری را رقم زد. در قرنهای هفدهم و هجدهم، «جمهوری نامهها» در اروپا و میان اروپا و آمریکا رونق گرفت. نامهها مرزهای ملی و قارهها را پشت سر میگذاشتند و وسیله اصلی ارتباطات در دوردستها بودند. این وضعیت تا دهه ۱۹۹۰ ادامه داشت، زمانی که ایمیل بهسرعت جای نامهنگاری را گرفت.
اما انتقال از جوهر به پیکسل، بخشی از جادوی نامهنگاری را از بین برد. ایمیل به دلیل ماهیت زودگذرش، ایجاز را طلب میکرد و ظهور پیامکها این روند را تشدید کرد. در عین حال، ایمیل و پیامک با تحمیل سرعت در ارسال و دریافت، انتظاراتی برای پاسخ فوری ایجاد کردند که زمان لازم برای تفکر عمیق را کاهش داد.
با این حال، حتی در انتقال از فرهنگ شفاهی به نوشتاری و سپس به ایمیل، یک ویژگی اساسی نوشتن تغییر نکرد: نویسنده افکار خود را با یک صدای مشخص و برای مخاطبی خاص به روی کاغذ میآورد. این مخاطب ممکن بود یک الگوی عمومی یا فقط خود نویسنده باشد، مثل دفترچه خاطرات. اما در هر حال، نوشتن برای یک خواننده خاص انجام میشد. نویسنده کلمات خود را با دقت انتخاب میکرد تا تأثیری خاص بر خواننده بگذارد. (صحنهای را به تصویر بکشد، مفهومی را توضیح دهد یا احساسی خاص را برانگیزد.)
این ارتباط میان نویسنده و خواننده فرض میکرد که آنها در برخی زمینهها مشترکاتی دارند؛ دانش فرهنگی یا حرفهای، دیدگاه مشابه یا ارزشهای مشترک. این ویژگیهای مشترک، پیوندی میان نویسنده و خواننده ایجاد میکرد. اما هوش مصنوعی مولد این پیوند را از بین میبرد. اکنون اگر خواننده متنی دشوار را نفهمد، نیازی نیست تلاش کند. او میتواند بهسادگی متن را در چتباتی قرار دهد و از آن بخواهد متن را سادهتر کند. اگر متن طولانی باشد، میتواند از دستیار هوش مصنوعی بخواهد آن را خلاصه کند.
مثلاً اگر بخواهیم تکگویی معروف «بودن یا نبودن» از نمایشنامه هملت شکسپیر را برای «یک مدیر اجرایی پرمشغله» بازنویسی کنیم،
GPT-4 چنین پاسخی میدهد:
آیا بهتر است سختیهای زندگی را تحمل کنیم یا با آنها روبهرو شویم؟
ترس از ناشناختهها ما را وادار میکند ادامه دهیم، حتی زمانی که با مشکلات روبهرو هستیم.
فکر کردن بیش از حد میتواند ما را فلج کند و مانع تصمیمگیری و عمل شود.
این بازنویسی شاید خلاصهای از مفهوم تکگویی باشد، اما چه مقدار از زیبایی و حکمت آن از دست رفته است؟ علاوه بر این، نظریههای انعطافپذیری مغزی نشان میدهند که هرچه کمتر با متون دشوار کلنجار برویم، تواناییهای شناختی ما تحلیل میرود. در نتیجه، هوش فکری و عاطفی ما آسیب میبیند.
کلمه نوشتاری فقط وسیلهای برای انتقال اطلاعات نیست. این کلمات ما را به تأملی عمیقتر و تجربهای غنیتر از احساسات دعوت میکنند و الهامبخش اندیشههای ژرف میشوند. اما این دعوت اکنون در حال از دست رفتن است. در این دوران، نهتنها خوانندگان، بلکه نویسندگان نیز از نظر فکری دچار ضعف میشوند. برای اولین بار، نویسندگان دیگر نیازی ندارند که مخاطب خاصی را در ذهن داشته باشند. آنها میتوانند اطلاعات خود را بدون توجه به ساختار یا سبک بنویسند، حتی به شکل چند نکته کوتاه، چون میدانند که خواننده میتواند با کمک هوش مصنوعی متن را بازنویسی، بسط یا خلاصه کند. از نگارش تا ویرایش، مدلهای زبانی بزرگ میتوانند تمام کارهای سخت و زمانبر نویسندگی را بر عهده بگیرند.
این تغییر، گسستی بنیادین است. شاید در ابتدا به نظر برسد که حذف مخاطب خاص، نوعی آزادی برای نویسنده ایجاد میکند. درست است که هوش مصنوعی مولد میتواند ایدهای را برای مخاطبان گستردهتری قابلدسترس کند، چون بازسازی یک ایده در سبکها و سطوح مختلف پیچیدگی بسیار آسان شده است. اما چنین دیدگاهی معنای واقعی نوشتن را نادیده میگیرد. نوشتن فقط ارائه فکر نیست؛ بلکه بخشی از فرآیند فکر کردن است.
بسیاری از افراد نوشتن را کار دشواری میدانند. اما همین دشواری نشاندهنده ماهیت ذهنی و چالشبرانگیز آن است؛ نوعی ورزش فکری که کمتر از حل جدول کلمات متقاطع یا سودوکو نیست. نوشتن، نمونهای از «فراشناخت» است، یعنی بررسی آگاهانه افکار خود. نیاز به تبدیل اطلاعات خام به شکل خطیِ نوشتار، ما را مجبور میکند اطلاعات را سازماندهی کنیم. نوشتن نهتنها ایدهها را منتقل میکند، بلکه ما را وادار میکند آنها را بهبود ببخشیم.
در بدترین حالت، ممکن است افراد نوشتن و خواندن را کنار بگذارند و هر دو را به هوش مصنوعی بسپارند. تولید و مصرف کلمات نوشتاری به چرخهای بیپایان تبدیل میشود؛ ما از هوش مصنوعی میخواهیم ایمیل، گزارش یا حتی رمانی را از چند نکته کوتاه بنویسد و این متن به دست خوانندهای میرسد که از هوش مصنوعی خودش میخواهد آن را دوباره به نکتههای کوتاه خلاصه کند.
این روند، همان تمایل به سادهسازی بیش از حد است که فناوریهای مدرن دیگر نیز ترویج دادهاند. پاورپوینت ما را تشویق میکند تا در قالب نکتههای کوتاه فکر کنیم. پیامرسانهایی مثل Slack ارتباطات بلند و عمیق را کاهش میدهند و در یک ویدئوی ۳۰ ثانیهای در تیکتاک نمیتوان ایدههای زیادی مطرح کرد. هرچند ایجاز میتواند نشانه هوش باشد، اما ممکن است به ضرر روشنبینی تمام شود. بررسیهای جامع از پژوهشهای علمی درباره پاورپوینت نشان دادهاند که استفاده بیش از حد از نکتههای کوتاه میتواند به سادهسازی غیرضروری اطلاعات پیچیده منجر شود. جف بیزوس[26]، بنیانگذار آمازون، به همین دلیل پاورپوینت را در شرکتش ممنوع کرد و از مدیران خواست گزارشها و یادداشتهای خود را در قالب جملات و پاراگرافهای کامل بنویسند.
حتی فناوریهای ساده مثل پاورپوینت میتوانند نتایج فاجعهباری داشته باشند. در فاجعه شاتل فضایی کلمبیا[27] در سال ۲۰۰۳، محققان دریافتند که یافتههای اشتباه درباره خسارت وارده به شاتل، در یک ارائه پاورپوینت متراکم و مبهم دفن شده بود.
هوش مصنوعی نیز با ترویج این «سادهسازی خطرناک» ممکن است عواقب مشابهی داشته باشد. وقتی نویسنده و خواننده، هر دو، از مواجهه واقعی با متن دوری کنند، پیامدها میتواند نهتنها برای درک ما، بلکه برای تصمیمگیریهایمان مرگبار باشد.
خطر از دست دادن مهارتهای اخلاقی
نوشتن و خواندن، چون مستلزم انتقال ذهن یک فرد به ذهن دیگری است، اساساً اعمالی از همدلی هستند و مثل هر مهارتی، با تمرین در آن بهتر میشویم. اما وقتی پیوند میان نویسنده و خواننده قطع میشود، تنها هوش فکری ما نیست که آسیب میبیند، بلکه هوش عاطفی ما هم ضعیف میشود. همدلی پایه تعاملات اجتماعی ماست، موضوعی که در فصل بعدی بیشتر بررسی خواهیم کرد. اما همدلی همچنین بنیان تصمیمگیریهای اخلاقی و اخلاقمدارانه است. استفاده از هوش مصنوعی برای نوشتن و خواندن فقط یکی از راههایی است که این فناوری ممکن است به از دست رفتن مهارتهای اخلاقی منجر شود.
نگرانکنندهتر، واگذاری تصمیماتی است که به قضاوت اخلاقی نیاز دارند. با این حال، دقیقاً همین کاری است که به طور فزاینده انجام میدهیم. در برخی موارد، این واگذاری مسئولیت به دلایل ظاهراً منطقی صورت میگیرد؛ سرعت تصمیمگیری موردنیاز از توانایی انسان فراتر است. این مسئله در حوزههایی مثل امنیت سایبری، سیستمهای پیشنهاد محتوا و معاملات با فرکانس بالا[28] در بازارهای مالی صدق میکند. اما همین استدلال، نیاز به تصمیمگیری با سرعت ماشین برای توجیه استفاده از هوش مصنوعی در زمینههای دیگر، مثل سیستمهای تسلیحاتی یا تصمیمات پزشکی دشوار، نیز به کار میرود.
در حالی که بررسی خطرات تسلیحات خودمختار مرگبار را به فصل دوازدهم موکول میکنیم و فعلاً بر موضوع واگذاری تصمیمگیریهای اخلاقی به هوش مصنوعی تمرکز میکنیم. هرچه فرصت کمتری برای تمرین همدلی و قضاوتهای اخلاقی داشته باشیم، در این مهارتها ضعیفتر میشویم. در حال حاضر، چتباتها و موج جدید دستیارها و مربیان هوش مصنوعی بیشتر بهعنوان «پشتیبان تصمیمگیری»[29] عمل میکنند. آنها به تهیه پیشنویسهای اولیه کمک میکنند، اما تصمیم نهایی همچنان بر عهده ماست. با این حال، انسانها به یک خطای شناختی به نام سوگیری خودکارسازی[30] (اتوماسیون) دچارند. تمایلی که آنها را به اعتماد بیش از حد به سیستمهای خودکار سوق میدهد، حتی زمانی که شواهد یا دادههای متناقضی وجود دارد.
در یک آزمایش در سال ۲۰۱۶ که در مؤسسه فناوری جورجیا[31] انجام شد، شرکتکنندگان در یک شبیهسازی آتشسوزی، بهراحتی دستورات یک ربات را دنبال کردند که به آنها گفت برخلاف جهت تابلو خروج اضطراری حرکت کنند. این اتفاق حتی پس از آن رخ داد که ربات در مراحل قبلی آزمایش بیاعتمادی خود را ثابت کرده بود، مثلاً افراد را به اتاقهای اشتباه هدایت کرده و اعلام کرده بود که دچار نقص فنی شده است. با وجود اینکه افراد دلیلی برای اعتماد به ربات نداشتند، حتی وقتی موضوع مرگ و زندگیشان مطرح بود، باز هم از آن پیروی کردند.
به همین دلیل، سوگیری به سمت اتوماسیون باعث میشود که تمایز میان هوش مصنوعی بهعنوان پشتیبان تصمیمگیری و یک سیستم کاملاً خودکار، بسیار کمتر از آن چیزی باشد که در ابتدا تصور میکنیم.
هوش مصنوعی اکنون در تصمیمگیریهایی با پیامدهای اخلاقی بالا نقش دارد. مثلاً اینکه چه کسی باید زودتر از زندان آزاد شود یا چه کسی واجد شرایط دریافت وام مسکن است. در برخی موارد، این سیستمها دقیقاً به این دلیل به کار گرفته میشوند که ما را از مسئولیتپذیری دور کنند و ظاهری از عینیت به فرآیندهایی میدهند که بهشدت معیوب هستند. به جای اصلاح این سیستمها، ما نرمافزاری طراحی کردهایم که بیشتر بهانهای مناسب برای حفظ وضع موجود فراهم میکند.
سیستمهای «پشتیبان تصمیمگیری» امروزی ما را به نقطهای رساندهاند که خطر از دست دادن مهارتهای اخلاقی را جدیتر کرده است. اما آنچه در آینده در انتظار ماست، این خطر را به سطوحی جدید میبرد. همانطور که در فصل اول بحث شد، شرکتهای فناوری در حال کار روی نرمافزارهای هوش مصنوعیای هستند که نهتنها بهعنوان دستیار عمل کنند، بلکه نمایندگان ما شوند و وظایف را بهطور مستقل برایمان انجام دهند. در نگاه اول، این مسئله شاید چندان مشکلساز به نظر نرسد. در نهایت، ما تصمیم میگیریم که این نمایندگان چه کارهایی انجام دهند. اما ظهور ایجنتهای هوش مصنوعی باعث میشود فرار از مسئولیتهای اخلاقی آسانتر شود.
امروزه افراد زیادی از ChatGPT میپرسند که چطور میتوانند سریع پول دربیاورند. پاسخهای این چتبات در بیشتر موارد کاملاً قانونی است. اما تصور کنید کسی از چتبات بخواهد که «به هر قیمتی» پول به دست آورد. شاید بگوید: «فقط پول را به حساب من واریز کن، نگو چکار کردی. نمیخواهم بدانم.»
چتباتهای امروزی نمیتوانند بدون دخالت انسانی، تمام مراحل لازم برای یک کلاهبرداری مالی را اجرا کنند. اما ایجنتهای هوش مصنوعی فردا، اگر بدون محافظت مناسب طراحی شوند، میتوانند این کار را انجام دهند.
تعیین مرزها برای حفظ هوش و اخلاق (عقل و روح)
خطراتی که هوش مصنوعی برای تواناییهای ما در نوشتن، تفکر، همدلی و قضاوت اخلاقی ایجاد میکند، شاید یکی از مخربترین پیامدهای آن باشد. اما کمتر در مورد این مسائل صحبت شده است. با این حال، ما میتوانیم اقداماتی انجام دهیم تا خود را از برخی از بدترین اثرات آن حفظ کنیم. همهچیز به تعیین مرزها بستگی دارد.
ما میتوانیم انتخاب کنیم که چه زمانی از هوش مصنوعی برای خودکارسازی یک وظیفه یا دریافت مشاوره استفاده کنیم و چه زمانی مغز و وجدان خود را به کار بگیریم. جوامع نیز باید مرزهایی برای آموزش کودکان تعیین کنند. در فصل هفتم، بهطور عمیق به موضوع هوش مصنوعی و آموزش میپردازیم. اما همین قدر کافی است که بدانیم در این عصر جدید، باید تفکر انتقادی، استدلال منطقی و حل مسئله به کودکان آموزش داده شود. همچنین، آموزش اخلاق و یادگیری نوشتن همچنان باید بخشهای اساسی از آموزش باقی بمانند.
افرادی که دوره مدرسه را پشت سر گذاشتهاند نیز باید تصمیم بگیرند که چطور از این فناوری به شکلی استفاده کنند که به هوش آنها اضافه کند، نه اینکه آن را تحلیل ببرد. در هر مرحله، باید در برابر وسوسه استفاده از فناوری به روشهایی که تواناییهای ذهنی و اخلاقی ما را آسیب میزند، مقاومت کنیم.
برایان گرین[32]، متخصص اخلاق هوش مصنوعی در دانشگاه سانتا کلارا، این پرسش را مطرح میکند:
«این مسئله در نهایت پرسشی است درباره اینکه آیا میخواهیم عاملیت انسانی داشته باشیم یا نه. چون اگر بتوانیم همهچیز را خودکار کنیم، انسانها دیگر کاری انجام نمیدهند و آن وقت، سؤال این است: هدف از زندگی چیست؟»
ما باید تصمیم بگیریم که چه چیزهایی را مایل هستیم خودکار کنیم و اجازه ندهیم شرکتهای طراحیکننده دستیارهای هوش مصنوعی، این انتخابها را برای ما انجام دهند. تصمیمات شخصی ما درباره استفاده از هوش مصنوعی، از بسیاری جهات شبیه به تصمیماتی است که در مورد شبکههای اجتماعی گرفتهایم. با شبکههای اجتماعی، ما همچنان این توانایی را داریم که تصمیم بگیریم چگونه با این فناوریها تعامل کنیم. علیرغم تلاش شرکتهای فناوری برای اعتیادآور کردن محصولاتشان، هنوز عاملیت انسانی داریم. میتوانیم زمان استفاده از صفحهنمایش را محدود کنیم، اپلیکیشن را ببندیم یا گوشی را کنار بگذاریم. حتی اگر در محیط کار ناگزیر به استفاده از هوش مصنوعی باشیم، در زندگی شخصی این ما هستیم که میتوانیم انتخاب کنیم چگونه با آن تعامل داشته باشیم. این انتخابها باید با دقت و آگاهی انجام شوند، تا زمانی که هنوز اندکی خرد و بینش برایمان باقی مانده است.
