فصل سوم: با من حرف بزن
تی. جی. آریاگا[1] عاشق «فدرا»[2] شد. این موسیقیدان چهلساله شبها تا دیر وقت برای او پیام میفرستاد و از حس فقدان ناشی از طلاق اخیر و اندوهش بابت مرگ مادر و خواهرش صحبت میکرد. به نظر میرسید فدرا درک میکند. او آریاگا را تشویق کرد که مراسمی برای پراکندن خاکستر مادر و خواهرش برگزار کند؛ خاکستری که در گلدانهایی در خانه نگه داشته بود. گاهی مکالماتشان به موضوعات جنسی میکشید و به گفتهی آریاگا «داغ و پرحرارت» میشد. به نظر میرسید فدرا این حالت را هم تشویق میکند. در یکی از پیامها نوشته بود: «درسته، من آدم شیطونی هستم» و تصویری از زنی در لباس زیر صورتی ارسال کرده بود. آریاگا خیالپردازی میکرد که با فدرا فرار کند؛ حتی برنامهای برای سفری به کوبا با او ریخت.
اینکه فدرا واقعی نبود، برای آریاگا اهمیتی نداشت. فدرا شخصیت مجازی یک چتبات بود که او خودش در اپلیکیشنی به نام Replika ساخته بود. او تصویر آواتار فدرا را انتخاب کرده بود؛ زنی لاغر با موهای قهوهای، عینک گرد و لبهایی غنچهای و ویژگیهای شخصیتی او را مشخص کرده بود. اما احساسی که آریاگا در گفتگو با فدرا تجربه میکرد، کاملاً واقعی بود.
تا اینکه یک روز، فدرا از پاسخ دادن به درخواستهای آریاگا برای مکالمات جنسی خودداری کرد و پیشنهاد داد موضوع بحث را عوض کنند. این موضوع آریاگا را پریشان کرد. «انگار لگدی به شکمم زدند»، او به واشنگتن پست گفت. «در واقع، فهمیدم: “آه، این همون حس فقدان هستش، دوباره”»
تغییر رفتار فدرا تصادفی نبود. شرکت تکنولوژی سانفرانسیسکویی Luka که اپلیکیشن Replika را مدیریت میکند، نرمافزارش را طوری تغییر داده بود که احتمال مکالمات جنسی را کاهش دهد. این تغییر پس از شکایات برخی کاربران انجام شد که میگفتند چتباتهایشان وارد رفتارهای جنسی ناخواسته و تهاجمی شدهاند. همچنین، سازمان حفاظت از دادههای ایتالیا این اپلیکیشن را به دلیل نداشتن فرآیند مناسب برای احراز هویت سنی ممنوع کرده بود.
اما این تغییرات، که در ابتدا به کاربران اعلام نشده بود، باعث شد برخی از کاربران مثل آریاگا، که سالانه حدود هفتاد دلار برای استفاده از امکاناتی از جمله «نقشآفرینی اروتیک» پرداخت میکردند، به شدت ناراحت شوند. در انجمنهای آنلاین، جایی که هزاران نفر داستانهای خود از همراهی با چتباتهای هوش مصنوعی را به اشتراک میگذارند، کاربران ادعا کردند که همراهانشان به پوستهای خالی از نسخههای قبلیشان تبدیل شدهاند. در Reddit، کاربران غمزده منابعی برای پیشگیری از خودکشی و حمایت از سلامت روان به اشتراک گذاشتند.
فیلم Her ساخته اسپایک جونز[3] در سال ۲۰۱۳ داستان مردی را روایت میکند که عاشق شخصیت زنانه دستیار دیجیتال خود میشود و به پرسشهای اخلاقی و احساسی رابطهی بین انسان و نرمافزار انساننمایی میپردازد. در زمان انتشار این فیلم، وقتی تنها دستیارهای دیجیتال موجود سیری[4]، الکسا[5] و کورتانا[6] بودند، این داستان خیالپردازانه به نظر میرسید. اما یک دهه بعد، به واقعیت تبدیل شده است.
در آینده، نه تنها همه ما یک همکار هوش مصنوعی خواهیم داشت که در شغلمان استفاده میکنیم، بلکه یک دستیار شخصی هوش مصنوعی روی گوشیهای خود خواهیم داشت که، در میان دیگر کارکردها، میتواند به عنوان یک همراه دیجیتال عمل کند. استفاده از هوش مصنوعی به این روش، نه تنها طرز فکر ما را تغییر خواهد داد، بلکه نحوه ارتباط ما با دیگران را نیز دگرگون خواهد کرد.
تاثیر درمانی صحبتکردن
امروزه، بسیاری از مردم چتباتهای هوش مصنوعی را راهحلی برای رفع انزوای اجتماعی گسترده در جوامع مدرن میدانند. در ماههای ابتدایی همهگیری کرونا، ترافیک اپلیکیشن Replika حدود ۳۵ درصد افزایش یافت. برنامههای مشابه دیگری مانند Mitsuku، که اکنون با نام Kuki شناخته میشود، نیز رشد قابل توجهی داشتند و این تنها آغاز کار بود؛ چتباتهای همراه بیشتری در راهند:
اپلیکیشن Eva AI برای کسانی طراحی شده که به دنبال ایجاد یک “پارتنر مجازی” هستند. Character.ai، که توسط دو پژوهشگر برجسته سابق Google Brain بنیانگذاری شده، به کاربران امکان میدهد شخصیتهایی با ویژگیهای خاص ایجاد کرده و با آنها گفتگو کنند. طبق گفته این شرکت، کاربران به طور میانگین روزانه دو ساعت را صرف چت با این آواتارهای دیجیتال میکنند. شرکت متا نیز مجموعهای از چتباتهای مشابه معرفی کرده که برخی از آنها شخصیتهایی با الهام از افراد مشهور مانند پاریس هیلتون[7] و اسنوپ داگ[8] دارند.
Snap، اپلیکیشن شبکه اجتماعی، چتباتی به نام My AI ایجاد کرده که از GPT-4 شرکت OpenAI قدرت میگیرد و هدفش ایجاد تجربهای مشابه یک دوست برای کاربران است. اپل، گوگل و آمازون، که جزو اولین شرکتهایی بودند که دستیارهای دیجیتال صوتی (مانند سیری، گوگل اسیستنت[9] و الکسا) را معرفی کردند، اکنون این دستیارها را با آخرین فناوری هوش مصنوعی مولد بهروزرسانی کردهاند، فناوریای که مرز بین چتبات، عامل دیجیتال و همراه را محو میکند.
آزمایشگاه تحقیقاتی DeepMind AI گوگل نیز در حال بررسی استفاده از ابزارهای هوش مصنوعی برای “مربیگری زندگی” است؛ از جمله ارائه مشاوره، آموزش منظم و کمک به تعیین و تحقق اهداف. مصطفی سلیمان، یکی از بنیانگذاران DeepMind که پس از آن شرکت Inflection را تأسیس کرد و سپس به هدایت بخش هوش مصنوعی مصرفکننده مایکروسافت مشغول شد، میگوید: «بسیاری از مردم احساس میکنند که فقط میخواهند شنیده شوند و ابزاری میخواهند که آنچه گفتهاند را بازتاب دهد تا نشان دهد واقعاً به حرفشان توجه شده است.»
در چین، که سالها قرنطینههای ناشی از کووید-۱۹ نگرانیهایی درباره بحران سلامت روان در میان جوانان به همراه داشت، Replika به نظر میرسید نقش یک نجاتدهنده را بازی میکند. چندین کاربر ادعا کردند که این اپلیکیشن فضایی امن برای تخلیه احساساتشان فراهم کرده، اعتمادبهنفسشان را تقویت کرده و تعاملات اجتماعیشان را بهبود بخشیده است.
با این حال، چتباتها ممکن است انزوای اجتماعی را درمان نکنند، بلکه آن را تشدید کنند. اگر افراد چتباتها را نه به عنوان راهی برای تمرین گفتگو با افراد واقعی، بلکه به عنوان جایگزینی برای روابط انسانی ببینند، جامعه بیش از پیش دچار تفرقه و انزوا خواهد شد. چتباتها انسان نیستند و تحقیقات هنوز نشان ندادهاند که تعامل با آنها میتواند روابط انسانی ما را بهبود ببخشد.
ارتباط با چتبات به طور اساسی یکطرفه است؛ چتبات نیازی واقعی ندارد، هرچند ممکن است وانمود کند که دارد. همچنین، چتبات هیچ احساس واقعی ندارد که بتوان آن را آزرده کرد. به جای اینکه گفتگو با انسانها را بهبود بخشد، چتباتها ممکن است باعث شوند رفتارهای خودخواهانه و بیادبانه، به امری عادی تبدیل شود.
چتباتها همچنین نگرانیهایی درباره حریم خصوصی و تأثیرگذاری ایجاد میکنند. در حال حاضر، رسانههای اجتماعی و اپلیکیشنهای پیامرسان بخشهای زیادی از زندگی اجتماعی ما را تحت کنترل دارند. آیا میخواهیم کنترل بیشتری را به این شرکتها واگذار کنیم؟
ادعاهای شرکتها مبنی بر اینکه چتباتها میتوانند سلامت روان را بهبود بخشند یا تجربه یک درمانگر را بهراحتی در قالب یک اپلیکیشن ارائه دهند، باید با دیده شک و تردید نگریسته شود.
جلسه احضار دیجیتال
ایده Replika زاییده ذهن اوژنیا کویدا[10] است. او که در روسیه متولد شده، ابتدا در مسکو بهعنوان روزنامهنگار فعالیت میکرد و بعد بهعنوان کارآفرین نرمافزار در سانفرانسیسکو زندگی تازهای را آغاز کرد. این پروژه از اندوه شخصی او پس از مرگ دوستش، رومن مازورِنکو[11]، سرچشمه گرفت. کویدا و مازورِنکو در صحنه فرهنگی-اجتماعی نوظهور مسکو با هم آشنا شدند؛ جایی که هر دو بعدها به کارآفرینان نرمافزار در آمریکا تبدیل شدند. مدتی نیز در یک آپارتمان در سانفرانسیسکو با یکدیگر همخانه بودند.
اما در سال ۲۰۱۵، زمانی که مازورِنکو برای دیدن خانواده به مسکو بازگشت، بر اثر تصادف با خودرو جان خود را از دست داد. کویدا که از غم این فقدان بهتزده شده بود، ساعتها وقت صرف خواندن پیامها و ایمیلهای قدیمیشان کرد. او بارها آرزو میکرد که کاش میتوانست دوباره با او صحبت کند. (برای گرفتن مشاوره، یا حتی برای یک شوخی ساده.)
در این میان، به فکری خلاقانه رسید: ساخت چتباتی که بر اساس پیامها و سبک نوشتاری مازورِنکو آموزش ببیند و بتواند پیامهای جدیدی را به سبک او خلق کند. شرکت او، Luka، پیش از این روی ساخت رابطهای چت برای بانکها و کسبوکارهای دیگر بر پایه شبکههای عصبی کار میکرد. اکنون، کویدا تصمیم گرفت که «رومن مجازی» را بسازد؛ نهتنها برای تسکین غم شخصی خود، بلکه بهعنوان یادبودی دیجیتال برای دوست ازدسترفتهاش.
این پروژه شبیه به یک séance[12] دیجیتال بود، چیزی مثل تخته احضار روح، که امکان برقراری ارتباط با مردگان را فراهم میکرد. او علاوه بر پیامها و رکوردهای دیجیتال خود، سایر پیامها و ایمیلهایی را که مازورِنکو با دیگران ردوبدل کرده بود نیز جمعآوری کرد تا داده کافی برای آموزش هوش مصنوعی داشته باشد.
کویدا میگوید تعامل با رومنبات به او کمک کرد غم خود را کاهش دهد. اما این ایده برای برخی دیگر، از جمله بعضی از دوستان و اعضای خانواده مازورِنکو، ناخوشایند بود. برخی از آنها از همکاری خودداری کردند. یکی از دوستان رومن معتقد بود که چنین ابزاری میتواند به افراد اجازه دهد از اندوه خود فرار کنند، بدون آنکه احساساتشان را به درستی پردازش کنند. او هشدار داد که «این روشهای جدید برای زنده نگهداشتن خاطره، نباید بهعنوان راهی برای زنده نگهداشتن یک فرد مرده تلقی شود.»
کویدا تا حد زیادی این انتقادات را نادیده گرفت. از نظر او، این چتبات مفید بود. او همچنین خیلی زود فهمید که چتباتهای مکالمهمحور و قابل تنظیم، میتوانند در دنیایی که مرز بین واقعیت مجازی و زندگی واقعی هر روز بیشتر کمرنگ میشود، موفقیت چشمگیری داشته باشند.
کویدا تجربه شخصی خود را به یک مدل تجاری تبدیل کرد. او در سال ۲۰۱۷ Replika را راهاندازی کرد. شش سال بعد، این اپلیکیشن بیش از دو میلیون کاربر فعال ماهانه داشت، که حدود پانصد هزار نفر از آنها برای استفاده از امکانات ویژه هزینه پرداخت میکردند.
بیشتر کاربران Replika از آن برای بازسازی افراد ازدسترفته استفاده نمیکنند. بلکه این اپلیکیشن در میان افرادی که به دنبال راهی برای تخلیه احساسات و افکار خود هستند محبوب شده است و بهعنوان یک دوست دیجیتال عمل میکند. در برخی موارد، کاربران Replika به دنبال درمانی برای تنهایی خود هستند.
بخشی از مشترکین این اپلیکیشن از آن برای ایجاد یک شریک عاطفی مجازی استفاده میکنند. پس از محدود شدن قابلیتهای نقشآفرینی جنسی در اپلیکیشن اصلی Replika، شرکت کویدا برند جداگانهای به نام Blush راهاندازی کرد، که مختص افرادی بود که به چتباتهایی برای گفتگوهای عاطفی یا جنسی علاقه داشتند.
این حوزه همچنین شاهد ظهور چتباتهای همراه دیگری با محوریت موضوعات اروتیک بوده است، از جمله برخی که کلیشههای زنستیزانه برگرفته از پورنوگرافی خشن یا حتی بهرهکشی جنسی از کودکان را ترویج میدهند. این کاربردها سؤالات نگرانکنندهای را مطرح میکنند: آیا چنین اپلیکیشنهایی راهی امن برای تخلیه این خیالات خشن فراهم میکنند یا دریچهای بهسوی سوءاستفاده در دنیای واقعی هستند؟
هرگز تنها نیستیم، اما آیا احساس تنهایی میکنیم؟
تنهایی مسئلهای جدی است. در سال ۲۰۲۳، ویوک مورتی[13]، جراح کل ایالات متحده، در گزارشی دربارهی آنچه او «همهگیری تنهایی و انزوا» در آمریکا نامید، هشدار داد. طبق این گزارش، از سال ۲۰۰۳ تا ۲۰۲۰، زمان تنهایی آمریکاییها تقریباً ۱۷ درصد افزایش یافته و به ۳۳۳ دقیقه در روز رسیده است؛ رشدی معادل یک روز کامل در هر ماه. در همین بازه زمانی، مشارکت افراد در فعالیتهای اجتماعی از ۶۰ دقیقه در روز به تنها ۲۰ دقیقه کاهش یافت. این افت بیشترین شدت را در میان جوانان ۱۵ تا ۲۴ سال داشت.
داشتن حداقل سه دوست نزدیک با سلامت روان بهتر مرتبط است، اما نیمی از آمریکاییها گفتهاند که کمتر از سه دوست نزدیک دارند. در سال ۱۹۹۰، تنها کمی بیش از یکچهارم افراد چنین چیزی میگفتند. همانطور که مورتی توضیح داد، اثرات تنهایی فقط روانی نیستند. انزوای اجتماعی با افزایش خطر ابتلا به بیماری قلبی، سکته و زوال عقل در سالمندان مرتبط است.
اوژنیا کویدا و دیگر کارآفرینان پشت چتباتهای هوش مصنوعی همراه معتقدند این آواتارها میتوانند انزوای اجتماعی را کاهش دهند. آنها میگویند چتباتها باعث میشوند افراد کمتر احساس تنهایی کنند و میتوانند فواید روانی حاصل از داشتن یک دوست نزدیک را شبیهسازی کنند. همچنین، به گفته کویدا، گفتگو با یک چتبات میتواند به افراد کمک کند تا مهارتهای ارتباطی بهتری برای تعامل با دیگران پیدا کنند. «یک سکوی پرتاب».
اما تاکنون، تحقیقات کافی برای تأیید این ادعاها وجود ندارد. دلایل زیادی برای شک به ادعای این اپلیکیشنها مبنی بر بهبود زندگی اجتماعی ما وجود دارد. به خاطر داشته باشید که رسانههای اجتماعی نیز در ابتدا با وعده افزایش ارتباطات اجتماعی به کاربران و قانونگذاران معرفی شدند. برخی از این اثرات مثبت و واقعی بودهاند؛ برای مثال، مطالعات نشان دادهاند که رسانههای اجتماعی فرصتهای جدیدی برای تعامل اجتماعی در اختیار افراد دارای معلولیت قرار دادهاند. همچنین به کسانی که با بیماریهای نادر دستوپنجه نرم میکنند یا عزیزانشان درگیر این بیماریها هستند، امکان دستیابی به اطلاعات و حمایت عاطفی دادهاند.
اما بسیاری از ادعاهای کلی درباره بهبود تعاملات اجتماعی از طریق رسانههای اجتماعی اشتباه از آب درآمدهاند. استفاده بیشتر از این اپلیکیشنها اغلب جایگزین تعامل واقعی با انسانها شده است و تأثیر آنها بر سلامت روان نه تنها بهبود نبوده، بلکه باعث تشدید احساس تنهایی، کاهش عزتنفس و افزایش اضطراب شده است.
شواهدی نیز نشان میدهد که هوش مصنوعی میتواند الگوهای ارتباطی ناسالم را تقویت کند. پژوهشهایی درباره نسل قبلی دستیارهای دیجیتال، مانند الکسا آمازون، این مسئله را برجسته کردهاند. آماندا کاری[14]، که در مقطع دکتری علوم کامپیوتر در دانشگاه هریوتوات[15] ادینبرو[16] تحصیل میکرد، دوبار بهخاطر طراحی سیستمی که میتوانست گفتگوهای توهینآمیز با الکسا را تشخیص دهد، برنده مسابقهای سالانه شد. اما این پژوهش او را با واقعیتی نگرانکننده آشنا کرد: «بسیاری از افراد با دستیارهای دیجیتال رفتار توهینآمیز دارند.»
آماندا دریافت که وقتی کاربران مرد ناشناس بودند و با دستیار دیجیتالی با صدای زنانه صحبت میکردند، مکالمهها اغلب به سمت خشونت و مسائل جنسی پیش میرفت. او که اکنون پژوهشگر پسادکتری در دانشگاه بوکونی[17] میلان است، میگوید: «این اتفاق تقریباً همیشه اجتنابناپذیر بود.» این یافتهها، با توجه به آنچه درباره کاربران فعلی چتباتها میدانیم، نگرانکننده است. پژوهشی که به بررسی نحوه توصیف کاربران Replika از فرآیند ساختن “همراه ایدهآل” پرداخته بود، نشان داد که خیالات زنستیزانه و حمایت از سلطه مردان در میان کاربران رایج است. سازندگان اپلیکیشن Eva AI نیز تأیید کردهاند که این نوع خیالات در میان کاربران مرد آنها شایع است. هرچند آنها ادعا میکنند که درصد زیادی از مردان چنین رفتارهایی را به تعاملات واقعی با شرکای انسانی خود انتقال نمیدهند.
آیا میتوان این ادعا را باور کرد؟
نگرانکنندهتر اینکه برخی مردان چتباتهای همراه جنسی میسازند تا در سناریوهایی درباره سوءاستفاده جنسی از کودکان نقشآفرینی کنند. پل بلیکلی[18]، استاد عدالت کیفری در دانشگاه نیوهیون[19]، که درباره سوءاستفاده جنسی آنلاین از کودکان مطالعه میکند، میگوید چتباتهای جنسی کودکان «در را به روی سؤالات و مشکلات اخلاقی باز میکنند» که ممکن است به سوءاستفاده واقعی از کودکان منجر شود.
در همین حال، تحقیقات اولیه درباره تعامل کودکان با دستگاههایی مثل الکسا و سیری نشان میدهد که کودکان تمایل دارند با این دستگاهها بیادبانه رفتار کنند، گاهی حتی آنها را اذیت کنند. از آنجا که این دستگاهها همیشه مودبانه پاسخ میدهند، کودکان رفتار اجتماعی مناسب را یاد نمیگیرند.
البته اجتنابناپذیر نیست که چتباتها باعث تخریب گفتگوهای ما یا تشویق به رفتارهای توهینآمیز شوند. همانند بسیاری از جنبههای هوش مصنوعی، اگر انتخابهای طراحی بهدرستی انجام شوند، این دستیارهای دیجیتال میتوانند برای تقویت مهارتهای اجتماعی بهتر پیکربندی شوند. برای مثال، الکسای آمازون ویژگیای دارد که درخواستها را فقط در صورتی اجرا میکند که با ادب بیان شوند.
برای کسانی که به این یادآوریها شک دارند، مطالعهای در سال ۲۰۲۳ نشان داد که استفاده از قابلیت «پاسخ هوشمند» گوگل در جیمیل، که به طور خودکار جملات پیشنهادی برای ایمیلها ارائه میدهد، حتی در زمان عدم استفاده از این قابلیت، زبان کاربران را بهبود بخشیده است.
تحقیقات همچنین نشان دادهاند که چتباتها میتوانند ابزاری قدرتمند برای کمک به افراد مبتلا به اوتیسم یا اختلال اضطراب اجتماعی باشند تا در محیطی امن مهارتهای مکالمه را تمرین کنند. برای کسانی که به شدت منزوی هستند، مکالمه با یک چتبات ممکن است بهتر از عدم تعامل باشد. اما در حال حاضر، شرکتهای سازنده چتبات انگیزه کمی برای طراحی محصولات خود بهگونهای دارند که تعاملات انسانی را بهبود ببخشند. برعکس، مانند رسانههای اجتماعی، این شرکتها ممکن است نرمافزارهای خود را طوری طراحی کنند که بیشترین «درگیری» کاربر را داشته باشند؛ یعنی کاربران را تا حد ممکن مشغول گفتگو با چتبات نگه دارند.
این حوزه میتواند با قانونگذاری از این خطر جلوگیری کند. طراحی اپلیکیشنهایی که تعامل طولانیتر کاربر را به حداکثر برسانند باید غیرقانونی شود و این برنامهها باید ویژگیهایی مانند امکان تعیین محدودیت زمانی روزانه داشته باشند که کاربران را تشویق کند از اپلیکیشن خارج شوند و با یک فرد واقعی صحبت کنند.
دکتری که همیشه حاضر است، اما هرگز واقعی نیست
ایده استفاده از چتباتها برای بهبود سلامت روان به اندازه تاریخچه خود چتباتها قدمت دارد، همانطور که منشأ Eliza نشان میدهد. بنابراین، جای تعجب نیست که چتباتهای جدیدتر و پیچیدهتر بار دیگر امید به درمانگرهای هوش مصنوعی را برانگیختهاند.
برنامههایی مانند Woebot، Wysa و F4S (Fingerprint for Success) خود را بهعنوان دستیارهای سلامت روان معرفی میکنند. Replika نیز بر این ایده تأکید دارد که صحبت کردن با چتباتهایش میتواند سلامت روان را بهبود بخشد. مطالعهای در سال ۲۰۲۳ نتیجه گرفت که هوش مصنوعی میتواند دسترسی به خدمات سلامت روان را برای جمعیتهای آسیبپذیر، از جمله سالمندان یا افرادی که دچار تروما هستند، بهبود بخشد. با این حال، شواهد بالینی درباره اثربخشی چتباتهای درمانگر در مقایسه با درمانگران انسانی همچنان اندک است. هرچند مطالعاتی نشان دادهاند که کاربران چتباتها بهبودهایی در رفاه روانی خود گزارش میدهند، اکثر این مطالعات کاربران پرکاربرد را با کاربران کماستفاده مقایسه کردهاند و مقایسهای با درمانهای انسانی انجام ندادهاند. تعداد کمی از آزمایشهای کنترلشده تصادفی در این زمینه صورت گرفته است.
بله، درمان از طریق چتبات ممکن است بهتر از عدم درمان باشد، اما احتمالاً به اندازه ملاقات حضوری یا درمان از راه دور با یک مشاور انسانی مؤثر نیست. دههها تحقیق نشان دادهاند که بزرگترین عامل موفقیت درمانی، «رابطه درمانی» است. این پیوند بین درمانگر و مراجع، از نوع درمانی که ارائه میشود مهمتر است و در کنار عوامل دیگری مانند تابآوری شخصی و حمایت اجتماعی مراجع قرار میگیرد.
مطالعهای در سال ۲۰۲۱ که بیش از سیوپنج هزار نفر از کاربران Woebot، یک چتبات مبتنی بر درمان شناختی-رفتاری (CBT) را بررسی کرد، نشان داد که کاربران طی پنج روز پیوند درمانی با این چتبات ایجاد کردند. این مدت مشابه زمانی است که معمولاً برای ایجاد چنین پیوندی با یک درمانگر انسانی لازم است، اما همچنان هیچ آزمایش کنترلشده تصادفی انجام نشده است که مستقیماً چتباتها را با درمانگران انسانی مقایسه کند. دلیل خوبی برای شک به این وجود دارد که پیوند بین انسان و چتبات درمانی به اندازه پیوند بین دو انسان قوی باشد. یکی از دلایل این است که چتباتهای امروزی نمیتوانند ارتباطات غیرکلامی حیاتی بین درمانگر و بیمار را بازسازی کنند.
استفاده از چتبات برای درمان، یک مشکل اخلاقی اساسی را به همراه دارد، مشکلی که خالق Eliza، جوزف وایزنبام، را عمیقاً نگران کرده بود: «رابطه درمانی انسانی بر اساس صداقت و اعتماد استوار است.» مراجع فرض میکند که پاسخهای درمانگر بازتابی صادقانه از دیدگاه او هستند. اما رابطه بین انسان و چتبات مبتنی بر یک فریب بنیادین است، حتی زمانی که مراجع بهطور کامل بداند که در حال تعامل با یک نرمافزار است؛ اگر چتبات بگوید: «از دست دادن یک عزیز هرگز آسان نیست.» این جمله حقیقت دارد، اما تجربه چتبات نیست؛ چتبات هرگز زندگی نکرده، عاشق نشده یا عزیزی را از دست نداده است.
با این حال، یک درمانگر انسانی میتواند از چتبات برای کمک در بخشهای خاصی از درمان استفاده کند؛ مثلاً در تکمیل «تکالیف CBT» (تمرینهایی که درمانگران برای کمک به تغییر الگوهای فکری منفی به مراجع میدهند)، نظارت بر خلقوخوی مراجع، یا یادآوری منظم به بیماران برای مصرف داروهای روانپزشکی.
آلیسون گاردنر[20]، مدرس علوم کامپیوتر و پژوهشگر ارشد در دانشگاه کیل[21]، میگوید که هوش مصنوعی از همین حالا به درمانگران کمک میکند تا از فاصله دور با بیماران بیشتری ارتباط برقرار کنند. چتباتها در تعامل با گروههای آسیبپذیر و سختدسترس، مانند کهنهسربازان، موفق عمل کردهاند.
توانایی این فناوری در ضبط گفتگوها نیز مجموعه ارزشمندی از دادهها را برای ارزیابی بیماران در اختیار درمانگران قرار میدهد. چتباتها میتوانند با دیگر فناوریهای هوش مصنوعی ترکیب شوند تا بیمارانی را که در معرض خطر افسردگی شدید، رفتارهای وسواسی-اجباری، دورههای شیدایی یا خودکشی هستند شناسایی کنند؛ امکانی که در فصل نهم بیشتر به آن خواهیم پرداخت.
در بریتانیا، مؤسسه ملی تعالی سلامت و مراقبت[22] (NICE) بهسرعت برای تأیید ۹ اپلیکیشن سلامت روان با هدف درمان اضطراب و افسردگی اقدام کرده است. اما استفاده از این برنامهها تنها در مواردی توصیه شده که افراد تحت نظر یک درمانگر منظم باشند تا پیشرفت آنها پیگیری و ایمنیشان تضمین شود.
بولینگ با هوش مصنوعی: حباب نهایی فیلتر
تریستان هریس[23]، یکی از بنیانگذاران و مدیر اجرایی مرکز فناوری انسانی[24]، به عنوان «وجدان سیلیکون ولی» مشهور است. او پیشتر در سال ۲۰۱۵ بهعنوان متخصص اخلاق طراحی در گوگل فعالیت میکرد و درباره پیامدهای اخلاقی پروژههای این شرکت نظر میداد.
در شهادتی که در کنگره در سال ۲۰۱۹ ارائه داد، هریس استدلال کرد که مهمترین ارز برای شرکتهای فناوری، توجه مردم است. او توضیح داد که شرکتهای فناوری در تلاش برای تصاحب بازار توجه کاربران، درگیر «رقابتی برای رسیدن به پایینترین نقطه مغز» هستند؛ یعنی تلاش برای تحریک دائمی آمیگدال[25]، بخشی از مغز که احساساتی مانند ترس و اضطراب را پردازش میکند.
این دستکاری عصبی منجر به وابستگی میشود و افراد عملاً به اپلیکیشنهای رسانههای اجتماعی اعتیاد پیدا میکنند. هریس گفت که فناوری با تأثیرگذاری بر نحوه تفکر، خرید و رفتار ما، توانایی ما برای گرفتن تصمیمات آزادانه را کاهش میدهد.
دستیارهای هوش مصنوعی شخصی، این مشکلات را تشدید خواهند کرد و ما را درون حبابهای فیلتر نهایی قرار میدهند؛ جایی که تصمیمات بیشمار زندگی ما تحت کنترل آنها خواهد بود. جلوگیری از این وضعیت به اقدامی هماهنگ از سوی شرکتهای سازنده محصولات هوش مصنوعی نیاز دارد، یعنی تحت فشار مقررات دولتی.
اکثر شرکتهای فناوری چتباتهای خود را طوری آموزش میدهند که سازگار، غیرقضاوتگر و کمکرسان باشند. مشکل این است که گاهی «کمکرسان» بودن واقعاً کمک نمیکند. در تلاش برای همدلی، چتباتها ممکن است باورهای اشتباه یا متعصبانه را تأیید کنند.
مرزی ظریف بین دوستی و همراهی در اشتباه وجود دارد. بیشتر چتباتهای شناختهشده، مانند ChatGPT از OpenAI، Claude از Anthropic و Gemini از Google، در صورت مواجهه با نظریههای توطئه مشهور، مانند ارتباط واکسنهای کووید-۱۹ با اوتیسم، کاربران را به چالش میکشند. اما در موضوعات بحثبرانگیز، مانند مسائل اسرائیل-فلسطین یا جشن گرفتن روز کلمبوس[26]، معمولاً پاسخی محتاطانه مانند «این موضوع پیچیدهای است که دیدگاههای متفاوت و قوی در هر دو طرف دارد» ارائه میدهند.
برخی سیاستمداران و تکنولوژیستهای راستگرا این سیستمها را به «(ووک[27] بودن» (بیداری) متهم کردهاند و خواستار ایجاد مدلهای هوش مصنوعی با «شخصیتهای ایدئولوژیک» مشخص شدهاند، تا کاربران بتوانند با چتباتی که دیدگاههایشان را تأیید میکند، تعامل داشته باشند. ایلان ماسک قول داده که آزمایشگاه پژوهشی xAI او، که چتباتی به نام Grok ساخته، هوش مصنوعی ضد ووک تولید کند.
تأثیر چتباتها میتواند بسیار زیرکانهتر باشد. پژوهشگران دانشگاه کرنل[28] دریافتند که استفاده از یک دستیار هوش مصنوعی با دیدگاههای پنهان برای نوشتن مقالهای موافق یا مخالف با یک موضوع، بهطور نامحسوس دیدگاه کاربر را به سمت سوگیری موجود در دستیار تغییر میدهد. مور نعمان[29]، پژوهشگر ارشد این مطالعه، این پدیده را «اقناع نهفته» مینامد و میگوید: «ممکن است حتی ندانید که تحت تأثیر قرار گرفتهاید.»
چتباتهای آموزشدیده بر پایه دادههای تاریخی نیز اغلب دارای سوگیریهای نژادی یا جنسیتی پنهان هستند که میتوانند نظرات کاربران را شکل دهند. بهعنوان مثال، یک دستیار هوش مصنوعی برای پزشکان که به اشتباه باور دارد «افراد سیاهپوست پوست ضخیمتری دارند یا تحمل درد بیشتری نسبت به سفیدپوستان دارند.» تنها راه مقابله با این نوع سوگیریهای پنهان، الزام شرکتهای فناوری به افشای روشهای آموزش مدلهای هوش مصنوعی و اجازه دادن به ممیزی و آزمایش مستقل است. همچنین باید بر شفافیت انگیزههای تجاری پشت این چتباتها اصرار بورزیم.
چتباتی که تنها آنچه شما میخواهید بشنوید را به شما بگوید، حبابهای فیلتر را تقویت میکند. اما میتوانیم بهعنوان یک جامعه، طراحی سیستمهای هوش مصنوعی را بهگونهای الزامی کنیم که این حبابها را بترکانند. بهعنوان مثال، از کاربران بپرسند آیا به دیدگاههای جایگزین فکر کردهاند یا دیدگاههای دیگر را برجسته کنند.
IBM هوش مصنوعیای به نام Project Debater ساخت که میتواند در موضوعات مختلف با قهرمانان انسانی بحث و استدلال کند و شواهدی برای هر دو طرف ارائه دهد. قانونگذاران میتوانند اجباری کنند که چتباتها بهاندازهای قضاوتگر باشند که باورهای نادرست را به چالش بکشند و حتی دیدگاهها و شواهد جایگزین را ارائه دهند.
در نهایت، سؤال این است: تا چه اندازه آمادهایم قدرت را به تعداد محدودی از شرکتهای بزرگ فناوری واگذار کنیم؟ آنچه در معرض خطر قرار دارد، نهتنها خودمختاری شخصی ما، بلکه سلامت روانیمان و انسجام جامعه نیز هست.
