فصل چهارم: همه در حالت خودکار
دستیارهای شخصی هوش مصنوعی قرار است تقویمهای ما را سازماندهی کنند، خریدهای روزمره را انجام دهند و تعطیلات ما را برنامهریزی کنند، در حالی که ما روز خود را مرور میکنیم و حتی برخی از خصوصیترین رازهایمان را با چتباتهای همراه به اشتراک میگذاریم. اما تأثیر فوری و بزرگتر این فناوری در زندگی کاری ما خواهد بود.
طی پنج سال آینده، تقریباً تمام حرفهها، از حسابداری گرفته تا پزشکی و معماری، از «دستیارهای هوش مصنوعی» استفاده خواهند کرد؛ دستیارهایی که بسیاری از وظایف روتین شغلی را خودکار میکنند و نقش یک همکار دیجیتال را ایفا خواهند کرد.
این دستیارها همین حالا نیز در حال توسعه هستند: Jasper، یک استارتآپ مستقر در آستین[1]، نرمافزاری برای نوشتن متنهای بازاریابی و طراحی کمپینهای تبلیغاتی ایجاد کرده است. GitHub Copilot، یکی از چندین دستیار کدنویسی هوش مصنوعی، توسط پلتفرم GitHub طراحی شده است. گوگل مدل زبانی بزرگی برای کمک به متخصصان امنیت سایبری توسعه داده و همچنین نسخهای از مدل زبانی PaLM به نام Med-PaLM ایجاد کرده که بر روی متون پزشکی آموزش دیده است.
استارتآپهایی مانند Abridge، Nabla و Abstractive Health، به همراه شرکتهای بزرگ پروندههای الکترونیکی سلامت، مانند Epic، سیستمهایی طراحی کردهاند که بهطور خودکار یادداشتهای پزشکی را هنگام مشاوره پزشکان با بیماران ثبت میکنند. استارتآپ دیگری به نام Hippocratic مدل زبانی بزرگی برای سادهسازی فرآیندهای بیمه و صورتحسابها ایجاد کرده است. در آینده، این سیستمها ممکن است به دستیارهایی تبدیل شوند که به پزشکان در تشخیص بیماریها کمک کنند. همچنین، سیستمهای هوش مصنوعی متعددی وجود دارند که تصاویر پزشکی را تحلیل کرده و ویژگیهای کلیدی را برای رادیولوژیستها مشخص میکنند.
گوگل سیستمهای مبتنی بر هوش مصنوعی طراحی کرده که به پژوهشگران و خبرنگاران کمک میکند کارآمدتر شوند. بلومبرگ مدل زبانی BloombergGPT را برای فهم بهتر زبان مالی آموزش داده است که ممکن است در آینده دستیارهایی برای صنعت مالی فراهم کند. شرکت Autodesk روی سیستمی کار میکند که به معماران و طراحان داخلی اجازه میدهد طرحهای سهبعدی اولیه را از طریق دستورات متنی ایجاد کنند. استارتآپ Runway نرمافزاری ساخته که میتواند فیلمهای کوتاه و حتی کامل را بر اساس دستورات زبان طبیعی تولید کند.
تقریباً برای هر حرفهای، کسی در حال توسعه یک دستیار است. برخی از بزرگترین شرکتها بهسرعت در حال عرضه این ابزارهای نرمافزاری جدید هستند. Walmart به پنجاه هزار نفر از کارکنان خود دسترسی به دستیار هوش مصنوعی به نام «دستیار من» داده که به آنها در تهیه اسناد و آزاد کردن وقتشان از کارهای تکراری کمک میکند. این شرکت همچنین دستیار هوش مصنوعی دیگری برای کمک به کارکنان فروشگاهی طراحی کرده که محل کالاها را پیدا کنند.
شرکت مشاوره McKinsey & Co. و شرکت حسابداری PwC نیز استفاده از دستیارهای تولیدی هوش مصنوعی را برای کارکنان خود آغاز کردهاند. شرکت املاک تجاری JLL دستیار خود مبتنی بر مدل زبانی را ساخته و به بیش از صد هزار نفر از کارکنان خود دسترسی داده است. تقریباً هر کارمند اداری تا پنج سال آینده در کنار یک دستیار هوش مصنوعی کار خواهد کرد.
مطالعهای از OpenAI و دانشگاه پنسیلوانیا برآورد کرده که ۸۰ درصد از کارکنان آمریکایی ممکن است دستکم ۱۰ درصد از وظایف کاریشان تحت تأثیر سیستمهای هوش مصنوعی مبتنی بر مدلهای زبانی مانند GPT-4 قرار گیرد و ۱۹ درصد از کارکنان ممکن است شاهد تأثیرگذاری بر دستکم ۵۰ درصد از وظایفشان باشند.
اگر این دستیارهای هوش مصنوعی با دقت و کارآمدی طراحی شوند، میتوانند انقلابی در بهرهوری ایجاد کنند و ما را سریعتر و کارآمدتر سازند. با بر عهده گرفتن وظایفی که کمتر جذاب یا لذتبخش هستند، میتوانند به بهبود رضایت و شادی ما کمک کنند. این ابزارها همچنین در تحلیل استدلالها ما را یاری خواهند داد و اطمینان میدهند که هیچ نکته مهمی از نظر دور نمانده است.
با این حال، هنگام پیادهسازی این دستیارها، شرکتها باید مراقب سوگیریهای شناختی انسانی باشند که ممکن است خطرات جدیدی ایجاد کند. این خطرات شامل از دست دادن مهارتهای ضروری و گرایش خطرناک به تکیه بیش از حد به پیشنهادات نرمافزار بدون اعمال تفکر انتقادی و عقل سلیم است.
چنین رویکردی، از پزشکی تا معماری، میتواند پیامدهای فاجعهباری داشته باشد. دستیارهایی با طراحی و اجرای ضعیف ممکن است عادات تنبلی را تقویت کنند و به جای اینکه بهعنوان مربیانی عمل کنند که ما را به بهترین عملکرد ممکن هدایت کنند، صرفاً مسیری برای قناعت به سطحی متوسط فراهم آورند.
آزمون بریتنی اسپیرز
ساعت چهار صبح بود و جیک هلر[2] خسته و ناامید پشت میز کارش نشسته بود. این وکیل جوان که در دفتر حقوقی Ropes & Gray در بوستون مشغول به کار بود و سومین شببیداری همان هفته را پشت سر میگذاشت. او در حال کمک به تهیه لایحهی حقوقی برای یک پروندهی چند میلیارد دلاری بود و مهلت ارائه اسناد فردای آن روز بود.
هلر وکیلی توانمند بود. او از دانشکده حقوق استنفورد فارغالتحصیل شده بود و در آنجا رئیس Law Review بود. کارآموزی خود را در دفتر مشاور حقوقی کاخ سفید گذرانده و سپس بهعنوان دستیار قضایی در دادگاه تجدیدنظر حوزه اول ایالات متحده فعالیت کرده بود. همچنین مدتی بهعنوان پژوهشگر حقوقی در دفتر فرماندار ماساچوست کار کرده بود.
او مهارت زیادی در انجام تحقیقات حقوقی داشت و دفتر حقوقیاش نیز دسترسی به پایگاههای داده حقوقی گرانقیمت را برایش فراهم کرده بود. خود هلر نیز معتقد بود که از بیشتر همکارانش در استفاده از این ابزارها ماهرتر است. او در سیلیکونولی، در کوپرتینو[3] (محل اصلی شرکت اپل) بزرگ شده بود و از دوران کودکی برنامهنویسی میکرد.
با این حال، در آن لحظات حساس، هلر با دشواری میتوانست سوابق حقوقی مورد نیاز برای لایحهاش را پیدا کند. بخشی از این مشکل به نحوهی کارکرد پایگاههای دادهی حقوقی بازمیگشت. این پایگاهها هنوز از رابطهای جستوجوی قدیمی و پیچیدهای استفاده میکردند. برای یافتن یک پرونده، لازم بود بدانید چه کلماتی ممکن است در فیلدهای خاصی، مانند نام طرفین یا خلاصهای کلی از پرونده، وجود داشته باشند. اما روشی ساده برای جستوجوی مبتنی بر مفاهیم یا نظریههای حقوقی خاص در دسترس نبود.
از شدت خستگی و ناامیدی، هلر نگاهش را از صفحهی کامپیوتر گرفت و به انبوهی از پروندههای روی میز خیره شد؛ در کنار جعبههای نیمهخوردهی غذای تایلندی که ساعتها پیش برای شام سفارش داده بود. ناگهان، فکری به ذهنش خطور کرد. چطور ممکن بود بتواند بهسادگی آیفونش را بردارد، گوگل را باز کند و بپرسد: «کدام رستورانهای تایلندی نزدیک من تا دیر وقت باز هستند؟» و فوراً پاسخی دقیق بگیرد، اما نتواند به همین راحتی موارد قضایی لازم برای لایحهاش را پیدا کند؟ او با خود فکر کرد: «چطور ممکن است مسائل پیشپاافتاده اینقدر راحت پیدا شوند، اما مسائل مهم اینقدر واقعاً، واقعاً سخت باشند؟»
این ناامیدی باعث شد که هلر در سال ۲۰۱۳ شرکتی تأسیس کند. این شرکت، که Casetext نام گرفت، به بازآفرینی تحقیقات حقوقی برای قرن بیستویکم اختصاص داشت. هلر به این فکر افتاد که وقتی اینترنت و اپلیکیشنهای موبایل مدلهای سنتی کسبوکار را در صنایعی مانند خردهفروشی، حملونقل، مهمانداری و نشر متحول کردهاند، چرا این اتفاق برای حقوق نیفتد؟
ایده اولیهاش این بود که سرویسی مبتنی بر مشارکت جمعی بسازد، مشابه ویکیپدیا یا سایت پرسش و پاسخ برنامهنویسی Stack Overflow. مردم بهطور رایگان سوالات حقوقی میپرسیدند و وکلا به آنها پاسخ میدادند. سپس Casetext یک موتور جستوجوی شبیه گوگل بر پایهی این پایگاه دانش میساخت.
این ایده، در حد نظری، جذاب بود. اما هلر و همبنیانگذارانش خیلی زود متوجه شدند که وکلا چندان علاقهای به ارائه مشاوره رایگان ندارند. شرکت چارهای نداشت جز اینکه از ایدهی مشارکت جمعی صرفنظر کند.
به جای استفاده از هوش انسانی، Casetext بهشدت به هوش مصنوعی تکیه کرد. بهویژه، این شرکت به زیرشاخهی رو به رشد هوش مصنوعی به نام پردازش زبان طبیعی روی آورد؛ حوزهای که شامل ساخت نرمافزاری میشود که میتواند زبان را تحلیل، پردازش و تا حدی «درک» کند. Casetext از ابتدا برنامه داشت که از پردازش زبان طبیعی برای تقویت موتور جستوجوی حقوقی خود استفاده کند. اما حالا باید از این نوع هوش مصنوعی برای ساخت پایگاه دانشی از پاسخهای حقوقی استفاده میکرد.
هلر میگوید: «ما تمام کسبوکار را بر پایهی این حوزهی در حال تحول از هوش مصنوعی بنا کردیم. احساس میکردیم که باید همیشه در لبهی پیشرفتهای یادگیری ماشینی و پردازش زبان طبیعی باشیم تا بتوانیم در دنیایی که تعداد زیادی نیروی انسانی برای تولید داده در اختیار نداشتیم، ارزش را به مشتریان خود ارائه دهیم.»
در ابتدا، فناوری بهاندازه کافی پیشرفته نبود. پابلو آرِدوندو[4]، یکی از بنیانگذاران و مدیر ارشد فناوری Casetext، آزمایشهایی طراحی کرد تا مشخص کند چه زمانی یک سیستم هوش مصنوعی میتواند برای متخصصان حقوقی مناسب باشد. آیا نرمافزار قادر بود بهدرستی به پرسشهایی درباره یک سند پاسخ دهد و محل دقیق اطلاعات را در متن مشخص کند؟ مهمتر از آن، آیا نرمافزار میتوانست زمانی که پاسخی در متن وجود نداشت، بهدرستی اعلام کند که پاسخی ندارد، بهجای اینکه جوابی ساختگی ارائه دهد؟
در آن زمان، هیچ نرمافزار هوش مصنوعی قادر به انجام این کار نبود. بهعنوان مثال، اگر آرِدوندو یک قرارداد خرید را به نرمافزار میداد و سپس سوالی نامرتبط مانند «اولین آلبوم بریتنی اسپیرز[5] چه زمانی منتشر شد؟» میپرسید، نرمافزار با اطمینان، اما اشتباه، پاسخ میداد ۲۰۰۳ (در حالی که سال صحیح ۱۹۹۹ است) و به بخش ۷.۳ قرارداد ارجاع میداد، حتی اگر سند هیچ اشارهای به این خواننده نداشت.
آرِدوندو آزمایش دیگری را طراحی کرد و آن را «آزمون اسکالیا[6]» نامید که به شوخی میگفت بهتر از آزمون تورینگ برای تعیین هوش واقعی است. قاضی فقید دیوان عالی ایالات متحده، آنتونین اسکالیا[7]، به استفاده از طعنه در نظراتش شهرت داشت. آرِدوندو معتقد بود زمانی که یک سیستم هوش مصنوعی بتواند طعنههای اسکالیا را بهدرستی تحلیل و نظرات او را خلاصه کند، دوران واقعی هوش مصنوعی آغاز شده است.
در آزمایش دیگری بررسی شد که آیا یک مدل زبانی بزرگ میتواند تشخیص دهد که یک ایمیل تحت پوشش حریم وکیل-موکل[8] قرار دارد، یا اینکه صرفاً واژه «امتیاز» را در متنی غیرمرتبط بهکار برده است، مانند جمله: «دیدار دیروز با شما افتخار بزرگی بود.»
مدلهای زبانی بزرگ مبتنی بر ترانسفورمر، که گوگل در سال ۲۰۱۸ معرفی کرد، به Casetext این امکان را دادند تا میکروکارهایی[9] مانند تعیین وضعیت تأیید یا لغو یک تصمیم را انجام دهد. با این حال، حتی این مدلهای پیشرفته نیز برای دستیابی به بسیاری از اهداف این استارتآپ کافی نبودند؛ از جمله ساخت سیستمی که بتواند اسناد را مانند یک وکیل تحلیل کند و در تهیه پیشنویس لوایح و قراردادهای حقوقی یاری رساند.
در سال ۲۰۲۲، OpenAI به Casetext پیشنهاد داد که بزرگترین و قدرتمندترین مدل زبانیاش، یعنی GPT-4، را آزمایش کند. این بار، Casetext شگفتزده شد. GPT-4 «آزمون بریتنی اسپیرز» را پشت سر گذاشت. در آزمون اسکالیا و آزمون حریم وکیل-موکل نیز عالی عمل کرد.
هلر میگوید: «ظرف ۲۴ ساعت متوجه شدیم که باید کل کسبوکارمان را بر اساس این مدل بنا کنیم.» نتیجه محصولی به نام CoCounsel بود، یکی از اولین نسلهای دستیارهای هوش مصنوعی که بهزودی به همکاران اکثر ما تبدیل خواهند شد.
این دستیار حقوقی هوش مصنوعی که در فوریه ۲۰۲۳ عرضه شد، با استفاده از GPT-4 OpenAI و نرمافزار Casetext قدرت گرفته است. پس از ده سال تلاش، هلر رویای ساخت ابزاری برای تحقیقات حقوقی را که بهاندازه جستجوی گوگل شهودی و دقیق باشد، محقق کرد. اما CoCounsel چیزی فراتر از یک موتور جستوجو است.
این ابزار نهتنها موارد مشابه و پیشینههای قضایی را پیدا میکند، بلکه آنها را تحلیل میکند. اگر از آن بپرسید آیا رقص تفسیری تحت حفاظت متمم اول قانون اساسی قرار دارد، پاسخی منطقی و دقیق ارائه میدهد، همراه با ارجاع به مرتبطترین پروندههای دیوان عالی و جدیدترین تصمیمات قضایی. همچنین میتواند به وکلا در بررسی انواع اسناد، از قراردادها گرفته تا مقررات و شهادتنامهها کمک کند و آنها را بهصورت خودکار دستهبندی و خلاصه کند. این ابزار فقط با یک دستور ساده میتواند بندهای غیرمعمول یا ناهنجار را در هزاران قرارداد پیدا کند یا میلیونها ایمیل را برای یافتن معدود ایمیلهایی که حاوی شواهدی از فریب هستند، اسکن کند.
CoCounsel به وکلا کمک میکند در کمتر از سه دقیقه، یادداشتهای حقوقی تهیه کنند. (وظیفهای که ممکن بود ساعتها یا روزها طول بکشد). جان پولسون[10]، مدیرعامل Fisher Phillips، یک شرکت حقوقی با بیش از پانصد وکیل، میگوید که CoCounsel فوراً تأثیر گذاشت و به شرکت کمک کرد خدمات بیشتری را در زمان کمتر به مشتریان ارائه دهد.
برخلاف برخی دستیارها، CoCounsel هنوز لوایح حقوقی را تهیه نمیکند. آرِدوندو میگوید: «هدف ما این است که شما را با حقایق و قوانین مجهز کنیم.» نگارش استدلالهای حقوقی متقاعدکننده برای یک قاضی، به همان اندازه که به دانش درباره احکام گذشته وابسته است، به تجربه و شهود نیز نیاز دارد. لورا سفدی[11]، یکی دیگر از بنیانگذاران Casetext، اشاره میکند که نوشتن لوایح حقوقی بخشی از شغل است که اکثر وکلا از آن لذت میبرند، در حالی که جستوجو در میان انبوهی از اسناد اینگونه نیست.
علاوه بر Casetext، ۶ استارتآپ دیگر در حال ساخت دستیارهای حقوقی مشابه هستند. همچنین، نرمافزارهایی مانند Kira و Luminance که در بررسی سریع و دقیق هزاران قرارداد تخصص دارند، توسط بسیاری از بزرگترین شرکتهای حقوقی جهان استفاده میشوند. نشانهای از ارزشمندی این دستیارهای حقوقی، خرید Casetext توسط شرکت تامسون رویترز[12] در ژوئن ۲۰۲۳، تنها چهار ماه پس از عرضه CoCounsel است. این غول انتشاراتی که مالک نرمافزار تحقیقات حقوقی Westlaw است، Casetext را به مبلغ ۶۵۰ میلیون دلار خریداری کرد.
بازگشت شاگرد انسانی
نرمافزارهای هوش مصنوعی مانند CoCounsel نحوه آموزش حرفهایها را متحول خواهند کرد. در حوزههایی مثل حقوق و مشاوره، مدل کسبوکار کنونی بر پایه «اهرم» استوار است؛ جایی که وکلای حرفهای بر تعداد زیادی از همکاران جوان نظارت میکنند. نسبت اهرم (یعنی تعداد همکاران جوان به وکلای حرفهای) در بزرگترین شرکتهای حقوقی اغلب حدود سهبهیک یا چهاربهیک است.
این همکاران جوان وظایفی مانند نوشتن یادداشتهای پژوهشی حقوقی، آمادهسازی برای جلسات شهادت و جستوجو در میان انبوهی از اسناد را انجام میدهند. شرکتهای حقوقی میگویند این وظایف به همکاران جوان کمک میکند تا تخصص پیدا کنند. اما واقعیت این است که این شرکتها اغلب بیشتر به درآمدی که این افراد برایشان کسب میکنند اهمیت میدهند تا مهارتهایی که میآموزند.
یک قاعده کلی این است که همکاران باید حداقل سه برابر حقوق سالانه خود را به شرکت درآمد برسانند.
دستیارهای حقوقی هوش مصنوعی این مدل را زیر و رو خواهند کرد. جیک هلر میگوید: «مشتریان برای کاری که میتواند بهخوبی توسط هوش مصنوعی انجام شود، حاضر نیستند هزینه یک همکار جوان را بپردازند.» اما اگر شرکتهای حقوقی به همکاران جوان نیاز نداشته باشند، باید دوباره فکر کنند که نسل بعدی وکلای حرفهای را چگونه آموزش خواهند داد.
یکی از راهحلها میتواند بازگشت به مدل شاگردی باشد، جایی که هدف اصلی همکاران جوان، صرفاً افزایش ساعتهای کاری قابلبازبینی نیست، بلکه یادگیری از یک وکیل حرفهای است. استفاده از دستیارهای هوش مصنوعی در نقش مشاور و راهنما میتواند به همکاران جوان کمک کند تا مهارتها را سریعتر از گذشته یاد بگیرند.
هلر میگوید که از یک شرکت حقوقی اطلاع دارد که به دلیل استفاده از هوش مصنوعی، در حال بررسی این است که دیگر در سه سال اول فعالیت، هزینهای بابت خدمات همکاران جوان از مشتریان دریافت نکند و در عوض، نرخ خدمات وکلای باتجربه را افزایش دهد. او معتقد است این تغییر باید مورد استقبال قرار گیرد. همچنین او میگوید: «در حال حاضر، همکاران جوان اغلب با خود فکر میکنند، چرا اصلاً به دانشکده حقوق رفتم؟ چرا یک میمون آموزشدیده را استخدام نکنند که اسناد را بهصورت دستی بررسی کند تا یک سند خاص را که ممکن است برای یک معامله مشکلساز شود پیدا کند؟» هلر عقیده دارد، هوش مصنوعی باید این حرفه را کمتر «فرساینده و طاقتفرسا» کند.
شاگردی (جایی که افراد جوانتر از طریق راهنمایی فردی مهارت میآموزند) در بسیاری از حوزهها احیا خواهد شد. این خبر خوبی برای ما انسانهاست؛ انتقال مهارتها از یک نفر به نفر دیگر اغلب یکی از رضایتبخشترین جنبههای کار است. هوش مصنوعی میتواند در این فرآیند آموزش کمک کند، اما هرگز بهطور کامل جای انسانها را نخواهد گرفت.
همه ما مدیران میانی هستیم
CoCounsel نکات آموزندهای درباره دامنه و محدودیتهای دستیارهای هوش مصنوعی فعلی ارائه میدهد. این ابزارها میتوانند جستوجوهای پیچیده، بازیابی اسناد، خلاصهسازی و انجام برخی تحلیلها را برعهده بگیرند و تا حدی نگارش حرفهای را نیز پوشش دهند.
چندین وکیل، از جمله یکی از نمایندگان وکیل سابق دونالد ترامپ[13]، مایکل کوهن[14]، توسط قضات به دلیل استفاده نابخردانه از چتباتهای عمومی مانند ChatGPT برای تهیه لوایح حقوقی، توبیخ و به پرداخت جریمههای هزار دلاری محکوم شدهاند. چتباتها ارجاعات قانونی جعلی ارائه داده بودند که وکلا بدون بررسی آنها را در مدارک دادگاه گنجانده بودند.
در آینده، بسیاری از شغلها شامل نظارت و مدیریت بر خروجیهای دستیارهای هوش مصنوعی خواهند بود. هوش مصنوعی پیشنویسهای اولیه، طرحهای مفهومی، یادداشتهای جلسات، یا تاکتیکهای فروش را پیشنهاد میدهد. اما از ما انتظار میرود که بهصورت انتقادی به این پیشنهادها نگاه کنیم و تصمیم بگیریم که آیا آنها را بپذیریم یا نه. تحلیلگران، مشاوران، روزنامهنگاران، وکلا و طراحان بیش از پیش نقش ناظر، مدیر و ویراستار برای دستیارهای هوش مصنوعی را ایفا خواهند کرد.
ایتان مولیک[15]، استاد دانشکده بازرگانی وارتون دانشگاه پنسیلوانیا[16]، که به دلیل مشاورههای دقیقش درباره استفاده از چتباتهای هوش مصنوعی دنبالکنندگان وفاداری پیدا کرده است، توصیه میکند که مردم با دستیارهای هوش مصنوعی مانند یک کارآموز رفتار کنند. میتوانید وظایفی مثل «برای من یک خلاصه اجرایی از این گزارش بنویس» را به آنها بسپارید، اما نمیتوانید بدون بررسی دقیق، خروجی را مستقیماً برای مشتریان ارسال کنید.
مولیک مینویسد: «مانند هر کارمند جدیدی، شما باید نقاط قوت و ضعفش را بشناسید؛ باید یاد بگیرید چگونه با آن کار کنید و آن را آموزش دهید؛ و باید متوجه شوید که کجا مفید است و کجا فقط مزاحم است.»
تیم وو[17]، پژوهشگر حقوقی دانشگاه کلمبیا[18] و دستیار ویژه کاخ سفید در سیاستگذاری فناوری و رقابت در دوران بایدن، در مقالهای برای روزنامه The Globe and Mail تورنتو ابراز نگرانی کرد که افزایش کارایی به کمک هوش مصنوعی، با کاهش هزینه و زمان لازم برای انجام وظایف، تقاضا برای آن کارها را افزایش دهد. انتظارات درباره سرعت انجام کارها نیز بالا خواهد رفت. نتیجه این خواهد بود که با وجود داشتن حجم بیشتری از کارها، زمان کمتری برای انجام آنها خواهیم داشت. وو نگران است که کار کردن در کنار روباتها ما را مجبور کند بیشتر شبیه روبات شویم. این خطر را نمیتوان کاملاً نادیده گرفت و برای برخی دستههای شغلی، آینده تاریک انسانی-روباتیک که وو تصویر میکند، همین حالا هم به واقعیت پیوسته است.
نیروی کار سایبورگی
کارکنان حرفهای با دستمزدهای بالاتر همچنان تا حد زیادی اختیار خواهند داشت که چگونه وظایف شغلی خود را انجام دهند. اما برای بسیاری دیگر، کار آنها توسط هوش مصنوعی تعیین خواهد شد؛ اینکه چه زمان شیفتشان آغاز شود، با کدام همکاران کار کنند تا کارایی بیشتری داشته باشند، با چه سرعتی باید هر کار را انجام دهند و عملکردشان چگونه ارزیابی شود. این ارزیابیها ممکن است بدون انعطافپذیری و بیتوجه به نیازهای انسانی انجام شوند.
برای بسیاری از کارگران اقتصاد گیگی[19]، از جمله رانندگان اوبر[20]، پیکهای غذا و کارکنان انبارهای آمازون، هوش مصنوعی هماکنون مدیر آنها است. این کارگران اغلب با وعدههایی جذب میشوند که این شغلها انعطافپذیری بیشتری نسبت به کارهای تماموقت سنتی دارند. اما خیلی زود متوجه میشوند که تنها راه برای کسب درآمد کافی، رعایت انتظارات سختگیرانه و گاه غیرانسانی یک الگوریتم است.
پیکهای دوچرخهسوار شرکت Deliveroo، ارائهدهنده خدمات تحویل غذا در لندن، از قوانینی که توسط هوش مصنوعی تعیین شده بود، شکایت داشتند. آنها مجبور بودند ظرف سی ثانیه به درخواستهای جدید پاسخ دهند، بدون اینکه تا زمان تحویل سفارش از آدرس مقصد اطلاع داشته باشند. سپس عملکردشان با پیشبینیهای هوش مصنوعی در مورد مدت زمان لازم برای تکمیل تحویل مقایسه میشد. در صورتی که نمیتوانستند این الزامات سختگیرانه را برآورده کنند، رتبهبندی آنها کاهش مییافت و شانس دریافت سفارشهای آینده نیز کمتر میشد.
در بخش خردهفروشی و مهمانداری، برنامهریزی شیفتها بهطور فزایندهای توسط الگوریتمها انجام میشود. کارکنان انبارهای آمازون از آسیبهای ناشی از استرس تکراری شکایت دارند که به دلیل الزامات سرعت بالای یک الگوریتم هوش مصنوعی برای حرکت دادن جعبهها و کنترل هر حرکت آنها در انبار به وجود آمده است.
ظهور این سیستمهای هوش مصنوعی، به نام افزایش حاشیه سود، بسیاری از اختیاراتی را که کارگران در گذشته در محیط کار داشتند از آنها گرفته است. اکنون یک الگوریتم هوش مصنوعی تعیین میکند که آنها چه کاری، چه زمانی، چگونه و با چه کسی انجام دهند.
اما این مدل کارگاههای سختگیرانه که توسط هوش مصنوعی مدیریت میشوند، نباید به محیطهای دفتری و مشاغل سفیدپوش گسترش یابد، همانطور که تیم وو پیشبینی میکند. اگر دستیارهای هوشمند را به گونهای طراحی کنیم که واقعاً بر مبنای همکاری باشند، بهطوری که در مراحل مختلف به مشارکت انسانی نیاز داشته باشند. باید به خاطر داشته باشیم که کار باید انسانمحور و اخلاقی باشد، نه فقط سودآور، در اینصورت میتوانیم از این سرنوشت جلوگیری کنیم.
در بیشتر حرفهها، کیفیت خدمات برای آینده قابل پیشبینی، همچنان به قضاوت و عملکرد انسانی وابسته خواهد بود. بنابراین موفقترین کسبوکارها همچنان به این کارکنان، سطح بالایی از اختیار و استقلال میدهند. رضایتبخشترین جنبههای زندگی حرفهای ما اغلب چالشهای فکری یا تعاملات اجتماعی هستند و اگرچه هوش مصنوعی در انجام برخی از این کارها کمک خواهد کرد، اما هنوز به اندازه کافی توانمند نیست که آنها را کاملاً خودکار کند. تا زمانی که چنین اتفاقی نیفتد، کار همچنان رضایتبخش، معنادار و حتی سرگرمکننده باقی خواهد ماند.
منتوری از جنس هوش مصنوعی
تشبیه دستیار هوش مصنوعی به یک کارآموز باهوش تنها بخشی از واقعیت کار با این ابزارها را توصیف میکند. این قیاس کامل نیست، زیرا همان دستیارها میتوانند نقش یک منتور متخصص را نیز ایفا کنند. این نقش مربیگری نهتنها بهرهوری ما را افزایش میدهد، بلکه کیفیت کارمان را نیز بهبود میبخشد.
نمونهای از این تأثیر در مطالعهای توسط اقتصاددانان دانشگاههای استنفورد و MIT روی بیش از پنج هزار نماینده خدمات مشتری برای یک شرکت نرمافزاری که به کسبوکارهای کوچک در آمریکا خدمات ارائه میدهد، مشاهده شد. این نمایندگان که عمدتاً در فیلیپین مشغول به کار بودند، به نرمافزار هوش مصنوعی دسترسی داشتند که از یک LLM برای درک مکالمات بهصورت لحظهای استفاده میکرد و پاسخهای پیشنهادی ارائه میداد. این نرمافزار همچنین میتوانست مستندات فنی مرتبط را برای حل مشکل مشتری جستوجو کند.
این سیستم بهگونهای طراحی شده بود که پاسخهایی مشابه بهترین نمایندگان خدمات مشتری ارائه دهد. همچنین، این سیستم آموزش دیده بود تا پاسخهایی را که همدلی را نشان میدهند و از زبان غیرحرفهای پرهیز میکنند، اولویتبندی کند. این سیستم جایگزین کارکنان نشد، بلکه صرفاً یک سناریوی پیشنهادی ارائه میداد که نمایندگان میتوانستند آن را نادیده بگیرند.
منتور هوش مصنوعی توانست تعداد تماسهای حلشده در هر ساعت را ۱۴ درصد افزایش دهد. جالبتر اینکه کممهارتترین نمایندگان خدمات مشتری بیشترین بهره را از این سیستم بردند و بهرهوری آنها ۳۵ درصد افزایش یافت. این سیستم همچنین به نمایندگان جدید کمک کرد که سریعتر پیشرفت کنند. (بهجای ۸ تا ۱۰ ماه، تنها ظرف دو ماه به همان سطح بهرهوری رسیدند.)
این دستیار هوش مصنوعی کیفیت تعاملات مشتریان با نمایندگان را نیز بهبود بخشید. اقتصاددانان با تحلیل مکالمات متنی دریافتند که مشتریان هنگام استفاده نمایندگان از این ابزار، بیشتر تمایل داشتند پاسخهای مثبت بدهند. همچنین، استفاده از دستیار هوش مصنوعی باعث کاهش ۲۵ درصدی درخواست مشتریان برای ارجاع تماس به مدیر شد. علاوه بر این، نرخ ترک شغل را بهطور میانگین ۹ درصد کاهش داد و برای نمایندگان تازهکار، این کاهش به ۱۰ درصد رسید.
مطالعات دیگری نیز نشان دادهاند که استفاده از دستیارهای هوش مصنوعی بهرهوری و رضایت شغلی را افزایش میدهد. GitHub، که متعلق به مایکروسافت است، یک دستیار هوش مصنوعی ارائه میدهد که بر اساس متنی که برنامهنویسان تایپ کردهاند، خطوط کد پیشنهادی ارائه میدهد. این ابزار که Copilot نام دارد، از مدلهای GPT OpenAI قدرت گرفته است. GitHub در آزمایشهای کنترلشده تصادفی دریافت که برنامهنویسان میتوانند تا ۵۵ درصد سریعتر با Copilot کدنویسی کنند. همچنین، استفاده از این ابزار احساسات برنامهنویسان درباره کارشان را بهبود بخشید؛ در یک نظرسنجی از کاربران Copilot، اکثریت قاطع گزارش دادند که احساس بهرهوری بیشتری دارند و ۶۰ تا ۷۵ درصد گفتند که هنگام کدنویسی کمتر احساس ناامیدی میکنند و بیشتر احساس رضایت دارند.
این موضوع حتی با وجود این واقعیت صادق است که دستیارهای کدنویسی همیشه دقیق نیستند و برنامهنویسان همیشه از پیشنهادهای آنها استفاده نمیکنند. GitHub دریافته که در حال حاضر برنامهنویسان تنها حدود ۳۵ درصد از پیشنهادهای Copilot را میپذیرند، این درصد برای برخی زبانهای برنامهنویسی مانند جاوا به بیش از ۶۰ درصد میرسد.
دستیارهای هوش مصنوعی چیزی فراتر از کارآموزهای دیجیتالی هستند که وظایف پیشپاافتاده و «بیفکر» ما را انجام میدهند. آنها میتوانند به ما کمک کنند مهارتهایمان را بهبود ببخشیم. این ابزارها به کارکنان کمتجربه اجازه میدهند بهسرعت به سطح عملکرد بهترین کارکنان نزدیک شوند. پیشتر، ارتقای چنین کارکنانی نیاز به راهنماییهای گسترده و زمانبر داشت. اما اکنون این فرآیند میتواند در کسری از ثانیه اتفاق بیفتد.
نقشآفرینی
ناتان کوبایاشی[21]، رهبر تیم توسعه دستیار هوش مصنوعی در PwC، نگاهی به آینده کار با هوش مصنوعی ارائه میدهد. در روز مصاحبه، او بهتازگی از ChatPwC (دستیار هوش مصنوعی این شرکت) برای آماده شدن استفاده کرده است. کوبایاشی از چتبات خواسته که نقش یک روزنامهنگار را ایفا کند و از او درباره کارش سوال بپرسد. دستیار هوش مصنوعی با دقت سوالاتی ارائه داده تا به او کمک کند درباره آنچه ممکن است پرسیده شود فکر کند. وقتی یادداشتهایمان را مقایسه میکنیم، مشخص میشود که ChatPwC بهخوبی اکثر سوالات من را پیشبینی کرده است. کوبایاشی همچنین از ChatPwC خواسته بود پاسخهای احتمالیاش را نقد کند. او میگوید که اغلب از این ابزار برای آماده شدن در جلسات داخلی به همین شیوه استفاده میکند.
نقشآفرینی فقط یکی از روشهایی است که کارکنان PwC از دستیار هوش مصنوعی استفاده میکنند. کوبایاشی همچنین از ChatPwC برای نوشتن خلاصه جلسات بر اساس رونویسیهای صوتی و تهیه پیشنویسهای اولیه برای بررسیهای رسمی عملکرد تیمش استفاده میکند. نقشآفرینی از این جهت مهم است که نحوه طراحی ChatPwC توسط تیم کوبایاشی را به وضوح نشان میدهد. این چتبات دارای چندین شخصیت از پیش تعریفشده است که میتواند برای کمک بهتر به کارکنان، این شخصیتها را به خود بگیرد؛ چه نقش یک حسابدار رسمی (CPA) باشد چه نقش یک تحلیلگر حقوقی.
این ابزار همچنین وظایف و اهداف از پیش ساختهشدهای ارائه میدهد، مانند تحلیل یک جدول داده یا نوشتن خلاصهای از ملاحظات حقوقی برای یک مشتری. با این حال، کاربران محدود به این وظایف نیستند و میتوانند از چتبات بخواهند کارهای دیگری انجام دهد. ChatPwC میتواند اطلاعات را از پایگاه داده داخلی شرکت بازیابی و خلاصه کند، که به کاهش «توهمات» هوش مصنوعی کمک میکند، هرچند کوبایاشی به کارکنان هشدار میدهد که باید پاسخهای چتبات را برای صحت بازبینی کنند. او میگوید که برای برخی وظایف رایج، مانند تهیه پیشنویس اولیه گزارشها و نوشتن خلاصههای اجرایی، ChatPwC میتواند کاری را در چند دقیقه انجام دهد که پیشتر به حدود چهل ساعت زمان از یک مشاور PwC نیاز داشت.
اهمیت طراحی
اینکه آیا دستیارهای هوش مصنوعی جهشهای بزرگی در بهرهوری و کیفیت ایجاد خواهند کرد یا نه، به نحوه طراحی و پیادهسازی آنها بستگی دارد. آنچه در پشت پرده قرار دارد مهم است، مدلهای زبانی بزرگ که میتوانند به سوالات به زبان طبیعی پاسخ دهند، بهطور متفاوتی از دیگر انواع هوش مصنوعی، مانند آنهایی که برای طبقهبندی تصاویر یا تولید موسیقی آموزش دیدهاند، عمل میکنند.
خیلی مهم است که رابط کاربری بهخوبی طراحی شده باشد. همه ما تجربه استفاده از نرمافزارها یا وبسایتهایی را داریم که استفاده از آنها دشوار است. همین درسها در طراحی برای دستیارهای هوش مصنوعی نیز صدق میکند.
مطالعات متعددی درباره همکاری انسان و هوش مصنوعی نشان دادهاند که ترکیب این دو اغلب میتواند به عملکردی برسد که نه انسان و نه هوش مصنوعی بهتنهایی قادر به دستیابی به آن نیستند. اما این نتیجه همیشه صادق نیست. در مطالعهای در سال ۲۰۲۳ که توسط اقتصاددانان MIT انجام شد، عملکرد رادیولوژیستها در ترکیب با یک دستیار هوش مصنوعی که برای تحلیل عکسهای اشعه ایکس قفسه سینه آموزش دیده بود، مورد بررسی قرار گرفت. در آزمایشهای مستقل، این هوش مصنوعی به دقتی مشابه رادیولوژیستهای متخصص دست یافت. اما زمانی که رادیولوژیستها به این هوش مصنوعی دسترسی داشتند، میانگین دقت آنها بهبود نیافت.
یکی از دلایل این مشکل، رابط کاربری نامناسب بود. این رابط درصد اطمینان نرمافزار را در تشخیص احتمال وجود هر یک از ۱۴ نوع بیماری ارائه میداد. در مواردی که رادیولوژیست مطمئن نبود، کمک هوش مصنوعی معمولاً مفید بود. اما در مواردی که رادیولوژیست از ابتدا به نتیجه خود اطمینان داشت، ارائه احتمالات توسط هوش مصنوعی عملکرد آنها را بدتر میکرد.
این موضوع بهویژه زمانی صادق بود که رادیولوژیست بهطور معقولی مطمئن بود که عکس اشعه ایکس هیچ نشانهای از بیماری ندارد. حتی اگر هوش مصنوعی درصد بسیار کمی احتمال وجود بیماری نشان میداد، باعث میشد رادیولوژیست در نتیجهگیری خود شک کند. در مواردی دیگر، اگر رادیولوژیست به وجود یک بیماری خاص اطمینان داشت اما هوش مصنوعی بیماری دیگری را محتملتر میدانست، پزشک معمولاً اطلاعات هوش مصنوعی را نادیده میگرفت؛ حتی اگر هوش مصنوعی در مجموع احتمال بیشتری داشت که درست بگوید. بدتر از آن، مواردی بود که هوش مصنوعی نیز مطمئن نبود و درصد احتمال وجود بیماری را بین ۲۰ تا ۶۰ درصد نشان میداد. در این موارد، عدم قطعیت هوش مصنوعی باعث سردرگمی رادیولوژیستها میشد و تصمیمگیری آنها را بهطور قابل توجهی بدتر میکرد. در همه موارد، ارائه اطلاعات اضافی باعث شد رادیولوژیستها در مقایسه با حالتی که بهتنهایی کار میکردند، زمان بیشتری برای بررسی هر تصویر صرف کنند.
پژوهشگران MIT نتیجه گرفتند که ممکن است بهتر باشد که عکسهای اشعه ایکس یا توسط یک رادیولوژیست انسانی یا توسط یک ماشین، اما بهصورت مستقل بررسی شوند. فقط در مواردی که خواننده اول (چه انسان و چه ماشین) به نتیجه خود اطمینان نداشت، عکس برای بررسی دوم ارجاع داده شود.
در عین حال، یک رابط کاربری با طراحی دقیقتر میتوانست نتایج بهتری به همراه داشته باشد. برای مثال، اگر هوش مصنوعی فقط زمانی که بسیار مطمئن بود، تشخیصهای پیشنهادی ارائه میداد و در مواقع عدم اطمینان اطلاعاتی ارائه نمیکرد، میتوانست از مواردی که هوش مصنوعی باعث شک غیرضروری رادیولوژیستها میشد، جلوگیری کند. همچنین میتوانست کمککننده باشد اگر هوش مصنوعی بهجای ارائه یک درصد احتمال، مناطقی از عکس اشعه ایکس را که فکر میکرد نشانه بیماری هستند، بهصورت بصری برجسته میکرد. این نوع تصمیمهای طراحی تأثیر بزرگی بر این خواهند داشت که آیا دستیارهای هوش مصنوعی به پتانسیل خود دست مییابند یا خیر.
طرح پرواز: درسهایی از هوانوردی
رادیولوژی، مانند بسیاری از شاخههای پزشکی، حوزهای پرخطر است. اگر یک دستیار هوش مصنوعی احتمال اشتباه پزشک را افزایش دهد، نتایج میتواند فاجعهبار باشد. به همین دلیل، عاقلانه است که از صنعتی درس بگیریم که در آن دستیارهای خودکار برای بیش از یک قرن در شرایط پرخطر استفاده شدهاند: هوانوردی.
اولین سیستم خلبان خودکار تنها ۹ سال پس از موفقیت برادران رایت در کیتی هاوک[22] اختراع شد و تا جنگ جهانی دوم، خلبانهای خودکار ساده در اکثر هواپیماهای بزرگ رایج بودند. امروزه، خلبانهای خودکار تقریباً تمام مراحل پرواز را کنترل میکنند، بهجز حرکت روی باند و در بیشتر موارد، تیکآف (از زمین بلند شدن). با این حال، توجه به برخی از خطراتی که این سیستمها ایجاد کردهاند نیز مهم است، بسیاری از این خطرات ناشی از نحوه تعامل انسانها با این سیستمها هستند.
در ۳۱ می ۲۰۰۹، پرواز ۴۴۷ ایر فرانس که از ریودوژانیرو به پاریس میرفت، از ارتفاع سیوپنج هزار پایی به اقیانوس اطلس جنوبی سقوط کرد. تمام ۲۲۸ نفر سرنشین آن جان باختند. بازیابی بقایای هواپیما از اعماق اقیانوس دو سال طول کشید. در نهایت، ضبطکننده صدای کابین و دادههای پروازی هواپیما داستانی هولناک را آشکار کردند: حسگر فشار روی بدنه هواپیما، که توسط سیستمهای خودکار برای محاسبه سرعت هوا استفاده میشد، یخ زده بود. نبود دادههای دقیق سرعت هوا باعث شد که خلبان خودکار هواپیما بهطور ناگهانی غیرفعال شود. سیستم «فلای-بای-وایر[23]» ایرباس[24] A330 نیز خاموش شد.
این نرمافزار معمولاً حرکات کنترل پرواز خلبانها را تفسیر میکرد و حرکات واقعی هواپیما را در محدودههای ایمن نگه میداشت. حتی اگر خلبان بهشدت کنترلها (Joystick) را به عقب میکشید، این سیستم از بالا رفتن بیش از حد دماغه هواپیما که منجر به واماندگی (استال[25]) میشد، جلوگیری میکرد. با خاموش شدن این دو سیستم، خلبانها دچار سردرگمی شدند. آنها کنترلها را به سمت عقب کشیدند و هواپیما را به حالت واماندگی بردند. هشداری صوتی، شامل صدایی مصنوعی که مکرراً کلمه «Stall!» را اعلام میکرد، به صدا درآمد. با این حال، خلبانهای گیج نمیتوانستند بفهمند چه اتفاقی در حال رخ دادن است. آنها همچنان کنترلها را به عقب میکشیدند، در حالی که رویه صحیح این بود که کنترلها را به جلو هل دهند تا دماغه هواپیما پایین بیاید و هواپیما سرعت و نیروی بالابر کافی را بازیابد. در عوض، هواپیما مستقیم به پایین سقوط کرد.
خلبانها دو خطای رایج را که هنگام تعامل انسانها با فناوری اتفاق میافتد، مرتکب شدند:
اولین مورد، سوگیری اتوماسیون بود؛ تمایل به فرض اینکه سیستمهای کامپیوتری در حال انجام اقدام درست هستند و تصمیمات آنها را حتی در مواجهه با شواهد متناقض میپذیرند.
سقوط این هواپیما همچنین نمونهای از سوگیری شناختی مرتبطی به نام غافلگیری اتوماسیون (Automation Surprise) بود. این پدیده به سردرگمی افراد در مواجهه با خرابی سیستمهای خودکار اشاره دارد. دلیل آن این است که این سیستمها اغلب پیچیده و غیرشفاف هستند و کاربران معمولاً فهم شهودی یا عملی کمی از نحوه تصمیمگیری این سیستمها دارند. وقتی این سیستمها از کار میافتند، افراد اغلب نمیدانند مشکل اصلی چیست. آنها زمان بیشتری برای تشخیص مسئله و اتخاذ اقدامات اصلاحی صرف میکنند و معمولاً وقت خود را برای کشف منبع خرابی هدر میدهند، بهجای اینکه بهسرعت به فرآیند پشتیبان دستی بازگردند. مطالعات نشان دادهاند که غافلگیری اتوماسیون به مشکلی فزاینده در هوانوردی تجاری تبدیل شده است، چرا که پروازها روزبهروز خودکارتر میشوند.
دومین مورد، افت مهارتهای اساسی پرواز خلبانهاست. اگرچه آنها همچنان موظفند بهصورت دورهای رویههای اضطراری و پرواز دستی را در شبیهسازها تمرین کنند، اما خلبانهای امروزی تقریباً به اندازه خلبانهای چند دهه پیش فرصت کنترل مستقیم هواپیما را ندارند. در عوض، بخش زیادی از زمان خود را صرف نظارت بر خلبان خودکار میکنند.
ظهور دستیارهای هوش مصنوعی ما را با چالشی مشابه خلبانهای خودکار روبرو میکند. باید از سوگیریهای اتوماسیون و غافلگیری اتوماسیون دوری کنیم. ناسا[26] مدتهاست که به این موضوع فکر میکند. جسیکا مارکز[27]، مهندس عوامل انسانی در ناسا، معتقد است که آموزش دقیق برای انسانها، گامی حیاتی است. بخشی از این آموزش بر این تمرکز دارد که فضانوردان دقیقاً با نحوه عملکرد سیستمهای خودکار آشنا شوند؛ اینکه چه دادههایی را دریافت میکنند، این دادهها از چه منابعی تأمین میشوند و چگونه پردازش میشوند. همچنین، این سیستمها چه قابلیتهایی دارند و قادر به انجام چه کارهایی نیستند. اطمینان از اینکه فضانوردان به این سوالات پاسخ میدهند، به آنها کمک میکند تا یک «مدل ذهنی» خوب از عملکرد سیستم خودکار بسازند و این میتواند غافلگیری اتوماسیون را کاهش دهد. این همان نوع آموزشی است که همه ما باید برای تعامل مؤثر با دستیارهای هوش مصنوعی بیاموزیم.
پیش از آنکه فضانوردان پا به یک فضاپیما بگذارند، صدها سناریو را در شبیهسازهای واقعی تمرین کردهاند. سایر حرفهها نیز باید در عصر جدید دستیارهای هوش مصنوعی، آموزشهای مشابهی را برای جلوگیری از کاهش مهارتها در نظر بگیرند. برای مثال، یک فروشنده ممکن است ملزم به انجام تماس فروش شبیهسازیشده بدون کمک هوش مصنوعی شود؛ یا یک معمار ممکن است موظف شود پنج مفهوم طراحی را برای یک فضا بدون کمک دستیار دیجیتال ارائه کند.
مارکز، که بهویژه به آمادهسازی فضانوردان برای همکاری با سیستمهای خودکار و هوش مصنوعی در مأموریتهای برنامهریزیشده ناسا به ماه و سپس به مریخ علاقهمند است، میگوید که سوگیری اتوماسیون تمایل دشوارتری برای غلبه کردن است. این سوگیری پنهان است؛ اگر هوش مصنوعی بیشتر مواقع دقیق باشد، برای انسانها دشوار است که در برابر نواقص نادر اما احتمالاً ویرانگر، هوشیار بمانند.
در شبیهسازیهای فرود روی ماه با استفاده از خلبانهای آموزشدیده، مارکز و یکی از پژوهشگران دیگر بررسی کردند که آیا خلبانها میتوانند زمان از کار افتادن برخی زیرسیستمها را تشخیص دهند. آنها فرض کردند که اگر خلبانها مجبور به فرود دستی کاوشگر ماه شوند، بهجای اینکه تنها دادهها را در حین فرود خودکار نظارت کنند، هوشیاری بیشتری خواهند داشت. با این حال، سطح اتوماسیون تأثیری نداشت؛ چیزی که اهمیت داشت، فقط میزان وقوع خرابیهای سیستم بود. اگر خرابیها مکرر رخ میدادند، خلبانها هوشیار میماندند و مشکلات را شناسایی میکردند. اما اگر خرابیها نادر بودند، خلبانها معمولاً علائم مشکل را تشخیص نمیدادند.
به همین دلیل است که وجود سیستمهایی که بتوانند ورودیها و خروجیهای مدل هوش مصنوعی را نظارت کرده و خطاهای احتمالی را تشخیص دهند و برای کاربران هشدار دهند، ضروری است. اما این موضوع نیز یک معضل ایجاد میکند: هشداری که بیشازحد حساس باشد و خیلی زیاد به صدا درآید، باعث «خستگی هشدار[28]» میشود و افراد یاد میگیرند آن را نادیده بگیرند. اما اگر آستانه هشدار خیلی بالا تنظیم شود، افراد خطاهای مهم را تشخیص نمیدهند یا تنها زمانی متوجه آنها میشوند که خیلی دیر شده باشد.
در یک آشیانه بزرگ در مرکز فضایی جانسون[29] ناسا در هیوستون[30]، تگزاس، سازهای سفید و غیرمعمول دیده میشود. این سازه دارای بخشی مرکزی و گرد است که یک گنبد دوطبقه شبیه به رصدخانه دارد، به همراه ورودی کوچک مستطیلی و بخشی استوانهای که شبیه به یک مخزن گاز بزرگ به نظر میرسد. این ساختار که با نام HERA شناخته میشود، برای شبیهسازی شرایط زندگی در یک پایگاه احتمالی آینده روی قمر مریخی فوبوس[31] طراحی شده است.
داوطلبان به مدت ۴۵ روز در داخل ماژول مجهز به قفل هوای HERA زندگی میکنند و آزمایشهایی را انجام میدهند که شرایط زندگی و کار طولانیمدت در محیطهای کوچک و ایزوله را، همراه با تأخیر رادیویی تا ۲۲ دقیقه برای انتقال پیامها به زمین، شبیهسازی میکند. به دلیل این تأخیر زمانی، فضانوردان به شدت به دستیارهای هوش مصنوعی وابسته خواهند بود.
داوطلبان HERA با چتباتی که توسط پژوهشگران دانشگاه تگزاس A&M به نام Daphne توسعه یافته، کار کردهاند. این چتبات برای کمک به فضانوردان در انجام وظایف مختلف، مانند تعمیر سیستمهای حیاتی، طراحی شده است. Daphne شبیه دستیار هوش مصنوعی در رادیولوژی، احتمالاتی را برای هر علت احتمالی یک ناهنجاری ارائه میدهد. اما همانطور که در رادیولوژی نیز دیده شد، اگر چندین علت احتمالات مشابهی داشته باشند، ارائه این اطلاعات تصمیمگیری فضانوردان را دشوارتر میکند. در واقع، در این شرایط افراد اغلب نوع دیگری از سوگیری شناختی را نشان میدهند که به آن غفلت از اتوماسیون (Automation Neglect) گفته میشود. این سوگیری اساساً برعکس سوگیری اتوماسیون است. در غفلت از اتوماسیون، انسانها آنچه هوش مصنوعی به آنها میگوید را نادیده میگیرند.
پژوهشگران دانشگاه تگزاس A&M بررسی کردند که آیا ارائه توضیحات توسط Daphne برای تشخیصهای خود میتواند مانع از غفلت از اتوماسیون شود. همانطور که انتظار میرفت، نتایج نشان داد که توضیحات باعث افزایش اعتماد افراد به تشخیصهای Daphne میشود. با این حال، ارائه این توضیحات به طور قابل توجهی سرعت افراد را در حل مشکلات کاهش میداد.
ارائه توضیح
توضیحات میتوانند دستیارهای هوش مصنوعی را قابلاعتمادتر کنند و از نظر تئوری، آنها را ایمنتر سازند. اما ارائه توضیحاتی که هم دقیق باشند و هم برای انسانها منطقی به نظر برسند، دشوارتر از آن است که در نگاه اول به نظر میرسد.
برای مثال، در هوش مصنوعی که به پزشکان در تفسیر تصاویر پزشکی کمک میکند، یکی از روشهای محبوب برای توضیحپذیری، نقشه برجستگی (Saliency Map) است. این روش شبیه به نقشه گرمایی عمل میکند و بخشهایی از تصویر را که بیشترین وزن را در پیشبینی مدل هوش مصنوعی داشتهاند، برجسته میکند. اما یک مطالعه در سال ۲۰۲۲ در مجله Lancet Digital Health که توسط پژوهشگرانی از MIT، دانشکده بهداشت عمومی هاروارد و مؤسسه استرالیایی یادگیری ماشین انجام شد، نقصهای جدی در این روش پیدا کرد. در این مطالعه، نقشه برجستگی قرار بود توضیح دهد کدام بخش از تصویر قفسه سینه باعث شد سیستم هوش مصنوعی تشخیص ذاتالریه دهد. اما نقشه فقط یک بخش بزرگ از یک ریه را برجسته کرد، بدون هیچ توضیح بیشتری درباره اینکه چرا مدل به این نتیجه رسیده است. در نبود چنین اطلاعاتی، انسانها معمولاً فرض میکنند که هوش مصنوعی همان ویژگیای را بررسی میکند که خودشان، بهعنوان پزشکان بالینی، آن را مهمترین ویژگی میدانند. این سوگیری شناختی ممکن است پزشکان را نسبت به خطاهای احتمالی الگوریتم کور کند.
پژوهشگران به دیگر روشهای محبوب توضیحپذیری نیز انتقاد داشتند؛ این روشها میتوانند ویژگیهای مهم در یک تصمیم را شناسایی کنند، اما نمیتوانستند به پزشک بگویند چرا این ویژگیها مهم هستند. اگر این ویژگیها غیرمنطقی به نظر برسند، پزشک باید چه کند؟ آیا نتیجه بگیرد که مدل هوش مصنوعی اشتباه کرده است، یا اینکه به این نتیجه برسد که مدل به یک نشانگر مهم اما ناشناخته دست یافته است؟ هر دو احتمال وجود دارد.
یک روش بهتر برای ارائه توضیحات این است که سیستم هوش مصنوعی طوری آموزش ببیند که ویژگیهای نمونهوار یک بیماری خاص، مثلاً وجود الگوی «کدورت شیشه مات[32]» در ریهها که برای ذاتالریه معمول است را شناسایی کند و سپس به پزشکان بگوید کدامیک از این ویژگیها را در تصویر یافته است. این رویکرد توضیحاتی ارائه میدهد که ذاتاً قابلفهمتر هستند. این روش نیز بینقص نیست. یک پزشک ممکن است این سؤال را مطرح کند که آیا ویژگیهای درست انتخاب شدهاند؟ و آیا مدل هوش مصنوعی وزن مناسبی به هر ویژگی داده است یا نه؟ با این حال، این وضعیت تا حدی شبیه گفتوگویی میان دو پزشک است که در زمان اختلاف نظر بر سر یک تشخیص، دیدگاههای خود را مطرح میکنند.
طراحان دستیارهای هوش مصنوعی باید تعیین کنند که چه زمانی توضیحات مفید هستند و چگونه باید آنها را به بهترین شکل ارائه دهند. همچنین، باید راههایی برای مقابله با سوگیری اتوماسیون، غفلت از اتوماسیون و غافلگیری اتوماسیون پیدا کنیم.
در نهایت، استانداردهای صنعتی برای هدایت توسعه دستیارهای هوش مصنوعی ضروری خواهند بود. به هر حال، نیازهای یک دستیار که بهترین رنگها را برای یک کمپین برندینگ انتخاب میکند، نیازی به دقت و سختگیری یک دستیار طراحی پل توسط یک مهندس عمران ندارد.
ناسا بار دیگر نمونهای عالی است؛ استانداردهای فنی آن فقط به نرمافزار بهصورت جداگانه اشاره نمیکنند، بلکه الزامات تعامل انسان و هوش مصنوعی را نیز تعیین میکنند. این همان روشی است که بیشتر صنایع باید در مورد دستیارها فکر کنند. موضوع فقط قابلیتهای هوش مصنوعی نیست، بلکه رابط کاربری و آموزش انسانی نیز اهمیت دارد. اگر این دستیارها با دقت طراحی شوند، میتوانند منجر به جهشی در بهرهوری شوند، مربی متخصصی در اختیار ما بگذارند، کیفیت کارمان را ارتقا دهند و شغلهایمان را رضایتبخشتر کنند.
[1] Austin
[2] Jake Heller
[3] Cupertino
[4] Pablo Arredondo
[5] Britney Spears
[6] Scalia Test
[7] Antonin Scalia
[8] وکیل-موکل: رابطهای حقوقی و محرمانه که از افشای ارتباطات میان وکیل و موکل تحت اصول قانونی جلوگیری میکند.
[9] واژه میکروکارها به وظایف یا فعالیتهای بسیار کوچک و مشخص اشاره دارد که معمولاً بخشی از یک فرآیند بزرگتر هستند.
[10] John Polson
[11] Laura Safdie
[12] Thomson Reuters Corporation
[13] Donald Trump
[14] Michael Cohen
[15] Ethan Mollick
[16] School of the University of Pennsylvania
[17] Tim Wu
[18] Columbia University
[19] Gig Economy
[20] Uber Technologies Inc
[21] Nathan Kobayashi
[22] Kitty Hawk
[23] Fly-by-wire
[24] Airbus
[25] Stall
[26] NASA
[27] Jessica Marquez
[28] Alarm fatigue
[29] Lyndon B. Johnson Space Center
[30] Houston
[31] Phobosیکی از قمرهای مریخ –
[32] Ground-glass opacity
