تسلط بر هوش مصنوعی: فصل اول

فصل اول: جادوگران

در بهار سال ۲۰۲۰، درون یک ساختمان وسیع و بی‌پنجره در دشت‌های اطراف دموین[1] در آیووا[2] (ساختمانی به بزرگی بیست زمین فوتبال) یکی از بزرگ‌ترین ابررایانه‌های تاریخ روشن شد. این ابررایانه از مجموعه‌ای از هزاران تراشه‌ی کامپیوتری تشکیل شده بود؛ تراشه‌هایی که در اصل برای پردازش‌های سنگین گرافیکی در بازی‌های ویدیویی طراحی شده بودند. بیش از ده هزار تراشه به یکدیگر متصل شده و با کابل‌های فیبر نوری پرسرعت به هم پیوند خورده بودند.

این مرکز داده متعلق به مایکروسافت[3] بود و ساخت آن صدها میلیون دلار هزینه داشت. اما این ابررایانه برای خدمت به یک استارتاپ کوچک از سان‌فرانسیسکو[4] طراحی شده بود که در آن زمان، کمتر کسی خارج از حوزه‌ی تخصصی علوم کامپیوتر و هوش مصنوعی نام آن را شنیده بود. این شرکت OpenAI نام داشت.

مایکروسافت در ژوئیه ۲۰۱۹، یک میلیارد دلار در OpenAI سرمایه‌گذاری کرد تا به فناوری‌های این شرکت دسترسی پیدا کند. به‌عنوان بخشی از این قرارداد، مایکروسافت متعهد شد این ابررایانه را بسازد. به مدت ۳۴ روز، این ابررایانه به‌طور شبانه‌روزی کار کرد تا یکی از بزرگ‌ترین نرم‌افزارهای هوش مصنوعی ساخته‌شده تابه‌امروز را آموزش دهد. این نرم‌افزار قادر بود رابطه‌ی میان ۱۷۵ میلیارد نقطه‌ی داده را رمزگذاری کند. OpenAI این نرم‌افزار را با محتوای متنی عظیمی تغذیه کرد: بیش از ۲.۵ میلیارد صفحه وب که در طول یک دهه جمع‌آوری شده بود، میلیون‌ها گفتگوی ردیت، ده‌ها هزار کتاب و تمام محتوای ویکی‌پدیا.

هدف این نرم‌افزار ایجاد نقشه‌ای آماری از روابط میان تمام کلمات در این مجموعه عظیم داده بود. این نقشه به نرم‌افزار اجازه می‌داد هر دنباله متنی دلخواه را گرفته و کلمه‌ای که به احتمال زیاد بعد از آن می‌آید را پیش‌بینی کند. با این روش، نرم‌افزار می‌توانست پاراگراف‌هایی در انواع سبک‌ها و ژانرها تولید کند که تقریباً از نوشته‌های انسانی غیرقابل تمایز بودند.

OpenAI این نرم‌افزار را GPT-3 نامید. وقتی در ژوئن ۲۰۲۰ معرفی شد، دانشمندان کامپیوتر را شگفت‌زده کرد. پیش از این، هیچ نرم‌افزاری تا این حد در نوشتن توانمند نبود. اما توانایی‌های GPT-3 به تولید نثر و شعر محدود نمی‌شد. این نرم‌افزار می‌توانست کدنویسی کند، به سوالات واقعی پاسخ دهد، متن‌ها را درک کرده و خلاصه کند. می‌توانست احساسات یک نوشته را تشخیص دهد، بین زبان‌هایی مثل انگلیسی به فرانسوی یا فرانسوی به آلمانی و بسیاری زبان‌های دیگر ترجمه کند. حتی قادر به پاسخگویی به برخی سوالات بر پایه منطق عمومی بود. این نرم‌افزار می‌توانست ده‌ها وظیفه مرتبط با زبان را انجام دهد، در حالی که تنها برای پیش‌بینی کلمه بعدی در یک جمله آموزش دیده بود.

این قابلیت‌ها با دستوراتی قابل اجرا بودند که به زبان محاوره، شبیه مکالمه با یک انسان، بیان می‌شدند. دانشمندان این نوع تعامل را «زبان طبیعی»[5] می‌نامند تا آن را از کدنویسی متمایز کنند.

پتانسیل GPT-3 باعث شد ساتیا نادلا[6]، مدیرعامل مایکروسافت، بی‌سروصدا سرمایه‌گذاری اولیه یک میلیارد دلاری خود را دو برابر و سپس سه برابر کند.

GPT-3 در نهایت دو سال بعد به ChatGPT منجر شد. ChatGPT اولین نرم‌افزار هوش مصنوعی نبود که خروجی‌اش می‌توانست با نوشته‌های انسانی اشتباه گرفته شود. اما اولین نرم‌افزاری بود که صدها میلیون نفر می‌توانستند به‌راحتی به آن دسترسی پیدا کنند.

این نرم‌افزار مردم عادی را با امکانات هوش مصنوعی آشنا کرد و رقابتی میان بزرگ‌ترین شرکت‌های فناوری و استارتاپ‌های ثروتمند ایجاد کرد تا این امکانات را به واقعیت تبدیل کنند.

مایکروسافت ظرف چند ماه دیگر ۱۰ میلیارد دلار به OpenAI اختصاص داد و شروع به ادغام مدل پیشرفته‌تر GPT-4 در محصولاتی مثل ورد[7] و پاورپوینت[8] کرد که صدها میلیون نفر روزانه از آن‌ها استفاده می‌کنند.

گوگل که در تلاش برای جبران این فاصله بود، چت‌بات چندمنظوره‌ای به نام Bard ساخت و هوش مصنوعی مولد را وارد موتور جستجوی خود کرد؛ اقدامی که می‌توانست مدل‌های کسب‌وکار صنایع مختلف، از رسانه و اخبار گرفته تا تجارت الکترونیک، را متزلزل کند. همچنین شروع به آموزش سیستم‌های هوش مصنوعی قدرتمندتر کرد که نه‌تنها متن، بلکه تصاویر، صداها و موسیقی را تحلیل و تولید می‌کردند. این مدل که Gemini نام داشت، جایگزین Bard شد و در چندین محصول گوگل ادغام گردید.

متا (فیسبوک) مدل‌های قدرتمند هوش مصنوعی را به‌طور رایگان در دسترس عموم قرار داد. آمازون[9] و اپل نیز شروع به ساخت هوش مصنوعی مولد خود کردند. این رقابت ما را به سمت ساخت یک سیستم هوش مصنوعی چندمنظوره سوق می‌دهد که می‌تواند در تقریباً هر وظیفه شناختی با توانایی‌های انسان برابری کند یا از آن پیشی بگیرد، لحظه‌ای که به آن تکینگی (Singularity) می‌گویند.

در حالی که بسیاری هنوز باور ندارند این لحظه نزدیک است، اکنون بیش از هر زمان دیگری به آن نزدیک شده‌ایم.

چرا ChatGPT چنین شگفت‌انگیز به نظر می‌رسد؟ چون می‌توانستیم با آن صحبت کنیم.

اینکه مهارت‌های مکالمه‌ای یک کامپیوتر و نه توانایی آن در ضرب کردن اعداد پنج‌رقمی یا تشخیص الگوها در نوسانات بازار سهام، به معیاری برای سنجش هوش ماشینی تبدیل شود، پیشینه‌ای طولانی و بحث‌برانگیز دارد. تصور یک مکالمه‌گر دیجیتال هوشمند از همان ابتدای عصر کامپیوتر وجود داشت. این دیدگاه به‌طور مداوم مسیر رشته هوش مصنوعی را هدایت کرده است؛ چه برای بهتر شدن و چه برای بدتر شدن.

آزمایش تورینگ: گناه نخستین هوش مصنوعی 

ایده‌ی گفت‌وگو به‌عنوان معیار هوش، به میانه‌ی قرن بیستم و نوشته‌های یکی از درخشان‌ترین ذهن‌های آن دوران، آلن تورینگ[10]، بازمی‌گردد. تورینگ، ریاضی‌دانی نابغه، بیش از هر چیز به‌خاطر کمک به شکستن کد انیگمای نازی‌ها در جنگ جهانی دوم شناخته می‌شود.

در سال ۱۹۳۶، زمانی که تنها ۲۴ سال داشت، طرحی فرضی برای دستگاهی ارائه داد که الهام‌بخش کامپیوترهای مدرن شد. تورینگ در سال ۱۹۴۸، در گزارشی برای یک آزمایشگاه دولتی بریتانیا، پیش‌بینی کرد که شاید روزی کامپیوترها به‌عنوان موجوداتی هوشمند شناخته شوند. او استدلال کرد که آنچه اهمیت دارد، کیفیت خروجی ماشین است، نه فرآیندی که به تولید آن منجر شده است. به گفته او، ماشینی که می‌توانست یک انسان را در شطرنج شکست دهد، «باهوش‌تر» بود، حتی اگر این ماشین از روشی استفاده کند (یعنی محاسبه‌ی بی‌رحمانه و خام) که شباهت چندانی به شیوه‌ی تفکر حریف انسانی‌اش نداشته باشد.

دو سال بعد، در سال ۱۹۵۰، تورینگ این ایده‌ها را در مقاله‌ای اساسی با عنوان «ماشین‌های کامپیوتری و هوش» گسترش داد. او آزمایشی را برای سنجش هوش ماشینی پیشنهاد کرد که آن را «بازی تقلید» نامید. این آزمایش شامل یک بازجو بود که سوالاتی از یک انسان و یک کامپیوتر می‌پرسید. هر سه (بازجو، انسان، و ماشین) در اتاق‌های جداگانه‌ای قرار داشتند. پاسخ‌ها به‌صورت یادداشت‌های تایپ‌شده به بازجو ارسال می‌شد که با برچسب X یا Y مشخص می‌کردند پاسخ‌دهنده انسان بوده یا ماشین. وظیفه‌ی بازجو این بود که بر اساس پاسخ‌ها تشخیص دهد X انسان است یا ماشین.

تورینگ پیشنهاد کرد که اگر بازجو نتواند تفاوت را تشخیص دهد، باید ماشین را هوشمند در نظر گرفت. تورینگ توضیح داد که این آزمایش درباره صحت یا صداقت پاسخ‌ها نیست. او کاملاً انتظار داشت که هم انسان و هم ماشین برای «پیروزی» در بازی، دروغ بگویند. این آزمایش همچنین درباره دانش تخصصی هم نبود. تورینگ در توصیف بازی گفت که تسلط ماشین به شکل گفت‌وگوی روزمره و داشتن درکی ظاهری از عقل سلیم است که آن را غیرقابل‌تشخیص از انسان می‌سازد.

بازی تقلید، که بعدها به «آزمایش تورینگ» معروف شد، تأثیر عمیقی بر نحوه نگرش دانشمندان کامپیوتر به هوش ماشینی گذاشت. اما تقریباً از همان ابتدا بحث‌برانگیز شد. وولف مایز[11]، فیلسوف و استاد دانشگاه منچستر، از جمله منتقدان معاصر بود که آزمایش تورینگ را به‌دلیل تمرکز بر خروجی ماشین و نه فرآیندهای داخلی آن، مورد انتقاد قرار داد. او محاسبات سرد و منطقی ماشین‌ها را «نقطه‌ی مقابل تفکر» توصیف کرد و استدلال کرد که تفکر پدیده‌ای بسیار اسرارآمیزتر و شهودی‌تر است.

مایز معتقد بود که هوش ارتباط نزدیکی با آگاهی انسانی دارد و آگاهی نیز نمی‌تواند به فیزیک محض تقلیل یابد. او نوشت که تورینگ ظاهراً «به‌طور ضمنی فرض می‌کند که تمام هوش و تفکر می‌تواند به‌طور تدریجی از تار و پود گزاره‌های اتمی ساخته شود.» دهه‌ها بعد، فیلسوف جان سرل[12] آزمایشی ذهنی طراحی کرد تا آنچه را که او نقص مرگبار آزمایش تورینگ می‌دانست، برجسته کند. سرل مردی را تصور کرد که نه می‌تواند چینی بخواند و نه صحبت کند. او را در اتاقی با یک فرهنگ لغت چینی، چند ورق کاغذ و یک مداد محبوس می‌کنند. یادداشت‌هایی با کاراکترهای چینی از طریق یک شکاف در در وارد اتاق می‌شوند و وظیفه‌ی مرد این است که نمادها را در فرهنگ لغت پیدا کند و کاراکترهای چینی مربوطه را روی کاغذ بنویسد و از شکاف به بیرون بفرستد. سرل گفت این که بگوییم مرد درون اتاق «چینی را می‌فهمد» تنها به این دلیل که می‌تواند تعاریف دقیقی از کلمات چینی ارائه دهد، مضحک است. به همین ترتیب، سرل نوشت که تورینگ اشتباه می‌کند اگر صرفاً به‌خاطر اینکه یک کامپیوتر می‌تواند ویژگی‌های ظاهری مکالمه انسانی را تقلید کند، آن را هوشمند بداند.

بحث‌ها درباره‌ی این مسائل با ظهور مدل‌های زبانی بسیار بزرگ مانند GPT-4 شدت گرفته است. این موضوع که علوم شناختی هنوز نتوانسته‌اند ماهیت هوش انسانی، چه رسد به آگاهی را مشخص کنند، کمکی به حل ماجرا نمی‌کند.

آیا می‌توان هوش را به یک عدد تقلیل داد (ضریب هوشی یا IQ) که بر اساس عملکرد فرد در یک آزمون استاندارد تعیین می‌شود؟ یا بهتر است، همان‌طور که روان‌شناس و عصب‌شناس هاروارد، هاوارد گاردنر[13] استدلال کرد، از چندگانه بودن هوش‌ها صحبت کنیم؟ گاردنر هوش را در قالب‌هایی گوناگون بررسی می‌کرد: نبوغ ورزشی مایکل جردن[14]، استعداد موسیقیایی تیلور سوئیفت[15] و مهارت‌های بین‌فردی بیل کلینتون[16]. عصب‌شناسان و روان‌شناسان شناختی همچنان در این باره اختلاف‌نظر دارند.

فراتر از اولویت دادن به نتیجه بر فرآیند، تأکید آزمایش تورینگ بر فریب به‌عنوان معیاری برای هوش، موجب تشویق استفاده از ترفند و فریب در آزمودن نرم‌افزارهای هوش مصنوعی شده است. این رویکرد، به باور بسیاری از اخلاق‌گرایان مدرن حوزه‌ی هوش مصنوعی، اساساً غیراخلاقی است. آن‌ها آزمایش تورینگ را مسئول ایجاد سنتی می‌دانند که مهندسان هوش مصنوعی سیستم‌های خود را روی انسان‌های ناآگاه آزمایش می‌کنند.

در سال‌های اخیر، شرکت‌ها نرم‌افزارهای هوش مصنوعی‌ای را که می‌توانستند بازی‌های استراتژیک مانند گو و دیپلماسی را انجام دهند، علیه بازیکنان انسانی ناآگاه امتحان کردند. پژوهشگران از این فریب دفاع کردند و گفتند که لازم بوده است: انسان‌ها اگر می‌دانستند با یک نرم‌افزار بازی می‌کنند، ممکن بود سبک بازی و استراتژی‌های خود را تغییر دهند.

اما اخلاق‌گرایان و روزنامه‌نگاران، گوگل را در سال ۲۰۱۸ مورد انتقاد شدید قرار دادند، زمانی که این شرکت دستیار دیجیتال جدید خود به نام دوپلکس[17] را به نمایش گذاشت. این نرم‌افزار با یک رستوران تماس گرفت و رزرو انجام داد و مسئول پذیرش را فریب داد تا فکر کند با یک انسان در حال صحبت است.

امروزه، اکثر سیاست‌های هوش مصنوعی مسئولانه بیان می‌کنند که مردم همیشه باید بدانند در حال تعامل با نرم‌افزار هوش مصنوعی هستند. با این حال، شرکت‌ها گاهی توجیهاتی برای سرپیچی از این اصل پیدا می‌کنند. شاید ماندگارترین و نگران‌کننده‌ترین میراث آزمایش تورینگ، این باشد که آن را به‌عنوان یک بازی هوش طراحی کرد که در آن انسان با کامپیوتری مواجه می‌شود که هدفش تقلید و برابری با انسان است. جان مارکاف[18]، نویسنده‌ی حوزه فناوری، در کتاب خود «ماشین‌های عشق‌ورز[19]» اشاره می‌کند که یکی از پیامدهای این رویکرد این بود که نسل‌های مختلف پژوهشگران هوش مصنوعی تلاش کردند نرم‌افزاری ایجاد کنند که در برخی وظایف با عملکرد انسانی برابری کند یا از آن فراتر رود. در نتیجه، این نرم‌افزارها بر اساس توانایی‌شان در جایگزینی انسان‌ها ارزیابی شدند.

مارکاف می‌گوید که جایگزینی دیگر این بود که به نرم‌افزارهای هوش مصنوعی به‌عنوان فناوری‌هایی با قابلیت‌های متفاوت اما مکمل نگاه کنیم. این چارچوب می‌توانست توسعه‌ی سیستم‌هایی را تشویق کند که به‌جای جایگزینی انسان، آن‌ها را تقویت کنند. اما این دیدگاه مکمل به سختی توانسته جایگاه خود را پیدا کند.

هنگامی که پژوهشگران هوش مصنوعی می‌خواهند توانایی‌های نرم‌افزارشان را اثبات کنند، هنوز هم تمایل دارند از مثال تورینگ پیروی کنند و سیستم‌های خود را در برابر عملکرد انسان بسنجند. البته بخشی از این کار صرفاً یک استراتژی بازاریابی خوب است: نرم‌افزاری که انسان‌ها را در یک بازی تخته‌ای آشنا یا یک آزمون حرفه‌ای شکست می‌دهد، تیترهای خبری بهتری ایجاد می‌کند. اما در میان پژوهشگران هوش مصنوعی، اشتیاق برای برابری یا فراتر رفتن از عملکرد انسانی، چیزی فراتر از یک استراتژی رسانه‌ای هوشمندانه است و بخش زیادی از آن ریشه در تورینگ دارد.

اخیراً، نسل جدید مدل‌های زبانی هوش مصنوعی تحت آزمون‌هایی قرار گرفته‌اند که برای ارزیابی انسان‌ها طراحی شده‌اند، از جمله آزمون وکالت و آزمون مجوز پزشکی ایالات متحده. قوی‌ترین سیستم‌های هوش مصنوعی امروزی همه‌ی این آزمون‌ها را با موفقیت پشت سر گذاشته‌اند و اغلب نمراتی بالاتر از میانگین افراد کسب کرده‌اند. و البته، توانایی ChatGPT در برتری در آزمایش تورینگ اصلی (یعنی گفت‌وگوی قانع‌کننده) یکی از دلایلی است که آن را به چنین پدیده‌ای تبدیل کرده است.

اما اگر کمی عمیق‌تر کاوش کنیم، تقلید این نرم‌افزار از انسان شروع به لغزش می‌کند. هرکسی که با ChatGPT کار کرده باشد، به‌زودی متوجه می‌شود که توانایی‌های هوش مصنوعی مولد امروزی می‌تواند به شکلی آزاردهنده شکننده و عجیب باشد: ممکن است به یک سوال پیچیده درباره‌ی فیزیک ذرات با تسلط پاسخ دهد، اما در حل یک مسأله‌ی ساده‌ی منطقی که یک کودک هشت‌ساله می‌تواند از پس آن برآید، دچار اشتباه شود. این ترکیب از درخشش و حماقت، بی‌شک چیزی نیست که تورینگ در ذهن داشت.

ساخت ماشین‌های هوشمند تورینگ 

احتمال وقوع پارادوکسی مانند این (اینکه یک کامپیوتر بتواند مکالمه را به‌خوبی انجام دهد، بدون آنکه واقعاً بفهمد چه می‌گوید) حتی در دورترین تصورات دانشمندانی که اولین‌بار تلاش کردند چشم‌انداز تورینگ از یک ماشین متفکر را به واقعیت تبدیل کنند، جایی نداشت.

در همان زمانی که تورینگ ایده‌ی بازی تقلید را در ذهن می‌پروراند، نخستین کامپیوترهای عمومی، که تا حد زیادی به طراحی‌های مفهومی پیش از جنگ او مدیون بودند، به برق متصل شدند. این کامپیوترها غول‌پیکر بودند: ENIAC[20]، یکی از این کامپیوترهای اولیه، تقریباً تمام زیرزمین دانشکده‌ی مهندسی دانشگاه پنسیلوانیا را اشغال کرده بود. فضایی بالغ بر ۱,۵۰۰ فوت مربع را در بر می‌گرفت و شامل سی تُن سیم‌کشی و لامپ‌های خلأ بود.

این ماشین می‌توانست پنج هزار محاسبه‌ی جمع در ثانیه انجام دهد؛ بسیار سریع‌تر از ماشین‌های محاسبه‌ی مکانیکی قبلی، اما تقریباً یک تریلیون برابر کندتر از تراشه‌های قدرتمندی که نرم‌افزارهای هوش مصنوعی امروزی را اجرا می‌کنند. با این وجود، گروه کوچکی از پیشگامان بر این باور بودند که می‌توانند به ماشین‌هایی مانند ENIAC آموزش دهند تا «فکر کنند». یکی از این افراد جان مک‌کارتی[21]، استاد جوان ریاضیات در کالج دارتموث[22]، بود.

در اوایل دهه‌ی ۱۹۵۰، ایده‌ی تزریق هوش به این کامپیوترهای جدید شروع به جا افتادن کرد. دانشمندان به‌عنوان گامی کلیدی برای دستیابی به این هدف، سعی داشتند الگوریتم‌هایی کشف کنند که بتوانند نحوه‌ی عملکرد مغز انسان را به‌دقت توصیف کنند. مک‌کارتی در مرکز این هیجان فکری قرار داشت و روی چیزی که نظریه‌ی خودکارسازی نامیده می‌شد، کار می‌کرد. دیگران نیز تحقیقات مشابهی انجام می‌دادند، اما آن را سایبرنتیک[23] یا پردازش اطلاعات می‌نامیدند.

در اوایل سال ۱۹۵۵، مک‌کارتی ایده‌ای به ذهنش رسید: برگزاری یک کارگاه دوماهه در تابستان سال بعد در دارتموث؛ برای هماهنگی این تلاش‌ها، او تصمیم گرفت حدود دوازده فرد آکادمیک را دعوت کند؛ عمدتاً ریاضی‌دان، اما همچنین مهندسان برق و روان‌شناسان، تا راهی برای آموزش و تفکر کامپیوترها پیدا کنند.

در هنگام نوشتن پیشنهاد تأمین مالی برای این کارگاه، مک‌کارتی اصطلاح هوش مصنوعی[24] را برای اشاره به این حوزه‌ی نوظهور ابداع کرد. او و سازمان‌دهندگان کارگاه برنامه‌ی جاه‌طلبانه‌ای تدوین کردند و در درخواست کمک‌هزینه‌ی خود از بنیاد راکفلر نوشتند: «تلاشی صورت خواهد گرفت تا چگونگی استفاده‌ی ماشین‌ها از زبان، شکل‌دهی انتزاع‌ها و مفاهیم، حل مسائل (از نوعی که اکنون مختص انسان‌هاست)، و بهبود توانایی‌های خود مشخص شود.»

آن‌ها باور داشتند که با یک گروه علمی به‌دقت انتخاب‌شده که با هم کار کنند، می‌توان در یکی یا بیشتر از این مسائل پیشرفتی قابل‌توجه حاصل کرد. اما همان‌طور که مشخص شد، مک‌کارتی و همکارانش بیش‌ازحد خوش‌بین بودند. کارگاه سال ۱۹۵۶ نتوانست این حوزه را حول یک چشم‌انداز یا برنامه‌ی تحقیقاتی یکپارچه کند و این باعث ناامیدی مک‌کارتی شد.

حتی برخی از شرکت‌کنندگان نام هوش مصنوعی را دوست نداشتند و آن را حاکی از چیزی جعلی می‌دانستند. بحث‌های داغ پیرامون این اصطلاح وقت و توجه را از گفتگوهای مهم‌تر منحرف کرد. مک‌کارتی از انتخاب خود دفاع کرد و استدلال کرد که این نام بر هدف اصلی این حوزه تأکید می‌کند: هوش، نه صرفاً خودکارسازی. این نام باقی ماند و اگرچه کارگاه دارتموث نتوانست شاخه‌های مختلف تحقیقاتی در هوش مصنوعی را به ریسمانی واحد تبدیل کند، اما بسیاری از رشته‌های مفهومی و چالش‌هایی که در شش دهه‌ی بعد این حوزه را تعریف کردند، در آنجا به نمایش گذاشته شدند؛ از جمله ایده‌ای که انقلاب هوش مصنوعی کنونی را برانگیخته است.

این ایده شبکه عصبی مصنوعی[25] نام داشت. تا اواخر دهه ۱۹۴۰، عصب‌شناسان کشف کرده بودند که نورون‌های انسانی در ابتدای حیات خود، تفاوتی از یکدیگر ندارند، (به این نتیجه رسیدند که هر تفاوتی در عملکرد نورون‌های بالغ در مغز باید از طریق یادگیری به وجود بیاید.) همچنین می‌دانستند که نورون‌ها سیگنال‌های الکتروشیمیایی را به سایر نورون‌ها انتقال می‌دهند و این انتقال به‌نوعی سلسله‌مراتب را نشان می‌دهد. این دو کشف باعث شد دانشمندان به دنبال راه‌هایی برای شبیه‌سازی این ساختار بگردند؛ ابتدا با استفاده از لامپ‌های خلأ و بعدها با استفاده از کامپیوترهای دیجیتال و نرم‌افزارها.

شبکه‌های عصبی اولیه تنها دو لایه داشتند. در لایه‌ی ورودی، هر نورون داده‌هایی را از بخشی خاص از تصویری که شبکه تحلیل می‌کرد، یک فایل صوتی، یا متنی دریافت می‌کرد. هر نورون ورودی یک فرمول ریاضی را روی بخش داده‌ی خود اعمال می‌کرد و نتیجه را به یک نورون خروجی ارسال می‌کرد. نورون خروجی، پاسخ‌های تمام نورون‌های ورودی را جمع می‌کرد و سپس فرمول ریاضی خود را اعمال می‌کرد. نتیجه‌ی این محاسبه پاسخ نهایی بود که به کاربر ارائه می‌شد. اگر این پاسخ اشتباه بود، متغیرهایی به نام وزن‌ها و بایاس‌ها، که بخشی از فرمول هر نورون بودند، تنظیم می‌شدند. نورون‌هایی که به پاسخ درست نزدیک‌تر بودند، وزن‌ها و بایاس‌هایشان افزایش می‌یافت، در حالی که سایر نورون‌ها کاهش پیدا می‌کردند. سپس شبکه با نمونه‌ی دیگری از مجموعه داده دوباره تلاش می‌کرد. این فرآیند به شبکه امکان می‌داد که به‌تدریج، در طول مثال‌های متعدد، یاد بگیرد چگونه پاسخ درست تولید کند.

چندین دانشمند کامپیوتر بر این باور بودند که این شبکه‌های عصبی اولیه، راه دستیابی به هوش مصنوعی هستند. این رویکرد برای آموزش کامپیوترها در انجام دسته‌بندی‌های ساده‌ی دوتایی بسیار خوب عمل می‌کرد، مثلاً تشخیص اینکه چیزی روشن است یا تاریک، دایره است یا مربع. اما این شبکه‌ها فراتر از این توانایی‌ها نمی‌رفتند.

ماروین مینسکی[26]، ریاضی‌دان جوان و درخشان دانشگاه هاروارد که به مک‌کارتی در سازمان‌دهی کارگاه کمک کرد، یکی از نخستین شبکه‌های عصبی آنالوگ را با استفاده از قطعاتی از یک بمب‌افکن B-24 ساخت. او تحقیقات خود را درباره شبکه‌های عصبی در تابستان همان سال در دارتموث ارائه کرد. اما بخش عمده‌ای از ارائه‌ی مینسکی بر محدودیت‌های فراوان شبکه‌های عصبی متمرکز بود. به‌زودی، مینسکی، که بعدها آزمایشگاه هوش مصنوعی MIT را بنیان نهاد، به یکی از سرسخت‌ترین منتقدان این روش تبدیل شد. او رویکردی کاملاً متفاوت را برای ساخت ماشین‌هایی که قادر به یادگیری و تفکر باشند انتخاب کرد: روشی که از قوانین منطقی برای آموزش کامپیوترها به استدلال استفاده می‌کرد.

برای مثال، اگر می‌خواستید سیستمی طراحی کنید که بتواند اتومبیل‌ها، موتورسیکلت‌ها و دوچرخه‌ها را در تصاویر شناسایی کند، به کامپیوتر می‌آموختید ویژگی‌هایی را که انسان‌ها برای این تشخیص مهم می‌دانند، بشناسد؛ مواردی مانند فرمان، تعداد چرخ‌ها، درها، پنجره‌ها و لوله اگزوز. سپس کدی می‌نوشتید که به کامپیوتر می‌آموخت چگونه درباره این ویژگی‌ها استدلال کند:

– اگر فرمان دارد، اما نه در دارد و نه لوله اگزوز، یک دوچرخه است.

– اگر لوله اگزوز دارد اما در ندارد، یک موتورسیکلت است.

در سال‌های پس از کارگاه دارتموث، این روش‌های استدلال نمادین به نظر می‌رسید پیشرفت‌های پایداری به سمت هوش مصنوعی شبیه به انسان به همراه دارند. دانشمندان نرم‌افزاری ساختند که می‌توانست بازی‌هایی مثل تخته‌نرد، چکرز[27] و بعداً شطرنج را تقریباً به‌خوبی یک انسان معمولی انجام دهد. سپس در سال ۱۹۶۶، سیستمی از هوش مصنوعی که از رویکرد مبتنی بر قوانین مینسکی استفاده می‌کرد، فاصله‌ی بسیار کمی با عبور از آزمایش تورینگ داشت…

اثر الیزا 

این دستاورد حاصل کار یک مهندس به نام جوزف وایزنبام[28] بود که در آزمایشگاه ماروین مینسکی در MIT فعالیت می‌کرد. وایزنبام که در سال ۱۹۲۳ در برلین در خانواده‌ای یهودی و مرفه به دنیا آمده بود، در سیزده‌سالگی پس از فرار از دست نازی‌ها به دیترویت مهاجرت کرد.

رابطه او با والدینش پرتنش بود و با تلاش برای یادگیری زبان انگلیسی، خود را در انزوای اجتماعی یافت. او ابتدا به ریاضیات و سپس به روان‌کاوی پناه برد. این مسیر او را به سمت رشته‌ی نوپای محاسبات سوق داد و در نهایت شغلی به‌عنوان برنامه‌نویس در جنرال الکتریک[29] پیدا کرد، جایی که روی کامپیوترهای عظیم این شرکت در سیلیکون ولی[30] کار می‌کرد. او به تعامل با ماشین‌ها از طریق زبان طبیعی، نه کدهای برنامه‌نویسی، علاقه‌مند شد. یک دوست مشترک او را به کنث کلبی[31]، روان‌پزشک دانشگاه استنفورد[32] معرفی کرد. کلبی معتقد بود کامپیوترها می‌توانند راه‌های جدیدی برای درمان فراهم کنند و ابزار جالبی برای مطالعه بیماری‌های روانی با مدل‌سازی مغز انسان باشند.

وایزنبام این ایده را با خود به MIT برد و در سال ۱۹۶۳ عضو هیئت علمی این دانشگاه شد. سه سال بعد، نتیجه‌ی این تلاش‌ها اولین چت‌بات دنیا بود که الیزا نام داشت. (برگرفته از شخصیت الیزا دولیتل در نمایشنامه پیگمالیون)[33]

الیزا برای تقلید از تعاملات متنی بین بیمار و روانکاو طراحی شده بود. وایزنبام عمداً این شخصیت را انتخاب کرد تا ضعف نسبی درک زبانی چت‌بات را بپوشاند. سیستم متن ورودی کاربر را تحلیل می‌کرد و طبق مجموعه‌ای پیچیده از قوانین، تلاش می‌کرد متن را با یکی از پاسخ‌های از پیش نوشته‌شده مطابقت دهد. اگر پاسخ مناسب پیدا نمی‌کرد، گاهی تنها ورودی کاربر را به شکل سوال بازگو می‌کرد، همان‌طور که یک روانکاو ممکن است عمل کند. در موارد دیگر، از عباراتی مبهم و همدلانه مانند «می‌فهمم»، «ادامه بدهید» یا «این خیلی جالب است» استفاده می‌کرد.

کدنویسی پشت الیزا حتی در زمان خود نیز چندان پیشرفته نبود، اما چیزی که الیزا را به یک نوآوری بزرگ تبدیل کرد، واکنش مردم به آن بود. بسیاری از دانشجویانی که وایزنبام آن‌ها را در حال تعامل با الیزا مشاهده کرد، متقاعد شدند که در حال صحبت با یک روان‌درمانگر انسانی هستند.

وایزنبام نوشت: «برخی افراد به‌سختی می‌توانستند باور کنند که الیزا (با اسکریپت فعلی‌اش) انسان نیست.» او بعدها در این باره گفت که منشی‌اش درخواست کرده مدتی با الیزا صحبت کند و سپس از او خواسته بود اتاق را ترک کند. او در این باره نوشت: «فکر می‌کنم این حکایت نشان‌دهنده موفقیت برنامه در ایجاد توهم درک است.» حتی دانشمندان کامپیوتر نیز اعترافات شخصی خود را با این چت‌بات در میان می‌گذاشتند.

به عبارت دیگر، الیزا تا حد زیادی به آن نوع فریبی که تورینگ پیش‌بینی کرده بود، نزدیک شد. اما الیزا همچنین ضعف‌های آشکار آزمایش تورینگ را نمایان کرد.

مهم‌ترین این ضعف‌ها، باورپذیری ما انسان‌ها است. افرادی که با الیزا تعامل داشتند، می‌خواستند باور کنند که در حال صحبت با یک انسان هستند. این تمایل به انسان‌انگاری چت‌بات‌ها و نادیده گرفتن کاستی‌های آشکار آن‌ها، به‌عنوان اثر الیزا شناخته شد و هنوز هم نیرویی قدرتمند در حوزه هوش مصنوعی است.

اثر الیزا تأثیر عمیقی بر خالق آن گذاشت. وایزنبام به جای احساس موفقیت، دچار افسردگی شد. اینکه ما انسان‌ها چقدر راحت فریب می‌خوریم، چه معنایی درباره ماهیت انسانی‌مان داشت؟ او به این فکر افتاد که تمایز بین تفکر واقعی انسانی و تقلید آن چقدر دشوار است و در عین حال چقدر حیاتی. همکار اولیه او، کلبی، بر این باور بود که اگر بیماران چت‌باتی مانند الیزا را مفید می‌دانند، پس این اختراع ارزشمند است. اما فریب نهفته در هسته‌ی الیزا، وایزنبام را آزار می‌داد.

این بحث همچنان با موج جدید چت‌بات‌هایی که برای نشان دادن همدلی یا استفاده در روان‌درمانی طراحی شده‌اند، ادامه دارد.

ماروین مینسکی، همکار وایزنبام در MIT، تفاوتی بین استدلال یک کامپیوتر و مغز انسان نمی‌دید. او به‌طور معروف گفته بود انسان‌ها چیزی بیش از «ماشین‌های گوشتی» نیستند. اما وایزنبام دیدگاه متفاوتی داشت. او معتقد بود که حوزه‌هایی وجود دارد که فراتر از توانایی هوش مصنوعی است، زیرا به تجربه‌ی زیسته و در نهایت به احساساتی وابسته است که یک کامپیوتر هرگز نمی‌تواند داشته باشد. حتی اگر قوانین زبان به‌طور ریاضیاتی فرمالیزه شوند، نرم‌افزار هوش مصنوعی هرگز نمی‌تواند واقعاً زبان را «درک» کند.

او با استناد به نوشته‌های فلسفی متأخر لودویگ ویتگنشتاین[34] استدلال کرد که زبان حتی برای انتقال معنا بین دو انسان نیز کافی نیست، چه برسد به ارتباط بین انسان و نرم‌افزاری که هیچ تجربه‌ی زیسته‌ای ندارد. علاوه بر این، بخش قابل‌توجهی از ارتباطات انسانی غیرکلامی است.

وایزنبام بر این باور بود که این تفاوت اساسی میان انسان و ماشین (ناتوانی کامپیوتر در همدلی واقعی) به این معناست که حتی اگر هوش مصنوعی بتواند همه‌ی وظایف انسانی را به‌خوبی یا بهتر از انسان انجام دهد، نباید اجازه داشته باشد در برخی حوزه‌ها فعالیت کند. او معتقد بود نرم‌افزار نباید در تصمیماتی با پیامدهای غیرقابل برگشت دخالت کند یا به‌عنوان جایگزینی برای وظایفی که به احترام بین‌فردی، درک و عشق نیاز دارند، استفاده شود.

وایزنبام در سال ۱۹۷۶ این انتقادات را در کتابی با عنوان «قدرت کامپیوتر و دلیل انسانی: از قضاوت تا محاسبه»[35] مطرح کرد. او در این کتاب، نقدی تند بر رشته‌ی خودش وارد کرد و همکارانش در حوزه هوش مصنوعی را به داشتن «ذهنیت هکری» متهم کرد؛ ذهنیتی که بیشتر نگران اجرای یک وظیفه توسط نرم‌افزار بود تا پاسخ به سوالات علمی معنادار درباره‌ی ماهیت هوش و تفکر. او از پیچیدگی سیستم‌های هوش مصنوعی نیز ابراز نگرانی کرد، چرا که این پیچیدگی تصمیم‌گیری آن‌ها را حتی برای خالقانشان غیرقابل درک می‌کرد. وایزنبام همچنین از تأثیرات سیاسی و اقتصادی هوش مصنوعی، به‌ویژه در خدمت قدرت‌های بزرگ و سیستم‌های سرکوبگر، هشدار داد. او نگران بود که هوش مصنوعی حکومت‌های تمامیت‌خواه را تقویت کند، هراسی که ریشه در تجربیات او به‌عنوان پناهنده‌ای از آلمان نازی داشت.

هرچند بسیاری از دانشمندان کامپیوتر آن زمان کتاب او را به‌عنوان ضدعلم و تندروانه رد کردند، اما بسیاری از انتقادات وایزنبام همچنان معتبر است و کابوس‌های او درباره‌ی هوش مصنوعی بیش از هر زمان دیگری مرتبط به نظر می‌رسند.

احیای شبکه عصبی

دلیل اینکه در دهه ۱۹۷۰ نقدهای وایزنبام به‌راحتی نادیده گرفته می‌شد اما امروز نمی‌توان آن‌ها را نادیده گرفت، به یک ایده قدیمی، یعنی شبکه عصبی، و سه پیشرفت جدید مرتبط است: تراشه‌های کامپیوتری بسیار قدرتمندتر، حجم عظیمی از داده‌های دیجیتال که به لطف اینترنت به‌راحتی در دسترس قرار گرفته‌اند و نوآوری در الگوریتم‌ها.

تا اوایل دهه ۱۹۷۰، بیشتر دانشمندان کامپیوتر کار بر روی شبکه‌های عصبی را رها کرده بودند که بخشی از آن به‌دلیل نقدهای تند مینسکی بود. اما گروه کوچکی از پیشگامان سرسخت همچنان این ایده را دنبال کردند.

در میانه دهه ۱۹۸۰، یکی از این افراد، روان‌شناسی به نام دیوید راملهارت[36] از دانشگاه کالیفرنیا، سن‌دیگو، همراه با همکارش رونالد ویلیامز[37] و یک محقق پسادکتری جوان انگلیسی به نام جفری هینتون[38]، به یک پیشرفت مهم دست یافتند که سرانجام به شبکه‌های عصبی اجازه داد کارهای جالب‌تری انجام دهند.

این پیشرفت پس‌انتشار خطا (Backpropagation) نام داشت، یا به اختصار Backprop به آن گفته می‌شد. پس‌انتشار خطا یک مشکل کلیدی را حل کرد. یکی از دلایلی که شبکه‌های عصبی اولیه تنها می‌توانستند طبقه‌بندی‌های ساده دوتایی را یاد بگیرند این بود که تنها دو لایه داشتند. مشخص شد که افزودن لایه‌های اضافی نورون‌ها بین نورون‌های ورودی و نورون خروجی، به شبکه امکان می‌دهد که تصمیم‌گیری‌های بسیار پیچیده‌تری انجام دهد.

تا دهه ۱۹۸۰، شبکه‌های عصبی که راملهارت، هینتون و ویلیامز با آن‌ها آزمایش می‌کردند، چندین لایه داشتند. اما این لایه‌های میانی مشکل بزرگی ایجاد کردند. در یک شبکه عصبی ساده دو‌لایه، تنظیم وزن‌ها و بایاس‌های هر نورون ورودی برای یادگیری شبکه در حین آموزش، نسبتاً آسان بود. اما با اضافه شدن این لایه‌های اضافی، تعیین اینکه هر نورون چه سهمی در خروجی دارد، به یک چالش بزرگ تبدیل شد. پس‌انتشار خطا از ایده‌های حساب دیفرانسیل و انتگرال برای حل این مشکل استفاده کرد. این روش به تنظیم وزن‌ها و بایاس‌های هر نورون کمک می‌کرد، به‌گونه‌ای که یک شبکه چندلایه بتواند به‌طور مؤثر یاد بگیرد.

به لطف پس‌انتشار خطا، شبکه‌های عصبی چندلایه قادر بودند دست‌خط روی پاکت‌ها و چک‌ها را تشخیص دهند، روابط بین افراد در یک شجره‌نامه را یاد بگیرند، یک برنامه را قدرت ببخشند تا کلمات چاپ‌شده را تشخیص دهد و از طریق یک سنتزکننده‌ی صدا آن‌ها را با صدای بلند بخواند و حتی یک خودروی اولیه‌ی خودران را در خطوط جاده نگه دارند. اما همچنان محدودیت‌هایی وجود داشت. این شبکه‌ها نمی‌توانستند اشیای پیچیده را در تصاویر طبقه‌بندی کنند (هنوز هیچ تشخیص‌دهنده‌ی گربه یا سگ وجود نداشت). در تشخیص گفتار و ترجمه زبان نیز مشکل داشتند. علاوه بر این، آموزش شبکه‌های عصبی به داده‌های بسیار زیادی نیاز داشت و در بسیاری از حوزه‌ها داده‌ی کافی در دسترس نبود. از طرف دیگر، پردازش این حجم از داده‌ها در شبکه‌های بزرگ، با تراشه‌های کامپیوتری آن زمان، بسیار کند بود. هم‌زمان، دیگر روش‌های یادگیری ماشینی که از آمار پیشرفته استفاده می‌کردند، در حال نشان دادن پیشرفت‌هایی بودند. نتیجه این شد که بسیاری از پژوهشگران و مهندسان هوش مصنوعی بار دیگر شبکه‌های عصبی را به‌عنوان مسیری روبه بن‌بست رها کردند.

اوج‌گیری یادگیری عمیق

هینتون، که اکنون به دانشگاه تورنتو منتقل شده بود، همچنان معتقد بود که شبکه‌های عصبی مسیر درست برای دستیابی به هوش مصنوعی شبیه به انسان هستند. او به تلاش خود ادامه داد و در سال ۲۰۰۴ یک گروه تحقیقاتی برای کار بر روی شبکه‌های عصبی تأسیس کرد؛ رویکردی که به‌زودی آن را با عنوان جدید یادگیری عمیق[39] معرفی کرد. این نام‌گذاری هوشمندانه‌ای بود: «عمیق» صرفاً به لایه‌های متعدد یک شبکه عصبی اشاره داشت، اما همچنین این تصور را القا می‌کرد که شبکه‌های عصبی به نوعی بینش‌های عمیق‌تر از روش‌های «سطحی» یادگیری ماشینی دست می‌یابند.

یادگیری عمیق در آستانه تحقق وعده‌ای بود که شبکه‌های عصبی بیش از پنجاه سال به دنبال آن بودند. دو عامل تغییر کرد:

۱. اینترنت حجم عظیمی از اطلاعات را به‌راحتی در دسترس قرار داد و گرسنگی شبکه‌های عصبی برای داده را برطرف کرد.

۲. یک نوع جدید از تراشه کامپیوتری، به نام واحد پردازش گرافیکی یا GPU، وارد بازار شد.

شرکت آمریکایی Nvidia اولین GPU را با نام GeForce 256 در اواخر سال ۱۹۹۹ معرفی کرد. این تراشه روی یک مدار چاپی جداگانه (کارت گرافیکی) نصب می‌شد که می‌توان آن را به یک کامپیوتر یا سرور داده اضافه کرد. GPU برای پردازش سریع گرافیک‌های مورد نیاز بازی‌های ویدیویی طراحی شده بود. این کار را با پردازش موازی چندین جریان داده به‌صورت هم‌زمان، نه به‌صورت ترتیبی، انجام می‌داد و برخی از محاسبات کلیدی را مستقیماً روی کارت گرافیک پردازش می‌کرد، برخلاف نسل قبلی که این وظایف به واحد پردازش مرکزی (CPU) سپرده می‌شد.

هر GPU انرژی زیادی مصرف می‌کرد و گرمای زیادی تولید می‌کرد؛ به همین دلیل هر کارت همراه با یک فن عرضه می‌شد. با این حال، این تراشه‌های جدید امکان ساخت کنسول‌های بازی خانگی مانند ایکس‌باکس و پلی‌استیشن را فراهم کردند. اما این تراشه‌ها آماده بودند تا تحقیقات هوش مصنوعی را برای همیشه تغییر دهند.

در سال ۲۰۰۵، تیمی از پژوهشگران دانشگاه مریلند[40] نشان دادند که قدرت پردازش موازی GPUها می‌تواند برای یک شبکه عصبی ساده دو‌لایه بسیار مفید باشد. سال بعد، تیمی در مایکروسافت نشان داد که GPUهای جدیدتر می‌توانند وزن‌های نورون‌ها را در یک سیستم یادگیری عمیق پیچیده با کارایی بیشتری محاسبه کنند. سپس در سال ۲۰۰۹، هینتون و دو دانشجوی تحصیلات تکمیلی او، سیستمی مبتنی بر یادگیری عمیق با استفاده از GPU برای مایکروسافت ساختند که تنها در چند ماه عملکردی برابر با سیستم تشخیص گفتار موجود این شرکت ارائه داد؛ سیستمی که توسعه آن یک دهه کار طاقت‌فرسا زمان برده بود.

مایکروسافت مقادیر عظیمی از داده‌های صوتی برای آموزش این شبکه در اختیار داشت؛ چراکه سیستم‌های یادگیری عمیق هرچه داده بیشتری مصرف می‌کردند، بهتر عمل می‌کردند. دیگر دانشجویان هینتون نیز به IBM و گوگل فرستاده شدند، جایی که آن‌ها همین دستاوردها را تکرار کردند.

در گوگل، نرم‌افزار پیشرفته تشخیص گفتار برای تلفن‌های هوشمند اندروید در ۲۳ درصد مواقع کلمه‌ای که گفته شده بود را اشتباه تشخیص می‌داد. در کمتر از یک هفته، دانشجوی هینتون نرخ خطا را به ۲۱ درصد رساند و دو هفته بعد این میزان به ۱۸ درصد کاهش یافت. یادگیری عمیق در حال شکوفایی بود.

اما همچنان شکاکانی وجود داشتند که معتقد بودند شبکه‌های عصبی نمی‌توانند اشیای پیچیده را در تصاویر طبقه‌بندی کنند. در سال ۲۰۱۲، هینتون و دو دانشجوی تحصیلات تکمیلی دیگرش، ایلیا ساتسکِوِر[41] و الکس کریژفسکی[42]، این شک‌ها را برطرف کردند. آن‌ها سیستمی مبتنی بر یادگیری عمیق با استفاده از GPU ساختند که الکس‌نت[43] نام داشت (به افتخار کریژفسکی). این سیستم در رقابتی که دانشگاه استنفورد با نام ImageNet برگزار کرده بود، برنده شد. این رقابت از سیستم‌های هوش مصنوعی می‌خواست تصاویر هزار دسته مختلف از اشیا را طبقه‌بندی کنند. الکس‌نت با نرخ خطای تنها ۱۵ درصد عملکردی بیش از دو برابر بهتر از نزدیک‌ترین رقیب خود داشت. یادگیری عمیق به شکلی جدی وارد میدان شده بود.

هینتون، ساتسکِوِر و کریژفسکی شرکتی حول ایده ساخت سیستم‌های یادگیری عمیق برای وظایف بینایی کامپیوتری تأسیس کردند. چند هفته بعد، گوگل آن را به قیمت ۴۴ میلیون دلار خرید. این سه نفر به تیم گوگل برین[44] پیوستند، آزمایشگاه پیشرفته تحقیقاتی هوش مصنوعی که گوگل در سال ۲۰۱۱ راه‌اندازی کرده بود.

حل مسئله‌ی هوش: رقابت بی‌پروا برای دستیابی به هوش مصنوعی عمومی (AGI) 

سد محدودیت‌های یادگیری عمیق پیش از الکس‌نت شروع به شکستن کرده بود. اما پس از موفقیت الکس‌نت، کاملاً فرو ریخت. شرکت‌های بزرگ فناوری آمریکا: مانند گوگل، مایکروسافت، متا (فیسبوک سابق)، آمازون، اپل و همتایان چینی آن‌ها، یعنی بایدو[45] و تنسنت[46]، رقابتی جدی برای پیاده‌سازی یادگیری عمیق آغاز کردند. این شرکت‌ها برای استخدام متخصصان یادگیری عمیق وارد رقابتی شدید شدند و حقوق‌های شش‌رقمی و حتی هفت‌رقمی به دکترای تازه‌فارغ‌التحصیل‌شده پیشنهاد دادند.

با این حال، بیشتر کاربردهای یادگیری عمیق همچنان بسیار محدود بودند؛ مثلاً سیستمی که افراد را در عکس‌های شبکه‌های اجتماعی برچسب‌گذاری می‌کرد یا فرمان‌های صوتی را بهتر تشخیص می‌داد. این‌ها هوش عمومی نبودند؛ بلکه هوش‌های خاص و محدود بودند. علاوه بر این، یادگیری عمیق همچنان برای اکثر شرکت‌های خارج از حوزه فناوری دست‌نیافتنی به نظر می‌رسید، چراکه آن‌ها نه تخصص انسانی لازم برای توسعه‌ی آن را داشتند و نه داده‌های کافی برای آموزش این سیستم‌ها.

در آن زمان، تنها تعداد کمی از پژوهشگران اعتقاد داشتند که یادگیری عمیق می‌تواند به دیدگاه تورینگ از هوش مصنوعی دست یابد. یکی از این افراد شین لگ[47] بود. او اهل نیوزیلند بود و در زمینه ریاضیات و محاسبات تخصص داشت، در دوران رونق دات‌کام در یک استارتاپ اولیه هوش مصنوعی در نیویورک کار می‌کرد. او در آنجا به محبوب کردن اصطلاح هوش عمومی مصنوعی (AGI) کمک کرد. لگ AGI را نرم‌افزاری می‌دانست که بتواند اکثر وظایف شناختی را به‌خوبی یا بهتر از یک انسان متوسط انجام دهد. او AGI را از هوش مصنوعی محدود، که تنها در یک زمینه خاص عملکرد عالی داشت، متمایز می‌کرد.

پس از ورشکستگی آن استارتاپ، لگ به دانشگاه بازگشت. مانند نسل‌های قبلی پژوهشگران هوش مصنوعی، لگ معتقد بود بهترین راه برای ساخت AGI مطالعه مغز است. بنابراین به واحد علوم اعصاب محاسباتی گتسبی [48]در دانشگاه کالج لندن رفت، که در تقاطع علوم اعصاب و هوش مصنوعی تحقیق می‌کرد.

در آنجا، لگ با دمیس هاسابیس[49] آشنا شد. هاسابیس، که یک اعجوبه شطرنج در کودکی بود و بعدها دانشمند کامپیوتر و کارآفرین بازی‌های ویدیویی شد، علاقه‌مند به ساخت AGI بود. او نیز مانند لگ، معتقد بود یادگیری عمیق راه رسیدن به این هدف است.

این دو نفر، به‌همراه یکی از آشنایان دوران کودکی هاسابیس به نام مصطفی سلیمان[50]، که در زمینه کارآفرینی اجتماعی فعالیت می‌کرد، در سال ۲۰۱۰ استارتاپی به نام دیپ‌مایند[51] در لندن تأسیس کردند.

این شرکت کوچک و رازآلود هدفی جسورانه و به عقیده برخی غیرمنطقی داشت: «حل مسئله هوش و سپس استفاده از آن برای حل سایر مسائل.» این هدف در سال ۲۰۱۳ کم‌کم منطقی‌تر به نظر رسید، زمانی که دیپ‌مایند سیستمی مبتنی بر یادگیری عمیق معرفی کرد که تقریباً از صفر و تنها از طریق آزمون و خطا، توانست ۵۰ بازی قدیمی آتاری را در عرض چند ساعت در سطحی فراتر از انسان بیاموزد. این دستاورد، تکنولوژیست‌ها، از جمله یکی از سرمایه‌گذاران اولیه دیپ‌مایند، ایلان ماسک[52] را شگفت‌زده کرد.

ماسک، مانند لگ و هاسابیس، به ایده AGI علاقه‌مند بود اما از آن نیز وحشت داشت. به باور او، پس از دستیابی به AGI، تنها یک قدم کوچک تا رسیدن به هوش فوق‌العاده مصنوعی (ASI)، (سیستمی بسیار هوشمندتر از تمام انسان‌ها) فاصله داریم. کنترل ASI بسیار دشوار خواهد بود. چنین سیستمی حتی ممکن است به آگاهی دست پیدا کند و مسائل فلسفی و عملی عمیق و پیچیده‌ای را مطرح کند. ASI می‌توانست با انسان‌ها در تضاد قرار گیرد و شاید منجر به انقراض یا بردگی گونه‌ی انسانی شود. این نگرانی ذهن ماسک و دیگرانی که با پیشرفت‌های دیپ‌مایند آشنا بودند را به خود مشغول کرده بود.

هنگامی که ماسک در یک پرواز خصوصی با لری پیج[53]، یکی از بنیان‌گذاران گوگل، درباره دستاورد آتاری دیپ‌مایند صحبت می‌کرد، پیج فوراً علاقه‌مند به خرید این استارتاپ شد. گوگل در آن زمان بیشتر از هر شرکت فناوری دیگری در شبکه‌های عصبی سرمایه‌گذاری کرده بود و پیج نمی‌خواست رقیبی از او پیشی بگیرد. مدت کوتاهی پس از این پرواز، او محققان برتر هوش مصنوعی گوگل را برای بررسی دیپ‌مایند فرستاد و سپس با پرداخت ۶۵۰ میلیون دلار، این شرکت کوچک لندنی را خرید.

این خرید ماسک را نگران کرد. با وجود دوستی با پیج، او به گوگل اعتماد نداشت و نگران بود که AGI تحت کنترل تنها یک شرکت قرار گیرد. ماسک به اشلی ونس[54] خبرنگار در سال ۲۰۱۳ گفت: «او (پیج) می‌تواند به‌طور تصادفی چیزی شیطانی تولید کند.» ماسک همچنین هشدار داد که ساخت هوش مصنوعی قدرتمند «مثل احضار شیطان» است. او گفت شرکت‌هایی که این فناوری را می‌سازند «خطر را می‌شناسند، اما فکر می‌کنند می‌توانند هوش‌های فوق‌العاده دیجیتال را کنترل کنند و از فرار بدترین‌هایشان به اینترنت جلوگیری کنند. این چیزی است که باید دید…»

ماسک تنها کسی نبود که از انحصار احتمالی گوگل بر AGI می‌ترسید. سم آلتمن، کارآفرین ۳۰ ساله سیلیکون ولی و رئیس وقت شتاب‌دهنده Y Combinator، دیدگاه‌های مشابهی درباره AGI، مزایای بالقوه آن و خطرات وجودی‌اش داشت. او نیز معتقد بود که چنین فناوری قدرتمندی نباید در انحصار گوگل باشد. در اواخر ۲۰۱۵، ماسک، آلتمن و گروهی دیگر، از جمله ایلیا ساتسکِوِر، آزمایشگاه هوش مصنوعی OpenAI را در سان‌فرانسیسکو تأسیس کردند.

مانند دیپ‌مایند، OpenAI نیز صریحاً متعهد به کار روی ایجاد AGI بود. با این حال، OpenAI قرار بود هر آنچه دیپ‌مایند نیست، باشد:

– دیپ‌مایند تحت کنترل یکی از بزرگ‌ترین شرکت‌های فناوری جهان بود، اما OpenAI به‌عنوان یک سازمان غیرانتفاعی تأسیس شد، با مأموریتی برای اطمینان از اینکه AGI «به گونه‌ای توسعه یابد که به‌احتمال زیاد به نفع کل بشریت باشد.»

– دیپ‌مایند به‌عنوان یک شرکت رازآلود شناخته می‌شد، در حالی که OpenAI قول داد همه تحقیقات خود را منتشر کرده و نرم‌افزارهایش را منبع‌باز کند.

ماسک از ابتدا اصرار داشت که این آزمایشگاه OpenAI نامیده شود. او معتقد بود تنها راه برای جلوگیری از استفاده‌ی استبدادی یک شرکت یا دولت از هوش مصنوعی قدرتمند، دموکراتیزه کردن دسترسی به آن است. به باور ماسک، هر فرد باید نسخه‌ای شخصی از نرم‌افزار AGI داشته باشد. OpenAI تحقیقات ایمنی هوش مصنوعی را در اولویت قرار داد، حوزه‌ای که در آن زمان در آزمایشگاه‌های شرکتی چندان مورد توجه نبود. ماسک به‌عنوان بزرگ‌ترین حامی مالی این سازمان غیرانتفاعی، یک میلیارد دلار برای آن تعهد مالی داد.

در ابتدا، OpenAI بیشتر روی یادگیری تقویتی متمرکز بود، این روش با یادگیری نظارت‌شده (که الکس‌نت برای پیروزی در ImageNet به کار برده بود) متفاوت است. در یادگیری نظارت‌شده، داده‌های برچسب‌دار به شبکه آموزش داده می‌شود: «این یک گربه است یا کانگورو» اما در یادگیری تقویتی، شبکه بدون هیچ داده اولیه شروع می‌کند و کاملاً از تجربه و آزمون و خطا می‌آموزد.

این همان روشی بود که دیپ‌مایند با آن بازی‌های آتاری را شکست داد. تا زمانی که OpenAI شروع به کار کرد، دیپ‌مایند از این روش برای دستیابی به یک نقطه عطف دیگر در هوش مصنوعی استفاده کرده بود: ایجاد نرم‌افزاری به نام AlphaGo که توانست بهترین بازیکن جهان را در بازی استراتژیک باستانی Go شکست دهد.

در مسابقه‌ی خود با لی سِدول، قهرمان جهان از کره جنوبی، AlphaGo حرکتی انجام داد که آن‌قدر غیرمتعارف بود که مفسران متخصص مسابقه مطمئن بودند اشتباه است. اما این حرکت مؤثر بود و درک هزاران ساله‌ی انسان از نحوه بازی Go را دگرگون کرد.

OpenAI نیز مشتاق بود ثابت کند می‌تواند با استفاده از یادگیری تقویتی به پیشرفت‌هایی در AGI دست یابد. این شرکت یک الگوریتم جدید یادگیری تقویتی توسعه داد و آن را به‌صورت رایگان در دسترس قرار داد. بعدها، OpenAI پنج شبکه عصبی ایجاد کرد که با یادگیری تقویتی آموزش دیده بودند و می‌توانستند با همکاری یکدیگر، یک تیم انسانی حرفه‌ای را در بازی پیچیده و سریع Dota 2 شکست دهند.

ترنسفورمر 

برای رسیدن از دستاوردهایی مثل Dota 2 به ChatGPT، به یک جرقه دیگر از نبوغ انسانی نیاز بود. در سال ۲۰۱۷، پژوهشگران گوگل برین، تا حدی تحت تأثیر زبان بیگانه‌ای که در فیلم “Arrival” به تصویر کشیده شده بود، یک طراحی جدید برای شبکه‌های عصبی به نام ترنسفورمر[55] ابداع کردند.

این طراحی در کشف الگوهای پیچیده در توالی‌های طولانی بسیار بهتر از سیستم‌های هوش مصنوعی قبلی بود. این روش برای هر نوع توالی کاربرد داشت: نت‌های موسیقی، فریم‌های یک ویدیو، یا حتی بهترین اقدام بعدی در یک بازی کامپیوتری. اما کاربرد ایده‌آل آن در کشف الگوهای موجود در زبان بود.

در زبان، انتخاب فعل صحیح یا ضمیر مناسب در انتهای یک جمله اغلب به کلماتی بستگی دارد که در ابتدای جمله یا حتی چند جمله قبل آمده‌اند. نرم‌افزارهای قبلی هوش مصنوعی در یادگیری این وابستگی‌ها مشکل داشتند. ترنسفورمر تا حد زیادی این مشکل را حل کرد. این طراحی جملات را به قطعات کوچکی تقسیم می‌کرد که معمولاً به اندازه‌ی یک کلمه بودند و آن‌ها را توکن می‌نامید. ترنسفورمر سپس گروه‌های بزرگی از توکن‌ها را به‌طور موازی تحلیل می‌کرد، کاری که طراحی‌های قبلی شبکه‌های عصبی قادر به انجام آن نبودند.

در این تحلیل، ترنسفورمر از یک مکانیسم به نام خودتوجهی (Self-Attention) استفاده می‌کرد. این مکانیسم به ترنسفورمر اجازه می‌داد برای هر جمله، یاد بگیرد کدام توکن‌ها مهم‌تر هستند، یعنی کدام‌ها باید بیشترین توجه را دریافت کنند تا پیش‌بینی دقیقی درباره‌ی ارزش هر توکن دیگر انجام دهد. وقتی این فرآیند روی زبان اعمال شد، ترنسفورمرها قادر به ساخت چیزی شدند که به‌عنوان “مدل زبانی بزرگ” (Large Language Model یا LLM) شناخته می‌شود: یک نقشه‌ی آماری پیچیده از رابطه‌ی بین تمام کلمات موجود در داده‌های آموزشی خود. ویژگی شگفت‌انگیز این مدل‌های جدید مبتنی بر ترنسفورمر این بود که، اگرچه آن‌ها فقط برای پیش‌بینی کلمات در یک جمله آموزش دیده بودند، نتیجه نهایی به یک ابزار چندمنظوره تبدیل شد، مانند یک چاقوی ارتش سوئیس برای پردازش زبان طبیعی.

پس از یادگیری الگوهای آماری زیربنایی زبان، یک مدل زبانی بزرگ مبتنی بر ترنسفورمر می‌توانست برای تمام وظایف مرتبط با زبان استفاده شود: خلاصه‌سازی، ترجمه، دسته‌بندی، تحلیل احساسات و پاسخ به سوالات. در گذشته، مهندسان باید برای هر کدام از این وظایف یک نرم‌افزار هوش مصنوعی جداگانه می‌ساختند. حالا یک مدل واحد می‌توانست همه این وظایف را انجام دهد.

چند ماه پس از انتشار تحقیقات اولیه‌ی خود درباره ترنسفورمر، گوگل شروع به آموزش مدلی زبانی مبتنی بر ترنسفورمر به نام BERT کرد. BERT در مقایسه با مدل‌های زبانی قبلی بسیار بزرگ‌تر بود؛ شبکه‌ای عصبی که می‌توانست ارتباطات میان ۳۴۰ میلیون پارامتر (یا متغیر) مختلف را پردازش کند. این مدل بر اساس رابطه میان ۳.۳ میلیارد کلمه از یازده هزار کتاب انگلیسی‌زبان و ویکی‌پدیا آموزش داده شد. وظیفه‌ی آموزشی آن پیش‌بینی یک کلمه‌ی گم‌شده در یک جمله بود، شبیه یک بازی غول‌پیکر Mad Libs. پس از آموزش، گوگل الگوریتم را روی مجموعه‌ای از آزمون‌های توانایی زبانی امتحان کرد. این مدل در بیشتر آن‌ها به عملکرد انسانی نزدیک شد. طولی نکشید که گوگل از BERT برای بهبود چشمگیر نتایج جستجو استفاده کرد. به‌طور ناگهانی، موتور جستجوی گوگل اهمیت حروف اضافه را در معنای درخواست‌های کاربران درک کرد. مثلاً وقتی کسی تایپ می‌کرد «Brazil traveler to USA visa requirements»، گوگل اکنون می‌دانست که فقط صفحاتی را بازگرداند که با یک مسافر برزیلی به ایالات متحده مرتبط بودند، نه یک آمریکایی که به برزیل سفر می‌کرد.

ایلیا ساتسکِوِر از OpenAI فوراً فهمید که این پیشرفت چه معنایی دارد: پیشروی به سمت AGI ممکن شده بود. نوشتن، یکی از ارکان تمدن انسانی است. حجم عظیمی از دانش انسانی به‌صورت مکتوب وجود دارد. همیشه آرزوی کسانی که در پی AGI بودند این بود که یک سیستم هوش مصنوعی بتواند دقیقاً مانند یک خودآموخته (Autodidact)، با خواندن سریع خود را آموزش دهد.

ساتسکِوِر، الک رادفورد[56] و دو محقق دیگر در OpenAI، یک ترنسفورمر ساختند و آن را با هفت هزار کتاب منتشرنشده، عمدتاً در ژانرهای علمی‌تخیلی، فانتزی و رمانتیک تغذیه کردند. سپس آن را با هزاران متن از آزمون‌های مقاطع راهنمایی و دبیرستان و سوال و جواب‌هایی از وب‌سایت Quora بهینه کردند. هوش مصنوعی جدید می‌توانست چند پاراگراف منسجم بنویسد. البته بی‌نقص نبود. اگر از آن خواسته می‌شد که به نوشتن ادامه دهد، گاهی جملات نامفهومی تولید می‌کرد یا خود را تکرار می‌کرد. اما به‌طور محسوسی بهتر از قبل بود.

رادفورد و ساتسکِوِر این سیستم را GPT نامیدند، مخفف “Generative Pretrained Transformer”:

– مولد، چون فقط داده‌های موجود را تحلیل نمی‌کرد بلکه داده‌های جدید خلق می‌کرد.

– پیش‌آموزش‌دیده، چون در مرحله‌ی اولیه آموزش، الگوهای آماری زبان را یاد می‌گرفت و سپس می‌توانست برای وظایف خاص تنظیم شود.

امروزه، هوش مصنوعی‌ای که قادر به تولید محتوای جدید باشد، به‌عنوان هوش مصنوعی مولد[57] شناخته می‌شود.

ترنسفورمرها می‌توانند فراتر از تولید کلمات عمل کنند. با اتصال یک مدل زبانی مبتنی بر ترنسفورمر به انواع دیگر هوش مصنوعی، OpenAI نرم‌افزار DALL-E را ایجاد کرد (نام آن ترکیبی از نقاش اسپانیایی، سالوادور دالی[58] و ربات WALL-E است). این سیستم می‌تواند تصاویر ثابت را تقریباً در هر سبکی بر اساس یک توضیح متنی تولید کند. همین روش توسط شرکت‌های دیگر، از جمله استارتاپ‌های Stability AI و Midjourney و شرکت بزرگ نرم‌افزاری Adobe بهبود یافته است. حتی ویدیو نیز می‌تواند به روشی مشابه تولید شود. در حال حاضر، این ویدیوها حدود یک دقیقه طول دارند، اما تولید فیلم‌های بلند کامل بر اساس توضیحات متنی در افق قرار دارد.

شرکت‌های دیگر، از جمله گوگل، از ترنسفورمرها برای تولید صدا، ساخت آهنگ و حتی شبیه‌سازی صدا استفاده کرده‌اند. ترنسفورمرها فقط به تولید محتوا محدود نیستند، بلکه می‌توانند برای پیش‌بینی بهترین اقدام بعدی در یک توالی نیز استفاده شوند. این موضوع به ظهور نسل جدیدی از دستیارهای دیجیتال منجر خواهد شد که بسیار توانمندتر از نسخه‌های قبلی هستند.

آیا هوش مصنوعی‌ای که داریم، همان هوش مصنوعی‌ای است که می‌خواهیم؟ 

ساتسکِوِر یک شهود کلیدی درباره شبکه‌های عصبی داشت: هرچه این شبکه‌ها بزرگ‌تر شوند و داده‌های بیشتری دریافت کنند، عملکرد بهتری از خود نشان می‌دهند. این موضوع به‌ویژه در مورد مدل‌های زبانی بزرگ صادق بود. داریو آمودئی[59]، یکی دیگر از پژوهشگران OpenAI و یک فیزیک‌دان سابق که بعدها به یکی از بنیان‌گذاران شرکت رقیب OpenAI به نام Anthropic تبدیل شد، این شهود را به اشتراک می‌گذاشت.

آمودئی نشان داد که شبکه‌های عصبی از “قوانین مقیاس‌بندی”[60] تبعیت می‌کنند؛ یعنی نه‌تنها عملکردشان با بزرگ‌تر شدن بهبود می‌یابد، بلکه این بهبود به شکلی قابل پیش‌بینی اتفاق می‌افتد. مثلاً اگر حجم داده‌های آموزشی مدل ده برابر شود، عملکرد آن حدود یک‌سوم بهبود می‌یابد. اما همه‌چیز درباره این مدل‌ها قابل پیش‌بینی نبود. وقتی مدل‌ها بزرگ‌تر شدند، توانایی‌های غیرمنتظره‌ای به نام “قابلیت‌های نوظهور”[61] از خود نشان دادند؛ مهارت‌هایی که مدل‌های کوچک‌تر در آن‌ها مشکل داشتند اما مدل‌های بزرگ‌تر ناگهان و اغلب به شکلی شگفت‌انگیز به آن‌ها تسلط یافتند.

ساتسکِوِر ابتدا تصور می‌کرد که شاید بتوان بیشتر راه رسیدن به AGI را تنها با ساختن شبکه‌های عصبی بزرگ‌تر طی کرد. در نهایت، مغز انسان حدود ۸۶ میلیارد نورون دارد که تخمین زده می‌شود حدود ۱۰۰ تریلیون اتصال میان آن‌ها وجود دارد. هنگامی که OpenAI اولین نسخه GPT را ساخت، بزرگ‌ترین شبکه‌های عصبی تنها چند صد میلیون نورون مصنوعی و اتصال داشتند. شاید کلید هوش، تنها در افزودن نورون‌های بیشتر باشد؟

بسیاری از پژوهشگران هوش مصنوعی تردید داشتند. نورون‌های دیجیتال در شبکه‌های عصبی تنها به‌طور بسیار جزئی بر اساس نورون‌های مغز مدل‌سازی شده‌اند. مغزهای بیولوژیکی در یادگیری بسیار کارآمدتر هستند. (برای درک یک مفهوم تنها به چند مثال نیاز دارند، نه میلیون‌ها مثال.) علاوه بر این، مغز انسان در تطبیق آموخته‌هایش با موقعیت‌های جدید بسیار بهتر عمل می‌کند.

منتقدان معتقد بودند که برای دستیابی به هوشی در سطح انسان، به مجموعه‌ای کاملاً متفاوت از الگوریتم‌ها نیاز است. اما ساتسکِوِر از مسیر خود منحرف نشد. او دلیلی برای کنار گذاشتن این مسیر آشکار نمی‌دید. (مسیر ساختن شبکه‌های عصبی بزرگ‌تر با استفاده از همان الگوریتم‌های پایه‌ای، مانند ترنسفورمر) تا زمانی که ثابت شود دیگر چیزی از این روش قابل دستیابی نیست.

OpenAI همین مسیر را ادامه داد. به همین روش بود که آن‌ها به GPT-3، ChatGPT و GPT-4 رسیدند. بدون شک، همین رویکرد پایه‌ای به تولید نسخه بعدی نرم‌افزار هوش مصنوعی قدرتمندترشان، GPT-5 و فراتر از آن، منجر خواهد شد. هر یک از این مدل‌ها نسبت به نسخه قبلی توانمندتر بوده‌اند.

اما مدل‌های زبانی بزرگ مبتنی بر ترنسفورمر معایب مهمی دارند. یکی از این معایب، “توهم” (Hallucination) است؛ تمایل این مدل‌ها به تولید اطلاعاتی که واقعیت ندارد، اما در قالبی ارائه می‌شود که معتبر به نظر می‌رسد. (برخی دانشمندان شناختی معتقدند اصطلاح “ساختگی‌سازی” (Confabulation) دقیق‌تر است.)

این مسئله به این دلیل رخ می‌دهد که مدل‌های زبانی بزرگ درکی ذاتی از آنچه می‌گویند ندارند و تفاوتی بین داستان و واقعیت برای آن‌ها وجود ندارد. آن‌ها فقط رشته‌ای از کلمات آماری محتمل را تولید می‌کنند. در نتیجه، این مدل‌ها هنگام پاسخ دادن به سوالات شامل منطق انتزاعی یا استدلال مبتنی بر عقل سلیم، اشتباه می‌کنند.

یکی دیگر از معایب این مدل‌ها، محدودیت آن‌ها در درون‌یابی است، یعنی تولید نقاط داده‌ای که در محدوده داده‌های قبلی دیده‌شده قرار دارند. اما آن‌ها اغلب در برون‌یابی شکست می‌خورند. یعنی تولید داده‌های جدید خارج از این محدوده. به‌عنوان مثال، اگر این مدل‌ها بر روی مجموعه داده‌ای شامل اعداد ۲، ۵ و ۱۰ آموزش دیده باشند، می‌توانند اعداد ۳، ۴ و ۷ را تولید کنند، اما قادر به تولید ۱ یا ۱۱ نیستند.

مدل‌های زبانی بزرگ همچنین شبیه خوک‌های وحشی نرم‌افزار هستند: اشتهای سیری‌ناپذیری برای داده دارند و حجم زیادی از اطلاعات بی‌کیفیت را مصرف می‌کنند. بسیاری از افراد نگران میزان داده‌ای هستند که این مدل‌ها برای پیش‌آموزش نیاز دارند و اینکه این داده‌ها از کجا تهیه می‌شوند. در بسیاری از موارد، داده‌ها به‌سادگی از اینترنت جمع‌آوری می‌شوند، که ممکن است نقض قوانین کپی‌رایت باشد. چالش دیگر این است که با بلعیدن این حجم عظیم از متن‌های انسانی، مدل‌ها تعصبات و کلیشه‌های جمعی ما را نیز یاد می‌گیرند، به‌ویژه در مورد جنسیت، نژاد، قومیت و مذهب. برای مثال، GPT-3 تمایل داشت مسلمانان را با خشونت مرتبط کند، هنگام نوشتن درباره سیاه‌پوستان از صفات منفی استفاده کند و وقتی از آن خواسته می‌شد درباره پزشکان بنویسد، غالباً از ضمایر مذکر استفاده می‌کرد. همچنین به‌راحتی می‌شد GPT-3 را تحریک کرد تا گفت‌وگوهای نامناسب، ناشایست یا حتی پورنوگرافیک تولید کند. این مشکلات بازتابی از آموزشی بود که این مدل بر اساس متن‌های جمع‌آوری‌شده از اینترنت دیده بود. اینترنت اغلب فضایی پر از خشونت، زن‌ستیزی، نژادپرستی و موارد بدتر است و GPT-3 این موارد را در خروجی‌های خود منعکس می‌کرد.

OpenAI دریافت که می‌تواند برخی از این تمایلات را با استفاده از بازخورد انسانی کاهش دهد. این فرآیند، که به نام “یادگیری تقویتی با بازخورد انسانی”[62] (RLHF) شناخته می‌شود، همان روشی بود که OpenAI برای ایجاد ChatGPT استفاده کرد.

اما همان‌طور که مردم به‌زودی دریافتند، موانع محافظتی که OpenAI با RLHF ایجاد کرده بود، به‌راحتی قابل عبور بودند. باز هم این مسئله به این دلیل بود که درک مفهومی مدل پایه‌ای، هرگز به عمق درک انسانی نمی‌رسید.

به چه قیمتی؟

مدل‌های هوش مصنوعی بزرگ‌تر به قدرت محاسباتی بسیار بیشتری نیاز دارند. (هزاران یا حتی ده‌ها هزار GPU) این موضوع باعث شده که هزینه ورود به بازی هوش مصنوعی به‌طرز بی‌سابقه‌ای بالا باشد. سم آلتمن در مصاحبه‌ای با مجله Wired در سال ۲۰۱۸ گفت: «مقدار پولی که برای موفقیت در این مأموریت نیاز داشتیم، بسیار عظیم‌تر از چیزی است که در ابتدا تصور می‌کردم.»

آلتمن پس از جدایی ایلان ماسک از OpenAI به مدیرعاملی این شرکت رسید. در زمانی که دیپ‌مایند هنوز به‌نظر می‌رسید در رقابت برای دستیابی به AGI پیشتاز باشد، ماسک که شخصیتی غیرقابل پیش‌بینی دارد، OpenAI را به‌دلیل پیشرفت ناکافی مورد انتقاد قرار داد. او پیشنهاد داد که به‌طور شخصی کنترل آزمایشگاه را در دست بگیرد و آن را با امپراتوری تجاری خود ادغام کند. کارکنان OpenAI با این ایده مخالفت کردند و هیئت‌مدیره غیرانتفاعی این شرکت طرح ماسک را رد کرد. این اتفاق باعث شد ماسک از OpenAI جدا شود و حمایت مالی خود، از جمله تعهد یک میلیارد دلاری‌اش که بیشتر آن هنوز پرداخت نشده بود، را پس بگیرد.

جدایی ماسک باعث ایجاد یک بحران وجودی در OpenAI شد. آلتمن که به‌همراه ماسک نیروی محرکه ایجاد این سازمان بود، به‌عنوان مدیرعامل جدید شرکت انتخاب شد. او به‌سرعت دریافت که تنها راه برای جذب سرمایه‌ی بسیار بیشتر، تغییر ساختار OpenAI به شکلی رادیکال است. او یک مدل ترکیبی عجیب ایجاد کرد: بنیاد غیرانتفاعی OpenAI به فعالیت خود ادامه می‌داد، اما یک بخش جدید انتفاعی تأسیس شد که می‌توانست سرمایه‌گذاری‌های خطرپذیر خارجی را جذب کند. با این حال، سود این سرمایه‌گذاران به‌صورت حداکثری محدود می‌شد. زمانی که این سقف سود به دست می‌آمد، سرمایه‌گذاران دیگر نمی‌توانستند ادعایی بر سودهای OpenAI داشته باشند. در ابتدا، این سقف سود بسیار بالا تعیین شد؛ صد برابر سرمایه‌گذاری اولیه‌ی هر سرمایه‌گذار. اما با هر دور جدید جذب سرمایه، این سقف کاهش یافت.

تابستان بعد از ایجاد بخش انتفاعی OpenAI، آلتمن تصمیم گرفت با یک سرمایه‌گذار استراتژیک که بتواند تمام مشکلات مالی OpenAI را حل کند، همکاری کند: مایکروسافت. در ژوئیه ۲۰۱۹، مایکروسافت اولین سرمایه‌گذاری یک میلیارد دلاری خود را در OpenAI انجام داد و از آن زمان تاکنون حداقل ۱۲ میلیارد دلار دیگر نیز سرمایه‌گذاری کرده است. ایجاد بخش انتفاعی و شراکت با مایکروسافت فرهنگ OpenAI را تغییر داد. این شرکت که با تعهد به شفافیت تأسیس شده بود، اکنون به‌ناچار به‌سمت شفافیت کمتر حرکت کرده است.

کسب درآمد از یک فناوری بسیار دشوارتر است اگر آن را به‌طور رایگان ارائه دهید. به همین دلیل، OpenAI اکنون قوی‌ترین مدل‌های خود را تنها در اختیار مشتریانی قرار می‌دهد که هزینه پرداخت می‌کنند. این مشتریان می‌توانند از طریق یک رابط کاربری با مدل‌ها تعامل داشته باشند، اما به کدها یا وزن‌های مدل دسترسی ندارند.

حتی در گزارش‌های فنی درباره GPT-4، OpenAI جزئیات مهمی را حذف کرده است: این شرکت از افشای اندازه دقیق GPT-4، طراحی آن، داده‌های آموزشی و فرآیند آموزش آن خودداری کرده است. در حالی که OpenAI مدعی است این پنهان‌کاری برای جلوگیری از کپی‌برداری و سوءاستفاده از هوش مصنوعی ضروری است، ساتسکِوِر اعتراف کرده است که این سیاست همچنین از اسرار تجاری OpenAI در برابر رقبا محافظت می‌کند.

این پنهان‌کاری مزیت دیگری هم دارد: OpenAI را از نظارت ناظران و عموم مردم مصون می‌سازد و به پنهان کردن شیوه‌های بحث‌برانگیز جمع‌آوری داده‌ها کمک می‌کند. برای مثال:

– استفاده از محتوای دارای حق کپی‌رایت بدون اجازه،

– یا استخدام پیمانکاران در کشورهای کم‌درآمد با حداقل حمایت‌های کاری برای اجرای فرآیند RLHF.

هر دو مورد به‌طور مستند گزارش شده‌اند.

نیاز به سودآوری، به گفته برخی از کارکنان سابق، باعث شده OpenAI ایمنی را کم‌تر مورد توجه قرار دهد. مدیران شرکت، از جمله آلتمن، گفته‌اند که اگرچه پیش از انتشار نرم‌افزار آزمایش‌های ایمنی گسترده‌ای انجام می‌دهند، تنها راه کشف تمام مزایا و خطرات این مدل‌ها، انتشار آن‌ها و مشاهده نحوه استفاده مردم از آن‌هاست. اینکه آیا می‌توان سودآوری و منافع عمومی را در توسعه هوش عمومی مصنوعی (AGI) متوازن کرد، یک سوال حیاتی است.

هزینه‌های سرسام‌آوری که OpenAI را مجبور به ایجاد بخش انتفاعی و جذب سرمایه از مایکروسافت کرد، به این معناست که بیشتر کسانی که در مرزهای پیشرفته هوش مصنوعی کار می‌کنند، در استخدام شرکت‌های بزرگ فناوری یا استارتاپ‌هایی هستند که در مدار این غول‌های فناوری قرار دارند.

Anthropic، که توسط پژوهشگران جداشده از OpenAI تأسیس شد، سرمایه‌گذاری‌هایی از گوگل و آمازون دریافت کرده است. Nvidia، سازنده تراشه‌های هوش مصنوعی، در شرکت Cohere سرمایه‌گذاری کرده که در حال ساخت مدل‌های زبانی مبتنی بر ترنسفورمر است. مایکروسافت و Nvidia هر دو در شرکت Inflection، که توسط مصطفی سلیمان (از بنیان‌گذاران دیپ‌مایند) تأسیس شده، سرمایه‌گذاری کرده‌اند. مایکروسافت سپس سلیمان و بیشتر کارکنان Inflection را برای ایجاد یک بخش جدید هوش مصنوعی مصرف‌کننده در این شرکت به استخدام درآورد، در حالی که فناوری باقی‌مانده Inflection به مایکروسافت واگذار شد.

در گذشته، جهش‌های فناوری قدرتمند، مانند تسلیحات هسته‌ای، موتورهای جت، ماهواره‌ها، ابرکامپیوترها و اینترنت؛ معمولاً توسط دولت‌ها توسعه داده می‌شدند یا حداقل سرمایه‌گذاری می‌شدند. انگیزه معمولاً استراتژیک یا کسب مزیت نظامی و ژئوپلیتیک بود نه مالی و دولت‌ها، هرچند اغلب پنهان‌کار، تحت نوعی پاسخ‌گویی عمومی قرار داشتند. در مقابل، رقابت برای توسعه AGI اکنون در دست تعداد معدودی از شرکت‌های قدرتمند فناوری است.

لبه پرتگاه

شبکه‌های عصبی، ترنسفورمرها، داده‌های بی‌پایان اینترنت و قدرت محاسباتی بی‌سابقه ما را به آستانه‌ای جدید رسانده‌اند.

بخش‌های باقی‌مانده این کتاب بررسی می‌کنند که با گام گذاشتن به این عصر جدید چه اتفاقی خواهد افتاد. هنگام تحلیل تأثیر هوش مصنوعی بر زندگی ما، باید پرسش‌هایی را در نظر داشته باشیم که مسیر توسعه این فناوری را شکل داده‌اند:

– چگونه باید هوش را تعریف کنیم؟

– چه معیار درستی برای سنجش پیشرفت هوش مصنوعی وجود دارد؟

– آیا میراث آزمایش تورینگ، ما را وارد رقابتی با ماشین‌ها کرده است که ناگزیر در آن بازنده خواهیم بود؟

– آیا روش بهتری برای درک هوش مصنوعی به‌عنوان مکمل هوش انسانی، به جای رقیب آن، وجود دارد؟

هوش مصنوعی شاید یک مغز دیجیتال[63] باشد، اما هنوز به ذهن دیجیتال[64] تبدیل نشده است، این فناوری اهدافی از خود ندارد، بلکه تنها اهدافی را دنبال می‌کند که ما برای آن تعیین می‌کنیم. بنابراین، باید فوراً روش‌های بهتری برای سنجش میزان مفید بودن آن به‌عنوان یک ابزار بیابیم.

استاندارد تورینگ) تقلید (چیزی درباره سودمندی این فناوری نمی‌گوید. ما باید بررسی کنیم که این فناوری در محیط‌های واقعی و در همکاری با مردم واقعی چگونه عمل می‌کند. همچنین ضروری است که هشدارهای پیشگویانه وایزنبام درباره ذات غیراخلاقی هوش مصنوعی را در نظر بگیریم. در بیشتر تاریخ هوش مصنوعی، دانشمندان و فلاسفه بحث کرده‌اند که ماشین‌ها چه کاری می‌توانند انجام دهند. (حدود قابلیت‌های هوش مصنوعی چیست و چگونه در مقایسه با توانایی‌های انسانی قرار می‌گیرند.) اکنون، این بحث باید از «چه می‌توان» به «چه باید» تغییر کند، از مهندسی به اخلاق.

ما باید بپرسیم که از هوش مصنوعی برای چه استفاده کنیم و کدام حوزه‌ها را باید منحصراً برای خود نگه داریم. پاسخ‌های وایزنبام به این سوالات اکنون بیش از پیش اهمیت پیدا کرده‌اند. برای مثال، او معتقد بود که هوش مصنوعی نباید هرگز نقش قاضی را ایفا کند. پاملا مک‌کورداک[65] در تاریخ شفاهی پیش‌رویش از توسعه هوش مصنوعی، در کتاب “ماشین‌هایی که فکر می‌کنند”[66]، استدلال می‌کند که با توجه به تاریخ طولانی تعصبات انسانی و بی‌عدالتی، به‌ویژه اگر زن یا عضو یک اقلیت باشید، آیا بهتر نیست که یک قاضی هوش مصنوعی داشته باشیم؟

مک‌کورداک تصور می‌کرد که هوش مصنوعی از انسان عینی‌تر خواهد بود. اما امروزه خطر اصلی این است که سیستم‌های هوش مصنوعی، که بر پایه داده‌های تاریخی آموزش دیده‌اند، نه‌تنها تعصبات انسانی موجود را در خود بازتاب می‌دهند، بلکه ممکن است آن‌ها را تقویت کنند—آن هم در حالی که این تعصبات پشت نقاب عینیت پنهان می‌شوند.

به این ترتیب، هوش مصنوعی ممکن است به افراد امکان دهد از پاسخگویی شانه خالی کنند. در بسیاری از حوزه‌ها، ممکن است به این نتیجه برسیم که حفظ اندکی غیرمنطقی بودن می‌تواند اثرات مثبتی داشته باشد. (برای من، حساب‌کشی اخلاقی از یک انسان به انسان دیگر، به‌مراتب بهتر از توهم عدالت مطلق است. چه به‌صورت فردی و چه جمعی، لازم است که مرزهای اخلاقی و مسئولیت‌پذیری را مشخص کنیم و باید این کار را همین حالا انجام دهیم.)

[1] Des Moines

[2] Iowa

[3] Microsoft

[4] San Francisco

[5] Natural language

[6] Satya Nadella

[7] Word

[8] PowerPoint

[9] Amazon

[10] Alan Turing

[11] Wolfe Mays

[12] John Searle

[13] Howard Gardner

[14] Michael Jordan

[15] Taylor Swift

[16] Bill Clinton

[17] Google Duplex

[18] John Markoff

[19] Machines of Loving Grace: The Quest for Common Ground Between Humans and Robots

[20] Electronic Numerical Integrator and Computer

[21] John McCarthy

[22] Dartmouth College

[23] Cybernetics

[24] Artificial Intelligence

[25] Artificial Neural Networks – ANN

[26] Marvin Minsky

[27] Checkers

[28] Joseph Weizenbaum

[29] General Electric

[30] Silicon Valley

[31] Kenneth Colby

[32] Stanford University

[33] Pygmalion

[34] Ludwig Wittgenstein

[35] Computer Power and Human Reason: From Judgment to Calculation

[36] David Rumelhart

[37] Ronald J. Williams

[38] Geoffrey Hinton

[39] Deep learning

[40] Maryland University

[41] Ilya Sutskever

[42] Alex Krizhevsky

[43] AlexNet

[44] Google Brain

[45] Baidu

[46] Tencent

[47] Shane Legg

[48] Gatsby Computational Neuroscience

[49] Demis Hassabis

[50] Mustafa Suleyman

[51] DeepMind

[52] Elon Musk

[53] Larry Page

[54] Ashlee Vance

[55] Transformer

[56] Alec Radford

[57] Generative AI

[58] Salvador Dalí

[59] Dario Amodei

[60] Neural scaling law

[61] Emergent Capabilities

[62] Reinforcement learning from human feedback

[63] Digital Brain

[64] Digital Mind

[65] Pamela McCorduck

[66] Machines Who Think – by Pamela McCorduck & Cli Cfe