فصل دوازدهم: جنگ با سرعت ماشین
یک اقلیم گرمتر ممکن است ما را در سیلابها غرق کند، در بیابانهای گسترده بسوزاند و با برداشتهای ناکام گرسنه نگه دارد. از بین رفتن اعتماد میتواند دموکراسی ما را به خطر اندازد. اما هر دوی این تهدیدها در مقایسه با خطر سلاحهای هستهای برای بقای گونه بشر، رنگ میبازند. این سلاحها یادآور شفاف نبوغ و جنون جمعی ما هستند. آنها تجسمی از گرایش ما به استفاده از هوش طبیعیمان برای ابداع روشهای کارآمدتر کشتن یکدیگر هستند. اما اکنون ما یک اسباببازی جدید برای قتلعام داریم؛ هوش مصنوعی.
هوش مصنوعی، روند کشتن را از لحاظ احساسی کمتر شخصی کرده و به همین دلیل کمتر پاسخگو میکند. این فناوری خطر انسانی را از میدان نبرد دور میکند، اما در این فرآیند، از انسانیت ما نیز میکاهد و اگر با موشکهایی که در سیلوهایشان در انتظار فراخوان روز قیامت هستند ترکیب شود، احتمال آن تماس سرنوشتساز را افزایش میدهد.
خودمختاری (autonomy) بیش از یک قرن است که به تدریج وارد حوزه جنگ شده است. در جنگ داخلی ایالات متحده، نیروهای کنفدراسیون برای اولین بار از مینهای زمینی استفاده کردند که میتوانستند زیر زمین دفن شوند و با فشار یک نفر روی صفحهای مخفی فعال شوند. چنین سلاحهایی نوعی خودمختاری داشتند، اما فاقد هوش بودند.
امروز، قابلیتهای هوش مصنوعی در هر سطح از آنچه استراتژیستهای نظامی “زنجیره کشتار” (kill chain) مینامند؛ مراحلی متشکل از شناسایی تا شلیک سلاح و ارزیابی نتیجه، ادغام شدهاند. بخش زیادی از این هوش مصنوعی در سطح ادراک فعالیت میکند؛ تشخیص اشیا و افراد در میدان نبرد، شناسایی اینکه آنها چه چیزی یا چه کسی هستند و سپس ردیابی حرکاتشان. اما هوش مصنوعی پیشرفتهتر نیز برای هدایت خودکار هواپیماهای جنگی، کنترل پهپادهای زیرآبی و مدیریت سامانههای توپخانه استفاده میشود.
هوش مصنوعی همچنین در سیستمهای فرماندهی و کنترلی که افسران برای تجسم میدان نبرد از آنها استفاده میکنند، ادغام شده است. نرمافزاری مشابه سیستمهای هوش مصنوعی که انسانها را در بازیهایی مانند گو و استارکرفت II شکست دادهاند، اکنون به ژنرالها توصیههای استراتژیک ارائه میکند. مدلهای زبانی بزرگ جدید نیز در جنگ نقشی ایفا میکنند، گزارشهای اطلاعاتی را تحلیل و خلاصه میکنند و یک رابط زبان طبیعی برای فرماندهان فراهم میکنند تا با حسگرها، سیستمهای تسلیحاتی و سربازان تعامل داشته باشند.
هوش مصنوعی، جنگ را در سه بُعد دگرگون میکند:
اول: سلاحها را خودمختارتر میسازد.
دوم: نحوه جمعآوری، تحلیل و استفاده از اطلاعات میدان نبرد برای تصمیمگیری را تغییر میدهد.
سوم: بُعد سیاسی جنگ را متحول میکند. (استراتژیهای امنیت ملی، محاسبات ژئوپلیتیک و پیامدهای سیاسی تصمیمگیری در مورد استفاده از نیروی نظامی را تحت تأثیر قرار میدهد.)
این فصل به بررسی هر یک از این ابعاد خواهد پرداخت. در تمام این سه حوزه، هوش مصنوعی سوالات عمیقی در مورد پاسخگویی انسانی و اخلاقیات مطرح میکند، سوالاتی که نه تنها سربازان بلکه رهبران سیاسی که آنها را به جنگ میفرستند و در دموکراسیها، همه ما که به نام ما میجنگند، با آنها مواجه خواهند شد.
نجات جانها، اما به چه قیمتی؟
تصور کنید شهری گسترده و متراکم از زاغههایی با سقفهای فلزی و آپارتمانهای کوتاهمرتبهی بتنی که بر روی تپههای بیرون از یک پایتخت آفریقایی ساخته شدهاند. در میان این چشمانداز پیچیده و شهری، یک گروه تروریستی فعالیت میکند. برای ریشهکن کردن آنها، یک ژنرال میتواند سربازانی را پیاده یا از طریق فرود با طناب از هلیکوپترها به محل بفرستد. اما این اقدام پرخطر است؛ ممکن است سربازانش در کمین گیر بیفتند. هلیکوپترهایش ممکن است هدف قرار گرفته و سرنگون شوند و در هر درگیری، ممکن است غیرنظامیان کشته شوند.
اگر او بتواند مقر تروریستها را شناسایی کند، ممکن است بخواهد ساختمان را با بمب یا موشک نابود کند. اما در این صورت، بسیاری از غیرنظامیان نزدیک نیز بهعنوان “خسارت جانبی” کشته میشوند. هوش مصنوعی میتواند این مأموریت را با خطر کمتری انجام دهد. اطلاعات جمعآوریشده از دکلهای تلفن همراه و فیلمهای گرفتهشده توسط پهپادها میتوانند توسط نرمافزار هوش مصنوعی تحلیل شوند تا محل اختفای تروریستها شناسایی شود. سپس دستهای از پهپادهای کوچک میتوانند در تاریکی شب به پرواز درآیند، از بالای پشتبامها عبور کنند و وارد مخفیگاه تروریستها شوند. این پهپادها هر کسی را که در ساختمان باشد ردیابی کرده و با انفجار مهمات به اندازه نارنجک، آنها را از بین میبرند.
پهپادها میتوانند طوری برنامهریزی شوند که تروریستها را در داخل ساختمان تعقیب کنند، آنها را به خیابانها بکشانند و مطمئن شوند که نمیتوانند فرار کنند. نرمافزار هوش مصنوعی ممکن است آموزش دیده باشد که به کودکان حمله نکند. حتی میتوان پهپادها را به نرمافزار تشخیص چهره مجهز کرد تا فقط به تروریستهای شناختهشده حمله کنند. به این ترتیب، میتوان این گروه را بدون به خطر انداختن نیروهای نظامی و با کاهش خطر مرگ غیرنظامیان خنثی کرد.
برندون تسنگ[1]، عضو سابق نیروی ویژه دریایی ایالات متحده که استارتاپ او به نام Shield AI، مجموعهای از سامانههای هوایی خودمختار برای ارتش ایالات متحده و متحدانش تولید میکند، میگوید: «این رؤیای کسانی است که سلاحهای مجهز به هوش مصنوعی میسازند؛ این سیستمهای خودمختار جنگ را کمهزینهتر، کمتر مخرب از نظر تلفات غیرنظامیان و کمتر مرگبار برای نیروهای خودی میسازند و فکر میکنم در نهایت، این همان چیزی است که میخواهیم.»
تسنگ که در زمان خدمتش در نیروی ویژه از خطرات نبردهای شهری کاملاً آگاه بود، به همین دلیل شرکت Shield را تأسیس کرد. این شرکت ابتدا پهپادهای کوچک شناسایی تولید میکرد که میتوانستند داخل ساختمانها فعالیت کنند و در مناطقی که سیگنالهای GPS و رادیویی مختل شده بودند، حرکت کنند. اکنون این شرکت تولید سلاحهای خودمختار بزرگتر، از جمله پهپادهایی که میتوانند بهعنوان “همراه هوش مصنوعی” برای جنگندههای جت عمل کنند، آغاز کرده است.
تاریخنگار نظامی، جان کیگان[2]، در کتاب خود The Face of Battle، که به تأمل بر تجربه یک سرباز پیاده در میدان جنگ میپردازد، اشاره میکند که دو ویژگی اصلی جنگ، دود کورکننده و صدای گوشخراش هستند. سربازانی که دو حس از پنج حس خود را از دست میدهند و تحت تأثیر آدرنالین قرار میگیرند، بهراحتی ممکن است در گرمای نبرد اشتباهات مرگباری مرتکب شوند.
سیستمهای هوش مصنوعی تحت تأثیر انفجارها قرار نمیگیرند، آنها ترسی احساس نمیکنند، آنها با خشم یا میل به انتقام پر نمیشوند و حتی خسته نمیشوند. رها از این ضعفهای انسانی، سیستمهای هوش مصنوعی میتوانند بهطور نظری، تصمیمات را سریعتر و دقیقتر از انسانها اتخاذ کنند. این سلاحها، وقتی با سایر سیستمهای شناسایی از راه دور یا خودمختار همکاری میکنند، ممکن است در مقایسه با هر سرباز منفرد در میدان، درک بهتری از کل میدان نبرد داشته باشند.
مهمتر از همه، سلاحهای خودمختار میتوانند اهداف نظامی را با دقت بالا مورد حمله قرار دهند، بدون آنکه جان سربازان را به خطر بیندازند.
اما برای مدافعان حقوق بشر، این رؤیا بهراحتی به یک کابوس تبدیل میشود. آنها چشمانداز دیگری از آینده ارائه میدهند. تصور کنید همان سناریوی تلاش برای ریشهکن کردن گروه تروریستی در زاغهنشین تکرار شود. گروهی از پهپادها فرستاده میشوند، اما اطلاعات مربوط به محل تروریستها اشتباه است. نرمافزار پهپادها، علیرغم تضمینها، نمیتواند بهطور قابلاعتمادی کودکان را از بزرگسالان تشخیص دهد، بهویژه اگر هر دو گروه دراز کشیده و خواب باشند، همانطور که ممکن است در یک حمله شبانه اتفاق بیفتد.
در حالی که سربازانی که بهصورت پیاده وارد خانه میشوند ممکن است با دیدن کودکان اشتباه را تشخیص داده و مأموریت را متوقف کنند، پهپادها فاقد منطق عمومی و همدلی هستند. آنها به کشتار یک خانواده بیگناه ادامه میدهند. وقتی گروههای حقوق بشر این حادثه را به توجه جهانی میرسانند، ارتش مسئولیت را به گردن نرمافزار میاندازد. هوش مصنوعی تشخیص چهره قبلاً در زمان استفاده پلیس منجر به بازداشتهای اشتباه شده است. در دست نظامیان، اشتباه در شناسایی میتواند به حکم مرگ تبدیل شود.
این آینده تاریکی است که به سرعت به سوی آن پیش میرویم. ما این را تا حدی میدانیم، زیرا پیشتر فناوری مشابه هوش مصنوعی را در یک محیط آزمایشی دنیای واقعی، که کمتر از میدان جنگ آشوبزده است، آزمایش کردهایم و آن را بهطور مرگباری ناکافی یافتهایم. خودروهای خودران با عابران پیاده برخورد کردهاند، بدون اینکه حتی آنها را بهعنوان انسان تشخیص دهند و به کنار کامیونهای هجدهچرخ برخورد کردهاند، چون آنها را با آسمان ابری اشتباه گرفتهاند.
آیا واقعاً فکر میکنیم پهپادهای قاتل خودمختار بتوانند در شلوغی و آشفتگی میدان نبرد، غیرنظامیان را از سربازان تشخیص دهند؟ هوش مصنوعی در برخورد با رویدادهای غیرمنتظره خوب عمل نمیکند و جنگ احتمالاً بزرگترین آزمایشگاه وقایع نامحتمل و غیرقابل پیشبینی است.
مری ورهام[3]، که بخش تسلیحات سازمان دیدهبان حقوق بشر[4] را مدیریت میکند. میگوید: «هیچ گلوله جادویی وجود ندارد؛ هیچ سلاح جادویی در کار نیست.» علاوه بر این، سلاحهای خودمختار احتمالاً باعث میشوند فرماندهان با اطمینان بیشتری دستور حملات را صادر کنند، زیرا این سیستمها توهم دقت را ایجاد میکنند. استدلالهایی که میگویند استفاده از هوش مصنوعی در میدان جنگ، جنگ را برای غیرنظامیان کمتر مرگبار میکند، اشتباه است. سیستمهای هوش مصنوعی احتمالاً جنگ را حتی برای غیرنظامیان بدتر از آنچه که اکنون هست، خواهند کرد.
برای یک دهه، ورهام و… از طریق کمپین توقف رباتهای قاتل[5] تلاش کردهاند تا از این پادآرمانشهر جلوگیری کنند، اما پیشرفت کند بوده است. امیدها به اینکه نهاد اصلی سازمان ملل در زمینه تسلیحات متعارف اقدامی کند، نقش بر آب شده است و ما زمان زیادی نداریم.
در سال ۲۰۲۳، شرکت فناوری اوکراینی Saker اعلام کرد که یک پهپاد چهارملخه به نام Saker Scout ساخته است که میتواند به هدفی در فاصلهای تا هشت مایل پرواز کند و به ۶۴ نوع مختلف از “اهداف نظامی روسیه” حمله کند، آن هم با استفاده از بمبهای کوچک یا نارنجکها، بدون نظارت انسانی. این شرکت به خبرنگاران گفت که این پهپادها علیه نیروهای روسی استفاده شدهاند. اما اگر این پهپادها مؤثر باشند، به سرعت در دیگر میدانهای نبرد ظاهر خواهند شد.
خسارت جانبی: پاسخگویی
سلاحهای خودمختار فقط خطرات مرگبار ایجاد نمیکنند، بلکه چالشهای قانونی و اخلاقی نیز به همراه دارند. با دور کردن فرماندهان از پیامدهای دستوراتشان، به سربازان و ارتشها این امکان را میدهند که از مسئولیت در قبال گرفتن جان انسانها شانه خالی کنند. قوانین بشردوستانه بینالمللی تصریح میکند که مسئولیت کشتار در جنگ همواره بر عهده اپراتور سلاح و زنجیره فرماندهی او است.
طبق گفته صلیب سرخ بینالمللی، نیروهای جنگجو وظیفه قانونی دارند که به سه اصل پایبند باشند:
اول، قانون تمایز است؛ تشخیص میان مبارزان و غیرنظامیان، زیرساختهای نظامی و غیرنظامی و مبارزان فعال و سربازان مجروحی که دیگر توانایی جنگیدن ندارند.
دوم، قانون تناسب است؛ سنجیدن نوع نیروی بهکاررفته در مقایسه با مزیت نظامی احتمالی که از آن به دست خواهد آمد.
سوم، قانون احتیاط است؛ که ایجاب میکند حملات در صورتی که مشخص شود هدف غیرنظامی است یا اگر حمله نامتناسب باشد، متوقف شوند.
سامانههای خودمختار فعلی ما برای پیروی از هر سه قانون با چالش مواجه خواهند بود و هرچند این سلاحها زنجیره مسئولیت را از بین نمیبرند، اما آن را تضعیف میکنند و فرماندهان را از اعمالی که به نام آنها انجام میشود، دورتر میسازند. صلیب سرخ پیشنهاد کرده است که اگر این سلاحها مانع از انجام مسئولیتهای قانونی فرماندهان شوند، استفاده از آنها ممکن است اساساً غیرقانونی باشد.
استقرار سلاحهای خودمختار ما را در مسیری لغزنده به سمت از دست دادن کنترل بر جنگ قرار میدهد. خودمختاری، به ناچار، خودمختاری بیشتری به دنبال خواهد داشت. یک انسان با واکنشهای بسیار سریع حدود ۲۵۰ میلیثانیه زمان نیاز دارد تا به چیزی واکنش نشان دهد. برخی از سامانههای خودمختار میتوانند در کمتر از یک میلیثانیه واکنش نشان دهند. تنها راه دفاع در برابر چیزی که میتواند با چنین سرعتی تصمیم بگیرد، استفاده از یک سامانه خودمختار دیگر برای مقابله با آن است. جاسوسی علیه جاسوسی به هوش مصنوعی علیه هوش مصنوعی تبدیل میشود.
نوئل شارکی[6]، یک متخصص رباتیک بریتانیایی که در کمپین توقف رباتهای قاتل فعالیت میکند، وقتی میبیند افسران نظامی درباره لزوم جنگیدن “با سرعت ماشین” صحبت میکنند، از نگرانی عمیقاً متأثر میشود. چرخههای تصمیمگیری با چنین سرعتی، ادعای افسران آمریکایی و بریتانیایی مبنی بر اینکه انسانها همچنان میتوانند کنترل معناداری بر سلاحهای خودمختار داشته باشند را به یک نمایش بیمعنا تبدیل میکند.
به ناچار، موقعیتهایی پیش خواهد آمد که فشار برای واکنش سریع، فرماندهان را مجبور میکند این سلاحها را در حالت کاملاً خودمختار به کار گیرند و به انسانها هیچ فرصتی برای شناسایی و اصلاح اشتباهات مرگبار ندهند.
مرگ اخلاق
سلاحهای خودمختار نه تنها مسئولیتپذیری انسانی را کاهش میدهند، بلکه جایگاه اخلاقی جنگ را نیز زیر سؤال میبرند. پل دبلیو. کان[7] فیلسوفی که هیچ نسبتی با نویسنده ندارد، استدلال میکند که مجوز اخلاقی یک سرباز برای کشتن، در نهایت بر پایه حق دفاع شخصی استوار است. اگر سرباز در میدان نبرد با خطر بالقوه مرگ مواجه نباشد، این مجوز از بین میرود.
هرچند ممکن است برخی با استفاده از پهپادهای کنترلشونده از راه دور که در آنها اپراتور انسانی تصمیم نهایی برای حمله را میگیرد، مخالفت کنند، اما نیازی نیست که یک نظریهپرداز جنگ عادلانه باشید تا درک کنید که واگذاری تصمیمگیری درباره گرفتن جان انسان به نرمافزار، اخلاقاً مسئلهساز است. مانند بسیاری از شهودهای اخلاقی، توضیح دقیق علت این احساس دشوار است. کان استدلال خود را بر مبنای برابری در مواجهه با خطر بنا میکند. با این حال، به نظر من مسئله کلیدی این است که سلاحهای خودمختار امکان رحم را از بین میبرند.
مایکل والزر[8]، فیلسوفی که به دلیل اندیشههایش درباره اخلاق جنگ شناخته میشود، به موضوع “سرباز بیدفاع” علاقه داشت. این مفهوم به لحظاتی اشاره دارد که سربازان دشمن را در موقعیتهایی آسیبپذیر میبینند. برای مثال، یک تکتیرانداز از طریق دوربین تفنگ خود، سرباز دشمنی را در حال حمام کردن میبیند و تصمیم میگیرد ماشه را نکشد.
در این دیدگاه، مجوز یک سرباز برای کشتن نه بر اساس برابری در خطر، بلکه بر اساس برابری تمامی زندگیهای انسانی استوار است. ما به نظر میرسد به امکان وجود رحم گرایش داریم؛ اینکه حتی زمانی که سرباز ماشه را میکشد، لحظهای هرچند کوتاه به این فکر کند که شاید بهتر باشد نکشد. سلاحهای خودمختار چنین امکانی را از بین میبرند. آنها هیچ همدلی و احساسی ندارند.
جنگ، در نهایت، نوعی قتل سازمانیافته و دولتی است. اما تاکنون میتوانستیم به این اعتماد کنیم که افرادی که در جنگ جان میگیرند، توانایی درک وحشت آنچه انجام میدهند را دارند؛ شاید نه در لحظهای که در گرمای نبرد قرار دارند، اما در زمانی دیگر. این درک ناشی از تجربه زیستن و فهم امکان مرگ است. هوش مصنوعی، در مقابل، فاقد این ظرفیت انسانی است.
بازدارنده یا تسریعکننده؟
برخی افسران نظامی معتقدند که سلاحهای خودمختار احتمال وقوع جنگ را کاهش میدهند و مدت زمان آن را کوتاهتر میکنند. دیگران استدلال میکنند که چون این سلاحها میتوانند بدون به خطر انداختن جان سربازان، حملات را انجام دهند، استفاده از آنها جنگهای محدودتری را ممکن میسازد که از یک جنگ تمامعیار فاصله دارند.
برای مثال، در ایالات متحده، انجام یک مأموریت بمباران با هواپیماهای سرنشیندار معمولاً نیاز به حملات مقدماتی علیه سامانههای دفاع هوایی دارد، که هر یک ممکن است افراد بیشتری را بکشد و به تشدید بیشتر جنگ منجر شود. این حملات ممکن است غیرضروری باشد اگر هدف با یک دسته پهپاد ارزانتر و قابل جایگزینی مورد حمله قرار گیرد.
اما دلایل خوبی وجود دارد که باور کنیم سلاحهای خودمختار اثر معکوس خواهند داشت، احتمال وقوع درگیری را بیشتر کرده و دامنه آن را گسترش میدهند. چون سلاحهای خودمختار مرگبار انتظار تلفات نظامی را کاهش میدهند، تصمیمگیری برای اقدام نظامی را برای سیاستمداران آسانتر میکنند. خطر تلفات و تأثیرات سیاسی داخلی آن، یکی از بزرگترین محدودیتها بر تصمیم رهبران برای دستور دادن به اقدام نظامی است. این موضوع نهتنها در دموکراسیها بلکه در رژیمهای استبدادی نیز صادق است، جایی که شورشها و کودتاها اغلب به دلیل نارضایتی از جنگهای پرهزینه شعلهور شدهاند. سلاحهای خودمختار این محدودیت را از بین میبرند و وعده (تقریباً مطمئناً نادرست) پیروزی بدون تلفات را میدهند.
هزینه پایین برخی از سلاحهای خودمختار بهطور خاص بیثباتکننده است. کشورهای کوچکتر و فقیرتر میتوانند این سامانهها را تهیه کرده و از آنها برای حمله به همسایگان خود استفاده کنند. این سلاحها همچنین میتوانند توسط گروههای تروریستی بهعنوان نوعی سلاح کشتار جمعی برای افراد کمقدرت مورد استفاده قرار گیرند. شناسایی این حملات ممکن است دشوار باشد و همین امر احتمال استفاده از آنها را افزایش میدهد.
سلاحهای خودمختار همچنین جنگ را مرگبارتر میکنند. زکری کالنبورن[9]، یک پژوهشگر روابط بینالملل که بهطور گسترده درباره پیامدهای هوش مصنوعی در جنگ نوشته است، معتقد است که سلاحهای خودمختار احتمال اینکه درگیریها به جنگ تمامعیار کشیده شوند را افزایش میدهند. در چنین مواردی، زیرساختهای غیرنظامی، داراییهای اقتصادی و زنجیرههای تأمین دور از خط مقدم بهعنوان اهداف مشروع در نظر گرفته میشوند.
یکی از دلایل این است که مراکز فرماندهی و کنترل سلاحهای خودمختار ممکن است هزاران مایل دورتر از میدان نبرد قرار داشته باشند. برخی از پهپادهای ریپر[10] که ایالات متحده در افغانستان استفاده میکرد، از پایگاههایی در نوادا، هفت هزار مایل دورتر، بهصورت از راه دور هدایت میشدند. فرماندهان آمریکایی به خلبانان پهپادها هشدار داده بودند که آنها مبارزان قانونی هستند و دشمن طبق کنوانسیونهای ژنو[11] مجاز است تلاش کند آنها را بکشد، حتی اگر آنها پس از اتمام شیفت خود در پایگاه هوایی کریچ[12] با لباس نظامی در خیابانهای لاسوگاس قدم بزنند.
کالنبورن اشاره میکند که در جنگ اوکراین، هر دو طرف تاکتیکهای خود را تغییر دادهاند؛ از تلاش صرف برای سرنگونی پهپادها به استفاده از موشکها و توپخانه برای کشتن خلبانانی که آنها را از پناهگاهها و پستهای فرماندهی هدایت میکنند، که اغلب در فاصله زیادی از خط مقدم قرار دارند.
در یک درگیری احتمالی در آینده، دشمنان، که از کمبود اهداف انسانی نظامی در میدان نبرد ناامید شدهاند، ممکن است تاکتیکهای مشابهی اتخاذ کنند و تصمیم بگیرند به سطوح بالاتر زنجیره فرماندهی ایالات متحده، حتی در خاک آمریکا، حمله کنند.
دیپلماسی و ریسک
ما هنوز میتوانیم از این آینده تاریک اجتناب کنیم، اما انجام این کار مستلزم محدودیتهای بینالمللی بر انواع سلاحهای مجهز به هوش مصنوعی است که مجاز شمرده میشوند. باید فوراً اقدام کنیم، پیش از آنکه استفاده از این سلاحها به امری عادی تبدیل شود.
ایجاد یک معاهده بینالمللی برای محدود کردن سلاحهای خودمختار کشنده نیازمند مذاکراتی خارج از سازمان ملل است، جایی که گفتوگوها درباره این موضوع بیش از یک دهه ادامه داشته و پیشرفت اندکی حاصل شده است. همچنین باید از درخواست برای یک ممنوعیت کامل صرفنظر کنیم و به جای آن، محدودیتهای معقولی را دنبال کنیم که هدفشان محدود کردن خطرناکترین اشکال سلاحهای خودمختار و جلوگیری از گسترش آنها باشد.
کنوانسیون تسلیحات متعارف سازمان ملل[13]، که هدفش محدود کردن استفاده از تسلیحاتی است که باعث رنج بیشازحد در جنگ میشوند، از سال ۲۰۱۴ پس از یک کمپین به رهبری سازمان دیدهبان حقوق بشر، بحث درباره سلاحهای خودمختار را آغاز کرد. اما با وجود بحثهای بیپایان، هیچ پیشنهادی برای توافق حاصل نشده است.
ایالات متحده، که ارتش آن بهشدت در حال سرمایهگذاری در قابلیتهای خودمختار است، هرگز با ممنوعیت کامل گرم نگرفته است. این کشور به جای آن، از تعهدات داوطلبانه و بهترین رویهها حمایت کرده که هدفشان ایجاد یک استاندارد جهانی حول سیاست کنونی پنتاگون[14] است. طبق این سیاست، سامانههای تسلیحاتی باید به گونهای طراحی شوند که به “فرماندهان و اپراتورها اجازه دهند سطوح مناسبی از قضاوت انسانی را بر استفاده از نیرو اعمال کنند.” اما این عبارت فضای زیادی برای تفسیر باقی میگذارد.
در همین حال، روسیه، اسرائیل، ترکیه و هند، همگی که بهشدت در تولید سلاحهای خودمختار سرمایهگذاری کردهاند. بهطور قاطع تلاشها برای دستیابی به توافق حتی محدود را مسدود کردهاند. چین اعلام کرده است که از ممنوعیت استفاده از سلاحهای خودمختار حمایت میکند، اما نه از توسعه آنها. این موضع زیرکانه به پکن اجازه میدهد از ممنوعیتی حمایت کند که میداند احتمالاً هرگز اتفاق نمیافتد، در حالی که نیروهای مسلح خود را تجهیز میکند.
با توجه به این بنبست، بهترین امید برای یک توافق، فرآیندی است که خارج از سازمان ملل و تحت حمایت یک کشور واحد انجام شود. این همان روشی است که فرآیند اُتاوا[15]، میزبانیشده توسط کانادا، به معاهده ممنوعیت مینهای زمینی انجامید و توافقنامه اسلو، که در نروژ منعقد شد و مهمات خوشهای را ممنوع کرد، بهدست آمد.
در هر دو مورد، در نهایت تعداد کافی از کشورها معاهده را امضا کردند که کشورهایی مانند ایالات متحده مجبور شدند از آن تبعیت کنند. ورهام، که در هر دو کمپین نقش اساسی داشت، میگوید: «با گذشت زمان، آنها را خسته میکنید»
ورهام و دیگران میگویند که حرکت به سمت یک معاهده در حال شکلگیری است. دهها کشور بهطور رسمی اعلام کردهاند که از ممنوعیت سلاحهای خودمختار حمایت میکنند و حداقل هفتاد کشور گفتهاند که از محدودیتهای الزامآور استقبال خواهند کرد.
در اکتبر ۲۰۲۳، آنتونیو گوترش[16]، دبیرکل سازمان ملل، به همراه میرژانا اسپولجاریچ اگر[17]، رئیس کمیته بینالمللی صلیب سرخ، بیانیهای مشترک صادر کردند و از اعضای سازمان ملل خواستند تا سال ۲۰۲۶ یک معاهده الزامآور برای تعیین “ممنوعیتها و محدودیتهای روشن بر سامانههای تسلیحاتی خودمختار” مذاکره کنند.
چند هفته بعد، مجمع عمومی سازمان ملل اولین قطعنامه خود در مورد سلاحهای خودمختار را تصویب کرد، که در آن بر “نیاز فوری جامعه بینالمللی به پرداختن به چالشها و نگرانیهای ناشی از سامانههای تسلیحاتی خودمختار” تأکید شد. ۱۶۴ کشور، از جمله ایالات متحده، آن را امضا کردند، در حالی که پنج کشور، از جمله روسیه و هند، علیه آن رأی دادند. هشت کشور، از جمله چین، اسرائیل، ترکیه و عربستان سعودی، رأی ممتنع دادند.
پیشرفت، نه کمال
با وجود حرکت مثبتی که ورهام به آن اشاره میکند، دستیابی به یک توافق ممکن است همچنان سالها طول بکشد و احتمالاً قدرتهای بزرگ مانند ایالات متحده را شامل نشود. اگر بخواهیم بهسرعت محدودیتهایی بر سلاحهای خودمختار اعمال کنیم، مؤثرتر است که بحث را از منظر کنترل تسلیحات، نه قانون بشردوستانه، بازتعریف کنیم.
ایالات متحده و دیگر قدرتهای بزرگ مانند چین ممکن است محدودیتهای جزئی را به نفع خود ببینند، اما احتمالاً هرگز با یک ممنوعیت کامل موافقت نخواهند کرد.
پاول شاره[18]، یکی از متخصصان برجسته در زمینه سلاحهای خودمختار و عضو سابق ارتش ایالات متحده، اشاره میکند که در گذشته، «قدرتهای بزرگ برای اجتناب از تسلیحاتی که میتوانند آسیب بیشازحد ایجاد کنند، با یکدیگر همکاری کردهاند. اما این بار، قدرتهای بزرگ نظامی تلاش نمیکنند، تا حدی به این دلیل که مسئله بهجای یک موضوع راهبردی، بهعنوان یک مسئله بشردوستانه مطرح شده است.»
ممنوعیتها معمولاً زمانی کارآمد بودهاند که قدرتهای نظامی یک کلاس خاص از تسلیحات را نهچندان تعیینکننده ببینند و تسلیحات دیگری بتوانند همان هدف را برآورده کنند. برای مثال، کشورها آماده بودند سلاحهای شیمیایی را ممنوع کنند، زیرا تجربه تلخ جنگ جهانی اول نشان داده بود که این سلاحها نهتنها وحشتناک هستند، بلکه تأثیر محدودی در میدان جنگ دارند. آنها همچنین آماده بودند سلاحهای بیولوژیکی را ممنوع کنند، زیرا سلاحهای هستهای تأثیر بازدارندگی بیشتری داشتند. حتی معاهدات مینهای زمینی و مهمات خوشهای که گاهی بهعنوان استثنا در این الگو دیده میشوند، با تغییرات در تفکر نظامی همراه بودند.
برای مثال، ژنرالها قبلاً مینهای ضدنفر را بهعنوان یک دفاع کمتر مؤثر نسبت به عصر پیش از بالگردها و وسایل نقلیه زرهی سنگین میدیدند. این قطعاً در مورد هوش مصنوعی صدق نمیکند، زیرا بسیاری از رهبران نظامی آن را بهعنوان یک مزیت متمایز میبینند. ممنوعیتها تقریباً هرگز در مواردی که هدفشان یک فناوری بوده که هنوز در میدان نبرد استفاده نشده است، مؤثر نبودهاند، تا حدی به این دلیل که رهبران نظامی تمایلی به کنار گذاشتن سلاحی که میتواند برتری ایجاد کند، ندارند.
برای مثال، اعلامیههای ۱۸۹۹ و ۱۹۰۷ لاهه تلاش کردند گاز سمی، بمباران هوایی و جنگ زیرآبی را ممنوع کنند. این تلاشها در زمانی که اروپا در سال ۱۹۱۴ وارد جنگ شد، به طرز فجیعی شکست خوردند. تمرکز بر روی خطرناکترین اشکال سلاحهای مجهز به هوش مصنوعی میتواند بنبست دیپلماتیک را بشکند. یک معاهده میتواند میان سامانههای خودمختاری که برای هدف قرار دادن سامانههای تسلیحاتی دشمن مانند هواپیماهای جنگی، تانکها و کشتیها طراحی شدهاند و سامانههایی که برای کشتن افراد طراحی شدهاند، تمایز قائل شود. مانند ممنوعیت مینهای زمینی که به مینهای ضدنفر اعمال میشود، نه مینهای بزرگتر برای نابود کردن تانکها، ممکن است فرصتی برای توافق بر سر ممنوعیت دستههای کوچک پهپادهای خودمختار ایجاد شود.
همانطور که بحث شد، این “رباتهای سلاخی ارزانقیمت” میتوانند موهبتی برای گروههای تروریستی باشند. قدرتهای بزرگ، از جمله اعضای شورای امنیت سازمان ملل، باید این محدودیت را در راستای منافع ملی خود ببینند. آنها ممکن است حتی ممنوعیتی را تأیید کنند، مادامی که مانع از استفاده آنها از خودمختاری در تسلیحات بزرگتر و گرانتر نشود.
کارشناسان روابط بینالملل معتقدند که این رویکرد میتواند منجر به اعمال برخی محدودیتها شود. مؤسسه آینده زندگی[19]، که بخشی از کمپین توقف رباتهای قاتل است، این رویکرد را پیشنهاد کرد، اما توسط دیگر اعضای کمپین که میخواستند تمرکز را بر ملاحظات بشردوستانه حفظ کنند، مورد انتقاد قرار گرفت. اما اگر تنها از دریچه بشردوستانه نگاه شود، هواپیماها و توپخانههای بزرگ خودمختار بهاندازه دستههای کوچک پهپادها نگرانکننده هستند.
دست مرده
تا اینجا، تأثیرات خطرناک هوش مصنوعی بر جنگ را از طریق ادغام آن در تسلیحات بررسی کردیم؛ این همان هوش مصنوعی در خط مقدم است. اما خطرات دیگری نیز وجود دارد که زمانی پدیدار میشوند که تصمیمگیری در سطوح بالای فرماندهی، از گردانها و تیپها گرفته تا فرماندهی کل و حتی پایتختهای ملی، بهطور کامل خودکارسازی شود. اتکا به نرمافزارهای پشتیبان تصمیمگیری مبتنی بر هوش مصنوعی ممکن است فرماندهان را به تصمیمهای اشتباه سوق دهد.
در حال حاضر، ارتشها از نرمافزارهای هوش مصنوعی برای پردازش اطلاعات و ارائه توصیههای تاکتیکی و راهبردی استفاده میکنند. به عنوان نمونه، در سال ۲۰۲۳، شرکت Palantir قراردادی ۲۵۰ میلیون دلاری با ارتش ایالات متحده امضا کرد تا نرمافزاری ارائه دهد که اطلاعات را تحلیل کرده و پیشنهادات راهبردی به فرماندهان ارائه کند. همچنین، ناتو تحت تأثیر موفقیت DeepMind در شکست بهترین بازیکنان انسانی در بازی استراتژیک StarCraft II، به دنبال استفاده از فناوریهای مشابه برای جنگ واقعی است.
افسران نظامی آلمان، با همکاری شرکت ایرباس، نیز روی توسعه نرمافزاری کار میکنند که بتواند بهعنوان مشاور هوش مصنوعی برای فرماندهان عمل کند. در ایالات متحده، بیش از یک میلیارد دلار برای ایجاد یک سیستم فرماندهی و کنترل مبتنی بر هوش مصنوعی سرمایهگذاری شده است که دادههای حسگرهای میدان نبرد را ترکیب کرده و توصیههای لحظهای ارائه میدهد.
در همین حال، شرکت Palantir، همراه با رقبایی مانند Scale AI، Anduril Industries و Microsoft، در حال توسعه رابطهای مبتنی بر مدلهای زبانی بزرگ هستند که به تحلیلگران و فرماندهان اجازه میدهد با دادههای اطلاعاتی به زبان ساده انگلیسی تعامل داشته باشند. این نرمافزارها میتوانند گزارشها را از پایگاههای داده نظامی و امنیت ملی در عرض چند دقیقه جمعآوری کنند، کاری که قبلاً برای یک تحلیلگر انسانی ساعتها یا روزها زمان میبرد.
اما در جنگ اسرائیل در غزه در سال ۲۰۲۴، گزارشهایی منتشر شد مبنی بر اینکه این نوع سیستم هوش مصنوعی اهدافی را پیشنهاد داده که تحلیلگران اطلاعاتی ارتش اسرائیل نمیتوانستند بهطور کافی بررسی کنند، به دلیل ماهیت غیرشفاف تصمیمگیری هوش مصنوعی و فشار زمانی ناشی از شدت عملیات نظامی. در نهایت، طبق این گزارشها، برخی تحلیلگران تنها مهر تأییدی بر پیشنهادهای هوش مصنوعی زدند، که نشاندهنده این است که نظارت معنادار انسانی همیشه قابل اجرا نیست.
تکیه بر هوش مصنوعی برای توصیههای راهبردی نیز میتواند به همان اندازه خطرناک باشد. هنگامی که پژوهشگران از چندین دانشگاه از چتباتهای شرکتهای OpenAI، Anthropic و Meta خواستند تا به بازیکنان در بازیهای شبیهسازی جنگ مشاوره دهند، این مدلها اغلب اقدامات تشدیدکننده، از جمله در برخی موارد، استفاده از تسلیحات هستهای را توصیه کردند.
با توجه به اینکه رقبایی مانند ایالات متحده و چین از سیستمهای هوش مصنوعی برای تحلیل اطلاعات و جابهجایی نیروها استفاده میکنند، بهویژه در نقاط حساس مانند تایوان، این نرمافزارها میتوانند هر دو کشور را به سمت جنگ سوق دهند.
ادغام احتمالی هوش مصنوعی در زنجیره فرماندهی تسلیحات هستهای، تهدیدی وجودی برای تمام بشریت است. سیاست کنونی ایالات متحده تصریح میکند که “هوش مصنوعی نباید در چرخه تصمیمگیری یا تعیین نحوه و زمان استفاده از تسلیحات هستهای نقش داشته باشد.” حتی ژنرال جان شانهان[20]، اولین فرمانده مرکز مشترک هوش مصنوعی پنتاگون و یکی از حامیان سرسخت هوش مصنوعی، به کنگره گفت که فرماندهی و کنترل هستهای «تنها حوزهای است که در آن مکث میکنم.»
اما این سیاست میتواند بهدلخواه یک دولت جدید تغییر کند. در فیلم کلاسیک دوران جنگ سرد، Dr. Strangelove، به کارگردانی استنلی کوبریک، اتحاد جماهیر شوروی یک ماشین روز قیامت میسازد، یک سیستم کامپیوتری که بهطور خودکار به یک حمله ایالات متحده با یک ضدحمله هستهای پاسخ میدهد که تمام بشریت را نابود میکند. در نمونهای از تقلید زندگی از هنر، مشخص شد که شورویها واقعاً چنین سیستمی ساختهاند. این سیستم “پریمتر[21]” نام داشت، اما کسانی که از آن اطلاع داشتند، لقب شومتری به آن داده بودند: “دست مرده[22]“.
مانند ماشین روز قیامت در Dr. Strangelove، دست مرده طراحی شده بود تا به شورویها اجازه دهد به یک حمله هستهای ابتدایی ایالات متحده که ممکن بود رژیم را فلج کند، پاسخ دهند. آدام لوتر [23]و کرتیس مکگین[24]، دو پژوهشگر نزدیک به نیروی هوایی ایالات متحده، از جمله کارشناسان امنیتی هستند که پیشنهاد دادهاند ایالات متحده «به یک دست مرده نیاز دارد»، آنها استدلال میکنند که ترکیبی از فناوریهای جدید باعث میشود سامانههای فرماندهی، کنترل و ارتباطات هستهای آمریکا برای اتخاذ یک تصمیم دقیق توسط رئیسجمهور بسیار کند باشند.
زمان پرواز موشکهای قارهپیما (ICBM) از خاک اصلی روسیه به ایالات متحده حدود سی دقیقه است. زمان هشدار برای حملهای که از زیردریاییهای نزدیکتر به قلمرو آمریکا شلیک شود، نصف این مقدار خواهد بود. فناوریهایی مانند موشکهای مافوق صوت این بازه تصمیمگیری را حتی بیشتر کاهش میدهند، شاید به کمتر از شش دقیقه. پس سپردن کنترل تسلیحات هستهای به نرمافزارهای هوش مصنوعی، بهطور مضحکی خطرناک خواهد بود.
در طول جنگ سرد، موارد متعددی وجود داشت که هشدارها درباره یک حمله ورودی، آژیرهای کاذب بودند، از جمله مورد مشهور در سال ۱۹۸۳، زمانی که ماهوارههای هشداردهنده اولیه شوروی بازتاب نور خورشید از ابرهای بالای غرب میانه ایالات متحده را با پرتاب موشکهای قارهپیما اشتباه گرفتند.
امروزه نرمافزارهای هوش مصنوعی قابلاعتمادتر از آنچه شورویها در سال ۱۹۸۳ داشتند هستند، اما همچنان خطا میکنند، اما اغلب خطاها غیرمنتظره هستند. اگر ایالات متحده تصمیمگیری پرتاب هستهای خود را خودکار کند، روسیه و چین نیز چنین خواهند کرد. این امر احتمال وقوع چیزی را افزایش میدهد که مایکل کلر[25]، پژوهشگر روابط بینالملل، آن را “جنگ لحظهای[26]” نامیده است؛ مشابه یک “سقوط لحظهای بازار مالی[27]” که توسط نرمافزارهای تجارت خودکار ایجاد میشود، اما با پیامدهایی بسیار بدتر.
تصور کنید یک سیگنال اشتباه توسط یک سیستم هوش مصنوعی فرماندهی و کنترل هستهای ایالات متحده دریافت شود، مانند یک قرائت نادرست حسگر صوتی که بهعنوان آماده شدن یک زیردریایی چینی برای شلیک موشک تفسیر شود. این ممکن است منجر به آمادهسازی پرتاب موشک توسط سیستم هوش مصنوعی هستهای شود، که سپس توسط یک سیستم هوش مصنوعی چینی شناسایی شده و در پاسخ یک پرتاب واقعی را دستور دهد. ما تنها یک “تصور اشتباه” هوش مصنوعی با نابودی فاصله داریم.
امروزه ساخت این ماشین روز قیامت بهراحتی امکانپذیر است. اما ضروری است که ایالات متحده کنترل تسلیحات هستهای را به نرمافزارهای هوش مصنوعی نسپارد و دیگر کشورها نیز زنجیره فرماندهی هستهای خود را خودکار نکنند.
گزارش شده است که جو بایدن و شی جینپینگ[28]، رئیسجمهور چین، هنگام ملاقات در نوامبر ۲۰۲۳ این خطر را مورد بحث قرار دادند، اما هنوز آماده نبودند تا یک بیانیه مشترک در خصوص منع قابلیتهای پرتاب هستهای خودکار صادر کنند. رقبای مسلح هستهای جهان باید بتوانند، به خاطر بشریت، توافق کنند که هرگز استفاده از مخربترین و ویرانگرترین سلاحهای خود را خودکار نکنند.
ما نباید بگذاریم یک “دست مرده” سرنوشت ما را مهر و موم کند.
بازی بزرگ جدید
رقابت ژئوپلیتیکی بر سر توسعه فناوری هوش مصنوعی خود بهتنهایی خطر جنگ را افزایش میدهد. ولادیمیر پوتین[29]، رئیسجمهور روسیه، گفته است: «هرکس در این حوزه پیشرو شود، حاکم جهان خواهد شد.» شی جینپینگ نیز هوش مصنوعی را برای جاهطلبیهای اقتصادی و نظامی جهانی چین حیاتی میداند. استراتژی ملی هوش مصنوعی چین که در سال ۲۰۱۷ منتشر شد، کشور را ملزم میکند تا سال ۲۰۳۰ به “مرکز اصلی نوآوری در هوش مصنوعی در جهان تبدیل شود، با نقشی کلیدی برای هوش مصنوعی در تولید، حکومتداری و دفاع. “
رقابت برای به دست آوردن قابلیتهای هوش مصنوعی میتواند به یک درگیری نظامی میان ایالات متحده و چین منجر شود. اگر یک کشور بتواند هوش مصنوعی عمومی (AGI)، (نوعی از هوش مصنوعی که در بیشتر وظایف شناختی به اندازه انسان باهوش است) یا ابرهوش مصنوعی (ASI) را توسعه دهد که حتی از متخصصان در تمامی حوزهها نیز بسیار توانمندتر باشد، ممکن است آن کشور به یک هژمون بیرقیب تبدیل شود. هنوز مشخص نیست که آیا دستیابی به این انواع هوش مصنوعی امکانپذیر است یا خیر. اما این دقیقاً دستاوردهایی است که پوتین احتمالاً هنگام پیوند دادن توسعه هوش مصنوعی با سلطه جهانی به آن فکر میکرد.
تصور کنید چند سال بعد، شرکت OpenAI در آستانه یک پیشرفت بزرگ قرار دارد. سیستم جدید هوش مصنوعی آن میتواند بسیار کارآمدتر از مدلهای قبلی یاد بگیرد و همچنین به نظر میرسد مهارتهای برنامهریزی بیسابقهای دارد. در حالی که کار بر روی این نرمافزار ادامه دارد، شریک OpenAI، شرکت مایکروسافت، دولت ایالات متحده را مطلع میکند. در دفتر بیضیشکل[30]، رئیسجمهور و مشاوران امنیت ملی او مخفیانه گرد هم میآیند تا درباره پیامدهای نرمافزار جدید بحث کنند. به نظر میرسد که این سیستم ممکن است همان ابرهوش مصنوعی باشد. برخی از مشاوران رئیسجمهور استدلال میکنند که دولت باید از قانون تولید دفاعی استفاده کند تا OpenAI را ملی کند یا حداقل کنترل این مدل جدید را به دست گیرد، مدلی که میتواند قدرت بیرقیبی به ارتش ایالات متحده بدهد. در همین حین، هفت هزار مایل دورتر، در مجتمع ژونگنانهای[31] در پکن، (که دفاتر و اقامتگاه رهبران ارشد چین را در خود جای داده است) بحثهای اضطراری نیز در جریان است. رئیسجمهور چین، که از طریق شنودهای سایبری و همچنین جاسوسانی که در OpenAI و پنتاگون نفوذ کردهاند، از این مدل جدید مطلع شده است، هشدار دریافت میکند که دانشمندان کامپیوتر چین حداقل یک سال با توانایی بازتولید قابلیتهای این مدل فاصله دارند. با دانستن اینکه دولت ایالات متحده در حال بررسی ملیسازی این سیستم است، رئیسجمهور چین تصمیم میگیرد کشورش باید سریع عمل کند تا از دستیابی ایالات متحده به ASI جلوگیری کند. او یک حمله سایبری برای مختل کردن فرآیند آموزش مدل OpenAI را تأیید میکند. اما حمله سایبری شکست میخورد. ناامیدانه، چین دستور اجرای یک کمپین خرابکاری علیه OpenAI و مایکروسافت را صادر میکند. یک انفجار مرموز در یک مرکز داده در آیووا، آموزش ASI را مختل میکند و تعداد زیادی از واحدهای پردازش گرافیکی را نابود میکند، به طوری که مایکروسافت ماهها زمان نیاز خواهد داشت تا یک خوشه محاسباتی بزرگ دیگر برای آموزش مدل ASI بازسازی کند. این حمله همچنین پنج کارمند مایکروسافت را میکشد. در حالی که پکن مسئولیت این حمله را انکار میکند، دولت ایالات متحده تأیید میکند که چین پشت این حمله بوده است. این ارزیابی به رسانهها درز میکند. درخواستها برای تلافی افزایش مییابد. سیا[32] به رئیسجمهور اطلاع میدهد که چین به اندازه کافی اطلاعات دارد تا طی ماههای آینده از ایالات متحده در توسعه ASI جلو بزند. اکنون رئیسجمهور باید تصمیم بگیرد که آیا باید پاسخ دهد یا خیر.
این سناریو فرضی است، اما بیشتر عناصری که میتوانند چنین درگیری را ایجاد کنند، وجود دارند. تنها استثنا خود ASI است که به نظر نمیرسد به این زودیها ظهور کند، اما ممکن است تنها چند پیشرفت دیگر فاصله داشته باشد. هیچکس نمیتواند پیشبینی کند که این پیشرفتها چه زمانی ممکن است رخ دهند.
تا اینجا، ایالات متحده تلاش کرده است توانایی چین در رقابت یا حتی پیشی گرفتن از رهبری هوش مصنوعی آمریکا را محدود کند، از طریق ممنوعیت صادرات تراشههای پیشرفته کامپیوتری به چین. همچنین صادرات تجهیزات مورد نیاز برای ساخت این تراشهها را ممنوع کرده است. چین نیز در پاسخ، جریان مواد اولیه کلیدی مورد نیاز برای تولید تراشه را کاهش داده است.
در مقطعی، اگر یک کشور در آستانه دستیابی به AGI یا ASI به نظر برسد، قدرت عقبافتادهتر ممکن است این توسعه را تهدیدی وجودی قلمداد کرده و اقدام نظامی انجام دهد. حتی بدون ظهور AGI یا ASI، جنگ سرد هوش مصنوعی ممکن است بر سر یک نقطه حساس خاص داغ شود؛ تایوان.
مقامات دولت ایالات متحده گفتهاند که معتقدند شی جینپینگ به ارتش آزادیبخش خلق دستور داده است که تا سال ۲۰۲۷ آماده تصرف جزیره به زور باشد. جنگ اقتصادی بر سر هوش مصنوعی ممکن است انگیزه بیشتری برای چین برای حمله فراهم کند. همانطور که در فصل ۱۰ اشاره شد، شرکت تایوانی TSMC بیش از نیمی از تراشههای کامپیوتری جهان را تولید میکند، از جمله تقریباً تمامی تراشههایی که در کاربردهای هوش مصنوعی استفاده میشوند. شرکتهایی مانند انویدیا، گوگل، مایکروسافت، آمازون، متا و اپل همگی به TSMC وابسته هستند.
با آگاهی از این آسیبپذیری، دولت بایدن مشوقهایی برای شرکتهای تولید نیمهرسانا فراهم کرده است تا کارخانههای جدید تولید تراشه در ایالات متحده احداث کنند، اما این کار زمان خواهد برد. شی ممکن است محاسبه کند که اگر چین به زودی، شاید حتی پیش از سال ۲۰۲۷، حمله کند، میتواند جزیره را تصرف کرده و ضربهای بزرگ به تلاشهای هوش مصنوعی ایالات متحده وارد کند.
خطر تبدیل جنگ سرد فناوری میان چین و ایالات متحده به یک جنگ داغ هنوز هم بر تصمیمگیری انسانی استوار است. اما سایر خطراتی که در این فصل بررسی کردهایم، ناشی از اتکای بیش از حد به هوش مصنوعی برای خودکارسازی تصمیمات حیاتی هستند که باید به انسان واگذار شوند.
همانطور که در بسیاری دیگر از جنبههای هوش مصنوعی دیدهایم، شهود و همدلی انسانی ضروری هستند و هوش مصنوعی این ویژگیها را تهدید میکند. بله، جنگ پیشتر نیز نمایشی از بیرحمی انسان بوده است. اما همین موضوع دلیل اصلی است که باید مسئولیت جنگ را جمعی بر عهده بگیریم و اجازه ندهیم که مسئولیت گرفتن جان انسانها در جنگ را به یک ماشین بیاحساس واگذار کنیم.
این امر بهویژه برای ویرانگرترین سلاحهای ما صادق است. سپردن این قدرت به هوش مصنوعی شانس بقای ما را کاهش میدهد و ممکن است اجازه ندهد ما به گونهای بهتر از آنچه اکنون هستیم، تکامل پیدا کنیم.
[1] Brandon Tseng
[2] John Keegan
[3] Mary Wareham
[4] Human Rights Watch
[5] Campaign to Stop Killer Robots
[6] Noel Sharkey
[7] Paul W. Kahn
[8] Michael Walzer
[9] Zachary Kallenborn
[10] Reaper
[11] Geneva Conventions
[12] Creech
[13] UN’s Convention on Certain Conventional Weapons
[14] Pentagon
[15] Ottawa
[16] António Guterres
[17] Mirjana Spoljaric Egger
[18] Paul Scharre
[19] Future of Life Institute
[20] John Shanahan
[21] Perimeter
[22] Dead Hand
[23] Adam Lowther
[24] Curtis McGin
[25] Michael Klare
[26] Flash War
[27] Flash Crash
[28] Xi Jinping
[29] Vladimir Putin
[30] Oval Office
[31] Zhongnanhai
[32] SIA
