از سیلیکون‌ولی تا جزایر دورافتاده اقیانوس آرام، میلیاردرها در حال ساخت پناهگاه‌هایی برای روزی هستند که هوش مصنوعی از کنترل بشر خارج شود. این گزارش، نگاهی است به ترس‌های پنهان پشت چهره آرام نوآوری و شکافی که میان سازندگان فناوری و جهانی که بر آن تاثیر می‌گذارند، هر روز عمیق‌تر می‌شود.
نقشه فرار میلیاردرها
از «سیلیکون‌ولی» تا «نیوزیلند»، جنبشی آرام اما رو‌به‌رشد در میان قدرتمندترین چهره‌های دنیای فناوری در حال شکل‌گیری است. آنان که باور دارند هوش مصنوعی به‌زودی می‌تواند از کنترل انسان فراتر رود یا اینکه فروپاشی اجتماعی در پی خواهد داشت، خود را برای چیزی آماده می‌کنند که آن را «گذار» می‌نامند.
مدیرانی همچون سم آلتمن، پیتر تیل و مارک زاکربرگ میلیون‌ها دلار در پناهگاه‌های بقا، جزایر خصوصی و سامانه‌های امنیتی کنترل‌شده با هوش مصنوعی سرمایه‌گذاری می‌کنند؛ به این امید که ثروت و آینده‌نگری‌شان بتواند آنان را از پیامدهای آفریده‌های خودشان در امان نگه دارد. به نوشته مجله اپل، در سال‌های اخیر، بحران‌های جهانی از همه‌گیری‌ها و فاجعه‌های اقلیمی گرفته تا بی‌ثباتی سیاسی و رشد سریع هوش مصنوعی مولد برخی از رهبران سیلیکون‌ولی را قانع کرده است که جامعه در آستانه تحولی ریشه‌ای قرار دارد. شمار فزاینده‌ای از مدیران فناوری در حال خرید املاک دورافتاده در کشورهایی مانند نیوزیلند و ایسلند هستند.
املاکی که به‌گونه‌ای طراحی می‌شوند تا همچون پناهگاه‌های بقای خودکفا عمل کنند و بتوانند برای سال‌ها به‌طور مستقل دوام بیاورند. منطق پشت این آمادگی‌ها هم آخرالزمانی است و هم عمل‌گرایانه. با پیچیده‌تر شدن سامانه‌های هوش مصنوعی، نگرانی‌ها از مسائلی چون اتوماسیون شغلی و انتشار اطلاعات نادرست، به امکان ظهور «هوش عمومی مصنوعی» ماشین‌هایی که می‌توانند در هر زمینه‌ای از انسان پیشی بگیرند، تغییر جهت داده است.
همان میلیاردرهایی که سرمایه‌گذار اصلی این فناوری هستند، جزو نخستین کسانی‌اند که برای از دست رفتن احتمالی کنترل آن، مسیرهای فرار خود را آماده می‌کنند. سم آلتمن، مدیرعامل اوپن‌ای‌آی، آشکارا درباره برنامه‌های احتمالی‌اش برای شرایط اضطراری صحبت کرده است. او در مصاحبه‌هایی اعتراف کرده که سلاح، طلا و ماسک گاز نگه می‌دارد تا در مواقع اضطراری ناشی از «هوش مصنوعی یا عوامل زیستی مهندسی‌شده» از آنها استفاده کند. پیتر تیل، هم‌بنیان‌گذار پی‌پَل و پالانتیر، ملکی در نیوزیلند خریده تا به‌عنوان پناهگاه بلندمدت خود از آن استفاده کند. پناهگاهی که شامل سازه‌های زیرزمینی و سامانه‌های مستقل تولید غذا و انرژی است.
در پس این آمادگی‌ها، اضطرابی عمیق نسبت به فناوری‌هایی نهفته است که زندگی مدرن را شکل داده‌اند. هوش مصنوعی که با هدف بهینه‌سازی، پیش‌بینی و بهبود ساخته شده، پرسش‌های بنیادینی را نیز درباره معنای «انسان‌بودن» در جهانی که هرچه بیشتر به واسطه الگوریتم‌ها اداره می‌شود، مطرح کرده است. برای کسانی که عصر دیجیتال را بنا نهادند، ظهور هوش مصنوعی هم بزرگ‌ترین دستاورد است و هم بزرگ‌ترین تهدید.
برای نمونه، سرمایه‌گذاری‌های مارک زاکربرگ در جهان‌های مجازی مبتنی بر هوش مصنوعی، نویدبخش بازتعریف واقعیت‌اند، اما در عین حال از گسستی فزاینده با جهان فیزیکی حکایت دارند. بسیاری از این رهبران که زمانی آینده‌نگرانی خوش‌بین بودند، اکنون بیشتر شبیه مدیرانی محتاط سخن می‌گویند؛ آگاه از اینکه پیشرفت می‌تواند با سرعتی فراتر از توان کنترل خودشان به آشوب بدل شود. فیلسوفان و متخصصان اخلاق مدت‌هاست هشدار داده‌اند که خودکارسازی بی‌مهار می‌تواند نابرابری را تشدید کند و قدرت را در دستان صاحبان ماشین‌ها متمرکز سازد. از این منظر، پناهگاه‌های‌میلیاردرها بیش از آنکه نشانه پارانویا باشند، بازتاب غریزه حفظ بقا در سیستمی هستند که خودشان در ساختنش نقش داشته‌اند.
شکل جدید فئودالیسم دیجیتال
منتقدان این روند را نشانه‌ای از شکاف فزاینده میان نخبگان فناوری و جوامعی می‌دانند که بر آنها تاثیر می‌گذارند. درحالی‌که شهروندان عادی با چالش‌هایی چون از دست دادن شغل، نظارت گسترده و انتشار اطلاعات نادرست روبه‌رو هستند، ثروتمندترین افراد جهان در حال آماده‌سازی برای خروج کامل از این سیستم‌اند. با ساخت زیرساخت‌های خصوصی برای انرژی، غذا و امنیت که دیگر نیازی به اداره جمعی ندارند. طنز ماجرا در اینجاست که بسیاری از این چهره‌ها در عرصه عمومی از قانون‌گذاری برای هوش مصنوعی حمایت می‌کنند، اما در خلوت خود برای سناریوهایی آماده می‌شوند که در آن، همین تدابیر حفاظتی شکست می‌خورند.
این دوگانگی خوش‌بینی در ملأ عام و آماده‌باش در پشت‌صحنه بازتابی از اضطراب فرهنگی گسترده‌تری است؛ اضطرابی نسبت به شتاب تغییرات و محدودیت‌های کنترل انسانی. آینده‌پژوه، داگلاس را شکاف، که درباره این موضوع بسیار نوشته است، این طرز تفکر را «ذهنیتِ فرار» می‌نامد. به باور او، میلیاردرهای فناوری خود را شرکت‌کنندگان در تمدن نمی‌بینند، بلکه مدیرانِ افول آن می‌دانند. کسانی که به دنبال راه‌هایی برای حفظ برتری خود هستند، حتی اگر جامعه از هم بپاشد. راشکاف می‌نویسد: «آنها نمی‌خواهند جهان را درست کنند؛ می‌خواهند نسخه‌ای از جهان را داشته باشند که همچنان در خدمتشان باشد.»
دوراهی اخلاقی فرار
در قلب این اضطراب، مفهوم هوش عمومی مصنوعی نهفته است. نقطه‌ای که در آن، ماشین‌ها نه‌تنها توانایی‌های انسانی را تقلید می‌کنند، بلکه از آنها فراتر می‌روند. نقشه راه شرکت اوپن‌ای‌آی که توسط رقبایی چون آنتروپیک، ایکس‌ای‌آی و گوگل دیپ‌مایند نیز دنبال می‌شود، چشم‌انداز سامانه‌هایی را ترسیم می‌کند که قادر به خودبهبودی، برنامه‌ریزی راهبردی و حل خلاقانه مسائل فراتر از درک کنونی انسان هستند.
برای خوش‌بینان، هوش عمومی مصنوعی نمایانگر گام بزرگ بعدی در علم، پزشکی و حل مشکلات جهانی است. اما برای بدبینان از جمله برخی از خود سازندگانش جعبه‌ای سیاه از پیامدهای غیرقابل پیش‌بینی است. در این میان، این پرسش‌ها در ذهن ایجاد می‌شود:
چه رخ می‌دهد وقتی الگوریتم‌ها شروع به طراحی الگوریتم‌های جدید می‌کنند؟
یا زمانی که هوش ماشینی بتواند پیش از وقوع، مداخله انسان را پیش‌بینی و خنثی کند؟
چنین پرسش‌هایی همان ترس‌هایی را تغذیه می‌کنند که پشت ساخت پناهگاه‌ها و پناهگاه‌های دوردست دریایی نهفته‌اند. پتانسیل هوش مصنوعی صرفا اقتصادی نیست، وجودی است. این فناوری، سلسله‌مراتب قدرت انسانی را به چالش می‌کشد و برای کسانی که در رأس این هرم قرار دارند، این تغییر بیش از آنکه نشانه‌ای از پیشرفت باشد، شبیه وارونگی قریب‌الوقوعِ کنترل احساس می‌شود.
برخی این پروژه‌های بقا را نشانه‌ای از عقب‌نشینی اخلاقی می‌دانند. گواهی بر اینکه معماران فناوری مدرن دیگر به توانایی خود برای هدایت آن به سوی خیر اطمینان ندارند. دیگران استدلال می‌کنند که این اقدامات صرفا واکنشی منطقی به جهانی هستند که در آن، شتاب فناوری از ظرفیت نهادهای انسانی پیشی گرفته است. با این حال، همچنان این پرسش اخلاقی پابرجاست: نوآوران تا چه اندازه در برابر نظام‌ها و جوامعی که فناوری‌هایشان دگرگون می‌کند، مسوول‌اند؟
ساخت پناهگاه شاید بقای فردی را تضمین کند، اما ریشه‌های بی‌ثباتی یا نابرابری‌هایی را که این فناوری‌ها بازتولید می‌کنند، درمان نمی‌کند.در حالی گفت‌وگوهای عمومی پیرامون هوش مصنوعی اغلب بر بهره‌وری و خلاقیت متمرکز است که رفتارهای خصوصی نخبگان فناوری داستان دیگری روایت می‌کند. روایتی از ترس، کنترل و گسست.
پناهگاه‌های آنان در نیوزیلند و دیگر نقاط جهان نه‌تنها نماد امتیاز و ثروت هستند، بلکه نشانه‌ای از از‌دست‌رفتن ایمان به راه‌حل‌های جمعی نیز به شمار می‌آیند.
پارادوکس عصر هوش مصنوعی در این است که بزرگ‌ترین دستاوردهای دگرگون‌ساز آن هم‌زمان با ترس از فروپاشی پدیدار می‌شوند.
همان افرادی که پژوهش در زمینه ابرهوش و جاودانگی دیجیتال را تامین مالی می‌کنند، در حال آماده‌سازی برای سناریوهایی هستند که در آن، خود تمدن انسانی ممکن است بی‌اهمیت یا منقرض شود.
اینکه آینده به‌سوی آخرالزمانی فناورانه پیش برود یا به رنسانسی نو بدل شود، کمتر به ماشین‌ها بستگی دارد و بیشتر به انتخاب‌های انسانی‌ای مربوط است که آنها را هدایت می‌کنند. اما در حال حاضر شکاف رو به گسترش است. درحالی‌که بیشتر مردم جهان با نااطمینانی‌های ناشی از خودکارسازی دست‌وپنجه نرم می‌کنند، همان معدود کسانی که این سیستم‌ها را ساخته‌اند، به‌معنای واقعی کلمه در حال کندن زمین هستند. برای هر آنچه که در آینده در پیش است.
