وقتی سازندگان هوش مصنوعی از ساخته خود می‌ترسند

میلیارد‌درها در حال ساخت پناهگاه‌هایی برای روزی هستند که هوش مصنوعی از کنترل بشر خارج شود

در حالی که جهان در التهاب پیشرفت‌های هوش مصنوعی می‌سوزد، نخبگان فناوری ـ همان کسانی که این آینده را ساخته‌اند ـ بیش از هر زمان دیگری از پیامدهای آن بیمناک شده‌اند. از سیلیکون‌ولی تا جزایر دورافتاده اقیانوس آرام، میلیاردرها در حال ساخت پناهگاه‌هایی هستند برای روزی که هوش مصنوعی از کنترل انسان خارج شود.

به گزارش اخبار سبز کشاورزی؛ این گزارش نگاهی دارد به ترس‌های پنهان پشت چهره آرام نوآوری و شکافی که میان سازندگان فناوری و جهانی که بر آن اثر می‌گذارند، هر روز عمیق‌تر می‌شود.

نقشه فرار میلیاردرها

از سیلیکون‌ولی تا نیوزیلند، جنبشی آرام اما رو به رشد در میان قدرتمندترین چهره‌های فناوری شکل گرفته است. آنان که باور دارند هوش مصنوعی به‌زودی می‌تواند از کنترل انسان خارج شود یا فروپاشی اجتماعی در پی دارد، خود را برای «گذار» آماده می‌کنند.

سم آلتمن، پیتر تیل و مارک زاکربرگ میلیون‌ها دلار در ساخت پناهگاه‌های بقا، جزایر خصوصی و سامانه‌های امنیتی کنترل‌شده با هوش مصنوعی سرمایه‌گذاری کرده‌اند تا شاید ثروت و آینده‌نگری‌شان بتواند آنان را از پیامدهای آفریده‌های خود در امان نگه دارد.

به نوشته مجله اپل، بحران‌های جهانی اخیر ـ از همه‌گیری‌ها و فجایع اقلیمی تا بی‌ثباتی سیاسی و رشد سریع هوش مصنوعی مولد ـ بسیاری از رهبران سیلیکون‌ولی را متقاعد کرده است که جامعه در آستانه تحولی ریشه‌ای قرار دارد. شمار فزاینده‌ای از مدیران فناوری اکنون در حال خرید املاک دورافتاده در کشورهایی مانند نیوزیلند و ایسلند‌اند، املاکی که چون پناهگاه‌های خودکفای بقا طراحی می‌شوند تا برای سال‌ها به‌طور مستقل دوام بیاورند.

منطق پشت این آمادگی‌ها هم آخرالزمانی است و هم عمل‌گرایانه. با پیچیده‌تر شدن سامانه‌های هوش مصنوعی، نگرانی از اتوماسیون شغلی و گسترش اطلاعات نادرست به بیم از ظهور «هوش عمومی مصنوعی» تغییر جهت داده است؛ ماشین‌هایی که می‌توانند در هر زمینه‌ای از انسان پیشی بگیرند.

جالب آن‌که همین میلیاردرها که سرمایه‌گذاران اصلی این فناوری‌اند، جزو نخستین کسانی هستند که برای احتمال از دست رفتن کنترل آن، مسیر فرار خود را طراحی کرده‌اند. سم آلتمن، مدیرعامل OpenAI، آشکارا درباره برنامه‌های اضطراری خود سخن گفته و اعتراف کرده است که برای شرایط بحرانی ناشی از «هوش مصنوعی یا عوامل زیستی مهندسی‌شده» سلاح، طلا و ماسک گاز در اختیار دارد. پیتر تیل، هم‌بنیان‌گذار PayPal و Palantir، ملکی در نیوزیلند خریده که دارای سازه‌های زیرزمینی و سامانه‌های مستقل تولید غذا و انرژی است.

در پس این همه، اضطرابی عمیق نسبت به فناوری‌هایی نهفته است که زندگی مدرن را شکل داده‌اند. هوش مصنوعی که برای بهبود و پیش‌بینی ساخته شد، اکنون پرسش‌های بنیادینی درباره معنای انسان‌بودن در جهانی دارد که به‌واسطه الگوریتم‌ها اداره می‌شود. برای بنیان‌گذاران عصر دیجیتال، هوش مصنوعی هم بزرگ‌ترین دستاورد است و هم بزرگ‌ترین تهدید.

مارک زاکربرگ با سرمایه‌گذاری در جهان‌های مجازی مبتنی بر هوش مصنوعی، وعده بازتعریف واقعیت را داده است؛ اما هم‌زمان از گسستی فزاینده با جهان واقعی حکایت دارد. بسیاری از رهبران فناوری که روزگاری آینده‌نگرانی خوش‌بین بودند، اکنون سخنانی محتاطانه‌تر دارند. فیلسوفان و متخصصان اخلاق سال‌هاست هشدار می‌دهند که خودکارسازی بی‌مهار می‌تواند نابرابری را تشدید و قدرت را در دستان اندکی متمرکز کند. از این منظر، پناهگاه‌های میلیاردرها نشانه‌ای از غریزه حفظ بقا در سیستمی است که خود در ساختنش سهیم بوده‌اند.

فئودالیسم دیجیتال: چهره جدید شکاف طبقاتی

منتقدان این روند را نماد شکاف رو‌به‌گسترش میان نخبگان فناوری و جوامعی می‌دانند که بر آنها تأثیر می‌گذارند. در حالی که شهروندان عادی با چالش‌هایی چون از دست دادن شغل، نظارت فراگیر و انتشار اطلاعات جعلی روبه‌رو هستند، ثروتمندان جهان برای خروج کامل از این چرخه آماده می‌شوند و زیرساخت‌های خصوصی انرژی، غذا و امنیت خود را می‌سازند.

طنز ماجرا اینجاست که بسیاری از این افراد در انظار عمومی از قانون‌گذاری برای مهار هوش مصنوعی حمایت می‌کنند، اما در خلوت برای سناریوهایی آماده می‌شوند که همین تدابیر کارایی ندارد. این دوگانگی، بازتابی از اضطراب فرهنگی نسبت به شتاب تغییرات و محدودیت کنترل انسانی است.

به گفته داگلاس راشکاف، آینده‌پژوه آمریکایی، این طرز تفکر «ذهنیت فرار» نام دارد. او می‌گوید میلیاردرهای فناوری خود را مدیران افول تمدن می‌دانند نه شرکت‌کنندگان در آن؛ کسانی که می‌خواهند حتی پس از فروپاشی، نسخه‌ای از جهان را حفظ کنند که همچنان در خدمتشان باشد.

دوراهی اخلاقی فرار از هوش مصنوعی

در قلب این اضطراب، مفهوم «هوش عمومی مصنوعی» نهفته است؛ نقطه‌ای که ماشین‌ها نه‌تنها توانایی‌های انسانی را تقلید می‌کنند بلکه از آن نیز فراتر می‌روند. نقشه راه شرکت OpenAI و رقبای آن همچون Anthropic، xAI و Google DeepMind چشم‌انداز سامانه‌هایی را ترسیم می‌کند که قادرند بهبود خودکار، برنامه‌ریزی راهبردی و حل خلاقانه مسائل فراتر از درک انسانی انجام دهند.

برای خوش‌بینان، هوش عمومی مصنوعی گامی بزرگ در علم، پزشکی و حل بحران‌های جهانی است، اما برای بدبینان، از جمله برخی از سازندگانش، جعبه‌ای سیاه از پیامدهای غیرقابل پیش‌بینی است. این پرسش‌ها همچنان ذهن بشر را درگیر کرده است:

وقتی الگوریتم‌ها شروع به طراحی نسل‌های جدید خود کنند چه رخ می‌دهد؟

اگر هوش ماشینی بتواند مداخله انسانی را پیش از وقوع پیش‌بینی و خنثی کند چه می‌شود؟

چنین پرسش‌هایی، سوخت اصلی ترس‌هایی هستند که پشت ساخت پناهگاه‌های دورافتاده پنهان شده‌اند. تهدید هوش مصنوعی تنها اقتصادی نیست؛ وجودی است. این فناوری سلسله‌مراتب قدرت انسانی را به چالش می‌کشد و در چشم صاحبان فناوری، بیشتر از آنکه نشانه پیشرفت باشد، نشانه وارونگی قریب‌الوقوع کنترل است.

برخی این پروژه‌های بقا را عقب‌نشینی اخلاقی می‌دانند؛ گواهی بر اینکه معماران فناوری دیگر به توانایی خود برای هدایت دستاوردهایشان به سوی خیر جمعی اطمینان ندارند. در مقابل، برخی آن را واکنشی منطقی به شتابی می‌دانند که از ظرفیت نهادهای انسانی پیشی گرفته است.

با این حال، پرسش مسئولیت اخلاقی همچنان پابرجاست: آیا نوآوران در برابر جوامعی که فناوری‌شان دگرگون می‌کند، مسئول نیستند؟

ساخت پناهگاه شاید بقای فردی را تضمین کند، اما درمانی برای ریشه‌های بی‌ثباتی و نابرابری بازتولیدشده توسط فناوری نیست. در حالی که گفت‌وگوهای عمومی درباره هوش مصنوعی عمدتاً بر بهره‌وری و خلاقیت تمرکز دارد، رفتار خصوصی نخبگان فناوری داستانی از ترس، کنترل و گسست روایت می‌کند.

پناهگاه‌های آنان در نیوزیلند و دیگر نقاط جهان نه‌تنها نماد ثروت‌اند بلکه نشانه از دست‌رفتن ایمان به راه‌حل‌های جمعی نیز هستند. پارادوکس عصر هوش مصنوعی در این است که بزرگ‌ترین دستاوردهای آن هم‌زمان با ترس از فروپاشی ظاهر می‌شوند.

همان افرادی که پژوهش در حوزه ابرهوش و جاودانگی دیجیتال را تأمین مالی می‌کنند، اکنون برای سناریوهایی آماده می‌شوند که در آن تمدن انسانی ممکن است بی‌معنا یا منقرض شود. آینده بشر کمتر به ماشین‌ها و بیشتر به انتخاب‌های انسانی‌ای بستگی دارد که این مسیر را هدایت می‌کنند.

در حالی که بیشتر مردم جهان با نااطمینانی ناشی از خودکارسازی دست‌وپنجه نرم می‌کنند، همان معدود کسانی که این نظام‌ها را ساخته‌اند، به معنای واقعی در حال کندن زمین‌اند؛ برای هر آن‌چه که در آینده در پیش است./ دنیای اقتصاد