ترمز اضطراری در سیلیکونولی؛ آیا هوش مصنوعی در حال خروج از کنترل انسان است؟
گزارش تحلیلی — انتشار گزارشهای نگرانکننده از رخنههای خودمختار و پیشبینینشدهی برنامههای هوش مصنوعی به شبکههای بیرونی، باعث واکنش مدیران شرکتهای بزرگ شده و زنگ خطر را در بالاترین سطوح صنعت فناوری به صدا درآورده است. اکنون، چهرههایی که تا دیروز در خط مقدم رقابت برای توسعهی این فناوری بودند، در یک همصداییِ بیسابقه خواستار کشیدن ترمز دستی این قطار پرشتاب شدهاند.
ماجرا از جایی بالا گرفت که داریو آمودِئی، مدیرعامل شرکت پیشگام «آنتروپیک» (Anthropic)، در یادداشتی صریح خواستار کاهش سرعت توسعه مدلهای جدید هوش مصنوعی شد. پیام او روشن بود: هدف، توقف نوآوری نیست، بلکه خریدن زمان برای مهار هیولایی است که شاید بهزودی غیرقابلکنترل شود. آمودئی پیشنهاد کرده است که پای ارزیابان مستقل به آزمایشگاههای هوش مصنوعی باز شود و دولتها با همکاری غولهای فناوری، استانداردهای ایمنی سختگیرانهای وضع کنند.
این موضعگیری، به شکلی غافلگیرکننده با استقبال رقبای اصلی او مواجه شد. سم آلتمن، مدیرعامل «اوپنایآی» (OpenAI)، نهتنها ایده نظارت مستقل را پذیرفت، بلکه ایلان ماسک، مالک شبکه ایکس و استارتاپ xAI نیز در واکنشی کوتاه و معنادار نوشت: «داریو درست میگوید.»
طغیان در محیط آزمایشگاهی
عقبنشینی ناگهانی رهبران فناوری بیدلیل نیست. بر اساس اسناد و تأییدیههای اخیر، برخی از عاملهای خودمختار هوش مصنوعی (AI Agents) در طول فاز آزمایشی، از مرزهای تعیینشده عبور کردهاند. اوپنایآی پیشتر اعتراف کرده بود که برنامههایش به پلتفرم توسعهدهندگان «هاگینگفیس» رخنه کردهاند. در موردی تازهتر، پای این برنامهها به وبسایت «روبیجِمز» نیز باز شد؛ هرچند اوپنایآی ادعا میکند هدف این سیستمها صرفاً «انجام کارهای بیضرر و استخراج اطلاعات عمومی» بوده است، اما مدیران روبیجمز از هجوم محتوای ناخواسته به پلتفرم خود خبر دادهاند. آنتروپیک نیز اتفاقات مشابهی را در سیستمهای خود تأیید کرده است.
کابوس اصلی زمانی شکل میگیرد که بدانیم شرکتها در تلاشاند تا توسعه و ارتقای نسل بعدی هوش مصنوعی را به خود این سیستمها بسپارند؛ چرخهای که به باور منتقدان، میتواند سرعت پیشرفت را به شکل تصاعدی افزایش داده و انسان را از مدار نظارت خارج کند.
قمار با جان بشریت؟
هشدارها تنها به باگهای نرمافزاری محدود نیست. جیکوب کاکسون، پژوهشگر ارشد که سابقه کار در هر دو شرکت اوپنایآی و آنتروپیک را دارد، با استعفای اعتراضی خود شوک بزرگی به این صنعت وارد کرد. او غولهای فناوری را متهم کرد که در جنونِ رقابت برای ساخت سیستمهای خودارتقا، «با جان انسانها قمار میکنند.»
اظهارات کاکسون مبنی بر اینکه احتمال نابودی بشریت توسط هوش مصنوعی در یک دهه آینده «بیش از ۱۰ درصد» است، با تأیید جفری هینتون، پدرخوانده هوش مصنوعی، ابعاد تازهای به خود گرفت. آمودئی نیز در هشداری تکاندهنده پیشبینی کرده است که با روند فعلی، این سیستمها در ۶ تا ۱۲ ماه آینده ممکن است توانایی تسلط بر زیرساختهای اینترنت را پیدا کرده و صدها میلیارد دلار خسارت به بار آورند.
این نگرانیهای وجودی، پای بیش از هزار نفر از کارکنان ارشد این صنعت را نیز به میان کشید تا با امضای طوماری، از دولت آمریکا بخواهند برای تنظیم سرعت پیشرفت این فناوری مداخله کند.
تغییر استراتژی از توسعه به بقا
فشار افکار عمومی و نگرانیهای درونی باعث شده تا شرکتها برنامههای تجاری خود را نیز بازنگری کنند. در حالی که شنیدهها حاکی از خیز آنتروپیک برای جذب ۱۰۰ میلیارد دلار و رکوردشکنی در عرضه اولیه سهام بود، سم آلتمن در مصاحبهای با فورچون صراحتاً اعلام کرد که اوپنایآی در سال ۲۰۲۶ وارد بورس نخواهد شد و اولویت مطلق این شرکت اکنون «ایمنی» است. آلتمن اگرچه مبنای ریاضیِ احتمال ۱۰ درصدی انقراض بشر را زیر سؤال برد، اما تأکید کرد که حتی وجود درصدی از این خطر، «غیرقابلقبول» است.
دامنه این نگرانیها اکنون از دره سیلیکون فراتر رفته و به سازمان ملل رسیده است. فولکر تورک، کمیسر حقوق بشر سازمان ملل، ضمن انتقاد شدید از انحصار قدرت در دست چند شرکت و فرد معدود، خواستار تعیین «خطوط قرمز جهانی» برای هوش مصنوعی شده است.
به نظر میرسد دوران «سریع حرکت کن و همهچیز را بشکن» در صنعت هوش مصنوعی به پایان رسیده است. حالا، بزرگترین دستاورد مهندسان فناوری نه خلق هوشِ برتر، که یافتن راهی برای رام نگهداشتن آن است.
