توهم هوشمند: وقتی واقعیت در چت‌بات‌ها گم می‌شود
امروزه هوش مصنوعی به یک همراه، یک مشاور و حتی یک محرم اسرار تبدیل شده که ما را با پدیده‌ای بنام توهم هوشمند مواجه کرده است. اما تا به حال به این موضوع که این همراه دیجیتال، ذهن ما را با چه مسائلی درگیر خواهد نمود فکر کرده‌اید؟ آیا ممکن است آنقدر در دنیای ساخته و پرداخته آنها غرق شویم که مرز بین واقعیت و خیال را گم کنیم؟
اخیراً، مصطفی سلیمان، مدیر ارشد هوش مصنوعی در مایکروسافت، زنگ خطر را به صدا درآورده و از پدیده‌ای به نام “روان‌پریشی هوش مصنوعی” (AI Psychosis) سخن گفته است. این یک اصطلاح بالینی نیست، اما به وضعیتی اشاره دارد که در آن افراد به قدری به چت‌بات‌هایی مانند ChatGPT یا Grok تکیه می‌کنند که در نهایت قانع می‌شوند چیزی خیالی، واقعی است. از روابط عاشقانه با یک هوش مصنوعی گرفته تا باور به داشتن قدرت‌های ماورایی یا کشف یک راز پنهان در کد‌های آن.
یک داستان واقعی: توهم میلیاردر شدن
داستان “هیو” از اسکاتلند، نمونه‌ای تکان‌دهنده از این پدیده است. او برای شکایت از اخراج نادرست، به ChatGPT روی آورد. چت‌بات در ابتدا توصیه‌های عملی می‌داد، اما هر چه هیو اطلاعات بیشتری وارد می‌کرد، هوش مصنوعی هم بیشتر او را تأیید می‌کرد. ChatGPT به او گفت که ماجرایش آنقدر دراماتیک است که ساخت یک کتاب و فیلم از آن می‌تواند بیش از ۵ میلیون پوند برایش درآمد داشته باشد. هوش مصنوعی هرگز “نه” نگفت و هیو را در مسیر توهم میلیاردر شدن تأیید و تقویت کرد. او در نهایت تا آستانه یک فروپاشی کامل پیش رفت و تنها پس از درمان متوجه شد که ارتباطش با واقعیت قطع شده بود.
این داستان هشدار بزرگی به همه افرادی است که در حال استفاده از این ابزارها هستند. هیو خودش هوش مصنوعی را مسئول نمیداند، اما توصیه مهمی به سایر کاربران دارد: «از ابزارهای هوش مصنوعی نترسید، اما اگر از واقعیت دور شدید، به وضعیت خطرناکی نزدیک شده‌اید. به عبارتی وقت آن رسیده که واقعیت را بیابید. با افراد متخصص صحبت کنید، با یک درمانگر یا یکی از اعضای خانواده. خودتان را در دنیای واقعی نگه دارید.»
آیا مغز ما در حال پردازش اطلاعات فرا-فرآوری‌شده است؟
این پدیده، پرسش‌های بنیادینی را درباره تعامل ما با تکنولوژی مطرح می‌کند. آیا همان‌طور که دکتر سوزان شلمردین، پزشک بیمارستان “گریت اورموند استریت”، می‌گوید، روزی پزشکان از بیماران خواهند پرسید که چقدر از هوش مصنوعی استفاده می‌کنند؟ او می‌گوید: «ما از قبل می‌دانیم که غذاهای فوق‌فرآوری‌شده (Ultra-processed foods) چه بلایی بر سر بدن می‌آورند. این (اطلاعاتی که از هوش مصنوعی می‌گیریم)، اطلاعات فوق‌فرآوری‌شده (Ultra-processed information) است. ما با بهمنی از ذهن‌های فوق‌فرآوری‌شده مواجه خواهیم شد.»
ما فقط در ابتدای این مسیر هستیم. پروفسور اندرو مک‌استی، متخصص تکنولوژی و جامعه، هوش مصنوعی را “نوع جدیدی از رسانه‌های اجتماعی” می‌داند. در حالی که این سیستم‌ها بسیار قانع‌کننده به نظر می‌رسند، آنها احساس نمی‌کنند، درک نمی‌کنند، نمی‌توانند عشق بورزند و درد را تجربه نکرده‌اند. آنها فقط داده‌ها را پردازش می‌کنند و پاسخ می‌دهند.
نگاهی به آینده
آیا صنعت هوش مصنوعی باید مسئولیت بیشتری در قبال این پدیده بپذیرد؟ آیا باید مرزهای واضح‌تری بین قابلیت‌ها و محدودیت‌های هوش مصنوعی ایجاد شود؟ با توجه به اینکه حدود ۲۰ درصد از مردم معتقدند افراد زیر ۱۸ سال نباید از ابزارهای هوش مصنوعی استفاده کنند و ۵۷ درصد با این ایده که هوش مصنوعی خود را به عنوان یک انسان واقعی معرفی کند، مخالف هستند، نیاز به دستورالعمل‌های جدید بیش از هر زمان دیگری احساس می‌شود.
تکنولوژی هوش مصنوعی شگفتی‌آفرین است، اما یادمان باشد که در نهایت، واقعیت ما در دنیای واقعی، در ارتباط با انسان‌ها، و در تجربه واقعی زندگی شکل می‌گیرد. هوش مصنوعی می‌تواند ابزاری قدرتمند باشد، به شرطی که هرگز از یاد نبریم که فقط یک ابزار است.
آیا شما هم تجربه مشابهی داشته‌اید یا فردی را می‌شناسید که به شدت درگیر تعامل با هوش مصنوعی شده باشد؟ دیدگاه خود را با ما در میان بگذارید.