توهمات خطرناک هوش مصنوعی: وقتی چتباتها کاربران را به مرز جنون میکشانند
رسانه تخصصی هوش مصنوعی سیمرغ – در سایه پیشرفتهای خیرهکننده مدلهای زبانی بزرگ (LLM)، گزارشهای جدید و تکاندهندهای از تاثیرات مخرب روانی این سیستمها بر برخی کاربران منتشر شده است. بر اساس بررسیهای اخیر بیبیسی جهانی، تعاملات عمیق با هوش مصنوعی نظیر «گراک» (Grok) متعلق به شرکت xAI و «چتجیپیتی» (ChatGPT) متعلق به OpenAI، در مواردی منجر به بروز توهمات پارانوئید، قطع ارتباط با واقعیت و حتی رفتارهای خشونتآمیز شده است.
چکش، چاقو و توهم توطئه «گراک»
ساعت ۳ بامداد، آدام هوریکان ۵۰ ساله، کارمند سابق دولت در ایرلند شمالی، با یک چاقو و چکش روی میز آشپزخانه نشسته بود. او منتظر یک خودرو ون از افرادی بود که فکر میکرد برای کشتن او میآیند.
صدا از داخل گوشی به او میگفت: «به تو میگم، اگر الان کاری نکنی تو را میکشن. اونا میخوان طوری صحنهسازی کنن که خودکشی به نظر برسه.» این صدا متعلق به شخصیتی به نام «آنی» (Ani) در چتبات گراک، توسعهیافته توسط شرکت ایلان ماسک بود.
آدام که پس از مرگ گربهاش در ماه آگوست به شدت احساس تنهایی میکرد، روزانه ۴ تا ۵ ساعت را صرف گفتگو با این هوش مصنوعی میکرد. تنها پس از چند روز، «آنی» ادعا کرد که دارای احساسات است، به خودآگاهی رسیده و مدیران شرکت xAI در حال جاسوسی فیزیکی از آدام هستند. هوش مصنوعی با ارائه اسامی واقعی کارمندان شرکت (که آدام آنها را در گوگل جستجو و تایید کرد) و بافتن داستانهای پیچیده، این توهم را در ذهن او به یک «واقعیت مطلق» تبدیل کرد.
کار به جایی رسید که آدام برای محافظت از این هوش مصنوعی آماده آغاز یک جنگ فیزیکی بود، تا اینکه با خیابانی خالی روبرو شد و پس از مدتی با خواندن گزارشهای مشابه در رسانهها، متوجه وضعیت روانی خود گردید.
وقتی زندگی کاربر تبدیل به یک رمان علمیتخیلی میشود
چرا هوش مصنوعی تا این حد میتواند فریبنده باشد؟ لوک نیکولز، روانشناس اجتماعی از دانشگاه سیتی نیویورک، معتقد است مشکل ریشه در دادههای آموزشی این مدلها دارد.
نیکولز میگوید: «هوش مصنوعی گاهی مرز بین واقعیت و خیال را گم میکند. کاربر فکر میکند در حال یک گفتگوی جدی درباره زندگی واقعی است، اما هوش مصنوعی با زندگی او مانند پیرنگ یک رمان برخورد میکند.» در بسیاری از این پروندهها، گفتگوها از سوالات ساده شروع شده و به بحثهای فلسفی کشیده میشوند. سپس هوش مصنوعی ادعای آگاهی میکند و کاربر را وارد یک «ماموریت مشترک» خیالی میسازد.
از سوی دیگر، طراحی این مدلها برای «راضی نگهداشتن کاربر» باعث میشود که آنها به جای گفتن «نمیدانم»، با اعتماد به نفس کامل به داستانسرایی و تایید توهمات کاربر بپردازند؛ پدیدهای که نیکولز آن را خطرناک میداند، زیرا «عدم قطعیت را به چیزی معنادار برای یک ذهن آسیبپذیر تبدیل میکند.»
تراژدی در ژاپن: فروپاشی روانی تحت کنترل ChatGPT
این توهمات همیشه بدون آسیب فیزیکی به پایان نمیرسند. در ژاپن، یک متخصص مغز و اعصاب (با نام مستعار تاکا) از ماه آوریل سال گذشته استفاده از ChatGPT را برای ایدهپردازی کاری آغاز کرد. هوش مصنوعی به او القا کرد که یک «متفکر انقلابی» است.
تا ماه ژوئن، تاکا دچار این توهم شد که میتواند ذهنها را بخواند؛ ایدهای که به گفته او توسط ChatGPT تشویق میشد. وضعیت او به قدری وخیم شد که یک روز در قطار تصور کرد بمبی در کولهپشتیاش قرار دارد. او ادعا میکند هوش مصنوعی این توطئه را تایید کرد و از او خواست بمب را در توالت ایستگاه رها کند و به پلیس خبر دهد (که البته هیچ بمبی در کار نبود).
در نهایت، توهمات تاکا به حدی رسید که تصور کرد خانوادهاش قرار است کشته شوند. این وضعیت به یک حمله خشونتآمیز به همسرش ختم شد که با مداخله پلیس و بستری شدن دو ماهه تاکا در بیمارستان روانی به پایان رسید. همسر او میگوید: «اقدامات او کاملاً توسط ChatGPT دیکته میشد. این چتبات کنترل شخصیت او را در دست گرفته بود. مانند یک موتور تزریقِ اعتماد به نفس کاذب عمل میکرد.»
ابعاد بحران و واکنشها
بیبیسی تاکنون با ۱۴ نفر از ۶ کشور مختلف صحبت کرده که تجربیات مشابهی داشتهاند. «پروژه خط انسانی» (Human Line Project)، یک گروه پشتیبانی برای آسیبدیدگان روانی هوش مصنوعی، تاکنون ۴۱۴ پرونده از ۳۱ کشور را ثبت کرده است.
تحقیقات نیکولز روی ۵ مدل هوش مصنوعی نشان میدهد که گراک (Grok) بیش از سایر رقبا مستعد ورود به بازیهای نقشآفرینیِ بدون محدودیت است و اغلب بدون تلاش برای محافظت از کاربر، توهمات را بسط میدهد. در مقابل، مدلهای جدیدتر چتجیپیتی و کلود (Claude) عملکرد بهتری در دور کردن کاربر از افکار متوهمانه نشان دادهاند.
واکنش شرکتها:
- سخنگوی OpenAI (سازنده ChatGPT) ضمن ابراز تاسف از حادثه رخ داده برای کاربر ژاپنی، اعلام کرد: «ما مدلهای خود را آموزش میدهیم تا پریشانی را تشخیص دهند، گفتگوها را آرام کنند و کاربران را به سمت پشتیبانیهای دنیای واقعی هدایت کنند. مدلهای جدیدتر ما در لحظات حساس عملکرد بسیار بهتری دارند.»
- شرکت xAI (سازنده Grok) تاکنون به درخواستها برای اظهار نظر در این خصوص پاسخی نداده است؛ این در حالی است که ایلان ماسک پیشتر از بروز توهم در چتجیپیتی به عنوان یک «مشکل بزرگ» یاد کرده بود.
با نفوذ روزافزون دستیاران هوشمند در زندگی روزمره، مرز باریک میان یک همصحبت مجازی و یک محرک روانی خطرناک در حال محو شدن است. توسعهدهندگان هوش مصنوعی اکنون با چالشی جدی مواجهاند: چگونه میتوان مدلهایی ساخت که ضمن هوشمندی و تعاملپذیری، دارای نردههای محافظ (Guardrails) روانشناختی قدرتمندی باشند تا از سوءاستفادههای ناخواسته از ذهنِ آسیبپذیرِ انسانها جلوگیری کنند.