دانیل کلمن: فقط تعداد کمی از مردم عظمت تغییراتی که در شرف وقوع است را درک میکنند. این تغییرات هیجانانگیز و ترسناک هستند.
آیا نگران هوش مصنوعی نیستید؟
- مکالمه با یک دوست فیلمنامهنویس: مدتی پیش، یکی از دوستان فیلمنامه نویس ام از لس آنجلس با من تماس گرفت. او گفت: “سه سال دیگر وقت دارم. شاید هم با کمی شانس، پنج سال.” به او اجازه داده شده بود تا یک فیلمنامه را با هوش مصنوعی که هنوز در حال توسعه بود آزمایش کند. او یک مینی سریال را توصیف کرد: شخصیت های اصلی، طرح کلی داستان و فضا – و چند دقیقه بعد، همه قسمت ها نوشته شده و آماده فیلمبرداری بودند. سپس از هوش مصنوعی خواسته شد تا پیشنهاداتی برای بهبود سریال خودش ارائه دهد، و او با کمال تعجب دید که پیشنهادات عالی بودند – هوشمندانه، هدفمند، باهوش و خلاقانه. هوش مصنوعی به طور کامل پایان یکی از قسمت ها را بازنویسی کرد و با آن تغییرات کل مجموعه واقعاً خوب شد. او لحظه ای مکث کرد و سپس تکرار کرد که سه سال دیگر وقت دارد تا کار جدیدی پیدا کند.
- تجربه شخصی: در سال ۲۰۲۰، در آزمایشی شرکت کردم که سال بعد در مورد آن سخنرانی کردم و بعداً به صورت کتابچه ای با عنوان “الگوریتم من و من” منتشر شد. در این کتاب، همکاری ناموفق خود را با یک مدل زبان بزرگ در زمانی توصیف می کنم که این هوش های مصنوعی هنوز به طور عمومی در دسترس نبودند. اگر می خواهید هوش مصنوعی را بهتر درک کنید و وضعیت فعلی ما را تجزیه و تحلیل کنید، لطفاً کتاب من را نخوانید. این کتاب به دلیل پیشرفت های فنی در سه سال گذشته چنان از مد افتاده است که گویی از دوره دیگری از تاریخ جهان است، مانند متنی درباره اولین راه آهن یا نمایشگاه هوایی با دو باله. هوش مصنوعی آن زمان موجودی لکنت زبان، گیج و کاملاً ترحم انگیز بود – و این تنها حدود چهار سال پیش بود.
- پیشرفت سریع هوش مصنوعی: اگر توسعه با همین سرعت ادامه یابد، که بعید است زیرا احتمالاً سرعت بیشتری خواهد گرفت، ما با چیزی روبرو هستیم که غریزه کافی برای مقابله با آن را نداریم. دلیل آن این است که ما دچار وحشت نمی شویم. من این طور نیستم، و شما هم احتمالاً اینطور نیستید، اما وحشت بهتر از آرامشی است که با آن با سونامی که در حال حاضر در افق قابل مشاهده است روبرو می شویم، یا به قول لئوپولد آشنبنرگر، محقق هوش مصنوعی: “در حال حاضر، شاید چند صد نفر وجود داشته باشند که از وضعیت آگاهی دارند.”
- فقدان هوشیاری: به گفته محقق هوش مصنوعی، لئوپولد آشنبرنر، “در حال حاضر شاید فقط چند صد نفر دارای آگاهی موقعیتی هستند.” یکی از آنها دانیل دنت، یکی از تأثیرگذارترین متفکران در جهان انگلیسیزبان بود که در جلسهای غیررسمی از ما خواست تا هر کاری که میتوانیم برای هشدار دادن به تصمیمگیران انجام دهیم.
یکی از آنها دنیل دنت فقید بود، یکی از تأثیرگذارترین متفکران جهان انگلیسی زبان، همکار خالق فلسفه مدرن ذهن، که در یک جلسه غیررسمی کارشناسان، جایی که من، اگرچه کارشناس نبودم، اجازه حضور داشتم، از همه ما خواست تا هر کاری از دستمان برمی آید انجام دهیم تا به تصمیم گیرندگان هشدار دهیم.
با این حال، من نمی خواهم انقلابی را که تجربه می کنیم شیطان صفت جلوه دهم. به اعتقاد من، در طول زندگی ام هیچ چیز به اندازه هوش مصنوعی در قلمرو ذهن انسان هیجان انگیز نبوده است. ما با وسایل تکنولوژیکی به چیزی دست یافته ایم که هرمنوتیک (علم تفسیر متون) مدت ها آرزوی آن را داشت: ما خود زبان را به سخن گفتن واداشته ایم. اما اغلب، آنچه خود زبان باید بگوید چندان خوشایند نیست: OpenAI مجبور است صدها کارگر کم درآمد را در جنوب جهان استخدام کند تا تمایل طبیعی مدل زبان بزرگ به بیان ناسزاهای عصبانی، توهین و فحاشی را به طور اجباری سرکوب کند – لحن مودب و آرام چت بات که اکنون به خوبی شناخته شده است به فیلتر کردن زیادی نیاز دارد. ژاک لاکان حق داشت؛ زبان در اعماق خود تاریک و مستهجن است.
کشف های بزرگ بشریت همیشه به ما آموخته اند که ما در خانه خودمان ارباب نیستیم: کوپرنیک زمین را از مرکز عالم حذف کرد، داروین ایده ما انسان ها را در مورد خلقت الهی خراب کرد، فروید نشان داد که نه خواسته های خود را می شناسیم و نه آنها را کنترل می کنیم. تحقیر توسط هوش مصنوعی ظریف تر است اما به همان اندازه عمیق است: ما نشان داده ایم که برای فعالیت های فکری که عمیقاً انسانی می دانستیم، به ما نیازی نیست؛ آنها می توانند بر اساس آمار خودکار شوند، “حرف های بیهوده”، به تعبیر هایدگر، به معنای واقعی بدون ما می گذرد و معقول، باهوش، سطحی و دلسوز به نظر می رسد – و فقط در آن زمان ما واقعاً درک می کنیم که همیشه اینگونه بوده است: بیشتر اوقات، ما در حالت خلبان خودکار ارتباط برقرار می کنیم.
از زمانی که از مدل زبان بزرگ استفاده می کنم، واقعاً می توانم آن را درک کنم: من در یک رویداد اجتماعی هستم، گپ می زنم و ناگهان، با حساسیت به GPT، احساس می کنم روی زبانم که یک کلمه چگونه کلمه بعدی را صدا می کند، چگونه یک جمله به جمله دیگر منجر می شود، و من متوجه می شوم که این من نیستم که صحبت می کنم، نه من به عنوان یک فرد مستقل، بلکه خود مکالمه است که اتفاق می افتد.
البته، هنوز هم چیزی وجود دارد که دانیل کانمن آن را “سیستم ۲” می نامد، کار فکری واقعی، تولید خلاقانه بینش های اصلی و آثار واقعاً بدیع که احتمالاً هیچ هوش مصنوعی حتی در آینده نمی تواند از ما بگیرد. اما در قلمرو “سیستم ۱″، جایی که ما بیشتر روزهای خود را می گذرانیم و جایی که بسیاری از محصولات فرهنگی نه چندان درجه یک ایجاد می شود، کاملاً متفاوت به نظر می رسد. با هوش مصنوعی می توان پول زیادی به دست آورد، پولی در ابعاد کاملاً سورئال. بزرگترین بازار رشد دیجیتال در سال های آینده احتمالاً دوستان و شرکای مصنوعی خواهد بود. اگر به دنبال مدرک هستید، به قیمت سهام شرکت Replika نگاه کنید که دقیقاً در این زمینه تخصص دارد، یا به سام آلتمن، بنیانگذار OpenAI گوش دهید که در مصاحبه ای با نیویورک تایمز در نوامبر ۲۰۲۳ به ما اطمینان داد که به دلایل اخلاقی، علایق عاشقانه مجازی ایجاد نخواهد کرد، و فقط چند ماه بعد، شرکت او یک نسخه آزمایشی را ارائه کرد که شامل یک صدای زنانه جدید و عشوه گر برای ChatGPT بود که دقیقاً همان دوست دختری است که مردان جوان ناامن آرزو می کنند. محصول سرگرمی آینده: افراد مجازی که ما را به خوبی می شناسند، زندگی را با ما به اشتراک می گذارند، در مواقع غم و اندوه ما را تشویق می کنند، به شوخی های ما یا شوخی هایی که می توانیم به آنها بخندیم می خندند، همیشه در برابر دنیای بیرونی بی رحم در کنار ما هستند، همیشه در دسترس، همیشه قابل رد، بدون خواسته های خود، بدون نیاز، بدون تلاشی که برای حفظ روابط با افراد واقعی صرف می شود.
و اگر الان با انزجار سر تکان می دهید، از خودتان بپرسید که آیا واقعاً با خودتان صادق هستید، آیا دوست ندارید کسی داشته باشید که تماس های آزاردهنده را برای شما بگیرد، پروازها را رزرو کند، ایمیل هایی بنویسد که واقعاً به نظر می رسد شما آنها را نوشته اید و علاوه بر این، زندگی شما را با شما بحث کند، چرا عمه شما اینقدر با شما بد رفتار می کند و شما چه کاری می توانید برای آشتی با پسرعموی آزرده خود انجام دهید. حتی من که در مورد این فناوری هشدار می دهم دوست دارم از آن استفاده کنم.
و چه کسی برای همه اینها پول می دهد؟ زیرا به نظر می رسد که همراهان مجازی فقط در قلمرو جادویی هوا زندگی می کنند، اما در واقعیت آنها روی مزارع سرور عظیم هستند و هر تعاملی با آنها هزینه دارد. کسی باید آن را جبران کند. اگر کاربران نیستند، پس چه کسی؟ بنابراین، شما دوستان مجازی خواهید داشت که گاهی اوقات تبلیغات نیز می کنند. اگر سرماخوردگی دارید، دوستان یک دارو را توصیه می کنند و اگر سالم هستید، دوستان ناگهان خبره های شگفت انگیزی از ویسکی های خوب هستند. گاهی اوقات، چنین دوستی همچنین به طور قابل فهم و دلسوزانه توضیح می دهد که به چه کسی باید رای دهید، زیرا آنها مثلاً توسط یک شرکت هوش مصنوعی چینی ارائه می شوند؛ یا به سادگی به این دلیل که شرکت مورد نظر، مانند TikTok یا YouTube، از الگوریتمی به نام “الگوریتم تطبیقی” استفاده می کند که نحوه تولید بیشترین “تعامل” را پیدا می کند.
این مقاله اقتباسی از سخنرانیای است که در این ماه در برلین در جشن سیاست فرهنگی آلمان و با حضور اولاف شولتس، صدراعظم آلمان، ارائه شد.