تصور کنید در حال ارسال عکس یک صفحه اکسل یا صفحه شطرنج برای دوستتان هستید و ناگهان حساب کاربریتان برای همیشه مسدود میشود! این دقیقاً همان کابوسی است که باگ اخیر هوش مصنوعی دیسکورد برای بیش از ۸ هزار کاربر رقم زد.
این شرکت بهتازگی اعتراف کرد که سیستم تعدیل محتوای آنها طی دو ماه گذشته، تصاویر کاملاً بیخطر را به عنوان محتوای آسیبزا شناسایی کرده است. هوش مصنوعی دیسکورد اکانت کاربرانی را که تصاویر زیر را فرستاده بودند، به اشتباه مسدود کرد:
- صفحات گسترده (مثل فایلهای اکسل)
- تختههای شطرنج
- بافتهای گرافیکی بازیها (Game Textures)
- پسزمینههای شفاف سفید و خاکستری
تیم فنی دیسکورد تایید کرد که این مشکل از ماه مه (اردیبهشت) گریبان کاربران را گرفته است. درست آخر هفته گذشته و پیش از رفع این ارور، ۲۰۰ کاربر دیگر هم قربانی این باگ شدند. دیسکورد اکنون روند بازگرداندن این حسابها را آغاز کرده است.
چرا هوش مصنوعی به عکسهای شطرنجی حساس شد؟
این اتفاق چالشهای بزرگ پلتفرمها در استفاده از سیستمهای خودکار را نشان میدهد؛ سیستمهایی که قرار است مقیاس عظیمی از محتوای غیرقانونی را فیلتر کنند، اما گاهی بیگناهان را هدف میگیرند.
دیسکورد در یک رشتهتوییت در شبکه اجتماعی ایکس (X) توضیح داد که سیستم ایمنی خودکار آنها، محتوای آپلودی را با پایگاه دادهای از تصاویر مخرب تطبیق میدهد. فناوریهای تطبیق الگو گاهی دچار خطای تشخیص (False Positive) میشوند. روال عادی این است که یک ناظر انسانی محتوای پرچمگذاریشده را قبل از هر اقدامی بررسی کند، اما یک باگ عجیب باعث شد تا سیستم بدون معطلی اکانتها را ببندد.
بسیاری از کاربران در ردیت و ایکس حدس میزنند که دلیل حساسیت بیشازحد ابزارهای دیسکورد به الگوهای شبکهای، سوءاستفادههای قبلی است. برخی افراد از این الگوها برای پنهان کردن محتوای بزرگسالان و سوءاستفاده از کودکان (CSAM) استفاده میکردند تا سیستمهای تشخیص خودکار را دور بزنند.
خشم کاربران؛ وقتی ماشینها جای انسان را میگیرند
کاربران آسیبدیده، ناامیدی و خشم خود را در شبکههای اجتماعی فریاد میزنند. بسیاری از آنها برای ارتباطات کاری، مدیریت انجمنهای بازی یا حفظ روابط از راه دور کاملاً به دیسکورد وابستهاند و از دست دادن دائمی اکانت، ضربه سنگینی به آنها میزند.
یکی از کاربران در شبکه ایکس نوشت: «از دست دادن اکانت دیسکورد به این شکل ناعادلانه، ویرانگر است. هر روز میلیونها کاربر اسیر خطاهای هوش مصنوعی میشوند و باید جلوی این روند را بگیرند.»
کاربر دیگری به نام JDBRYANT که کارگردان بازیهای ویدیویی است، توییت کرد: «سیستم شما اکانت من را به خاطر تشخیص اشتباه بافتهای گرافیکی بازیام مسدود کرد. من برای تمام ارتباطاتم به دیسکورد نیاز دارم و درخواست بازبینی دادهام.»
اپیدمی بنهای اشتباه در شبکههای اجتماعی
این دردسرها فقط به دیسکورد محدود نمیشود. ماه گذشته هزاران کاربر ایرانی توسط کلاد بن شدهاند و سال گذشته کاربران اینستاگرام و گروههای فیسبوک با موجی از مسدودیهای بیدلیل روبهرو شدند. با اینکه همه انگشت اتهام را به سمت هوش مصنوعی شرکت متا نشانه رفتند، این غول فناوری هرگز تایید نکرد که آیا خطای سیستمهای خودکار دلیل این اتفاق بوده یا خیر.
پلتفرم تامبلر (Tumblr) نیز سال گذشته شکایات مشابهی دریافت کرد؛ جایی که کاربران از مسدود شدن دستهجمعی حسابهایشان بدون هیچ توضیح روشنی خبر دادند. هیئتهای نظارتی اکنون فشارها را برای شفافیت بیشتر افزایش دادهاند و تلاش میکنند پلتفرمها را در قبال تصمیمگیریهای ماشینی خود پاسخگو کنند.
