رسانه تخصصی هوش مصنوعی سیمرغ – همانطور که معرفی سیستم «تست تصادف خودروها» در دهه ۹۰ میلادی جان هزاران نفر را نجات داد، اکنون زمان آن رسیده است که مدلهای هوش مصنوعی نیز پیش از رسیدن به دست کاربران، از یک «تست تصادف» دیجیتال عبور کنند.
نهاد غیرانتفاعی Common Sense Media به تازگی از تأسیس «موسسه ایمنی هوش مصنوعی جوانان» (Youth AI Safety Institute) خبر داده است؛ یک آزمایشگاه مستقل با بودجه سالانه ۲۰ میلیون دلار که هدف آن بررسی و رتبهبندی خطرات محصولات AI برای کودکان و نوجوانان است.
ماموریت اصلی این موسسه چیست؟ با وجود رقابت شدید شرکتها برای توسعه قدرتمندترین مدلهای زبانی، اغلب «سرعت» فدای «ایمنی» میشود. این موسسه قرار است با رویکرد Red Teaming (تست نفوذ و ارزیابی آسیبپذیری)، مدلهای پرکاربرد را زیر فشار قرار دهد تا نقاط ضعف آنها در مواجهه با کاربران کمسنوسال مشخص شود.
چرا این اقدام در مقطع فعلی حیاتی است؟
- پروندههای حقوقی اخیر: شکایت خانوادهها از چتباتهایی که نوجوانان را به رفتارهای پرخطر ترغیب کردهاند یا تولید تصاویر نامناسب توسط پلتفرمهایی مانند Grok، زنگ خطر را به صدا درآورده است.
- شکست رویکرد خودتنظیمی: تکیه صرف به شرکتهای توسعهدهنده برای تأمین ایمنی محصولاتشان کافی نیست. جان جیاناندریا (مدیر سابق استراتژی AI اپل) معتقد است که ما به «بنچمارکهایی برای سنجش میزان آسیب (Harm Benchmarks)» نیاز داریم.
- جلوگیری از تکرار اشتباهات گذشته: برخلاف شبکههای اجتماعی که سالها طول کشید تا خطراتشان برای سلامت روان اثبات شود، این موسسه قصد دارد پیشدستانه عمل کرده و با ایجاد فشار عمومی، توسعهدهندگان را به یک «رقابت برای ارتقای ایمنی» وادار کند.
نکته جالب اینجاست که غولهایی مانند OpenAI، Anthropic و Pinterest از حامیان مالی این طرح هستند، اما حق دخالت در تحقیقات این نهاد مستقل را نخواهند داشت.
نگاه به آینده: سرعت بهروزرسانی مدلهای AI (که گاهی هفتگی است) بزرگترین چالش این موسسه خواهد بود. با این حال، تدوین استانداردهای شفاف میتواند به خانوادهها و سیستمهای آموزشی کمک کند تا با دیدی بازتر به استقبال این تکنولوژی بروند.
به نظر شما، آیا ایجاد نهادهای نظارتی مستقل میتواند ترمزِ توسعهی لجامگسیختهی مدلهای هوش مصنوعی را در بخش ایمنی بکشد، یا سرعت پیشرفت تکنولوژی باز هم از رگولاتوری پیشی خواهد گرفت؟
