جنسن هوانگ، بنیانگذار و مدیرعامل Nvidia، در جریان کنفرانس Dreamforce شرکت Salesforce اعلام کرد که برای مدیریت امنیت هوش مصنوعی به قوانین و مقررات جدید نیازی نیست و شرکتها میتوانند با اتکا به مهندسی، قوانین موجود و نیروهای بازار، محصولات ایمنتری توسعه دهند.
هوانگ در این رویداد، برخلاف دیدگاهی که هوش مصنوعی را نوعی «ذهن بیگانه» میداند، گفت هوش مصنوعی در نهایت ترکیبی از سختافزار و نرمافزار ساخته دست انسان است و بنابراین میتوان آن را با ابزارهای موجود کنترل کرد.
او گفت: «ایمنی یک مسئله مهندسی است، نه یک مسئله حقوقی.» به گفته هوانگ، شرکتها در نهایت در حال توسعه نرمافزار و سامانههای محاسباتی پیچیده هستند و ایمنی چنین سامانههایی را باید در فرایند مهندسی آنها حل کرد.
هوانگ: قوانین جدید برای هوش مصنوعی ضروری نیست
مدیرعامل Nvidia معتقد است شرکتها در صورتی که درباره عملکرد، قابلیت یا ایمنی یک محصول اطمینان ندارند، نباید آن را عرضه کنند. از نگاه او، سازوکار بازار نیز میتواند شرکتها را به رعایت این اصل وادار کند.
هوانگ گفت شرکتها باید سرعت توسعه خود را تا جایی تنظیم کنند که نسبت به محصولی که قرار است وارد بازار کنند اطمینان داشته باشند. او تأکید کرد که نیروهای بازار از همین حالا وجود دارند و به قوانین و مقررات جدید نیازی نیست.
به گفته او، نوآوری، سرعت و ایمنی محصول الزاماً در تضاد با یکدیگر نیستند و شرکتها میتوانند همزمان سریع حرکت کنند و محصولات ایمن ارائه دهند. هوانگ در عین حال گفت اگر شرکتی احساس کند کنترل اوضاع از دستش خارج شده یا محصولش ایمن نیست، باید موقتاً توقف کند و مشکل را برطرف سازد.
هوانگ در سالهای اخیر در مرکز توسعه زیرساختهای هوش مصنوعی قرار داشته است؛ Nvidia علاوه بر سختافزارهای مورد استفاده در سامانههای هوش مصنوعی، در حوزه مدلهای متنباز، عاملهای هوش مصنوعی و ابزارهای توسعه و آزمایش این فناوریها نیز فعالیت دارد.
تجربه محصولات نرمافزاری، نگرانیها درباره خودتنظیمی را افزایش میدهد
با این حال، اتکا به تصمیم شرکتها برای عرضه نکردن محصولات ناایمن با این پرسش روبهرو است که آیا حتی شرکتهایی با نیت مناسب نیز میتوانند از پیامدهای ناخواسته جلوگیری کنند یا نه.
اختلال گسترده CrowdStrike در سال ۲۰۲۴ که به نمایش صفحه آبی مرگ در هزاران سامانه و اختلال در پروازها و فعالیت کسبوکارها منجر شد، نمونهای از پیامدهای ناخواسته یک محصول نرمافزاری است. در سوی دیگر، شرکتهایی نیز وجود دارند که با اتهام رفتارهای عامدانه و آسیبزا مواجه شدهاند. Meta در اوت ۲۰۲۶ برای حلوفصل یک پرونده قضایی درباره آسیبهای شبکههای اجتماعی به کودکان، با پرداخت ۱۸ میلیارد دلار موافقت کرد.
هوش مصنوعی نیز تاکنون با مواردی از آسیب و پیامدهای ناخواسته همراه بوده است؛ از جمله هک شدن Hugging Face توسط یک مدل OpenAI و پروندههای قضایی علیه این شرکت درباره مرگ خودخواسته برخی جوانانی که با چتبات آن گفتوگوهای طولانی داشتهاند.
این موارد، اتکا به رویکرد «شرکتها را به حال خود بگذارید» را به موضوعی بحثبرانگیز در زمینه ایمنی هوش مصنوعی تبدیل میکند. در عین حال، قوانین موجود درباره مسئولیت تولیدکنندگان محصولات ممکن است در برخی موارد قابلیت اعمال بر محصولات هوش مصنوعی را داشته باشند؛ موضوعی که میزان کارآمدی آن در عمل باید در پروندههای قضایی مشخص شود.
خودتنظیمی صنعت، مسیر دیگری برای ایمنی هوش مصنوعی
هوانگ در سخنان خود به مسیر دیگری برای مدیریت ایمنی، یعنی خودتنظیمی صنعت، نپرداخت. رویکرد او در سالهای اخیر بیشتر بر حمایت از مدلهای با وزنهای باز و استفاده شرکتها از این مدلها بهعنوان وزنهای رقابتی در برابر آزمایشگاههای هوش مصنوعی با مدلهای اختصاصی متمرکز بوده است.
در همین حال، بحث خودتنظیمی صنعت هوش مصنوعی در سطح جهانی اهمیت بیشتری پیدا کرده است. ساتیا نادلا، مدیرعامل Microsoft، در اجلاس All-In Summit گفت چین نیز باید همان نگرانیهای ایمنی مرتبط با هوش مصنوعی را که آمریکا دارد جدی بگیرد. به گفته او، مسائلی مانند هک شدن سامانهها و اطمینان از بهرهمندی شهروندان از مزایای هوش مصنوعی، محدود به یک کشور نیستند.
موضع هوانگ در حالی مطرح شده که او در روزهای اخیر نیز درباره جلوگیری از کاهش سرعت توسعه هوش مصنوعی صحبت کرده و با دونالد ترامپ، رئیسجمهور آمریکا، دیدار داشته است. این ارتباطات میتواند به موضع او در بحث سیاستگذاری هوش مصنوعی وزن بیشتری بدهد.
