طرح سهمرحلهای آنتروپیک برای مهار هوش مصنوعی؛ سم آلتمن و ایلان ماسک همپیمان شدند!
داریو آمودی، مدیرعامل شرکت آنتروپیک (Anthropic)، با انتشار مطلبی در وبلاگ این شرکت، جزئیات یک طرح مهار هوش مصنوعی را تشریح کرد و خواستار تنظیم سرعت توسعه فناوریهای پیشگام شد. این طرح در شرایطی مطرح میشود که هشدارهای پژوهشگران درباره خطرات هوش مصنوعی رو به افزایش است و حتی سم آلتمن، مدیرعامل OpenAI، نیز پیشتر به لزوم کنترل سرعت این پیشرفتها اشاره کرده بود. آمودی در یادداشت جدید خود سه راهبرد کلی را برای رسیدن به این هدف پیشنهاد داده و اعلام کرده است که شرکت آنتروپیک بهصورت یکجانبه خود را به اجرای نخستین راهبرد متعهد میداند.
دلایل ضرورت کاهش سرعت توسعه
بحثها پیرامون ایمنی و همراستایی هوش مصنوعی طی هفته جاری، بهویژه پس از استعفای جیکوب کاکسون، پژوهشگر آنتروپیک، ابعاد جدیتری به خود گرفت. کاکسون در یادداشت استعفای خود مدعی شد که شرکتهای پیشرو با زندگی انسانها قمار میکنند و افرادی که این فناوری را میسازند، واقعاً بر این باورند که هوش مصنوعی تا پایان این دهه میتواند همه ما را نابود کند؛ ادعایی که گفته میشود دیگران نیز در آنتروپیک آن را تکرار کردهاند.
اگرچه آمودی در یادداشت خود مستقیماً به استعفای کاکسون یا ادعاهای او اشاره نکرده، اما توضیح داده است که دو رویداد او را برای در پیش گرفتن رویکردی محتاطانهتر قانع کردهاند: ماجرای هک OpenAI و هاگینگفیس (HuggingFace)، و همچنین شتاب چشمگیر پیشرفت هوش مصنوعی طی ماههای اخیر که مشخصاً در توانایی روبهرشد آن برای ساخت نسل بعدی هوش مصنوعی نمود پیدا کرده است.
آمودی در این رابطه نوشت: «ما باید سرعت ارتقای قابلیتهای مدلهای هوش مصنوعی را کاهش دهیم. پیشرفت همچنان سریع به نظر خواهد رسید و ما باید از زمانی که به دست میآوریم عاقلانه استفاده کنیم.»
سه راهبرد کلیدی در طرح مهار هوش مصنوعی
پیشنهادهای مطرحشده از سوی مدیرعامل آنتروپیک بر سه محور اصلی استوار است:
- استقرار ارزیابهای نهادهای شخص ثالث: در گام نخست، ارزیابهایی از سازمانهای مستقل مانند METR در شرکتهای هوش مصنوعی مستقر میشوند تا رعایت تعهدات ایمنی را راستیآزمایی کرده و اطمینان حاصل کنند که گزارش حوادث ایمنی منتشر میشود. آمودی با تشبیه این اقدام به حضور بازرسان قانونی در کنار کارکنان بانکها، گفت آنتروپیک به اختصاص نشان سازمانی، میز و لپتاپ به این ناظران و همچنین فراهمسازی دسترسیهایی تقریباً مشابه با تیمهای داخلی ارزیابی ریسک متعهد است و از دولتها خواست شرکتهای پیشرو دیگر را نیز ملزم به اجرای این تعهد کنند. شایان ذکر است که OpenAI اخیراً به دلیل گزارش نکردن حادثهای که در آن عاملهای هوش مصنوعی این شرکت یک فرم ویکی در آلمان را تحت کنترل درآورده بودند، مورد انتقاد قرار گرفت.
- هماهنگی میان شرکتهای فعال در کشورهای دموکراتیک: گام دوم، ایجاد استانداردهای مشترک ایمنی و محدودسازی نرخ پیشرفت بررسینشده میان شرکتهای مطرح است. با وجود کدورتهای احتمالی میان آلتمن و آمودی و گزارشهایی مبنی بر نگرانی شرکتها از پیگردهای ضد انحصارگرایی (آنتیتراست) در پی توقف هماهنگ، آمودی پیشنهاد داد که دولت ایالات متحده بدون نیاز به مداخله مستقیم، معافیتهای محدودی را برای گفتوگوهای ناظر بر ایمنی صادر کند. وی در پاسخ به نگرانیها پیرامون پیشی گرفتن چین افزود که تحریم تجهیزات ساخت تراشه، تراشههای قدرتمند و مهار تقطیر مدلها (Model Distillation) میتواند پیشرفت چین را تا حدی کُند کند که برتری آمریکا طی ۳ تا ۵ سال آینده تثبیت شود.
- هماهنگی بینالمللی و تعامل با دولتهای اقتدارگرا: در نهایت، آمودی هماهنگی جهانی میان ایالات متحده و متحدانش با دولتهای اقتدارگرا تا حد ممکن را پیشنهاد میکند. به گفته او این امر شامل همکاری با چین خواهد بود و هرچند محدودیتهای جدی در این زمینه وجود دارد، اما توافق بر سر موارد بسیار خطرناک، مانند ممنوعیت استفاده از هوش مصنوعی برای تولید سلاحهای بیولوژیکی، همچنان قابل دستیابی است.
واکنش منتقدان و دیدگاه آمودی درباره آینده فناوری
پیشینه آمودی در پذیرش خطرات هوش مصنوعی باعث شده تا برخی هواداران سرسخت این فناوری، او را به گسترش فضای نومیدی متهم کنند. در پاسخ، آمودی تأکید کرده است که نگاهی متوازن دارد و بازخوردهای منفی کنونی را اساساً یک بحران بیاعتمادی میداند که ناشی از بدبینی افکار عمومی به شرکتهای فناوری، صنعت فناوری و دولتهاست.
از سوی دیگر، منتقدانی نظیر برایان مرچنت، روزنامهنگار، اشاره کردهاند که هنوز شواهد و مراحل معتبری ندیدهاند که نشان دهد چگونه هوش مصنوعی بهبودپذیر بهشکل بازگشتی، در نهایت همه انسانها را نابود خواهد کرد. مرچنت معتقد است چنین پیشنهادهایی در عمل به انحصار قانونی (Regulatory Capture) منجر میشود و تنها منافع آنتروپیک و OpenAI را تأمین خواهد کرد.
با وجود هشدارهای امنیتی، آمودی تصریح کرده است که اشتیاق او برای دستیابی به فواید این حوزه کاهش نیافته و همچنان باور دارد هوش مصنوعی میتواند کیفیت زندگی بشر را به شکل فوقالعادهای ارتقا دهد؛ مشروط بر اینکه فرصت بهدستآمده از کنترل سرعت توسعه، صرف ساخت صحیح و محتاطانه آن شود.
این خبر بر اساس گزارش منتشرشده در تچ کرانچ تهیه شده است.
