مرز باریک پژوهش و سوءاستفاده زیستی؛ آنتروپیک چگونه قفل هوش مصنوعی را برای دانشمندان باز میکند؟
آنتروپیک برنامه جدیدی با نام Life Sciences Verification Program (LSVP) راهاندازی کرده که به متخصصان و سازمانهای حوزه علوم زیستی اجازه داده تا پس از طی فرایند راستیآزمایی، به مدلهای Mythos، Opus و Sonnet با مجموعهای از سازوکارهای ایمنی منعطفتر برای کاربردهای زیستی دسترسی پیدا کنند. این برنامه که فعلاً در مرحله بتا قرار دارد، حوزههایی مانند کشف دارو، پژوهش زیستی، توسعه بالینی و تولید را هدف گرفته است.
پیش از عرضه عمومی، دهها سازمان از طریق برنامه دسترسی زودهنگام وارد LSVP شدهاند و اکنون درخواست تیمها و مؤسسات مختلف، از آزمایشگاههای دانشگاهی و استارتاپها گرفته تا شرکتهای دارویی، بصورت گام به گام پذیرفته میشود.
دو سطح دسترسی برای کاربردهای علوم زیستی
متقاضیان پیش از دریافت مجوز دسترسی باید فرایند راستیآزمایی را پشت سر بگذارند که شامل بررسی سوابق پژوهشی، استانداردهای امنیتی و سازوکارهای نظارت اخلاقی بر پژوهش است. پس از تأیید، سازمانها میتوانند بر اساس نیاز خود برای دو نوع مجوز درخواست دهند:
- مجوز استفاده استاندارد (Standard Use): این مجوز که سالانه تمدید میشود، برای پوشش طیف وسیعی از فعالیتهای روزمره تیمها از جمله علوم پایه، تحقیق و توسعه، زنجیره تأمین و تولید، و توسعه بالینی در نظر گرفته شده است. این سطح در حال حاضر مدلهای Mythos ۵.۱، Opus ۵ و Sonnet ۵ را پوشش میدهد.
- مجوز استفاده پرخطر (High-risk Use): برخی فعالیتها به دلیل احتمال سوءاستفاده بیشتر، نیازمند بررسیهای اضافی هستند. این مجوز محدودیتهایی را که برای درخواستهای علوم زیستی در سطح Standard Use اعمال میشوند حذف میکند، هرچند سایر سازوکارهای ایمنی، از جمله طبقهبندیکنندههای امنیت سایبری، همچنان فعال هستند. این مجوز برخلاف سطح استاندارد، به یک پروژه پژوهشی مشخص (مثلاً بررسی نحوه شناسایی یک خانواده خاص از ناقلهای ویروسی توسط سیستم ایمنی انسان) اختصاص دارد و باید هر شش ماه تمدید شود. در حال حاضر این مجوز برای مدلهای Opus ۵ و Sonnet ۵ در دسترس است، اما دسترسی پرخطر به Mythos تا زمان اتمام هماهنگیها با دولت آمریکا به تعداد محدودی از نهادها محدود خواهد بود.
تغییر رویکرد آنتروپیک از مسدودسازی لحظهای به پایش آفلاین
به گفته آنتروپیک، در حوزه زیستشناسی همیشه نمیتوان بهسادگی میان یک استفاده مشروع (مانند مطالعه یک عامل بیماریزا برای توسعه واکسن) و استفاده مخرب متمایز قائل شد. این شرکت برای دفاع در برابر سوءاستفادهها، سه تهدید اصلی را هدف قرار داده است: به خطر افتادن دسترسی (نفوذ بدافزار یا سرقت حساب)، تهدیدهای داخلی (کارمندان خاطی یا تحت فشار) و سوءاستفاده از عاملهای هوش مصنوعی (اقدامات خطرناک ناخواسته توسط ایجنتها در وظایف طولانیمدت).
آنتروپیک میگوید سوءاستفادههای جدی ممکن است در میان درخواستها و جلسات متعدد پراکنده شوند و هر درخواست بهتنهایی نشانهای روشن از رفتار مخرب نداشته باشد. به همین دلیل، در مدل جدید، آنتروپیک نظارت را از «مسدودسازی لحظهای» به «پایش آفلاین» تغییر داده است. در این ساختار، هر سازمان هنگام درخواست دسترسی، کاربردهای موردنظر خود را در سطح کلی (بدون افشای اطلاعات حساس یا مالکیت فکری) مشخص میکند. آنتروپیک سپس ترافیک را بهصورت مستمر بررسی میکند تا الگوهایی خارج از محدوده اعلامشده شناسایی شوند. در صورت مشاهده فعالیت غیرمجاز، موضوع به مدیران سازمان اطلاع داده میشود تا بررسی و اصلاح حادثه انجام شود.
نگهداری ۳۰روزه دادهها برای پایش رفتار
شرکتهای Xaira Therapeutics، Edison Scientific و Manifold Bio در اظهاراتی جداگانه از امکان استفاده از مدلهای آنتروپیک در فعالیتهای علوم زیستی استقبال کردند. برای نمونه، شرکت Xaira اعلام کرده است که قصد دارد از این مدلها در موتور کشف داروی خود استفاده کند و ترکیب دسترسیِ مورد اعتماد با قابلیتهای هوش مصنوعی را راهی برای تحقق وعدههای این فناوری در زیستشناسی میداند.
انتقال نظارت به پایش آفلاین به محققان اجازه میدهد کارهای مشروع خود را با وقفههای کمتری پیش ببرند، اما اجرای این روش مستلزم نگهداری دادههاست. بر اساس شرایط LSVP، دادههای ترافیک این برنامه باید به مدت ۳۰ روز نگهداری شوند.
آنتروپیک میگوید این دادهها بهصورت کاملاً تفکیکشده نگهداری میشوند، برای آموزش مدلها استفاده نمیشوند و اعضای تیم پژوهش علوم زیستی این شرکت نیز به آنها دسترسی ندارند.
وضعیت فعلی دسترسی و محدودیتهای پیشرو
در زمان راهاندازی، LSVP در کنسول اختصاصی آنتروپیک برای استفاده از API و همچنین در طرحهای Claude for Enterprise و Team در دسترس است. طرحهای فردی فعلاً تحت پوشش این برنامه نیستند.
همچنین از آنجا که LSVP در مرحله بتا قرار دارد، فعلاً برای سازمانهایی که توافقنامه BAA (مربوط به قانون HIPAA) فعال دارند در دسترس نیست. مشتریانی که با دادههای سلامت بیماران (PHI) کار میکنند باید از سازمانهای جداگانه و غیر-BAA استفاده کنند.
آنتروپیک اعلام کرده در ماههای آینده اطلاعات بیشتری درباره محصولات جدید، همکاریهای پژوهشی و بهبودهای LSVP منتشر خواهد کرد.
منبع: آنتروپیک
