جعل با ChatGPT Images 2.0(روی تاریک هوش مصنوعی ChatGPT Images 2.0)
اخیراً با انتشار نسخه جدید ابزار تولید تصویر OpenAI یعنی ChatGPT Images 2.0، کیفیت و واقعگرایی تصاویر تولیدشده توسط هوش مصنوعی به سطح بیسابقهای رسیده است. این مدل جدید که هفته گذشته عرضه شد، نقصهای گذشته مانند زاویههای فیزیکی غیرممکن یا دستهای ششانگشتی را برطرف کرده است؛ اما خطرناکترین پیشرفت آن، توانایی فوقالعاده در رندر کردن متن (Text Rendering) است. قابلیتی که حالا به ابزاری بینقص برای کلاهبرداران تبدیل شده است.
به گزارش رسانه تخصصی هوش مصنوعی سیمرغ، این مدل که توسط شرکت OpenAI توسعه یافته است، بهطور ویژهای در تولید تصاویر بر اساس متن بهبود داشته است. یکی از ویژگیهای اصلی این مدل، توانایی ایجاد تصاویر با کیفیت بالا و متنی است که پیش از این، مدلهای هوش مصنوعی قادر به تولید آن نبودهاند. این قابلیت نه تنها این ابزار را به یک ابزار طراحی گرافیکی پیچیده تبدیل کرده است، بلکه باعث شده تا برای تولید تصاویر جعلی در زمینههای مختلف، از جمله اسناد پزشکی و مالی، بهطور گستردهای مورد استفاده قرار گیرد.
در بررسیهای که روی این مدل انجام شده، تصاویر جعلی متعددی تولید شده است که شامل نسخههای جعلی از داروخانهها، کارتهای شناسایی، گذرنامهها، رسیدهای بانکی، و سایر اسناد مالی است. برخی از این تصاویر به قدری واقعگرایانه به نظر میرسند که ممکن است در نگاه اول برای برخی افراد قابل تشخیص نباشند. بهویژه تصاویر جعلی مربوط به اسناد پزشکی و مالی مانند رسیدها و فاکتورها، با دقت در نوشتار و جزئیات ظاهری، میتوانند بهآسانی گمراهکننده باشند.
🛑 چه خطراتی سیستمهای تأیید هویت را تهدید میکند؟
بر اساس آزمونهای انجام شده، مدل جدید Images 2.0 میتواند با حداقل خطا، اسناد حساس را با جزئیات خیرهکنندهای جعل کند:
- اسناد هویتی و مالی: ساخت گواهینامههای رانندگی جعلی، پاسپورت، صورتحسابهای بانکی، رسیدهای مالیاتی و فاکتورها با متنهای کاملاً خوانا، سایهزنیهای واقعگرایانه و واترمارکهای ظاهراً معتبر.
- مدارک پزشکی: تولید نسخههای جعلی دقیق برای داروهای خاص (مانند داروهای ADHD) و کارتهای واکسیناسیون.
- بلیتها و مجوزها: دستکاری بلیتهای پرواز و ساخت مجوزهای عبور با ظاهری فریبنده که بهراحتی میتواند متصدیان هتلها یا نگهبانان را در بررسیهای چشمی و آفلاین فریب دهد.
این مدل نه تنها توانسته است تصاویر و اسناد جعلی در مقیاسهای کوچک تولید کند، بلکه توانایی خلق مدارک پیچیدهای همچون کارت شناسایی رانندگی جعلی و بلیطهای پرواز بهطور کاملاً کارآمد را نیز دارد. در برخی موارد، حتی در محاسبات مالی، این ابزار توانسته است اشتباهات کوچک و دقیقی را در نتیجهگیریها بروز دهد که میتواند باعث فریب افراد شود.
این پیشرفتها، اگرچه از نظر فنی بهعنوان یک دستاورد در زمینه گرافیکهای کامپیوتری قابل توجه هستند، اما همچنین خطرات جدی برای استفاده از هوش مصنوعی در ایجاد کلاهبرداریهای مالی و هویتسازی جعلی بهدنبال دارند. کارشناسان هشدار دادهاند که ابزارهای هوش مصنوعی مانند ChatGPT Images 2.0 میتوانند برای ایجاد اسناد جعلی در مقیاس بزرگ بهطور گستردهای مورد استفاده قرار گیرند و خطرات جدیدی را در زمینه کلاهبرداریهای مالی و هویتسازی دیجیتال ایجاد کنند.
در نهایت، با افزایش دسترسی به این ابزارهای هوش مصنوعی و توانایی آنها در ایجاد محتوای واقعگرایانه، لزوم بهکارگیری اقدامات نظارتی و قوانین جدید برای مقابله با تهدیدات احتمالی این فناوری بیش از پیش احساس میشود.