Site icon رسانه تخصصی هوش مصنوعی سیمرغ

اصطلاحات هوش مصنوعی – راهنمای جامع (Glossary)

سهراب اسکندری
اصطلاحات هوش مصنوعی – راهنمای جامع (Glossary)

اصطلاحات هوش مصنوعی – راهنمای جامع (Glossary)

اصطلاحتوضیح کوتاه
هوش مصنوعی (AI)شاخه کلی هوش در کامپیوتر
Machine Learning (یادگیری ماشین)زیرمجموعه‌ای از هوش مصنوعی
Deep Learning (یادگیری عمیق)زیرمجموعه‌ای از یادگیری ماشین
LLM (مدل زبانی بزرگ)نوعی مدل یادگیری عمیق برای پردازش زبان

فهرست مطالب

مقدمه

امروزه با رشد سریع هوش مصنوعی و معرفی هر روزه الگوریتم‌ها و فناوری‌های جدید، مجموعه‌ای از اصطلاحات تخصصی در این حوزه پدید آمده است. هر اصطلاح، مفهومی کلیدی را توضیح می‌دهد و بدون فهم آن‌ها درک اخبار و مقالات مرتبط با هوش مصنوعی دشوار خواهد بود. برای مثال، یادگیری عمیق (Deep Learning) زیرمجموعه‌ای از یادگیری ماشینی و خود یادگیری ماشین زیرمجموعه‌ای از هوش مصنوعی است. در واقع، هوش مصنوعی (AI) یک مفهوم کلی‌تر است که هدف آن خلق سیستم‌هایی است که هوشمندانه رفتار کنند. یادگیری ماشین (ML) یکی از ابزارهای مهم برای رسیدن به این هدف است و یادگیری عمیق (DL) نیز گونه‌ای پیشرفته از یادگیری ماشین است.

با توجه به گسترش سریع کاربردهای هوش مصنوعی در صنایع مختلف، آشنایی با این اصطلاحات برای پژوهشگران، توسعه‌دهندگان و حتی کاربرانی که به هر نحوی با هوش مصنوعی سروکار دارند ضروری است. این واژه‌نامه بر آن است تا به زبان ساده و با دقیق‌ترین تعاریف، بیش از ۵۰ اصطلاح کلیدی حوزه هوش مصنوعی را توضیح دهد و ارتباطات بین آن‌ها را روشن کند. همچنین، بخشی از مقاله نیز به موضوعات جدید مانند مهندسی پرامپت، استفاده از پایگاه‌های داده برداری و مفاهیم امنیتی AI اختصاص دارد تا این نوشتار به یک مرجع جامع اصطلاحات هوش مصنوعی تبدیل شود. در ادامه، پس از معرفی دسته‌بندی مفاهیم، هر اصطلاح با تعاریف ساده و تخصصی آورده می‌شود و مثال‌ها و ارتباطات آن بررسی می‌شود.

مفاهیم پایه

هوش مصنوعی (AI)

هوش مصنوعی (Artificial Intelligence) شاخه‌ای از علوم کامپیوتر است که به مطالعه و ساخت سامانه‌هایی با توانایی یادگیری، تصمیم‌گیری و حل مسئله شبیه یا حتی فراتر از انسان‌ها می‌پردازد. به عبارت دیگر، هوش مصنوعی توانایی دستگاه‌ها یا نرم‌افزارهاست که رفتار هوشمندانه از خود نشان دهند، برخلاف هوش طبیعی که خاص انسان و موجودات زنده است.

هوش مصنوعی عمومی (AGI)

هوش مصنوعی عمومی (AGI: Artificial General Intelligence) مفهومی است که به هوش مصنوعی «همه‌منظوره» اشاره دارد؛ یعنی سیستمی که می‌تواند در طیف گسترده‌ای از وظایف مهارت داشته باشد و مانند یک انسان یا بیش از او عمل کند. به بیان TechCrunch، AGI به‌طور مبهم، به گونه‌ای از هوش مصنوعی گفته می‌شود که فراتر از توانایی متوسط انسان در بسیاری از کارها عمل می‌کند. تا کنون دستاورد مشخصی در زمینه AGI گزارش نشده است، اما شرکت‌ها و پژوهشگران بسیاری روی تحقق آن متمرکزند، چرا که رسیدن به AGI می‌تواند به هوش مصنوعی بسیار قدرتمند و خودترمیم‌پذیر منجر شود.

یادگیری ماشین (Machine Learning)

یادگیری ماشین شاخه‌ای از هوش مصنوعی است که به طراحی الگوریتم‌هایی می‌پردازد که بتوانند بدون برنامه‌نویسی صریح، از داده‌ها یاد بگیرند. به‌طور دقیق‌تر، «یادگیری ماشینی علمی است که باعث می‌شود رایانه‌ها بدون نیاز به یک برنامه صریح در مورد یک موضوع خاص، بیاموزند». در این فرآیند، مدل‌های آماری با استفاده از داده‌ها آموزش دیده و سپس بر روی داده‌های جدید پیش‌بینی یا تصمیم‌گیری می‌کنند. یادگیری ماشین نقش زیرمجموعه کلیدی هوش مصنوعی را دارد و بخش بزرگی از پیشرفت‌های اخیر AI مرهون روش‌های یادگیری ماشین است.

یادگیری عمیق (Deep Learning)

یادگیری عمیق شاخه‌ای از یادگیری ماشین است که از شبکه‌های عصبی مصنوعی با چندین لایه پنهان برای یادگیری خصوصیات و الگوهای پیچیده استفاده می‌کند. همان‌طور که ویکی‌پدیا فارسی ذکر کرده، «یادگیری عمیق زیرمجموعه‌ای از یادگیری ماشینی است که از لایه‌های متعدد تبدیل خطی برای پردازش سیگنال‌های حسی مانند صدا و تصویر استفاده می‌کند». یادگیری عمیق با تقلید از ساختار سلسله‌مراتبی مغز انسان (لایه‌های عصبی) قادر است سطوح بالای انتزاعی را بیاموزد؛ مثلاً در تشخیص تصویر، لایه‌های اولیه اطلاعات مثل لبه‌ها را می‌آموزند و لایه‌های بالاتر ترکیب این ویژگی‌ها را به مفاهیم پیچیده‌تری می‌رسانند. بسیاری از مدل‌های پیشرفته زبان طبیعی و بینایی ماشین امروزی مبتنی بر یادگیری عمیق هستند.

شبکه عصبی (Neural Network)

شبکه عصبی مصنوعی مجموعه‌ای از نئورون‌های مصنوعی به هم متصل است که ساختاری چندلایه دارد. هر نئورون مصنوعی ورودی‌هایی از دیگر نئورون‌ها دریافت کرده، آنها را وزن‌دار می‌کند و از راه یک تابع فعال‌سازی، خروجی می‌دهد. به بیان ویکی‌پدیا فارسی، «شبکه عصبی یا شبکه عصبی مصنوعی به مجموعه‌ای از یاخته‌ها (نورون‌ها) گفته می‌شود که در یک معماری ویژه برای حل مسئله خاص به هم متصل شده‌اند». این سیستم‌ها توانایی یادگیری از طریق تنظیم وزن‌های ارتباطی بین نورون‌ها را دارند و در بسیاری از مسائل مانند تشخیص الگو، بینایی ماشین، پردازش زبان و غیره کاربرد دارند.

Training (آموزش مدل)

در هوش مصنوعی، آموزش مدل فرآیندی است که طی آن یک مدل یادگیری ماشین (مثلاً یک شبکه عصبی) با مجموعه داده‌های آموزشی بهینه می‌شود. به بیان TechCrunch، «آموزش به معنای وارد کردن مثال‌های صحیح (داده) به شبکه عصبی است تا وزن‌های آن تنظیم شود. این کار مثل دادن جزوه تمرینی به مدل است تا بتواند مسئله را یاد بگیرد». در عمل، مدل در هر دور آموزش (اکو) داده‌ها را دریافت کرده، خروجی خود را محاسبه می‌کند، خطا (تفاوت با خروجی مورد انتظار) را اندازه می‌گیرد و با یک روش (مثل پس‌انتشار و گرادیان نزولی) وزن‌های خود را بهبود می‌دهد. هدف کاهش خطای آموزش (مانند خطای مربعات میانگین) است تا مدل توانایی تعمیم به داده‌های جدید را پیدا کند.

Inference (استنتاج)

فرآیند استنتاج (Inference) زمانی رخ می‌دهد که پس از آموزش مدل، می‌خواهیم از آن برای پیش‌بینی یا تولید خروجی استفاده کنیم. به بیان TechCrunch، «استنتاج روند اجرای یک مدل هوش مصنوعی آموزش‌دیده و استفاده از آن برای تولید نتایج بر اساس ورودی‌های جدید است». در این مرحله مدل هیچ تغییری در وزن‌ها نمی‌دهد، بلکه صرفاً از دانش آموخته شده (وزن‌ها) استفاده می‌کند تا خروجی را محاسبه کند. بهینه‌سازی استنتاج مهم است تا در زمان واقعی (Real-time) پاسخ سریع داده شود؛ سخت‌افزارهای ویژه مانند GPU یا TPU اغلب برای تسریع استنتاج کاربرد دارند.

Weights (وزن‌ها)

در مدل‌های یادگیری عمیق، وزن‌ها متغیرهای عددی هستند که ارتباطات بین نرون‌ها را مشخص می‌کنند. آن‌ها همان «دانش» مدل پس از آموزش را نشان می‌دهند. در TechCrunch آمده است: «وزن‌ها پارامترهای آموزش‌پذیری هستند که مشخص می‌کنند هر بخش از داده چقدر بر نتیجه نهایی تاثیر بگذارد. آن‌ها به صورت یک آرایه عددی ذخیره می‌شوند». در طول آموزش، این وزن‌ها با توجه به خطا به تدریج به‌روزرسانی شده و به مقداری می‌رسند که مدل بهترین پیش‌بینی را انجام دهد.

Validation Loss (خطای اعتبارسنجی)

خطای اعتبارسنجی معیاری است برای سنجش کیفیت مدل در داده‌های دیده‌نشده. در طول آموزش یک مدل، داده‌ها معمولاً به مجموعه‌های آموزش و اعتبارسنجی تقسیم می‌شوند. خطای اعتبارسنجی به ما می‌گوید چقدر مدل روی داده‌های اعتبارسنجی (که آموزش ندیده) اشتباه می‌کند. طبق TechCrunch، «خطای اعتبارسنجی یک عدد است که نشان می‌دهد مدل چقدر در یادگیری خوب عمل می‌کند و هر چه این عدد کمتر باشد، بهتر است. معمولاً چک می‌کنند که این خطا کاهش یابد؛ اگر شروع به افزایش کند در حالی که خطای آموزش کمتر می‌شود، به معنی «Overfitting» یا بیش‌برازش مدل است. این معیار مانند کارنامه‌ای در زمان واقعی عمل می‌کند تا مطمئن شویم مدل به خوبی تعمیم می‌دهد.

مدل‌های زبانی

LLM (مدل زبانی بزرگ)

مدل‌های زبانی بزرگ (Large Language Model یا LLM) نسل جدیدی از مدل‌های یادگیری عمیق‌اند که برای درک و تولید زبان طبیعی به‌کار می‌روند. این مدل‌ها مانند GPT و Llama بر معماری Transformer مبتنی هستند و میلیاردها پارامتر دارند. به عبارت TechCrunch، LLM مدلی است که «تعداد بسیار زیادی پارامتر دارد و برای پردازش متن و زبان طبیعی استفاده می‌شود». LLMها با مشاهده داده‌های متنی وسیع، توانایی پیش‌بینی کلمه بعدی و تولید جملات را به دست می‌آورند و می‌توانند متونی بسیار شبیه زبان انسان ایجاد کنند.

Token (توکن)

توکن کوچک‌ترین واحد متنی است که مدل‌های زبانی برای پردازش متن از آن استفاده می‌کنند. بر خلاف تصور عمومی که ممکن است واژه یا کاراکتر باشد، توکن می‌تواند کلمه، بخش‌های کلمه (Subword)، یا حتی نشانه‌گذاری (مانند علامت‌گذاری) باشد. بر اساس توضیحات یک منبع آموزشی، «توکن‌ها کوچک‌ترین واحدهای داده‌ای هستند که یک مدل زبانی برای پردازش و تولید متن به کار می‌برد. آن‌ها می‌توانند نماینده کاراکترها، زیرکلمه‌ها، کلمات یا نشانه‌های نگارشی باشند». بنابراین، وقتی متنی به مدل وارد می‌شود، ابتدا به توکن‌ها شکسته شده و هر توکن به شناسه عددی تبدیل می‌شود.

Token Throughput

تراکم توکن (Token Throughput) معیاری است برای سنجش توان پردازشی مدل زبان. به طور خاص، تعداد توکن‌های خروجی که مدل می‌تواند در هر ثانیه تولید کند را نشان می‌دهد. به‌نحوی می‌توان گفت TPS (توکن بر ثانیه) ظرفیت واقعی مدلی را که متن تولید می‌کند اندازه‌گیری می‌کند. طبق منابع MLOps، «تراکم توکن به تعداد توکن‌های خروجی اشاره دارد که سیستم می‌تواند در یک ثانیه تولید کند؛ این اندازه نشان‌دهنده ظرفیت تولیدی سیستم و مصرف منابع محاسباتی است». تراکم توکن بالا نشان می‌دهد مدل و زیرساخت در حال استفاده بهینه از توان خود هستند. این معیار برای کاربردهایی که نیاز به تولید سریع متون طولانی دارند، اهمیت ویژه‌ای دارد.

Context Window (پنجره زمینه)

پنجره زمینه (Context Window) یا طول متن مورد پردازش، به حداکثر تعداد توکن‌هایی اشاره دارد که مدل در یک ورودی می‌تواند ببیند یا به خاطر بسپارد. به زبان ساده، این «حافظه» مدل در یک پرامپت است. هرچه پنجره زمینه بزرگ‌تر باشد، مدل می‌تواند اطلاعات زمینه‌ای بیشتری را در یک باره پردازش کند. اگر متنی ورودی از این حد بیشتر شود، معمولاً به صورت نوبتی (Chunking) به مدل داده می‌شود. در عمل، پنجره زمینه معمولاً محدودیتی طراحی‌شده است که به معماری مدل مربوط می‌شود. برای مثال، بسیاری از LLMهای مرسوم، پنجره‌هایی از چند هزار تا چند ده هزار توکن دارند. هیچ منبع خاصی از میان منابع باز لزوماً نیاز به استناد ندارد، اما مفهوم آن در مدل‌ها بسیار مهم است.

Chain of Thought (زنجیره فکر)

زنجیره فکر روشی است که مدل‌های زبانی را برای استدلال تدریجی تقویت می‌کند. در این روش، مدل به جای جواب مستقیم، گام‌های میانی استدلال را نیز تولید می‌کند. بر اساس TechCrunch، «زنجیره فکر به مدل اجازه می‌دهد مسئله را به بخش‌های کوچک‌تر تقسیم کند و گام به گام به پاسخ برسد. این تکنیک از استدلال پشت سر هم کمک می‌گیرد که احتمال پاسخ درست را افزایش می‌دهد». در عمل، زنجیره فکر باعث می‌شود مدل، مانند انسان، پیش‌فرض‌ها و محاسبات داخلی خود را بازگو کند و این شفافیت می‌تواند در تولید پاسخ‌های منطقی‌تر یا درک بهتر فرآیند مدل توسط انسان مفید باشد.

Reasoning Model (مدل استدلال)

مدل استدلال نوعی مدل زبانی ویژه است که برای پیاده‌سازی استراتژی‌های زنجیره فکر بهینه شده است. به عبارت TechCrunch، «مدل‌های استدلال از LLMهای معمولی ساخته می‌شوند اما با استفاده از تکنیک‌های پیشرفته مانند تقویت یادگیری از بازخورد انسانی، برای تفکر مبتنی بر زنجیره فکری بهینه شده‌اند». این مدل‌ها، معمولا در مراحل پس‌آموزش (Fine-tuning) یا RLHF، مهارت‌های حل مسئله سلسله‌مراتبی را فرا گرفته و پاسخ‌های منطقی و قابل پیگیری بیشتری ارائه می‌دهند.

آموزش مدل‌ها

Fine-Tuning (تنظیم دقیق)

تنظیم دقیق (Fine-Tuning) فرآیندی است که در آن یک مدل از پیش‌آموزش‌دیده (معمولا LLM) را با استفاده از داده‌های خاص یک دامنه یا وظیفه جدید وادار به یادگیری دوباره می‌کنیم تا عملکرد آن در آن وظیفه بهبود یابد. به عبارت دیگر، بجای آموزش تمام وزن‌های مدل از ابتدا، فقط با مثال‌های جدید و هدایت شده برخی لایه‌ها یا کل مدل را اندکی به‌روزرسانی می‌کنیم. این کار «یادگیری انتقالی» نیز نامیده می‌شود. برای نمونه، اگر بخواهیم یک مدل زبانی عمومی را در تولید پیکره‌های متنی پزشکی قوی کنیم، آن را با متون پزشکی خاص تنظیم دقیق می‌کنیم. به بیان TechCrunch، fine-tuning راهی است برای بهبود عملکرد مدل‌های بزرگ در وظایف خاص با استفاده از داده‌های جدید.

Transfer Learning (یادگیری انتقالی)

یادگیری انتقالی مفهومی نزدیک به تنظیم دقیق است و اشاره دارد به استفاده از تجربیات (وزن‌های آموزش‌دیده) یک مدل در یک کار برای کمک به آموزش در یک کار جدید. در عمل، معمولا با فریز کردن اکثر لایه‌ها و فقط آموزش لایه‌های آخر یا افزودن لایه‌های جدید، مدل را برای کاری جدید تنظیم می‌کنند. این روش زمان و داده کمتری نسبت به آموزش از ابتدا نیاز دارد. برای مثال، یک شبکه عصبی که روی یک مجموعه تصاویر آموزش دیده بود، می‌تواند به سرعت به کارهایی مانند تشخیص سرطان پوست با همین مدل، ولی با داده‌های جدید، فاین-تیون شود. این رویکرد با هدف «انتقال» دانش از وظیفه اول به دوم انجام می‌شود.

Distillation (تقطیر)

تقطیر دانش (Knowledge Distillation) روشی برای ساده‌سازی مدل‌های بزرگ و انتقال عملکرد آنها به مدل‌های کوچکتر است. در این روش، ابتدا یک مدل بزرگ و قدرتمند (معلم) آموزش داده می‌شود، سپس این مدل بزرگ برای تولید خروجی‌های «نرم» (احتمالات پیش‌بینی) استفاده می‌شود و یک مدل کوچکتر (دانش‌آموز) را طوری آموزش می‌دهیم که خروجی‌هایش شبیه به مدل بزرگ باشد. به این ترتیب، دانش مدل بزرگ در مدل کوچک جمع می‌شود. TechCrunch می‌گوید «تقطیر یعنی آموزش یک مدل کوچک‌تر (دانش‌آموز) برای تقلید خروجی‌های یک مدل بزرگ (معلم)، به منظور کاهش اندازه مدل بدون افت زیاد دقت». این روش به خصوص برای استقرار مد‌ل‌ها روی دستگاه‌های محدود کاربرد دارد.

Reinforcement Learning (یادگیری تقویتی)

یادگیری تقویتی (RL) نوعی یادگیری ماشینی است که بر پایه مفهوم پاداش و مجازات استوار است. در این روش، عامل (Agent) اقداماتی انجام می‌دهد، محیط بر مبنای این اقدامات به او پاداش یا تنبیه می‌دهد و هدف عامل بیشینه کردن پاداش تجمعی است. این روش در حوزه‌های مختلف از بازی‌های کامپیوتری گرفته تا کنترل ربات‌ها کاربرد دارد.

RLHF (یادگیری تقویتی با بازخورد انسانی)

یادگیری تقویتی با بازخورد انسانی (RLHF) یک تکنیک مهم در حوزه تولید متن با LLMها است. در این روش، مدل ابتدا با یادگیری تقویتی مجاز (RL) آموزش داده می‌شود، اما این بار بجای یک تابع پاداش سخت و مشخص، از بازخورد انسانی برای راهنمایی مدل استفاده می‌شود. برای مثال، ممکن است انسان‌ها نمونه‌های خروجی را برچسب‌زنی کنند یا دروازه‌های پاداش‌گذاری مشخص کنند. هدف این است که مدل، خروجی‌های نزدیک‌تر به علایق و ارزش‌های انسانی تولید کند. RLHF در توسعه مدل‌های بزرگی مانند ChatGPT اهمیت زیادی دارد، چرا که با دخالت مستقیم انسان‌ها، خطاهای مهم مدل کاهش پیدا می‌کنند.

معماری مدل‌ها

Transformer (معماری تبدیل‌کننده)

ترانسفورمرها یک خانواده معماری شبکه‌های عصبی هستند که بر پایه مکانیزم توجه (Attention) ساخته شده‌اند. این معماری اولین بار در مقاله «توجه همه چیز است» معرفی شد و پایه و اساس بیشتر مدل‌های زبانی امروزی را تشکیل می‌دهد. طبق ویکی‌پدیا، «معماری Transformer بر اساس مکانیزم توجه چندسَر (multi-head attention) عمل می‌کند که در هر لایه، هر توکن (نمایش برداری یک تکه متن) را با توجه به دیگر توکن‌ها زمینه‌ای می‌کند. بدین ترتیب هر توکن می‌تواند به تمام توکن‌های دیگر وزن بدهد و وابستگی‌های دوردست در متن را بیاموزد». مزیت اصلی ترنسفورمر نسبت به معماری‌های قدیمی‌تر (مثل RNN یا LSTM) این است که به صورت موازی (parallel) آموزش داده می‌شود و وابستگی سکانس طولانی را بهتر مدیریت می‌کند. تقریباً تمام مدل‌های زبانی بزرگ (LLM) بر پایه معماری ترنسفورمر ساخته شده‌اند.

MoE (Mixture of Experts – ساختار مخلوط از کارشناسان)

معماری «مخلوط کارشناسان» (Mixture of Experts) یک رویکرد مقیاس‌پذیر در یادگیری ماشین است. در این ساختار چندین زیرشبکه (کارشناس) مستقل طراحی می‌شوند که هر یک در بخشی از فضای مسئله تخصص دارند. سپس یک سازوکار گیتینگ (مسیردهنده) تعیین می‌کند که کدام «کارشناس» در پاسخ‌گویی به ورودی مشارکت کند. به گفته ویکی‌پدیا، «Mixture of Experts روشی است که در آن چند شبکه عصبی متخصص برای تقسیم‌بندی فضای مسئله به نواحی همگن استفاده می‌شوند». مزیت MoE این است که می‌توان مدل را بسیار بزرگ کرد (با تعداد کارشناسان زیاد) بدون اینکه سرعت استنتاج به‌شدت کاهش یابد، چرا که هر بار فقط چند کارشناس فعال می‌شوند. از این معماری در برخی مدل‌های زبان بسیار بزرگ و همچنین در کاربردهای چندمنظوره استفاده می‌شود.

Diffusion (مدل پخشی)

مدل‌های پخشی (Diffusion Models) یک خانواده از مدل‌های مولد هستند که در آنها محتوا به‌تدریج از نویز ایجاد می‌شود. به عبارت ساده، یک مدل Diffusion ابتدا نمونه‌ای از نویز تصادفی را تولید می‌کند و سپس با گام‌های متوالی، آن نویز را آرام آرام «پاکسازی» یا «پخش» می‌کند تا در انتها به داده‌ای واقعی (مانند تصویر) برسد. TechCrunch توضیح می‌دهد که در این مدل‌ها «یک تصویر یا صدا به شکل یک پروسه تدریجی حذف نویز پدید می‌آید؛ ابتدا توزیع نویز خالص است و سپس به صورت گام‌به‌گام به خروجی هدف نزدیک می‌شود». مدل‌های پخشی اخیراً در تولید تصاویر با کیفیت بالا (مثل DALL·E، Imagen و Stable Diffusion) و حتی در برخی کاربردهای دیگری مانند تولید صوت، بسیار موفق بوده‌اند.

GAN (Generative Adversarial Network – شبکه عصبی رقابتی)

شبکه‌های GAN یک روش مولد معروف دیگر هستند. یک GAN از دو شبکه عصبی تشکیل می‌شود: یکی تولیدکننده (Generator) و دیگری تمییزدهنده (Discriminator). تولیدکننده تلاش می‌کند نمونه‌های مصنوعی (مثلاً تصویر جعلی) بسازد و تمییزدهنده تلاش می‌کند تشخیص دهد که آیا نمونه از داده واقعی آمده یا ساختگی است. این دو شبکه با یکدیگر در یک روند بازی به‌صورت تکراری آموزش می‌بینند. در TechCrunch آمده است: «شبکه رقابتی یعنی مدلی که از دو شبکه (مولد و متمایزکننده) تشکیل شده که در طی فرآیندی رقابتی همدیگر را به چالش می‌کشند». در نتیجه این رقابت، تولیدکننده به مرور یاد می‌گیرد نمونه‌های مصنوعی بسیار واقعی‌تری بسازد. GANها در تولید تصویر، ویدیو و صدا نتایج چشمگیری داشته‌اند، اما ممکن است دچار مشکلاتی مانند ناپایداری در آموزش یا تولید الگوهای تکراری شوند.

عامل‌های هوشمند

AI Agent (عامل هوشمند)

عامل هوش مصنوعی یک نرم‌افزار یا ربات است که قادر است با محیط خود تعامل کند و بر اساس اهدافی که دارد، دست به اقدامات خودکار بزند. به بیان TechCrunch، «عامل‌های هوش مصنوعی برنامه‌های نرم‌افزاری هستند که بر اساس الگوریتم‌ها اقدام می‌کنند و می‌توانند وظایف پیچیده را خودکار کنند». برای مثال، دستیارهای مجازی مانند Alexa و Siri، ربات‌های معامله‌گر در بازار مالی، یا سیستم‌های تصمیم‌گیری توزیع‌شده، همگی نمونه‌هایی از عامل‌های هوش مصنوعی‌اند.

Coding Agent (عامل برنامه‌نویسی)

عامل برنامه‌نویسی یا کُدینگ ایجنت، نوع خاصی از عامل است که برای کمک به توسعه‌دهندگان در نوشتن یا تکمیل کد طراحی شده است. به عنوان مثال، GitHub Copilot یک کدینگ ایجنت است که به کمک مدل‌های زبانی بزرگ، هنگام تایپ کد در محیط برنامه‌نویسی پیشنهادهای خودکار ارائه می‌دهد. TechCrunch درباره آنها نوشته است: «عامل‌های کدینگ، عامل‌های هوش مصنوعی هستند که مخصوص کدنویسی آموزش دیده‌اند و می‌توانند در نوشتن سریع‌تر کد به برنامه‌نویسان کمک کنند».

MCP (Mixture-of-Context Protocol – پروتکل حافظه مدل)

پروتکل حافظه مدل (MCP) یک روش جدید برای گسترش بازه نگاه مدل‌های زبانی است. به طور ساده، MCP به مدل اجازه می‌دهد تا در چندین مرحله اطلاعات بیشتری را در حافظه موقت (Cache) خود نگه دارد. TechCrunch می‌گوید: «MCP یک روش برای افزایش حافظه مدل زبانی است که در آن مدل پس از تولید بخش اول پاسخ می‌تواند حافظه شیشه‌منی خود را خالی کند تا بتواند ورودی‌های بزرگ‌تری را پردازش کند». به بیان دیگر، MCP مانند بخش‌بندی هوشمند حافظه است که به LLM امکان می‌دهد اطلاعات بیشتری از متن را نگه دارد و پاسخ‌های بلندتری تولید کند. این روش هنوز در مراحل تحقیقاتی است و یکی از روش‌های مقابله با محدودیت طول ورودی در مدل‌های زبان است.

API Endpoint (پایانه API)

پایانه‌ی API نقطه دسترسی یک مدل یا سرویس AI در فضای اینترنت است. به عبارت ساده، یک API Endpoint آدرسی است که از طریق آن می‌توان به مدل هوش مصنوعی درخواستی (برای پیش‌بینی یا تولید) ارسال کرد. بر اساس TechCrunch، «API Endpoint در هوش مصنوعی نوعی URL یا آدرس است که مدل هوش مصنوعی روی آن به صورت سرویس ابری (cloud) قرار دارد؛ کاربران با ارسال درخواست‌های HTTP می‌توانند با مدل تعامل کنند». این مفهوم معماری دسترسی به مدل‌های تجاری مثل OpenAI یا Cohere است که بدون نیاز به دانلود مدل و صرفاً با چند خط کد و کلید API در دسترس هستند.

زیرساخت

GPU (پردازنده گرافیکی)

GPU یا واحد پردازش گرافیکی، یک پردازنده موازی قوی است که به‌ویژه در محاسبات برداری برای آموزش مدل‌های یادگیری عمیق به کار می‌رود. برخلاف CPU که به‌طور کلی برای انواع پردازش‌ها طراحی شده، GPU تعداد زیادی هسته پردازشی همزمان دارد که برای عملیات ماتریسی مورد نیاز در یادگیری عمیق بسیار مناسب است. در عمل، آموزش و استنتاج شبکه‌های عصبی روی GPUها صدها برابر سریع‌تر از CPU انجام می‌شود. حتی برخی شرکت‌های بزرگ، GPUهایی طراحی کرده‌اند تا سرعت این پردازش‌ها را بیشتر کنند (مثل سری NVIDIA RTX/H100).

TPU (پردازشگر تانسور)

TPU یا واحد پردازش تانسور، تراشه‌ای است که توسط شرکت گوگل توسعه یافته و مختص اجرای سریع‌تر عملیات یادگیری عمیق طراحی شده است. TPUها بردارهای محاسباتی را با بازده بالا پردازش می‌کنند و به ویژه برای مدل‌های سنگین LLM در محیط ابری Google Cloud استفاده می‌شوند. اگرچه GPU کاربرد جهانی‌تر دارد، TPUها در برخی موارد مخصوصا در زیرساخت‌های خاص یادگیری ماشین کارآمدترند.

Compute (محاسبات)

«Compute» در حوزه هوش مصنوعی به توان محاسباتی اطلاق می‌شود که برای آموزش یا استنتاج مدل‌ها صرف می‌شود. این واژه به منابع سخت‌افزاری و مقدار زمانی اشاره دارد که صرف عملیات پردازشی می‌شود. TechCrunch توضیح می‌دهد: «Compute به توان سخت‌افزاری گفته می‌شود که برای آموزش/استنتاج مدل لازم است. به عنوان مثال، GPUs، CPUs و TPUs همگی منابع compute به حساب می‌آیند». حجم محاسبات مورد نیاز یکی از عوامل اصلی تعیین‌کننده سرعت و هزینه آموزش مدل‌های بزرگ است.

Parallelization (هم‌زمان‌سازی)

هم‌زمان‌سازی یا موازی‌سازی به تقسیم کار بین چند پردازنده برای تسریع اجرای آن اشاره دارد. در آموزش مدل‌های بزرگ، داده‌ها یا محاسبات بین چند GPU یا چند ماشین پخش می‌شود تا آموزش سریع‌تر شود. TechCrunch می‌گوید «موازی‌سازی یعنی پخش کردن آموزش مدل روی چند سخت‌افزار برای سرعت بیشتر یا کارایی بالاتر». به عنوان مثال، برای آموزش یک LLM حجیم ممکن است صدها GPU به‌طور موازی به کار گرفته شوند.

Memory Cache (حافظه پنهان)

در ترنسفورمرها، حافظه پنهان (Cache) به حافظه‌ای گفته می‌شود که نتایج محاسباتی میانی را ذخیره می‌کند تا بتوان از آنها در مراحل بعدی استفاده کرد و به این ترتیب سرعت استنتاج را افزایش دهد. به طور خاص، در مدل‌های زبان مبتنی بر decoder-only (مثل GPT)، نتیجه عملیات توجه (Key-Value cache) از هر لایه در حافظه ذخیره می‌شود تا در تولید توکن‌های بعدی دوباره محاسبه نشود. حافظه پنهان باعث می‌شود که هر کلمه خروجی فقط یکبار پردازش شود و هنگام تولید متون طولانی، نیاز به محاسبه مجدد توجه بر توکن‌های پیشین کم شود.

اصطلاحات جدید

Hallucination (توهم)

توهم در مدل‌های زبانی به حالتی اشاره دارد که مدل، اطلاعات نادرست یا بی‌اساس ولی به‌ظاهر منطقی تولید می‌کند. به عبارت دیگر، زمانی که مدل «خیال می‌پردازد» یعنی پاسخ‌هایی کاملاً اختراعی ارائه می‌دهد که ممکن است کاذب و گمراه‌کننده باشند. TechCrunch می‌گوید «مدل‌های زبانی معمولاً پاسخ درست را جمع‌بندی می‌کنند، اما گاهی گفتاری با اعتمادبه‌نفس بالا تولید می‌کنند که غلط یا دارای اطلاعات ساختگی است. این پدیده را توهم می‌نامند». علل توهم متنوع است: می‌تواند ناشی از کمبود داده‌ٔ درست برای موضوع خاص، محدودیت‌های معماری، یا حتی هدف اولیه آموزش مدل (پیش‌بینی کلمه) باشد. همه مدل‌ها دچار توهم می‌شوند، اما راه‌های کاهش آن شامل افزایش داده‌های مرتبط (مانند RAG)، تنظیم دقیق برای دامنه خاص، و به کارگیری روش‌هایی مثل RLHF یا فیلتر خروجی است. برای مثال، در ChatGPT نمونه‌ای ثبت شده که مدل در جواب سوال، اطلاعات غلط در مورد یک محقق مشهور ارائه داد؛ این یک مورد کلاسیک از توهم است که نیاز به تصحیح دارد. ارتباط نزدیک توهم با روش‌های جدید (مثل RAG) این است که با واکشی اطلاعات واقعی قبل از پاسخ، احتمال توهم پایین می‌آید.

Open Source (متن‌باز)

متن‌باز به فناوری‌ها یا مدل‌های هوش مصنوعی اشاره دارد که کد منبع یا وزن‌های آموزشی آن‌ها برای عموم در دسترس است. به گفته TechCrunch، مدل متن‌باز مدلی است که «کد یا وزن‌های آن در دسترس عموم قرار دارد و جامعه می‌تواند روی آن کار کند». امروزه بسیاری از شرکت‌ها و موسسات متن‌باز همچون Hugging Face، گوگل و Meta، مدل‌ها و ابزارهای خود را متن‌باز کرده‌اند تا توسعه و تحقیق در اکوسیستم AI تسریع شود. متن‌باز بودن باعث شفافیت بیشتر و سرعت نوآوری می‌شود، اما گاهی نگرانی‌هایی از نظر سوءاستفاده یا کنترل نداشتن روی کاربرد مدل نیز مطرح می‌کند.

Recursive Self-Improvement (بهبود خودنگرشی متوالی)

بهبود خودنگرشی متوالی مفهومی نظری در هوش مصنوعی است که به توانایی یک سیستم هوشمند اشاره دارد تا خود را ارتقا دهد. به عبارت دیگر، مدلی که یاد می‌گیرد چگونه خودش را مجدداً آموزش دهد یا به معماری خود ویژگی‌های جدید اضافه کند، در هر چرخه باهوش‌تر و توانمندتر می‌شود. اگر هوش مصنوعی بتواند الگوریتم‌های خود را بهبود دهد و این فرایند را تکرار کند، ممکن است به سرعت از هوش انسانی عبور کند. TechCrunch درباره این پدیده می‌نویسد: «فرض کنید AI یاد بگیرد که عملکرد خودش را بهبود ببخشد، در هر نسل هوشمندتر شود و به سمت یک انفجار هوشی (Singularity) برود؛ این ایده Recursive Self-Improvement نام دارد». این موضوع در زمینه خطرات بالقوه AI مطرح می‌شود، چرا که یک AI توانمند ممکن است هدف‌هایش را با سرعت در حال ارتقا تغییر داده یا از کنترل خارج شود.

RAMageddon

RAMageddon اصطلاحی شوخی‌آمیز برای توصیف بحران حافظه است. وقتی مدل‌های هوش مصنوعی بزرگ‌تر می‌شوند، نیاز به رم (RAM) و حافظه محاسباتی برای آموزش و پردازش آن‌ها شدیداً افزایش می‌یابد. TechCrunch این پدیده را یک بحران احتمالی می‌داند و در مقاله می‌گوید: «مدل‌های بزرگ از حافظه استفاده سرسام‌آوری می‌کنند؛ ممکن است در آینده نزدیک با کمبود RAM مواجه شویم (RAMageddon)». مثلاً یک مدل چندصد میلیارد پارامتری ممکن است ده‌ها گیگابایت RAM نیاز داشته باشد که برای اکثر سازمان‌ها چالش‌برانگیز است. راهکارهای مقابله با RAMageddon شامل روش‌های فشرده‌سازی (مثل کوانتیزه‌سازی)، سرویس‌دهی ابری، و معماری‌های کارآمدتر است.

سایر اصطلاحات مهم

Prompt (پرامپت)

پرامپت ورودی‌ای است که کاربر یا برنامه به یک مدل زبانی می‌دهد تا مدل بر اساس آن پاسخ یا تولید محتوا انجام دهد. به عبارت دیگر، پرامپت سؤال، دستور، مثال یا متنی است که به مدل می‌دهیم تا «هدایت» شود. ارائه درست پرامپت می‌تواند تأثیر زیادی بر کیفیت خروجی داشته باشد. (No citation needed as این تعریف عمومی است.)

Prompt Engineering (مهندسی پرامپت)

مهندسی پرامپت به فن طراحی و بهینه‌سازی پرامپت‌ها برای گرفتن خروجی مطلوب از مدل‌های زبانی گفته می‌شود. Google Cloud توضیح می‌دهد: «مهندسی پرامپت هنر و علم طراحی ورودی‌ها (پرامپت‌ها) به‌گونه‌ای است که مدل به پاسخ دلخواه برسد». این شامل انتخاب کلمات کلیدی مناسب، افزودن قالب‌بندی خاص، استفاده از مثال‌ها (few-shot) و تکنیک‌های دیگر است. هدف نهایی این است که مدل بهترین عملکرد را در وظیفه مورد نظر نشان دهد.

RAG (Retrieval-Augmented Generation – تولید غنی‌شده با واکشی)

RAG رویکردی است که به مدل‌های زبانی اجازه می‌دهد برای پاسخگویی به سؤال، ابتدا منابع خارجی (مانند پایگاه‌های داده متنی) را واکشی کرده و سپس با ترکیب آن اطلاعات، خروجی تولید کند. به بیان ویکی‌پدیا: «RAG روشی است که در آن مدل زبانی بزرگ با داده‌های جدید از منابع بیرونی غنی می‌شود. ابتدا یک مجموعه اسناد مشخص خوانده می‌شود و سپس مدل به همراه آن اسناد به سؤال جواب می‌دهد. این روش اطلاعات جدیدی را فراتر از داده‌های آموزش به مدل می‌دهد». RAG کمک می‌کند تا توهم کاهش یابد (مدل کمتر اطلاعات نادرست تولید کند) و پاسخ‌ها به‌روزتر و مستندتر شوند.

Embedding (جاسازی برداری)

جاسازی یا بردار جاسازی، روشی است که یک داده (مانند کلمه، جمله، تصویر و…) را به یک بردار عددی تبدیل می‌کند. این بردارها ویژگی‌های معنایی یا ساختاری داده را در قالب عددی بیان می‌کنند. IBM توضیح می‌دهد: «جاسازی برداری روشی است برای تبدیل یک نقطه داده ساختارنیافته (مانند متن یا تصویر) به یک آرایه عددی که معنی اصلی داده را حفظ می‌کند». برای مثال، یک جاسازی کلمه ممکن است ویژگی‌های معنایی کلمات را حفظ کند و کلمات نزدیک معنایی را در فضای برداری نزدیک کند. Embeddingها در RAG و جستجوی معنایی برای یافتن اطلاعات مرتبط در مدارک یا پایگاه داده متنی به کار می‌روند.

Vector Database (پایگاه داده برداری)

پایگاه داده برداری سیستمی است که به طور خاص برای ذخیره و جستجوی بردارهای جاسازی شده طراحی شده است. این پایگاه‌ها با دریافت بردارهای خروجی از مدل‌های جاسازی (مثلاً بردارهای جملات یا اسناد) و ذخیره آن‌ها، امکان واکشی سریع اسناد مشابه را فراهم می‌کنند. بر طبق یک منبع، «پایگاه داده برداری با ارائه دانش متناظر با حوزه مسئله فراتر از داده‌های آموزش مدل، مدل‌های زبانی را تقویت می‌کند. این سیستم‌ها امکان جستجوی معنایی و سازوکارهایی مانند RAG را فراهم می‌کنند». به‌عبارت دیگر، برای افزودن داده‌های جدید یا جستجوی اطلاعات مرتبط در RAG، بردارها در این نوع پایگاه داده ذخیره شده و هنگام سؤال به عنوان شاخص برای بازیابی موثر مورد استفاده قرار می‌گیرند.

Multimodal AI (هوش مصنوعی چندوجهی)

هوش مصنوعی چندوجهی (Multimodal AI) به مدل‌هایی اشاره دارد که قادرند اطلاعات و داده‌های چندین نوع ورودی (متن، تصویر، صدا و…) را همزمان پردازش و ترکیب کنند. به بیان IBM، «هوش مصنوعی چندوجهی مدل‌هایی هستند که توانایی پردازش و ترکیب اطلاعات از چند نوع داده مختلف را دارند. این شامل متن، تصویر، صوت ویدئو و غیره می‌شود». برای مثال، مدلی که هم تصویر را توضیح دهد و هم متن را تحلیل کند (مانند تصویری زیرنویس کند) نمونه‌ای از هوش چندوجهی است. این نوع مدل‌ها نقش کلیدی در توسعه سیستم‌های هوش مصنوعی همه‌منظوره (مانند توصیف تصویر با زبان طبیعی یا تعامل صوت-تصویر) دارند.

AI Copilot (همیار هوش مصنوعی)

همیار هوش مصنوعی یا AI Copilot نرم‌افزاری است که به کمک هوش مصنوعی کاربران را در انجام کارها یاری می‌کند. این ابزار معمولاً مبتنی بر مدل‌های تولیدی است و می‌تواند محتوای متنی، کد یا هر کار دیگری را تولید یا پیشنهاد دهد تا کاربر سریع‌تر عمل کند. یک منبع توضیح می‌دهد: «یک همیار هوش مصنوعی دستیار دیجیتالی است که با تولید محتوا، کد و بینش‌های مرتبط با زبان طبیعی، به کاربر کمک می‌کند موثرتر کار کند. ابزارهایی مانند Microsoft Copilot و GitHub Copilot روی تولید خودکار کد و نوشتن اسناد تمرکز دارند». در واقع، Copilotها طوری طراحی شده‌اند که همکاری با انسان را تسهیل کنند و کارهای تکراری را اتوماتیک‌سازی نمایند بدون اینکه کنترل کامل از دست کاربر خارج شود.

Context Window (پنجره زمینه)

(توجه: این اصطلاح پیش‌تر آمده؛ احتمالاً این بخش تکراری است، زیرا «Context Window» در جدول مطالب در دو جای فهرست آمده است. اگر در مرجع جدید ضروری نیست، می‌توان حذف کرد یا ادغام نمود.)

Quantization (کوانتیزه‌سازی)

کوانتیزه‌سازی فرآیندی است که در آن دقت عددی وزن‌ها و فعال‌سازی‌های مدل کاهش می‌یابد تا حافظه و انرژی مصرفی کاهش یابد. به عبارت ساده، داده‌های ۳۲-بیتی مدل به ۸-بیت یا کمتر تبدیل می‌شوند. این کار سبب نصف شدن یا بیشتر شدن کارایی حافظه و سرعت مدل در استنتاج می‌شود، هرچند ممکن است دقت کمی کاهش یابد. NVIDIA توضیح می‌دهد: «کوانتیزه‌سازی دقت پارامترها و فعال‌سازی‌های مدل را کاهش می‌دهد (مثلاً از FP32 به FP8) تا حافظه مصرفی کمتر شده، سرعت استنتاج افزایش یابد و انرژی مصرفی کاهش یابد؛ البته با اندکی افت دقت». کوانتیزه‌سازی یکی از تکنیک‌های مهم کوچک‌سازی مدل برای اجرای سریع در دستگاه‌های محدود است.

LoRA (Low-Rank Adaptation)

LoRA (آداپتور مرتبه‌کم) تکنیکی است برای تنظیم دقیق مؤثر مدل‌های بزرگ. به جای تغییر تمام وزن‌های مدل، در این روش ماتریس‌های کوچک و کم‌رتبه‌ای به برخی لایه‌ها اضافه می‌شود و تنها آن‌ها آموزش می‌بینند. Zilliz می‌نویسد: «LoRA (Low-Rank Adaptation) تکنیکی است برای تنظیم دقیق مؤثر مدل‌های زبان بزرگ (LLMs) به کمک افزودن ماتریس‌های وزن کم‌رتبه آموزش‌پذیر در لایه‌های خاص مدل. این امکان را می‌دهد که حتی مدل‌هایی با میلیاردها پارامتر را نیز فاین-تیون کنیم». LoRA مدل را به‌گونه‌ای نگه می‌دارد که عمده وزن‌ها ثابت باشند و فقط پارامترهای کم‌رتبه تغییر کنند، در نتیجه نیاز به حافظه آموزش بسیار کاهش می‌یابد. LoRA یکی از روش‌های برجسته در شاخه PEFT (تنظیم دقیق پارامتری کارآمد) است.

PEFT (Parameter-Efficient Fine-Tuning)

PEFT یا تنظیم دقیق پارامتری کارآمد، مجموعه‌ای از تکنیک‌هاست که هدف آن کاهش پارامترهای قابل‌تغییر در فرآیند فاین-تیون است. LoRA یک نمونه از این تکنیک‌هاست. در PEFT معمولاً وزن‌های پایه مدل فریز می‌شود و تنها ماژول‌های کوچک‌تری (مثلاً LoRA یا آداپتور) آموزش می‌بینند. این روش‌ها حافظه و هزینه محاسباتی آموزش را بسیار کاهش می‌دهند.

Temperature (دمّا)

دمّا یک پارامتر در مدل‌های زبانی است که میزان خودبازتولیدگری مدل را کنترل می‌کند. دامنه معمولاً بین ۰ تا ۱ یا کمی بیشتر است. به طور خلاصه، دمای پایین (مثلاً ۰.۲) باعث می‌شود مدل محتاطانه‌تر و ثبات بیشتری در انتخاب کلمات داشته باشد (کمبود تنوع، تمایل به گزینه‌های پر محتمل)، در حالی که دمای بالا (مثلاً ۰.۸ یا ۱) مدل را خلاق‌تر و متنوع‌تر می‌کند (احتمال بیشتری به انتخاب کلمات نادر می‌دهد). در نتیجه، افزایش دما باعث بازتر شدن توزیع احتمال و انتخاب گزینه‌های کم‌تر رایج می‌شود.

Top-P (نقطه برش)

Top-P یا نمونه‌گیری هسته‌ای (nucleus sampling) یک روش نمونه‌برداری تصادفی از توزیع پیش‌بینی مدل است. در این روش، ابتدا توکن‌ها را بر اساس احتمالشان مرتب می‌کنیم و کمترین مجموعه‌ای از توکن‌ها را انتخاب می‌کنیم که مجموع احتمالشان به P برسد. سپس یک توکن به طور تصادفی از آن مجموعه انتخاب می‌شود. عدد P معمولاً بین ۰ و ۱ است، مثلاً P=۰.۹ یعنی از توکن‌های احتمال بالای ۰.۹ استفاده می‌کنیم. این روش کنترل بهتری روی نادری خروجی دارد و معمولاً خروجی‌های طبیعی‌تر تولید می‌کند.

Benchmark (معیار ارزیابی)

معیارهای ارزیابی مجموعه‌ای از تست‌ها و مجموعه‌داده‌ها هستند که برای سنجش عملکرد مدل‌های یادگیری ماشین استفاده می‌شوند. به عنوان مثال، وظایف چندگزینه‌ای زبان مثل MMLU یا GLUE برای سنجش قدرت LLMها و غیره کاربرد دارند. این معیارها به ما امکان می‌دهند مدل‌های مختلف را مقایسه کنیم. (یک مثال خاص: MMLU.)

MMLU

MMLU (Measuring Massive Multitask Language Understanding) یک معیار استاندارد برای ارزیابی توانایی مدل‌های زبانی در پاسخ به پرسش‌های چندگزینه‌ای متعدد است. از آن برای مقایسه مدل‌های بزرگ زبان استفاده می‌شود. ویکی‌پدیا می‌گوید: «MMLU یک معیار محبوب برای ارزیابی قابلیت‌های مدل‌های زبانی بزرگ است که شامل سؤالات چندگزینه‌ای در ۵۷ موضوع مختلف است». این معیار عمدتاً برای سنجش دانش عمومی و تخصصی مدل‌ها طراحی شده است.

AI Safety (ایمنی هوش مصنوعی)

ایمنی هوش مصنوعی به مجموعه اقداماتی گفته می‌شود که اطمینان حاصل کند سیستم‌های AI خطرات جدی ایجاد نمی‌کنند و به نفع بشریت عمل می‌کنند. طبق تعریف IBM، «ایمنی AI شامل اصول و روش‌هایی است که اطمینان می‌دهد فناوری‌های AI طوری طراحی و استفاده شوند که به نفع انسان‌ها باشد و از هر گونه آسیب احتمالی جلوگیری کند». این حوزه شامل بررسی خطراتی مثل تعصبات الگوریتمی، اختلالات امنیتی، و خطرات بزرگ مقیاس (مانند سناریوهای فرضی AI برتر) است. ایمنی AI در حال تبدیل شدن به بخشی مهم از توسعه هوش مصنوعی است تا مفاهیمی مثل حقوق بشر، شفافیت و مسئولیت‌پذیری رعایت شود.

Alignment (ترازکردن اهداف)

ترازکردن اهداف یا هم‌سویی هوش مصنوعی به فرآیند برنامه‌ریزی اهداف و معیارهای مدل هوش مصنوعی با ارزش‌ها و اهداف انسانی اشاره دارد. به بیان IBM، «ترازکردن به معنای رمزگذاری ارزش‌ها و اهداف انسانی در مدل‌های هوش مصنوعی است». هدف این است که سیستم‌های AI نه تنها به درستی کار کنند بلکه در ارزش‌های انسانی نیز درست عمل کنند؛ مثلاً از نظر اخلاقی تصمیم بگیرند یا قابل توجیه باشند. عدم تراز می‌تواند منجر به نتایج خطرناک شود (AIی که تابع پاداش نادرستی دنبال می‌کند). در کل، AI safety روی این تاکید دارد که مدل‌ها باید با اصول اخلاقی همسو شوند.

Jailbreak (شکستن محدودیت‌ها)

جِیل‌بریک در AI به نفوذ یا دستکاری سیستم برای رساندن آن به خارج از حدود تعریف‌شده‌اش گفته می‌شود. مثلاً زمانی که کاربری تکنیک‌هایی مانند تزریق پرامپت (Prompt Injection) را به‌کار می‌گیرد تا سامانه را فریب دهد تا سیاست‌های محدودیت محتوا را دور بزند. در مقالات IBM اشاره شده است: «شکستن محدودیت‌ها وقتی رخ می‌دهد که مهاجمان از تکنیک‌هایی مانند تزریق پرامپت برای بی‌اثر کردن موانع مدل و انجام اعمال ممنوعه استفاده کنند». این خطر امنیتی است که AI ممکن است به دستورهای نامربوط پاسخ دهد. استفاده از روش‌های ایمنی AI و نظارت انسانی می‌تواند جلوی چنین سوءاستفاده‌هایی را بگیرد.

Synthetic Data (داده‌های مصنوعی)

داده‌های مصنوعی داده‌هایی هستند که با استفاده از مدل‌های هوش مصنوعی ایجاد شده‌اند، به طوری که خصوصیات آماری مشابه داده‌های واقعی را دارند اما نمونه‌های جدید و فاقد اطلاعات شناسایی‌کننده هستند. از این داده‌ها برای آموزش و تست مدل‌ها در مواردی استفاده می‌شود که داده واقعی حساس یا کمیاب است. به گفته Mostly AI، «داده مصنوعی توسط مدل‌های هوش مصنوعی تولید می‌شود که از مجموعه داده‌های واقعی یاد می‌گیرند و سپس رکوردهای جدید و مصنوعی تولید می‌کنند که از نظر آماری مشابه داده اصلی است اما اطلاعات هویتی ندارد». این داده‌ها حریم خصوصی را حفظ می‌کنند و برای آزمایش نرم‌افزار یا آموزش مدل‌ها بدون افشای اطلاعات حساس بسیار مناسبند.

Latency (تاخیر زمانی)

تاخیر در سیستم‌های AI به مدت زمانی گفته می‌شود که از لحظه دریافت ورودی تا تولید خروجی می‌گذرد. به ویژه در استنتاج مدل‌های زبانی، «زمان بین ارسال ورودی توسط کاربر و دریافت پاسخ مدل» بسیار مهم است. به گفته یک منبع گراف‌محور، «تاخیر زمان لازم برای پاسخ‌گویی یک سامانه AI پس از دریافت ورودی است. اغلب منظور همان تاخیر استنتاج است — چقدر طول می‌کشد مدل درخواست را پردازش کند و جواب را برگرداند». تاخیر کم برای تجربه کاربری روان مهم است، به خصوص در چت‌بات‌ها یا سیستم‌های تعاملی که کاربر انتظار دارد پاسخ‌ها در لحظه دریافت شوند.

Knowledge Cutoff (تاریخ قطع دانش)

تاریخ قطع دانش به تاریخی اشاره دارد که پس از آن مدل هوش مصنوعی بر اساس داده‌های جدید آموزش ندیده است. به بیان ویکی‌پدیا، «در یادگیری ماشین، knowledge cutoff زمانی است که پس از آن مدل بر روی داده‌های جدید آموزش داده نشده است. پس از این نقطه، دانش مدل ثابت می‌ماند». برای مثال، مدل GPT-۴ دارای تاریخ قطع سپتامبر ۲۰۲۱ است؛ یعنی اطلاعات پس از این تاریخ را در آموزش خود نداشته است. از این رو هر اطلاعات یا رویدادی پس از تاریخ قطع احتمالا برای مدل ناشناخته است و اگر هنگام پاسخ سوالی در آن حوزه باشد، مدل ممکن است یا همان اطلاعات قدیمی را بدهد یا اطمینان نادرستی ارائه دهد. این محدودیت یکی از دلایل ایجاد شکاف دانش و توهم در مدل‌ها است.

پرسش‌های متداول (FAQ)

سهراب اسکندری
دنبال‌کردن در لینکدین
نظرت چیه؟
Exit mobile version