Close Menu
اصطلاحات هوش مصنوعی – راهنمای جامع (Glossary)
اصطلاحات هوش مصنوعی – راهنمای جامع (Glossary)

اصطلاحات هوش مصنوعی – راهنمای جامع (Glossary)

0
By on آموزش و منابع آموزشی, مقالات هوش مصنوعی
اصطلاحتوضیح کوتاه
هوش مصنوعی (AI)شاخه کلی هوش در کامپیوتر
Machine Learning (یادگیری ماشین)زیرمجموعه‌ای از هوش مصنوعی
Deep Learning (یادگیری عمیق)زیرمجموعه‌ای از یادگیری ماشین
LLM (مدل زبانی بزرگ)نوعی مدل یادگیری عمیق برای پردازش زبان

فهرست مطالب

مقدمه

امروزه با رشد سریع هوش مصنوعی و معرفی هر روزه الگوریتم‌ها و فناوری‌های جدید، مجموعه‌ای از اصطلاحات تخصصی در این حوزه پدید آمده است. هر اصطلاح، مفهومی کلیدی را توضیح می‌دهد و بدون فهم آن‌ها درک اخبار و مقالات مرتبط با هوش مصنوعی دشوار خواهد بود. برای مثال، یادگیری عمیق (Deep Learning) زیرمجموعه‌ای از یادگیری ماشینی و خود یادگیری ماشین زیرمجموعه‌ای از هوش مصنوعی است. در واقع، هوش مصنوعی (AI) یک مفهوم کلی‌تر است که هدف آن خلق سیستم‌هایی است که هوشمندانه رفتار کنند. یادگیری ماشین (ML) یکی از ابزارهای مهم برای رسیدن به این هدف است و یادگیری عمیق (DL) نیز گونه‌ای پیشرفته از یادگیری ماشین است.

با توجه به گسترش سریع کاربردهای هوش مصنوعی در صنایع مختلف، آشنایی با این اصطلاحات برای پژوهشگران، توسعه‌دهندگان و حتی کاربرانی که به هر نحوی با هوش مصنوعی سروکار دارند ضروری است. این واژه‌نامه بر آن است تا به زبان ساده و با دقیق‌ترین تعاریف، بیش از ۵۰ اصطلاح کلیدی حوزه هوش مصنوعی را توضیح دهد و ارتباطات بین آن‌ها را روشن کند. همچنین، بخشی از مقاله نیز به موضوعات جدید مانند مهندسی پرامپت، استفاده از پایگاه‌های داده برداری و مفاهیم امنیتی AI اختصاص دارد تا این نوشتار به یک مرجع جامع اصطلاحات هوش مصنوعی تبدیل شود. در ادامه، پس از معرفی دسته‌بندی مفاهیم، هر اصطلاح با تعاریف ساده و تخصصی آورده می‌شود و مثال‌ها و ارتباطات آن بررسی می‌شود.

مفاهیم پایه

هوش مصنوعی (AI)

هوش مصنوعی (Artificial Intelligence) شاخه‌ای از علوم کامپیوتر است که به مطالعه و ساخت سامانه‌هایی با توانایی یادگیری، تصمیم‌گیری و حل مسئله شبیه یا حتی فراتر از انسان‌ها می‌پردازد. به عبارت دیگر، هوش مصنوعی توانایی دستگاه‌ها یا نرم‌افزارهاست که رفتار هوشمندانه از خود نشان دهند، برخلاف هوش طبیعی که خاص انسان و موجودات زنده است.

هوش مصنوعی عمومی (AGI)

هوش مصنوعی عمومی (AGI: Artificial General Intelligence) مفهومی است که به هوش مصنوعی «همه‌منظوره» اشاره دارد؛ یعنی سیستمی که می‌تواند در طیف گسترده‌ای از وظایف مهارت داشته باشد و مانند یک انسان یا بیش از او عمل کند. به بیان TechCrunch، AGI به‌طور مبهم، به گونه‌ای از هوش مصنوعی گفته می‌شود که فراتر از توانایی متوسط انسان در بسیاری از کارها عمل می‌کند. تا کنون دستاورد مشخصی در زمینه AGI گزارش نشده است، اما شرکت‌ها و پژوهشگران بسیاری روی تحقق آن متمرکزند، چرا که رسیدن به AGI می‌تواند به هوش مصنوعی بسیار قدرتمند و خودترمیم‌پذیر منجر شود.

یادگیری ماشین (Machine Learning)

یادگیری ماشین شاخه‌ای از هوش مصنوعی است که به طراحی الگوریتم‌هایی می‌پردازد که بتوانند بدون برنامه‌نویسی صریح، از داده‌ها یاد بگیرند. به‌طور دقیق‌تر، «یادگیری ماشینی علمی است که باعث می‌شود رایانه‌ها بدون نیاز به یک برنامه صریح در مورد یک موضوع خاص، بیاموزند». در این فرآیند، مدل‌های آماری با استفاده از داده‌ها آموزش دیده و سپس بر روی داده‌های جدید پیش‌بینی یا تصمیم‌گیری می‌کنند. یادگیری ماشین نقش زیرمجموعه کلیدی هوش مصنوعی را دارد و بخش بزرگی از پیشرفت‌های اخیر AI مرهون روش‌های یادگیری ماشین است.

یادگیری عمیق (Deep Learning)

یادگیری عمیق شاخه‌ای از یادگیری ماشین است که از شبکه‌های عصبی مصنوعی با چندین لایه پنهان برای یادگیری خصوصیات و الگوهای پیچیده استفاده می‌کند. همان‌طور که ویکی‌پدیا فارسی ذکر کرده، «یادگیری عمیق زیرمجموعه‌ای از یادگیری ماشینی است که از لایه‌های متعدد تبدیل خطی برای پردازش سیگنال‌های حسی مانند صدا و تصویر استفاده می‌کند». یادگیری عمیق با تقلید از ساختار سلسله‌مراتبی مغز انسان (لایه‌های عصبی) قادر است سطوح بالای انتزاعی را بیاموزد؛ مثلاً در تشخیص تصویر، لایه‌های اولیه اطلاعات مثل لبه‌ها را می‌آموزند و لایه‌های بالاتر ترکیب این ویژگی‌ها را به مفاهیم پیچیده‌تری می‌رسانند. بسیاری از مدل‌های پیشرفته زبان طبیعی و بینایی ماشین امروزی مبتنی بر یادگیری عمیق هستند.

شبکه عصبی (Neural Network)

شبکه عصبی مصنوعی مجموعه‌ای از نئورون‌های مصنوعی به هم متصل است که ساختاری چندلایه دارد. هر نئورون مصنوعی ورودی‌هایی از دیگر نئورون‌ها دریافت کرده، آنها را وزن‌دار می‌کند و از راه یک تابع فعال‌سازی، خروجی می‌دهد. به بیان ویکی‌پدیا فارسی، «شبکه عصبی یا شبکه عصبی مصنوعی به مجموعه‌ای از یاخته‌ها (نورون‌ها) گفته می‌شود که در یک معماری ویژه برای حل مسئله خاص به هم متصل شده‌اند». این سیستم‌ها توانایی یادگیری از طریق تنظیم وزن‌های ارتباطی بین نورون‌ها را دارند و در بسیاری از مسائل مانند تشخیص الگو، بینایی ماشین، پردازش زبان و غیره کاربرد دارند.

Training (آموزش مدل)

در هوش مصنوعی، آموزش مدل فرآیندی است که طی آن یک مدل یادگیری ماشین (مثلاً یک شبکه عصبی) با مجموعه داده‌های آموزشی بهینه می‌شود. به بیان TechCrunch، «آموزش به معنای وارد کردن مثال‌های صحیح (داده) به شبکه عصبی است تا وزن‌های آن تنظیم شود. این کار مثل دادن جزوه تمرینی به مدل است تا بتواند مسئله را یاد بگیرد». در عمل، مدل در هر دور آموزش (اکو) داده‌ها را دریافت کرده، خروجی خود را محاسبه می‌کند، خطا (تفاوت با خروجی مورد انتظار) را اندازه می‌گیرد و با یک روش (مثل پس‌انتشار و گرادیان نزولی) وزن‌های خود را بهبود می‌دهد. هدف کاهش خطای آموزش (مانند خطای مربعات میانگین) است تا مدل توانایی تعمیم به داده‌های جدید را پیدا کند.

Inference (استنتاج)

فرآیند استنتاج (Inference) زمانی رخ می‌دهد که پس از آموزش مدل، می‌خواهیم از آن برای پیش‌بینی یا تولید خروجی استفاده کنیم. به بیان TechCrunch، «استنتاج روند اجرای یک مدل هوش مصنوعی آموزش‌دیده و استفاده از آن برای تولید نتایج بر اساس ورودی‌های جدید است». در این مرحله مدل هیچ تغییری در وزن‌ها نمی‌دهد، بلکه صرفاً از دانش آموخته شده (وزن‌ها) استفاده می‌کند تا خروجی را محاسبه کند. بهینه‌سازی استنتاج مهم است تا در زمان واقعی (Real-time) پاسخ سریع داده شود؛ سخت‌افزارهای ویژه مانند GPU یا TPU اغلب برای تسریع استنتاج کاربرد دارند.

Weights (وزن‌ها)

در مدل‌های یادگیری عمیق، وزن‌ها متغیرهای عددی هستند که ارتباطات بین نرون‌ها را مشخص می‌کنند. آن‌ها همان «دانش» مدل پس از آموزش را نشان می‌دهند. در TechCrunch آمده است: «وزن‌ها پارامترهای آموزش‌پذیری هستند که مشخص می‌کنند هر بخش از داده چقدر بر نتیجه نهایی تاثیر بگذارد. آن‌ها به صورت یک آرایه عددی ذخیره می‌شوند». در طول آموزش، این وزن‌ها با توجه به خطا به تدریج به‌روزرسانی شده و به مقداری می‌رسند که مدل بهترین پیش‌بینی را انجام دهد.

Validation Loss (خطای اعتبارسنجی)

خطای اعتبارسنجی معیاری است برای سنجش کیفیت مدل در داده‌های دیده‌نشده. در طول آموزش یک مدل، داده‌ها معمولاً به مجموعه‌های آموزش و اعتبارسنجی تقسیم می‌شوند. خطای اعتبارسنجی به ما می‌گوید چقدر مدل روی داده‌های اعتبارسنجی (که آموزش ندیده) اشتباه می‌کند. طبق TechCrunch، «خطای اعتبارسنجی یک عدد است که نشان می‌دهد مدل چقدر در یادگیری خوب عمل می‌کند و هر چه این عدد کمتر باشد، بهتر است. معمولاً چک می‌کنند که این خطا کاهش یابد؛ اگر شروع به افزایش کند در حالی که خطای آموزش کمتر می‌شود، به معنی «Overfitting» یا بیش‌برازش مدل است. این معیار مانند کارنامه‌ای در زمان واقعی عمل می‌کند تا مطمئن شویم مدل به خوبی تعمیم می‌دهد.

مدل‌های زبانی

LLM (مدل زبانی بزرگ)

مدل‌های زبانی بزرگ (Large Language Model یا LLM) نسل جدیدی از مدل‌های یادگیری عمیق‌اند که برای درک و تولید زبان طبیعی به‌کار می‌روند. این مدل‌ها مانند GPT و Llama بر معماری Transformer مبتنی هستند و میلیاردها پارامتر دارند. به عبارت TechCrunch، LLM مدلی است که «تعداد بسیار زیادی پارامتر دارد و برای پردازش متن و زبان طبیعی استفاده می‌شود». LLMها با مشاهده داده‌های متنی وسیع، توانایی پیش‌بینی کلمه بعدی و تولید جملات را به دست می‌آورند و می‌توانند متونی بسیار شبیه زبان انسان ایجاد کنند.

Token (توکن)

توکن کوچک‌ترین واحد متنی است که مدل‌های زبانی برای پردازش متن از آن استفاده می‌کنند. بر خلاف تصور عمومی که ممکن است واژه یا کاراکتر باشد، توکن می‌تواند کلمه، بخش‌های کلمه (Subword)، یا حتی نشانه‌گذاری (مانند علامت‌گذاری) باشد. بر اساس توضیحات یک منبع آموزشی، «توکن‌ها کوچک‌ترین واحدهای داده‌ای هستند که یک مدل زبانی برای پردازش و تولید متن به کار می‌برد. آن‌ها می‌توانند نماینده کاراکترها، زیرکلمه‌ها، کلمات یا نشانه‌های نگارشی باشند». بنابراین، وقتی متنی به مدل وارد می‌شود، ابتدا به توکن‌ها شکسته شده و هر توکن به شناسه عددی تبدیل می‌شود.

Token Throughput

تراکم توکن (Token Throughput) معیاری است برای سنجش توان پردازشی مدل زبان. به طور خاص، تعداد توکن‌های خروجی که مدل می‌تواند در هر ثانیه تولید کند را نشان می‌دهد. به‌نحوی می‌توان گفت TPS (توکن بر ثانیه) ظرفیت واقعی مدلی را که متن تولید می‌کند اندازه‌گیری می‌کند. طبق منابع MLOps، «تراکم توکن به تعداد توکن‌های خروجی اشاره دارد که سیستم می‌تواند در یک ثانیه تولید کند؛ این اندازه نشان‌دهنده ظرفیت تولیدی سیستم و مصرف منابع محاسباتی است». تراکم توکن بالا نشان می‌دهد مدل و زیرساخت در حال استفاده بهینه از توان خود هستند. این معیار برای کاربردهایی که نیاز به تولید سریع متون طولانی دارند، اهمیت ویژه‌ای دارد.

Context Window (پنجره زمینه)

پنجره زمینه (Context Window) یا طول متن مورد پردازش، به حداکثر تعداد توکن‌هایی اشاره دارد که مدل در یک ورودی می‌تواند ببیند یا به خاطر بسپارد. به زبان ساده، این «حافظه» مدل در یک پرامپت است. هرچه پنجره زمینه بزرگ‌تر باشد، مدل می‌تواند اطلاعات زمینه‌ای بیشتری را در یک باره پردازش کند. اگر متنی ورودی از این حد بیشتر شود، معمولاً به صورت نوبتی (Chunking) به مدل داده می‌شود. در عمل، پنجره زمینه معمولاً محدودیتی طراحی‌شده است که به معماری مدل مربوط می‌شود. برای مثال، بسیاری از LLMهای مرسوم، پنجره‌هایی از چند هزار تا چند ده هزار توکن دارند. هیچ منبع خاصی از میان منابع باز لزوماً نیاز به استناد ندارد، اما مفهوم آن در مدل‌ها بسیار مهم است.

Chain of Thought (زنجیره فکر)

زنجیره فکر روشی است که مدل‌های زبانی را برای استدلال تدریجی تقویت می‌کند. در این روش، مدل به جای جواب مستقیم، گام‌های میانی استدلال را نیز تولید می‌کند. بر اساس TechCrunch، «زنجیره فکر به مدل اجازه می‌دهد مسئله را به بخش‌های کوچک‌تر تقسیم کند و گام به گام به پاسخ برسد. این تکنیک از استدلال پشت سر هم کمک می‌گیرد که احتمال پاسخ درست را افزایش می‌دهد». در عمل، زنجیره فکر باعث می‌شود مدل، مانند انسان، پیش‌فرض‌ها و محاسبات داخلی خود را بازگو کند و این شفافیت می‌تواند در تولید پاسخ‌های منطقی‌تر یا درک بهتر فرآیند مدل توسط انسان مفید باشد.

Reasoning Model (مدل استدلال)

مدل استدلال نوعی مدل زبانی ویژه است که برای پیاده‌سازی استراتژی‌های زنجیره فکر بهینه شده است. به عبارت TechCrunch، «مدل‌های استدلال از LLMهای معمولی ساخته می‌شوند اما با استفاده از تکنیک‌های پیشرفته مانند تقویت یادگیری از بازخورد انسانی، برای تفکر مبتنی بر زنجیره فکری بهینه شده‌اند». این مدل‌ها، معمولا در مراحل پس‌آموزش (Fine-tuning) یا RLHF، مهارت‌های حل مسئله سلسله‌مراتبی را فرا گرفته و پاسخ‌های منطقی و قابل پیگیری بیشتری ارائه می‌دهند.

آموزش مدل‌ها

Fine-Tuning (تنظیم دقیق)

تنظیم دقیق (Fine-Tuning) فرآیندی است که در آن یک مدل از پیش‌آموزش‌دیده (معمولا LLM) را با استفاده از داده‌های خاص یک دامنه یا وظیفه جدید وادار به یادگیری دوباره می‌کنیم تا عملکرد آن در آن وظیفه بهبود یابد. به عبارت دیگر، بجای آموزش تمام وزن‌های مدل از ابتدا، فقط با مثال‌های جدید و هدایت شده برخی لایه‌ها یا کل مدل را اندکی به‌روزرسانی می‌کنیم. این کار «یادگیری انتقالی» نیز نامیده می‌شود. برای نمونه، اگر بخواهیم یک مدل زبانی عمومی را در تولید پیکره‌های متنی پزشکی قوی کنیم، آن را با متون پزشکی خاص تنظیم دقیق می‌کنیم. به بیان TechCrunch، fine-tuning راهی است برای بهبود عملکرد مدل‌های بزرگ در وظایف خاص با استفاده از داده‌های جدید.

Transfer Learning (یادگیری انتقالی)

یادگیری انتقالی مفهومی نزدیک به تنظیم دقیق است و اشاره دارد به استفاده از تجربیات (وزن‌های آموزش‌دیده) یک مدل در یک کار برای کمک به آموزش در یک کار جدید. در عمل، معمولا با فریز کردن اکثر لایه‌ها و فقط آموزش لایه‌های آخر یا افزودن لایه‌های جدید، مدل را برای کاری جدید تنظیم می‌کنند. این روش زمان و داده کمتری نسبت به آموزش از ابتدا نیاز دارد. برای مثال، یک شبکه عصبی که روی یک مجموعه تصاویر آموزش دیده بود، می‌تواند به سرعت به کارهایی مانند تشخیص سرطان پوست با همین مدل، ولی با داده‌های جدید، فاین-تیون شود. این رویکرد با هدف «انتقال» دانش از وظیفه اول به دوم انجام می‌شود.

Distillation (تقطیر)

تقطیر دانش (Knowledge Distillation) روشی برای ساده‌سازی مدل‌های بزرگ و انتقال عملکرد آنها به مدل‌های کوچکتر است. در این روش، ابتدا یک مدل بزرگ و قدرتمند (معلم) آموزش داده می‌شود، سپس این مدل بزرگ برای تولید خروجی‌های «نرم» (احتمالات پیش‌بینی) استفاده می‌شود و یک مدل کوچکتر (دانش‌آموز) را طوری آموزش می‌دهیم که خروجی‌هایش شبیه به مدل بزرگ باشد. به این ترتیب، دانش مدل بزرگ در مدل کوچک جمع می‌شود. TechCrunch می‌گوید «تقطیر یعنی آموزش یک مدل کوچک‌تر (دانش‌آموز) برای تقلید خروجی‌های یک مدل بزرگ (معلم)، به منظور کاهش اندازه مدل بدون افت زیاد دقت». این روش به خصوص برای استقرار مد‌ل‌ها روی دستگاه‌های محدود کاربرد دارد.

Reinforcement Learning (یادگیری تقویتی)

یادگیری تقویتی (RL) نوعی یادگیری ماشینی است که بر پایه مفهوم پاداش و مجازات استوار است. در این روش، عامل (Agent) اقداماتی انجام می‌دهد، محیط بر مبنای این اقدامات به او پاداش یا تنبیه می‌دهد و هدف عامل بیشینه کردن پاداش تجمعی است. این روش در حوزه‌های مختلف از بازی‌های کامپیوتری گرفته تا کنترل ربات‌ها کاربرد دارد.

RLHF (یادگیری تقویتی با بازخورد انسانی)

یادگیری تقویتی با بازخورد انسانی (RLHF) یک تکنیک مهم در حوزه تولید متن با LLMها است. در این روش، مدل ابتدا با یادگیری تقویتی مجاز (RL) آموزش داده می‌شود، اما این بار بجای یک تابع پاداش سخت و مشخص، از بازخورد انسانی برای راهنمایی مدل استفاده می‌شود. برای مثال، ممکن است انسان‌ها نمونه‌های خروجی را برچسب‌زنی کنند یا دروازه‌های پاداش‌گذاری مشخص کنند. هدف این است که مدل، خروجی‌های نزدیک‌تر به علایق و ارزش‌های انسانی تولید کند. RLHF در توسعه مدل‌های بزرگی مانند ChatGPT اهمیت زیادی دارد، چرا که با دخالت مستقیم انسان‌ها، خطاهای مهم مدل کاهش پیدا می‌کنند.

معماری مدل‌ها

Transformer (معماری تبدیل‌کننده)

ترانسفورمرها یک خانواده معماری شبکه‌های عصبی هستند که بر پایه مکانیزم توجه (Attention) ساخته شده‌اند. این معماری اولین بار در مقاله «توجه همه چیز است» معرفی شد و پایه و اساس بیشتر مدل‌های زبانی امروزی را تشکیل می‌دهد. طبق ویکی‌پدیا، «معماری Transformer بر اساس مکانیزم توجه چندسَر (multi-head attention) عمل می‌کند که در هر لایه، هر توکن (نمایش برداری یک تکه متن) را با توجه به دیگر توکن‌ها زمینه‌ای می‌کند. بدین ترتیب هر توکن می‌تواند به تمام توکن‌های دیگر وزن بدهد و وابستگی‌های دوردست در متن را بیاموزد». مزیت اصلی ترنسفورمر نسبت به معماری‌های قدیمی‌تر (مثل RNN یا LSTM) این است که به صورت موازی (parallel) آموزش داده می‌شود و وابستگی سکانس طولانی را بهتر مدیریت می‌کند. تقریباً تمام مدل‌های زبانی بزرگ (LLM) بر پایه معماری ترنسفورمر ساخته شده‌اند.

MoE (Mixture of Experts – ساختار مخلوط از کارشناسان)

معماری «مخلوط کارشناسان» (Mixture of Experts) یک رویکرد مقیاس‌پذیر در یادگیری ماشین است. در این ساختار چندین زیرشبکه (کارشناس) مستقل طراحی می‌شوند که هر یک در بخشی از فضای مسئله تخصص دارند. سپس یک سازوکار گیتینگ (مسیردهنده) تعیین می‌کند که کدام «کارشناس» در پاسخ‌گویی به ورودی مشارکت کند. به گفته ویکی‌پدیا، «Mixture of Experts روشی است که در آن چند شبکه عصبی متخصص برای تقسیم‌بندی فضای مسئله به نواحی همگن استفاده می‌شوند». مزیت MoE این است که می‌توان مدل را بسیار بزرگ کرد (با تعداد کارشناسان زیاد) بدون اینکه سرعت استنتاج به‌شدت کاهش یابد، چرا که هر بار فقط چند کارشناس فعال می‌شوند. از این معماری در برخی مدل‌های زبان بسیار بزرگ و همچنین در کاربردهای چندمنظوره استفاده می‌شود.

Diffusion (مدل پخشی)

مدل‌های پخشی (Diffusion Models) یک خانواده از مدل‌های مولد هستند که در آنها محتوا به‌تدریج از نویز ایجاد می‌شود. به عبارت ساده، یک مدل Diffusion ابتدا نمونه‌ای از نویز تصادفی را تولید می‌کند و سپس با گام‌های متوالی، آن نویز را آرام آرام «پاکسازی» یا «پخش» می‌کند تا در انتها به داده‌ای واقعی (مانند تصویر) برسد. TechCrunch توضیح می‌دهد که در این مدل‌ها «یک تصویر یا صدا به شکل یک پروسه تدریجی حذف نویز پدید می‌آید؛ ابتدا توزیع نویز خالص است و سپس به صورت گام‌به‌گام به خروجی هدف نزدیک می‌شود». مدل‌های پخشی اخیراً در تولید تصاویر با کیفیت بالا (مثل DALL·E، Imagen و Stable Diffusion) و حتی در برخی کاربردهای دیگری مانند تولید صوت، بسیار موفق بوده‌اند.

GAN (Generative Adversarial Network – شبکه عصبی رقابتی)

شبکه‌های GAN یک روش مولد معروف دیگر هستند. یک GAN از دو شبکه عصبی تشکیل می‌شود: یکی تولیدکننده (Generator) و دیگری تمییزدهنده (Discriminator). تولیدکننده تلاش می‌کند نمونه‌های مصنوعی (مثلاً تصویر جعلی) بسازد و تمییزدهنده تلاش می‌کند تشخیص دهد که آیا نمونه از داده واقعی آمده یا ساختگی است. این دو شبکه با یکدیگر در یک روند بازی به‌صورت تکراری آموزش می‌بینند. در TechCrunch آمده است: «شبکه رقابتی یعنی مدلی که از دو شبکه (مولد و متمایزکننده) تشکیل شده که در طی فرآیندی رقابتی همدیگر را به چالش می‌کشند». در نتیجه این رقابت، تولیدکننده به مرور یاد می‌گیرد نمونه‌های مصنوعی بسیار واقعی‌تری بسازد. GANها در تولید تصویر، ویدیو و صدا نتایج چشمگیری داشته‌اند، اما ممکن است دچار مشکلاتی مانند ناپایداری در آموزش یا تولید الگوهای تکراری شوند.

عامل‌های هوشمند

AI Agent (عامل هوشمند)

عامل هوش مصنوعی یک نرم‌افزار یا ربات است که قادر است با محیط خود تعامل کند و بر اساس اهدافی که دارد، دست به اقدامات خودکار بزند. به بیان TechCrunch، «عامل‌های هوش مصنوعی برنامه‌های نرم‌افزاری هستند که بر اساس الگوریتم‌ها اقدام می‌کنند و می‌توانند وظایف پیچیده را خودکار کنند». برای مثال، دستیارهای مجازی مانند Alexa و Siri، ربات‌های معامله‌گر در بازار مالی، یا سیستم‌های تصمیم‌گیری توزیع‌شده، همگی نمونه‌هایی از عامل‌های هوش مصنوعی‌اند.

Coding Agent (عامل برنامه‌نویسی)

عامل برنامه‌نویسی یا کُدینگ ایجنت، نوع خاصی از عامل است که برای کمک به توسعه‌دهندگان در نوشتن یا تکمیل کد طراحی شده است. به عنوان مثال، GitHub Copilot یک کدینگ ایجنت است که به کمک مدل‌های زبانی بزرگ، هنگام تایپ کد در محیط برنامه‌نویسی پیشنهادهای خودکار ارائه می‌دهد. TechCrunch درباره آنها نوشته است: «عامل‌های کدینگ، عامل‌های هوش مصنوعی هستند که مخصوص کدنویسی آموزش دیده‌اند و می‌توانند در نوشتن سریع‌تر کد به برنامه‌نویسان کمک کنند».

MCP (Mixture-of-Context Protocol – پروتکل حافظه مدل)

پروتکل حافظه مدل (MCP) یک روش جدید برای گسترش بازه نگاه مدل‌های زبانی است. به طور ساده، MCP به مدل اجازه می‌دهد تا در چندین مرحله اطلاعات بیشتری را در حافظه موقت (Cache) خود نگه دارد. TechCrunch می‌گوید: «MCP یک روش برای افزایش حافظه مدل زبانی است که در آن مدل پس از تولید بخش اول پاسخ می‌تواند حافظه شیشه‌منی خود را خالی کند تا بتواند ورودی‌های بزرگ‌تری را پردازش کند». به بیان دیگر، MCP مانند بخش‌بندی هوشمند حافظه است که به LLM امکان می‌دهد اطلاعات بیشتری از متن را نگه دارد و پاسخ‌های بلندتری تولید کند. این روش هنوز در مراحل تحقیقاتی است و یکی از روش‌های مقابله با محدودیت طول ورودی در مدل‌های زبان است.

API Endpoint (پایانه API)

پایانه‌ی API نقطه دسترسی یک مدل یا سرویس AI در فضای اینترنت است. به عبارت ساده، یک API Endpoint آدرسی است که از طریق آن می‌توان به مدل هوش مصنوعی درخواستی (برای پیش‌بینی یا تولید) ارسال کرد. بر اساس TechCrunch، «API Endpoint در هوش مصنوعی نوعی URL یا آدرس است که مدل هوش مصنوعی روی آن به صورت سرویس ابری (cloud) قرار دارد؛ کاربران با ارسال درخواست‌های HTTP می‌توانند با مدل تعامل کنند». این مفهوم معماری دسترسی به مدل‌های تجاری مثل OpenAI یا Cohere است که بدون نیاز به دانلود مدل و صرفاً با چند خط کد و کلید API در دسترس هستند.

زیرساخت

GPU (پردازنده گرافیکی)

GPU یا واحد پردازش گرافیکی، یک پردازنده موازی قوی است که به‌ویژه در محاسبات برداری برای آموزش مدل‌های یادگیری عمیق به کار می‌رود. برخلاف CPU که به‌طور کلی برای انواع پردازش‌ها طراحی شده، GPU تعداد زیادی هسته پردازشی همزمان دارد که برای عملیات ماتریسی مورد نیاز در یادگیری عمیق بسیار مناسب است. در عمل، آموزش و استنتاج شبکه‌های عصبی روی GPUها صدها برابر سریع‌تر از CPU انجام می‌شود. حتی برخی شرکت‌های بزرگ، GPUهایی طراحی کرده‌اند تا سرعت این پردازش‌ها را بیشتر کنند (مثل سری NVIDIA RTX/H100).

TPU (پردازشگر تانسور)

TPU یا واحد پردازش تانسور، تراشه‌ای است که توسط شرکت گوگل توسعه یافته و مختص اجرای سریع‌تر عملیات یادگیری عمیق طراحی شده است. TPUها بردارهای محاسباتی را با بازده بالا پردازش می‌کنند و به ویژه برای مدل‌های سنگین LLM در محیط ابری Google Cloud استفاده می‌شوند. اگرچه GPU کاربرد جهانی‌تر دارد، TPUها در برخی موارد مخصوصا در زیرساخت‌های خاص یادگیری ماشین کارآمدترند.

Compute (محاسبات)

«Compute» در حوزه هوش مصنوعی به توان محاسباتی اطلاق می‌شود که برای آموزش یا استنتاج مدل‌ها صرف می‌شود. این واژه به منابع سخت‌افزاری و مقدار زمانی اشاره دارد که صرف عملیات پردازشی می‌شود. TechCrunch توضیح می‌دهد: «Compute به توان سخت‌افزاری گفته می‌شود که برای آموزش/استنتاج مدل لازم است. به عنوان مثال، GPUs، CPUs و TPUs همگی منابع compute به حساب می‌آیند». حجم محاسبات مورد نیاز یکی از عوامل اصلی تعیین‌کننده سرعت و هزینه آموزش مدل‌های بزرگ است.

Parallelization (هم‌زمان‌سازی)

هم‌زمان‌سازی یا موازی‌سازی به تقسیم کار بین چند پردازنده برای تسریع اجرای آن اشاره دارد. در آموزش مدل‌های بزرگ، داده‌ها یا محاسبات بین چند GPU یا چند ماشین پخش می‌شود تا آموزش سریع‌تر شود. TechCrunch می‌گوید «موازی‌سازی یعنی پخش کردن آموزش مدل روی چند سخت‌افزار برای سرعت بیشتر یا کارایی بالاتر». به عنوان مثال، برای آموزش یک LLM حجیم ممکن است صدها GPU به‌طور موازی به کار گرفته شوند.

Memory Cache (حافظه پنهان)

در ترنسفورمرها، حافظه پنهان (Cache) به حافظه‌ای گفته می‌شود که نتایج محاسباتی میانی را ذخیره می‌کند تا بتوان از آنها در مراحل بعدی استفاده کرد و به این ترتیب سرعت استنتاج را افزایش دهد. به طور خاص، در مدل‌های زبان مبتنی بر decoder-only (مثل GPT)، نتیجه عملیات توجه (Key-Value cache) از هر لایه در حافظه ذخیره می‌شود تا در تولید توکن‌های بعدی دوباره محاسبه نشود. حافظه پنهان باعث می‌شود که هر کلمه خروجی فقط یکبار پردازش شود و هنگام تولید متون طولانی، نیاز به محاسبه مجدد توجه بر توکن‌های پیشین کم شود.

اصطلاحات جدید

Hallucination (توهم)

توهم در مدل‌های زبانی به حالتی اشاره دارد که مدل، اطلاعات نادرست یا بی‌اساس ولی به‌ظاهر منطقی تولید می‌کند. به عبارت دیگر، زمانی که مدل «خیال می‌پردازد» یعنی پاسخ‌هایی کاملاً اختراعی ارائه می‌دهد که ممکن است کاذب و گمراه‌کننده باشند. TechCrunch می‌گوید «مدل‌های زبانی معمولاً پاسخ درست را جمع‌بندی می‌کنند، اما گاهی گفتاری با اعتمادبه‌نفس بالا تولید می‌کنند که غلط یا دارای اطلاعات ساختگی است. این پدیده را توهم می‌نامند». علل توهم متنوع است: می‌تواند ناشی از کمبود داده‌ٔ درست برای موضوع خاص، محدودیت‌های معماری، یا حتی هدف اولیه آموزش مدل (پیش‌بینی کلمه) باشد. همه مدل‌ها دچار توهم می‌شوند، اما راه‌های کاهش آن شامل افزایش داده‌های مرتبط (مانند RAG)، تنظیم دقیق برای دامنه خاص، و به کارگیری روش‌هایی مثل RLHF یا فیلتر خروجی است. برای مثال، در ChatGPT نمونه‌ای ثبت شده که مدل در جواب سوال، اطلاعات غلط در مورد یک محقق مشهور ارائه داد؛ این یک مورد کلاسیک از توهم است که نیاز به تصحیح دارد. ارتباط نزدیک توهم با روش‌های جدید (مثل RAG) این است که با واکشی اطلاعات واقعی قبل از پاسخ، احتمال توهم پایین می‌آید.

Open Source (متن‌باز)

متن‌باز به فناوری‌ها یا مدل‌های هوش مصنوعی اشاره دارد که کد منبع یا وزن‌های آموزشی آن‌ها برای عموم در دسترس است. به گفته TechCrunch، مدل متن‌باز مدلی است که «کد یا وزن‌های آن در دسترس عموم قرار دارد و جامعه می‌تواند روی آن کار کند». امروزه بسیاری از شرکت‌ها و موسسات متن‌باز همچون Hugging Face، گوگل و Meta، مدل‌ها و ابزارهای خود را متن‌باز کرده‌اند تا توسعه و تحقیق در اکوسیستم AI تسریع شود. متن‌باز بودن باعث شفافیت بیشتر و سرعت نوآوری می‌شود، اما گاهی نگرانی‌هایی از نظر سوءاستفاده یا کنترل نداشتن روی کاربرد مدل نیز مطرح می‌کند.

Recursive Self-Improvement (بهبود خودنگرشی متوالی)

بهبود خودنگرشی متوالی مفهومی نظری در هوش مصنوعی است که به توانایی یک سیستم هوشمند اشاره دارد تا خود را ارتقا دهد. به عبارت دیگر، مدلی که یاد می‌گیرد چگونه خودش را مجدداً آموزش دهد یا به معماری خود ویژگی‌های جدید اضافه کند، در هر چرخه باهوش‌تر و توانمندتر می‌شود. اگر هوش مصنوعی بتواند الگوریتم‌های خود را بهبود دهد و این فرایند را تکرار کند، ممکن است به سرعت از هوش انسانی عبور کند. TechCrunch درباره این پدیده می‌نویسد: «فرض کنید AI یاد بگیرد که عملکرد خودش را بهبود ببخشد، در هر نسل هوشمندتر شود و به سمت یک انفجار هوشی (Singularity) برود؛ این ایده Recursive Self-Improvement نام دارد». این موضوع در زمینه خطرات بالقوه AI مطرح می‌شود، چرا که یک AI توانمند ممکن است هدف‌هایش را با سرعت در حال ارتقا تغییر داده یا از کنترل خارج شود.

RAMageddon

RAMageddon اصطلاحی شوخی‌آمیز برای توصیف بحران حافظه است. وقتی مدل‌های هوش مصنوعی بزرگ‌تر می‌شوند، نیاز به رم (RAM) و حافظه محاسباتی برای آموزش و پردازش آن‌ها شدیداً افزایش می‌یابد. TechCrunch این پدیده را یک بحران احتمالی می‌داند و در مقاله می‌گوید: «مدل‌های بزرگ از حافظه استفاده سرسام‌آوری می‌کنند؛ ممکن است در آینده نزدیک با کمبود RAM مواجه شویم (RAMageddon)». مثلاً یک مدل چندصد میلیارد پارامتری ممکن است ده‌ها گیگابایت RAM نیاز داشته باشد که برای اکثر سازمان‌ها چالش‌برانگیز است. راهکارهای مقابله با RAMageddon شامل روش‌های فشرده‌سازی (مثل کوانتیزه‌سازی)، سرویس‌دهی ابری، و معماری‌های کارآمدتر است.

سایر اصطلاحات مهم

Prompt (پرامپت)

پرامپت ورودی‌ای است که کاربر یا برنامه به یک مدل زبانی می‌دهد تا مدل بر اساس آن پاسخ یا تولید محتوا انجام دهد. به عبارت دیگر، پرامپت سؤال، دستور، مثال یا متنی است که به مدل می‌دهیم تا «هدایت» شود. ارائه درست پرامپت می‌تواند تأثیر زیادی بر کیفیت خروجی داشته باشد. (No citation needed as این تعریف عمومی است.)

Prompt Engineering (مهندسی پرامپت)

مهندسی پرامپت به فن طراحی و بهینه‌سازی پرامپت‌ها برای گرفتن خروجی مطلوب از مدل‌های زبانی گفته می‌شود. Google Cloud توضیح می‌دهد: «مهندسی پرامپت هنر و علم طراحی ورودی‌ها (پرامپت‌ها) به‌گونه‌ای است که مدل به پاسخ دلخواه برسد». این شامل انتخاب کلمات کلیدی مناسب، افزودن قالب‌بندی خاص، استفاده از مثال‌ها (few-shot) و تکنیک‌های دیگر است. هدف نهایی این است که مدل بهترین عملکرد را در وظیفه مورد نظر نشان دهد.

RAG (Retrieval-Augmented Generation – تولید غنی‌شده با واکشی)

RAG رویکردی است که به مدل‌های زبانی اجازه می‌دهد برای پاسخگویی به سؤال، ابتدا منابع خارجی (مانند پایگاه‌های داده متنی) را واکشی کرده و سپس با ترکیب آن اطلاعات، خروجی تولید کند. به بیان ویکی‌پدیا: «RAG روشی است که در آن مدل زبانی بزرگ با داده‌های جدید از منابع بیرونی غنی می‌شود. ابتدا یک مجموعه اسناد مشخص خوانده می‌شود و سپس مدل به همراه آن اسناد به سؤال جواب می‌دهد. این روش اطلاعات جدیدی را فراتر از داده‌های آموزش به مدل می‌دهد». RAG کمک می‌کند تا توهم کاهش یابد (مدل کمتر اطلاعات نادرست تولید کند) و پاسخ‌ها به‌روزتر و مستندتر شوند.

Embedding (جاسازی برداری)

جاسازی یا بردار جاسازی، روشی است که یک داده (مانند کلمه، جمله، تصویر و…) را به یک بردار عددی تبدیل می‌کند. این بردارها ویژگی‌های معنایی یا ساختاری داده را در قالب عددی بیان می‌کنند. IBM توضیح می‌دهد: «جاسازی برداری روشی است برای تبدیل یک نقطه داده ساختارنیافته (مانند متن یا تصویر) به یک آرایه عددی که معنی اصلی داده را حفظ می‌کند». برای مثال، یک جاسازی کلمه ممکن است ویژگی‌های معنایی کلمات را حفظ کند و کلمات نزدیک معنایی را در فضای برداری نزدیک کند. Embeddingها در RAG و جستجوی معنایی برای یافتن اطلاعات مرتبط در مدارک یا پایگاه داده متنی به کار می‌روند.

Vector Database (پایگاه داده برداری)

پایگاه داده برداری سیستمی است که به طور خاص برای ذخیره و جستجوی بردارهای جاسازی شده طراحی شده است. این پایگاه‌ها با دریافت بردارهای خروجی از مدل‌های جاسازی (مثلاً بردارهای جملات یا اسناد) و ذخیره آن‌ها، امکان واکشی سریع اسناد مشابه را فراهم می‌کنند. بر طبق یک منبع، «پایگاه داده برداری با ارائه دانش متناظر با حوزه مسئله فراتر از داده‌های آموزش مدل، مدل‌های زبانی را تقویت می‌کند. این سیستم‌ها امکان جستجوی معنایی و سازوکارهایی مانند RAG را فراهم می‌کنند». به‌عبارت دیگر، برای افزودن داده‌های جدید یا جستجوی اطلاعات مرتبط در RAG، بردارها در این نوع پایگاه داده ذخیره شده و هنگام سؤال به عنوان شاخص برای بازیابی موثر مورد استفاده قرار می‌گیرند.

Multimodal AI (هوش مصنوعی چندوجهی)

هوش مصنوعی چندوجهی (Multimodal AI) به مدل‌هایی اشاره دارد که قادرند اطلاعات و داده‌های چندین نوع ورودی (متن، تصویر، صدا و…) را همزمان پردازش و ترکیب کنند. به بیان IBM، «هوش مصنوعی چندوجهی مدل‌هایی هستند که توانایی پردازش و ترکیب اطلاعات از چند نوع داده مختلف را دارند. این شامل متن، تصویر، صوت ویدئو و غیره می‌شود». برای مثال، مدلی که هم تصویر را توضیح دهد و هم متن را تحلیل کند (مانند تصویری زیرنویس کند) نمونه‌ای از هوش چندوجهی است. این نوع مدل‌ها نقش کلیدی در توسعه سیستم‌های هوش مصنوعی همه‌منظوره (مانند توصیف تصویر با زبان طبیعی یا تعامل صوت-تصویر) دارند.

AI Copilot (همیار هوش مصنوعی)

همیار هوش مصنوعی یا AI Copilot نرم‌افزاری است که به کمک هوش مصنوعی کاربران را در انجام کارها یاری می‌کند. این ابزار معمولاً مبتنی بر مدل‌های تولیدی است و می‌تواند محتوای متنی، کد یا هر کار دیگری را تولید یا پیشنهاد دهد تا کاربر سریع‌تر عمل کند. یک منبع توضیح می‌دهد: «یک همیار هوش مصنوعی دستیار دیجیتالی است که با تولید محتوا، کد و بینش‌های مرتبط با زبان طبیعی، به کاربر کمک می‌کند موثرتر کار کند. ابزارهایی مانند Microsoft Copilot و GitHub Copilot روی تولید خودکار کد و نوشتن اسناد تمرکز دارند». در واقع، Copilotها طوری طراحی شده‌اند که همکاری با انسان را تسهیل کنند و کارهای تکراری را اتوماتیک‌سازی نمایند بدون اینکه کنترل کامل از دست کاربر خارج شود.

Context Window (پنجره زمینه)

(توجه: این اصطلاح پیش‌تر آمده؛ احتمالاً این بخش تکراری است، زیرا «Context Window» در جدول مطالب در دو جای فهرست آمده است. اگر در مرجع جدید ضروری نیست، می‌توان حذف کرد یا ادغام نمود.)

Quantization (کوانتیزه‌سازی)

کوانتیزه‌سازی فرآیندی است که در آن دقت عددی وزن‌ها و فعال‌سازی‌های مدل کاهش می‌یابد تا حافظه و انرژی مصرفی کاهش یابد. به عبارت ساده، داده‌های ۳۲-بیتی مدل به ۸-بیت یا کمتر تبدیل می‌شوند. این کار سبب نصف شدن یا بیشتر شدن کارایی حافظه و سرعت مدل در استنتاج می‌شود، هرچند ممکن است دقت کمی کاهش یابد. NVIDIA توضیح می‌دهد: «کوانتیزه‌سازی دقت پارامترها و فعال‌سازی‌های مدل را کاهش می‌دهد (مثلاً از FP32 به FP8) تا حافظه مصرفی کمتر شده، سرعت استنتاج افزایش یابد و انرژی مصرفی کاهش یابد؛ البته با اندکی افت دقت». کوانتیزه‌سازی یکی از تکنیک‌های مهم کوچک‌سازی مدل برای اجرای سریع در دستگاه‌های محدود است.

LoRA (Low-Rank Adaptation)

LoRA (آداپتور مرتبه‌کم) تکنیکی است برای تنظیم دقیق مؤثر مدل‌های بزرگ. به جای تغییر تمام وزن‌های مدل، در این روش ماتریس‌های کوچک و کم‌رتبه‌ای به برخی لایه‌ها اضافه می‌شود و تنها آن‌ها آموزش می‌بینند. Zilliz می‌نویسد: «LoRA (Low-Rank Adaptation) تکنیکی است برای تنظیم دقیق مؤثر مدل‌های زبان بزرگ (LLMs) به کمک افزودن ماتریس‌های وزن کم‌رتبه آموزش‌پذیر در لایه‌های خاص مدل. این امکان را می‌دهد که حتی مدل‌هایی با میلیاردها پارامتر را نیز فاین-تیون کنیم». LoRA مدل را به‌گونه‌ای نگه می‌دارد که عمده وزن‌ها ثابت باشند و فقط پارامترهای کم‌رتبه تغییر کنند، در نتیجه نیاز به حافظه آموزش بسیار کاهش می‌یابد. LoRA یکی از روش‌های برجسته در شاخه PEFT (تنظیم دقیق پارامتری کارآمد) است.

PEFT (Parameter-Efficient Fine-Tuning)

PEFT یا تنظیم دقیق پارامتری کارآمد، مجموعه‌ای از تکنیک‌هاست که هدف آن کاهش پارامترهای قابل‌تغییر در فرآیند فاین-تیون است. LoRA یک نمونه از این تکنیک‌هاست. در PEFT معمولاً وزن‌های پایه مدل فریز می‌شود و تنها ماژول‌های کوچک‌تری (مثلاً LoRA یا آداپتور) آموزش می‌بینند. این روش‌ها حافظه و هزینه محاسباتی آموزش را بسیار کاهش می‌دهند.

Temperature (دمّا)

دمّا یک پارامتر در مدل‌های زبانی است که میزان خودبازتولیدگری مدل را کنترل می‌کند. دامنه معمولاً بین ۰ تا ۱ یا کمی بیشتر است. به طور خلاصه، دمای پایین (مثلاً ۰.۲) باعث می‌شود مدل محتاطانه‌تر و ثبات بیشتری در انتخاب کلمات داشته باشد (کمبود تنوع، تمایل به گزینه‌های پر محتمل)، در حالی که دمای بالا (مثلاً ۰.۸ یا ۱) مدل را خلاق‌تر و متنوع‌تر می‌کند (احتمال بیشتری به انتخاب کلمات نادر می‌دهد). در نتیجه، افزایش دما باعث بازتر شدن توزیع احتمال و انتخاب گزینه‌های کم‌تر رایج می‌شود.

Top-P (نقطه برش)

Top-P یا نمونه‌گیری هسته‌ای (nucleus sampling) یک روش نمونه‌برداری تصادفی از توزیع پیش‌بینی مدل است. در این روش، ابتدا توکن‌ها را بر اساس احتمالشان مرتب می‌کنیم و کمترین مجموعه‌ای از توکن‌ها را انتخاب می‌کنیم که مجموع احتمالشان به P برسد. سپس یک توکن به طور تصادفی از آن مجموعه انتخاب می‌شود. عدد P معمولاً بین ۰ و ۱ است، مثلاً P=۰.۹ یعنی از توکن‌های احتمال بالای ۰.۹ استفاده می‌کنیم. این روش کنترل بهتری روی نادری خروجی دارد و معمولاً خروجی‌های طبیعی‌تر تولید می‌کند.

Benchmark (معیار ارزیابی)

معیارهای ارزیابی مجموعه‌ای از تست‌ها و مجموعه‌داده‌ها هستند که برای سنجش عملکرد مدل‌های یادگیری ماشین استفاده می‌شوند. به عنوان مثال، وظایف چندگزینه‌ای زبان مثل MMLU یا GLUE برای سنجش قدرت LLMها و غیره کاربرد دارند. این معیارها به ما امکان می‌دهند مدل‌های مختلف را مقایسه کنیم. (یک مثال خاص: MMLU.)

MMLU

MMLU (Measuring Massive Multitask Language Understanding) یک معیار استاندارد برای ارزیابی توانایی مدل‌های زبانی در پاسخ به پرسش‌های چندگزینه‌ای متعدد است. از آن برای مقایسه مدل‌های بزرگ زبان استفاده می‌شود. ویکی‌پدیا می‌گوید: «MMLU یک معیار محبوب برای ارزیابی قابلیت‌های مدل‌های زبانی بزرگ است که شامل سؤالات چندگزینه‌ای در ۵۷ موضوع مختلف است». این معیار عمدتاً برای سنجش دانش عمومی و تخصصی مدل‌ها طراحی شده است.

AI Safety (ایمنی هوش مصنوعی)

ایمنی هوش مصنوعی به مجموعه اقداماتی گفته می‌شود که اطمینان حاصل کند سیستم‌های AI خطرات جدی ایجاد نمی‌کنند و به نفع بشریت عمل می‌کنند. طبق تعریف IBM، «ایمنی AI شامل اصول و روش‌هایی است که اطمینان می‌دهد فناوری‌های AI طوری طراحی و استفاده شوند که به نفع انسان‌ها باشد و از هر گونه آسیب احتمالی جلوگیری کند». این حوزه شامل بررسی خطراتی مثل تعصبات الگوریتمی، اختلالات امنیتی، و خطرات بزرگ مقیاس (مانند سناریوهای فرضی AI برتر) است. ایمنی AI در حال تبدیل شدن به بخشی مهم از توسعه هوش مصنوعی است تا مفاهیمی مثل حقوق بشر، شفافیت و مسئولیت‌پذیری رعایت شود.

Alignment (ترازکردن اهداف)

ترازکردن اهداف یا هم‌سویی هوش مصنوعی به فرآیند برنامه‌ریزی اهداف و معیارهای مدل هوش مصنوعی با ارزش‌ها و اهداف انسانی اشاره دارد. به بیان IBM، «ترازکردن به معنای رمزگذاری ارزش‌ها و اهداف انسانی در مدل‌های هوش مصنوعی است». هدف این است که سیستم‌های AI نه تنها به درستی کار کنند بلکه در ارزش‌های انسانی نیز درست عمل کنند؛ مثلاً از نظر اخلاقی تصمیم بگیرند یا قابل توجیه باشند. عدم تراز می‌تواند منجر به نتایج خطرناک شود (AIی که تابع پاداش نادرستی دنبال می‌کند). در کل، AI safety روی این تاکید دارد که مدل‌ها باید با اصول اخلاقی همسو شوند.

Jailbreak (شکستن محدودیت‌ها)

جِیل‌بریک در AI به نفوذ یا دستکاری سیستم برای رساندن آن به خارج از حدود تعریف‌شده‌اش گفته می‌شود. مثلاً زمانی که کاربری تکنیک‌هایی مانند تزریق پرامپت (Prompt Injection) را به‌کار می‌گیرد تا سامانه را فریب دهد تا سیاست‌های محدودیت محتوا را دور بزند. در مقالات IBM اشاره شده است: «شکستن محدودیت‌ها وقتی رخ می‌دهد که مهاجمان از تکنیک‌هایی مانند تزریق پرامپت برای بی‌اثر کردن موانع مدل و انجام اعمال ممنوعه استفاده کنند». این خطر امنیتی است که AI ممکن است به دستورهای نامربوط پاسخ دهد. استفاده از روش‌های ایمنی AI و نظارت انسانی می‌تواند جلوی چنین سوءاستفاده‌هایی را بگیرد.

Synthetic Data (داده‌های مصنوعی)

داده‌های مصنوعی داده‌هایی هستند که با استفاده از مدل‌های هوش مصنوعی ایجاد شده‌اند، به طوری که خصوصیات آماری مشابه داده‌های واقعی را دارند اما نمونه‌های جدید و فاقد اطلاعات شناسایی‌کننده هستند. از این داده‌ها برای آموزش و تست مدل‌ها در مواردی استفاده می‌شود که داده واقعی حساس یا کمیاب است. به گفته Mostly AI، «داده مصنوعی توسط مدل‌های هوش مصنوعی تولید می‌شود که از مجموعه داده‌های واقعی یاد می‌گیرند و سپس رکوردهای جدید و مصنوعی تولید می‌کنند که از نظر آماری مشابه داده اصلی است اما اطلاعات هویتی ندارد». این داده‌ها حریم خصوصی را حفظ می‌کنند و برای آزمایش نرم‌افزار یا آموزش مدل‌ها بدون افشای اطلاعات حساس بسیار مناسبند.

Latency (تاخیر زمانی)

تاخیر در سیستم‌های AI به مدت زمانی گفته می‌شود که از لحظه دریافت ورودی تا تولید خروجی می‌گذرد. به ویژه در استنتاج مدل‌های زبانی، «زمان بین ارسال ورودی توسط کاربر و دریافت پاسخ مدل» بسیار مهم است. به گفته یک منبع گراف‌محور، «تاخیر زمان لازم برای پاسخ‌گویی یک سامانه AI پس از دریافت ورودی است. اغلب منظور همان تاخیر استنتاج است — چقدر طول می‌کشد مدل درخواست را پردازش کند و جواب را برگرداند». تاخیر کم برای تجربه کاربری روان مهم است، به خصوص در چت‌بات‌ها یا سیستم‌های تعاملی که کاربر انتظار دارد پاسخ‌ها در لحظه دریافت شوند.

Knowledge Cutoff (تاریخ قطع دانش)

تاریخ قطع دانش به تاریخی اشاره دارد که پس از آن مدل هوش مصنوعی بر اساس داده‌های جدید آموزش ندیده است. به بیان ویکی‌پدیا، «در یادگیری ماشین، knowledge cutoff زمانی است که پس از آن مدل بر روی داده‌های جدید آموزش داده نشده است. پس از این نقطه، دانش مدل ثابت می‌ماند». برای مثال، مدل GPT-۴ دارای تاریخ قطع سپتامبر ۲۰۲۱ است؛ یعنی اطلاعات پس از این تاریخ را در آموزش خود نداشته است. از این رو هر اطلاعات یا رویدادی پس از تاریخ قطع احتمالا برای مدل ناشناخته است و اگر هنگام پاسخ سوالی در آن حوزه باشد، مدل ممکن است یا همان اطلاعات قدیمی را بدهد یا اطمینان نادرستی ارائه دهد. این محدودیت یکی از دلایل ایجاد شکاف دانش و توهم در مدل‌ها است.

پرسش‌های متداول (FAQ)

  • س: LLM چیست؟
    پ: LLM (مدل زبانی بزرگ) مدلی هوش مصنوعی است که برای پردازش زبان طبیعی ساخته می‌شود و دارای تعداد بسیار زیادی پارامتر است. این مدل‌ها با آموزش روی حجم عظیمی از متن، توانایی تولید و درک زبان را پیدا می‌کنند. به عنوان مثال، مدل‌های ChatGPT و Llama از دسته LLMها هستند.
  • س: تفاوت AI و AGI چیست؟
    پ: AI کلی‌ترین مفهوم هوشمندسازی ماشین است که هدفش انجام هر نوع کاری است که هوشمندانه باشد. AGI یا هوش مصنوعی عمومی، زیرمجموعه‌ای از AI است که به دنبال ساخت سیستمی است که بتواند طیف وسیعی از مهارت‌ها را مانند انسان یاد بگیرد و انجام دهد. یعنی AGI مدلی است که در بسیاری از کارها از انسان قوی‌تر باشد.
  • س: Hallucination در AI چیست؟
    پ: توهم (Hallucination) وقتی رخ می‌دهد که مدل هوش مصنوعی پاسخ یا اطلاعات غلط و ساختگی تولید کند، اما با اعتمادبه‌نفس بالا ارائه دهد. این پدیده زمانی اتفاق می‌افتد که مدل داده کافی برای پاسخ صحیح ندارد یا محدودیت‌های معماری در آن دخیل هستند. برای مثال، ChatGPT گاهی پاسخ‌هایی کاملاً اختراعی می‌دهد که در دنیای واقعی صحیح نیستند. استفاده از روش‌هایی مثل RAG یا فاین-تیون می‌تواند احتمال توهم را کاهش دهد.
  • س: چرا ChatGPT اشتباه می‌کند؟
    پ: دلایل مختلفی دارد؛ از جمله محدودیت‌های تاریخ قطع دانش که مدل از اطلاعات جدید بی‌خبر است و توهم به دلیل عدم دانش خاص. همچنین اگر پرامپت یا زمینه نامشخص باشد، مدل احتمال خطا را دارد. تنظیم دقیق مدل برای دامنه خاص و استفاده از داده‌های بروز می‌تواند دقت را افزایش دهد.
  • س: Token چیست؟
    پ: توکن کوچک‌ترین واحد متنی است که مدل‌های زبانی پردازش می‌کنند. این واحد می‌تواند بخشی از کلمه، کل کلمه، یا حتی نشانه نگارشی باشد. زبان‌شناس و منابع آموزشی می‌گویند: «توکن‌ها کوچک‌ترین واحدهای داده‌ای هستند که مدل زبانی برای پردازش متن و تولید پاسخ به کار می‌برد».
  • س: Token Throughput چیست؟
    پ: تراکم توکن (Token Throughput) معیار سرعت تولید متن در مدل‌های زبانی است؛ یعنی تعداد توکن‌های خروجی که مدل می‌تواند در هر ثانیه تولید کند. این معیار بار محاسباتی و توان تولیدی مدل را می‌سنجد.
  • س: Context Window چیست؟
    پ: پنجره زمینه به حداکثر تعداد توکن‌هایی اشاره دارد که مدل در یک زمان (یا یک پرامپت) می‌تواند پردازش کند. مدل تنها همین تعداد را «می‌بیند» و اگر متن طولانی‌تر باشد، باید به بخش‌های کوچک‌تر تقسیم شود.
  • س: Chain of Thought چیست؟
    پ: زنجیره فکر رویکردی است که مدل را تشویق می‌کند مراحل منطقی و گام‌به‌گام استدلالش را بیان کند. به این ترتیب پاسخ مدل مرحله‌به‌مرحله توجیه می‌شود و معمولاً پاسخ‌های دقیق‌تری ایجاد می‌کند.
  • س: Reasoning Model چیست؟
    پ: مدل استدلال نوعی مدل زبانی بزرگ است که برای انجام استدلال‌های چندمرحله‌ای بهینه شده است. این مدل‌ها پس از آموزش پایه، به کمک روش‌هایی مثل RLHF، برای تفکر از طریق زنجیره فکر تنظیم می‌شوند.
  • س: Fine-tuning چیست؟
    پ: فاین‌تیون یا تنظیم دقیق فرایندی است که با آن یک مدل از پیش‌آموزش‌دیده را با مجموعه داده خاص یک کار جدید وادار به یادگیری مجدد می‌کنیم. به جای آموزش کل مدل از ابتدا، معمولا فقط وزن‌های برخی لایه‌ها را بر اساس داده‌های جدید به‌روزرسانی می‌کنیم تا عملکرد مدل در آن کار بهبود یابد.
  • Transfer Learning چیست؟
    پ: یادگیری انتقالی یعنی استفاده از دانش (وزن‌ها) مدل آموزش‌دیده در یک وظیفه برای کمک به یادگیری در وظیفه دیگر. به عنوان مثال، مدلی که روی تصاویر عمومی آموزش دیده، می‌تواند با تنظیم دقیق داده‌های تخصصی پزشکی آموزش ببیند و در تشخیص بیماری‌ها استفاده شود.
  • Distillation چیست؟
    پ: تقطیر دانش روشی است که در آن یک مدل بزرگ (معلم) خروجی‌هایش را تولید می‌کند و یک مدل کوچک (دانش‌آموز) تلاش می‌کند همین خروجی‌ها را یاد بگیرد. هدف ساخت مدل کوچکتری است که عملکرد مشابه مدل بزرگ را در زمان استنتاج حفظ کند.
  • Reinforcement Learning چیست؟
    پ: یادگیری تقویتی نوعی یادگیری است که در آن یک عامل به کمک دریافت پاداش یا جریمه از محیط، سیاستی را یاد می‌گیرد تا پاداش تجمعی خود را بیشینه کند. این روش در بازی‌ها، رباتیک و کنترل به کار می‌رود.
  • RLHF چیست؟
    پ: یادگیری تقویتی با بازخورد انسانی (RLHF) روشی است که در آن عامل یادگیری تقویتی به کمک بازخورد و پاداش‌های انسان، رفتار بهتری می‌آموزد. این تکنیک در بهبود کیفیت پاسخ‌های مدل‌های زبانی نقش حیاتی دارد.
  • Transformer چیست؟
    پ: Transformer یک معماری شبکه عصبی است که بر پایه مکانیزم توجه عمل می‌کند. این معماری امکان پردازش موازی متن و یادگیری وابستگی‌های دوردست را فراهم می‌کند و اساس بیشتر مدل‌های زبانی امروزی است.
  • MoE چیست؟
    پ: Mixture of Experts معماری‌ای است که در آن چند شبکه متخصص (کارشناس) و یک شبکه گیتینگ وجود دارد. هر بار برخی کارشناس‌ها فعال شده و خروجی می‌دهند. این ساختار برای مقیاس‌پذیری مدل‌ها و استفاده بهینه از منابع طراحی شده است.
  • Diffusion چیست؟
    پ: مدل پخش (Diffusion) مدلی مولد است که با پخش آرام نویز به تدریج به تصویر یا داده واقعی می‌رسد. این مدل‌ها تصویرسازی بسیار با کیفیتی انجام می‌دهند که روند تولیدشان گام‌به‌گام است.
  • GAN چیست؟
    پ: GAN شبکه عصبی مولدی است که از دو بخش تشکیل شده: مولد و تمییزدهنده. مولد تصویرهای مصنوعی می‌سازد و تمییزدهنده واقعی یا تقلبی بودن آن‌ها را تشخیص می‌دهد. در فرآیندی رقابتی همدیگر را تقویت می‌کنند تا مولد یاد بگیرد تصاویر بسیار واقع‌گرایانه تولید کند.
  • AI Agent چیست؟
    پ: عامل هوش مصنوعی برنامه‌ای خودکار است که بر اساس الگوریتم‌ها عمل می‌کند و وظایف مشخصی را اجرا می‌کند. این عامل‌ها با یادگیری و تصمیم‌گیری در محیط کار می‌کنند تا اهداف مشخص‌شده را دنبال کنند.
  • Coding Agent چیست؟
    پ: عامل برنامه‌نویسی یک ابزار هوش مصنوعی است که به کمک توسعه‌دهندگان می‌آید و در نوشتن کد به آنها پیشنهاد می‌دهد یا کد تولید می‌کند. نمونه مشهور آن GitHub Copilot است که با استفاده از مدل‌های زبان بزرگ، کد را تکمیل می‌کند.
  • MCP چیست؟
    پ: MCP مخفف «پروتکل حافظه مدل» است. روشی برای افزایش بازه زمینه مدل زبانی است که به مدل اجازه می‌دهد حافظه خود را بخش‌بندی کرده و پاسخ‌های بلندتری تولید کند. این تکنیک هنوز تحقیقاتی است.
  • API Endpoint چیست؟
    پ: API Endpoint آدرسی است (معمولاً URL) که از طریق آن می‌توان به یک مدل یا سرویس هوش مصنوعی آنلاین دسترسی پیدا کرد. با ارسال درخواست به این آدرس، می‌توان مدل را واداشت که کار خود (مثلاً پیش‌بینی یا تولید متن) را انجام دهد.
  • GPU چیست؟
    پ: GPU واحد پردازش گرافیکی است که دارای صدها هسته محاسباتی است و برای پردازش‌های سنگین مانند آموزش شبکه‌های عصبی بسیار مناسب است. موازی‌سازی گسترده آن باعث می‌شود آموزش مدل‌های بزرگ روی GPU خیلی سریع‌تر از CPU انجام شود.
  • TPU چیست؟
    پ: TPU تراشه محاسباتی طراحی‌شده توسط گوگل است که برای عملیات یادگیری عمیق (مخصوصاً ماتریس‌های بزرگ) بهینه شده. این چیپ‌ها برای استنتاج و آموزش مدل‌های بزرگ Google مانند برخی نسخه‌های BERT و GPT استفاده می‌شوند.
  • Compute چیست؟
    پ: در هوش مصنوعی، Compute به توان محاسباتی (منابع سخت‌افزاری و زمانی) مورد نیاز برای آموزش یا اجرای مدل گفته می‌شود. GPUs، TPUs، CPUها و دیگر سخت‌افزارها همه بخشی از منابع Compute محسوب می‌شوند.
  • Parallelization چیست؟
    پ: موازی‌سازی یعنی تقسیم کار آموزش یا استنتاج مدل بر روی چند سخت‌افزار به طور هم‌زمان برای افزایش سرعت. برای مثال، همزمان کردن آموزش روی چند GPU.
  • Hallucination چیست؟
    پ: توهم تولید اطلاعات غلط از سمت مدل است. زمانی که مدل بدون داشتن داده صحیح در مورد موضوعی، ادعای نادرستی می‌کند. استفاده از RAG و سایر روش‌ها می‌تواند این مشکل را کاهش دهد.
  • Open Source چیست؟
    پ: متن‌باز به مدل‌ها یا کدهایی گفته می‌شود که کد منبع یا وزن‌شان در دسترس عموم قرار دارد. این کار امکان مشارکت جامعه را فراهم می‌کند و تحقیق را سرعت می‌بخشد.
  • RSI چیست؟
    پ: مخفف Recursive Self-Improvement؛ توانایی یک سیستم برای ارتقای خودش است. یعنی AI بتواند الگوریتم‌هایش را خودکار بهبود دهد و به شکلی متوالی هوشمندتر شود.
  • RAMageddon چیست؟
    پ: اصطلاح شوخی‌آمیزی برای اشاره به بحران حافظه است؛ یعنی نیاز بسیار زیاد به RAM برای مدل‌های بزرگ که ممکن است باعث کمبود منابع شود.
  • Prompt چیست؟
    پ: پرامپت ورودی یا سوالی است که به مدل داده می‌شود تا بر اساس آن پاسخ یا تولید محتوا کند.
  • Prompt Engineering چیست؟
    پ: مهندسی پرامپت هنر طراحی ورودی‌ها به گونه‌ای است که مدل پاسخ مدنظر ما را دهد. مثلاً انتخاب دقیق کلمات یا استفاده از قالب‌بندی خاص.
  • RAG چیست؟
    پ: RAG (Retrieval-Augmented Generation) ترکیب دو روش واکشی اطلاعات (Retrieval) و تولید متن است. مدل ابتدا اطلاعات مرتبط را از پایگاه داده واکشی کرده و سپس همراه با آنها متن تولید می‌کند.
  • Embedding چیست؟
    پ: جاسازی برداری به تبدیل داده (متن یا تصویر) به بردار عددی گفته می‌شود که خصوصیات آن را حفظ می‌کند. مدل‌های متنی و جستجوی معنایی از embedding استفاده می‌کنند.
  • Vector Database چیست؟
    پ: پایگاه داده برداری سیستمی است که برای ذخیره و واکشی سریع بردارهای جاسازی‌شده طراحی شده است. این پایگاه‌ها در جستجوی معنایی و RAG کاربرد دارند.
  • س: Multimodal AI چیست؟
    پ: مدل هوش مصنوعی که قابلیت پردازش چندین نوع داده (متن، تصویر، صدا) را همزمان دارد را هوش چندوجهی می‌نامند. مثلاً مدلی که هم تصویر را توصیف کند و هم متن را تحلیل کند.
  • AI Copilot چیست؟
    پ: همیار هوش مصنوعی دستیار AI است که با تولید محتوا، کد و بینش‌های هوشمند به کاربر کمک می‌کند. مثال معروف آن Microsoft Copilot یا GitHub Copilot است که پیشنهادات هوشمند در کدنویسی ارائه می‌دهند.
  • س: Quantization چیست؟
    پ: کوانتیزه‌سازی کاهش دقت اعداد (مثلاً از ۳۲-بیت به ۸-بیت) است تا مدل در حافظه و زمان سریع‌تر اجرا شود. این کار باعث کاهش اندازه و مصرف انرژی مدل می‌شود، اما کمی دقت را کاهش می‌دهد.
  • س: LoRA چیست؟
    پ: LoRA (آداپتور درجه‌کم) روشی است برای تنظیم دقیق مدل‌های بزرگ بدون آموزش همه وزن‌ها. با اضافه کردن ماتریس‌های کم‌رتبه آموزش‌پذیر و آموزش فقط آن‌ها، می‌توان مدل‌های بزرگ را به راحتی فاین‌تیون کرد.
  • س: PEFT چیست؟
    پ: PEFT مجموعه تکنیک‌هایی است که هدفشان به حداقل رساندن پارامترهای قابل‌تغییر در فرآیند فاین‌تیون است (مانند LoRA، آداپتورها). این روش‌ها باعث کاهش مصرف حافظه و زمان آموزش می‌شوند.
  • س: Temperature چیست؟
    پ: دما پارامتری است که شدت تصادفی بودن خروجی مدل را کنترل می‌کند؛ مقدار کمتر خروجی منطقی‌تر و مطمئن‌تر می‌دهد، مقدار بیشتر خروجی خلاقانه‌تر و متنوع‌تری ایجاد می‌کند.
  • س: Top-P چیست؟
    پ: نمونه‌گیری Top-P روش انتخاب توکن از بین آنهایی است که مجموع احتمالشان به آستانه P می‌رسد. معمولاً Top-P=۰.۹ انتخاب‌های تصادفی متنوع‌تر با حفظ معقول بودن ایجاد می‌کند.
  • س: Benchmark چیست؟
    پ: بنچمارک یا معیار ارزیابی، مجموعه تست‌هایی است که برای سنجش عملکرد مدل‌ها روی وظایف خاص به کار می‌رود. مدل‌های مختلف را با بنچمارک‌ها مقایسه می‌کنند.
  • س: MMLU چیست؟
    پ: MMLU (درک چندوظیفه‌ای بزرگ مقیاس) یک معیار محبوب برای سنجش توانایی مدل‌های زبانی در پاسخ به سؤالات چندگزینه‌ای در حوزه‌های مختلف است.
  • س: AI Safety چیست؟
    پ: ایمنی هوش مصنوعی مجموعه‌اقدامات و اصولی است که اطمینان می‌دهد فناوری AI بی‌خطر و مسئولانه طراحی و استفاده شود. هدف جلوگیری از آسیب‌های احتمالی و تضمین مزیت‌های AI است.
  • س: Alignment چیست؟
    پ: ترازکردن به معنای هم‌راستا کردن اهداف و ارزش‌های مدل AI با اهداف و ارزش‌های انسانی است. به عبارت دیگر، باید کاری کنیم که مدل همیشه تصمیمات مطابق ارزش‌های انسانی اتخاذ کند.
  • س: Jailbreak چیست؟
    پ: در حوزه AI اشاره دارد به روش‌های دورزدن محدودیت‌ها و قوانین مدل. مثلاً استفاده از تکنیک‌های مهندسی پرامپت برای فریب مدل و گرفتن خروجی ممنوعه.
  • س: Synthetic Data چیست؟
    پ: داده‌های مصنوعی داده‌هایی هستند که توسط مدل‌های تولیدی از روی داده‌های اصلی ایجاد می‌شوند. این داده‌ها مشابه داده واقعی هستند اما فاقد اطلاعات شخصی بوده و برای آموزش و تست مدل‌ها کاربرد دارند.
  • س: Latency چیست؟
    پ: تاخیر زمانی مدت زمانی است که طول می‌کشد یک مدل پس از دریافت ورودی، پاسخ خود را برگرداند. تاخیر کمتر برای تجربه تعاملی بهتر حیاتی است.
  • س: Knowledge Cutoff چیست؟
    پ: تاریخ قطع دانش زمانی است که مدل پس از آن دیگر آموزش ندیده و دانش جدید کسب نکرده است. به عنوان مثال GPT-۴ در سپتامبر ۲۰۲۱ متوقف شده بود، پس هر رویدادی پس از آن را نمی‌شناسد.
سهراب اسکندری
دنبال‌کردن در لینکدین
نظرت چیه؟
Share.

پست‌های مشابه

Add A Comment
Leave A Reply