واژه‌نامه A to Z هوش مصنوعی

الگوریتم پایه هر برنامه و مدل هوش مصنوعی است. در ML، الگوریتم مشخص می‌کند مدل چگونه از داده یاد بگیرد و تصمیم بگیرد.

برخلاف مدل‌های امروزی که در یک حوزه‌ی خاص خوب عمل می‌کنند، AGI باید بتواند مثل انسان در هر زمینه‌ای یاد بگیرد و استدلال کند. هنوز هیچ سیستمی به این سطح نرسیده و زمان رسیدن به آن هم بین متخصصان اختلاف‌نظر جدی است.

مکانیزم توجه به مدل کمک می‌کند وزن متفاوتی به کلمات مختلف یک جمله بدهد، به‌جای پردازش یکسان همه‌چیز. این ایده پایه‌ی معماری ترنسفورمر و موفقیت مدل‌های زبانی امروزی است.

اکثر مدل‌های زبانی مثل GPT از طریق API در دسترس توسعه‌دهنده‌ها قرار می‌گیرند، یعنی بدون دسترسی به کد داخلی مدل می‌توان از آن در اپلیکیشن خودت استفاده کرد.

برخلاف چت‌بات ساده که فقط پاسخ می‌دهد، ایجنت می‌تواند وظیفه را به مراحل کوچک‌تر بشکند، ابزار یا API صدا بزند و بدون دخالت مداوم انسان تا رسیدن به نتیجه ادامه دهد.

سوگیری وقتی رخ می‌دهد که داده‌ی آموزشی مدل نماینده‌ی کامل واقعیت نباشد. نتیجه‌اش می‌تواند تبعیض علیه یک گروه خاص یا خطای سیستماتیک در پیش‌بینی‌ها باشد.

پس‌انتشار خطا موتور اصلی آموزش شبکه‌های عصبی است. بدون آن، مدل نمی‌داند هر وزن چقدر در اشتباه نهایی سهیم بوده و چطور باید تنظیم شود.

در تشخیص اشیا، مدل باید هم نوع شیء را بگوید و هم مختصات این کادر را دور آن بکشد. پایه‌ی بسیاری از سیستم‌های بینایی ماشین مثل خودروهای خودران است.

بنچمارک‌هایی مثل MMLU یا HumanEval به همه اجازه می‌دهند مدل‌ها را روی یک معیار مشترک مقایسه کنند. البته بنچمارک همیشه بازتاب دقیق عملکرد در دنیای واقعی نیست.

چت‌بات‌های قدیمی بر اساس قوانین ثابت کار می‌کردند، اما چت‌بات‌های امروزی مثل ChatGPT روی مدل‌های زبانی بزرگ ساخته شده‌اند و می‌توانند مکالمه‌ی باز و پیچیده داشته باشند.

مثلاً تشخیص اسپم بودن یا نبودن یک ایمیل، یک مسئله طبقه‌بندی است. یکی از پرکاربردترین وظایف در یادگیری ماشین محسوب می‌شود.

اگر مکالمه یا سندی از پنجره زمینه بزرگ‌تر شود، مدل بخش‌های ابتدایی را فراموش می‌کند. اندازه‌ی این پنجره معمولاً بر حسب تعداد توکن اندازه‌گیری می‌شود.

این روش دقت مدل را در مسائل ریاضی و منطقی به‌شدت بالا می‌برد، چون مدل به‌جای حدس مستقیم، مسیر رسیدن به جواب را می‌سازد.

CNN با استفاده از فیلترهای کوچک روی بخش‌های مختلف تصویر حرکت می‌کند تا لبه‌ها، بافت‌ها و اشکال را شناسایی کند. سال‌ها پیش از ترنسفورمرها، استاندارد بینایی ماشین بود.

مثلاً کل ویکی‌پدیا یا آرشیو کتاب‌ها می‌تواند یک پیکره‌ی متنی باشد. کیفیت و تنوع این پیکره تاثیر مستقیم روی توانایی زبانی مدل دارد.

یادگیری عمیق پشت اکثر پیشرفت‌های اخیر هوش مصنوعی، از تشخیص تصویر تا مدل‌های زبانی بزرگ، قرار دارد. هرچه لایه‌های شبکه بیشتر باشد، مدل می‌تواند الگوهای پیچیده‌تری یاد بگیرد.

کیفیت و تنوع دیتاست مستقیم روی کیفیت مدل نهایی اثر می‌گذارد. اصطلاح معروف «garbage in, garbage out» دقیقاً همین موضوع را توصیف می‌کند.

ابزارهایی مثل Midjourney و Stable Diffusion بر پایه‌ی همین ایده کار می‌کنند: مدل یاد می‌گیرد چطور از یک تصویر پر از نویز، قدم‌به‌قدم به یک تصویر واضح برسد.

مثلاً مشخص کردن این‌که در یک عکس کدام بخش «گربه» است. این کار معمولاً توسط انسان یا نیمه‌خودکار انجام می‌شود و برای یادگیری نظارت‌شده ضروری است.

مدل کوچک، به‌جای یادگیری مستقیم از داده خام، سعی می‌کند رفتار مدل بزرگ‌تر را تقلید کند. نتیجه، مدلی سبک‌تر با عملکرد نزدیک به مدل اصلی است.

مفاهیم مشابه در فضای embedding به هم نزدیک قرار می‌گیرند. این تکنیک پایه‌ی جستجوی معنایی و RAG است.

هرچه مدل پیچیده‌تر می‌شود، تصمیمش شبیه یک جعبه‌سیاه‌تر می‌شود. XAI تلاش می‌کند این جعبه سیاه را باز کند، به‌خصوص در حوزه‌های حساس مثل پزشکی و مالی.

مدل معمولاً برای رسیدن به عملکرد خوب، باید چندین epoch روی داده تکرار شود. تعداد epoch زیاد می‌تواند باعث overfitting شود.

موضوعاتی مثل حریم خصوصی، سوگیری، شفافیت تصمیم‌گیری مدل و تاثیر بر اشتغال، همه زیرمجموعه‌ی اخلاق در AI هستند.

فاین‌تیون به‌جای ساخت مدل از صفر، رفتار یک مدل پایه را برای وظیفه یا لحن خاصی تنظیم می‌کند، مثلاً یک مدل عمومی را متخصص پزشکی می‌کند.

به‌جای فاین‌تیون کردن مدل، فقط چند مثال ورودی-خروجی داخل پرامپت می‌گذاری تا مدل الگو را بفهمد و همان‌طور ادامه دهد.

مثلاً از تاریخ تولد، «سن» را به‌عنوان یک ویژگی جدید می‌سازی. در مدل‌های کلاسیک یادگیری ماشین، کیفیت این کار تاثیر زیادی روی دقت نهایی دارد.

مدل‌هایی مثل GPT یا Claude، مدل‌های پایه هستند. یعنی به‌جای ساخت مدل از صفر، می‌توان همین مدل را برای کاربردهای خاص فاین‌تیون یا پرامپت کرد.

برخلاف مدل‌های سنتی که فقط طبقه‌بندی یا پیش‌بینی می‌کنند، هوش مصنوعی مولد چیز تازه‌ای خلق می‌کند که قبلاً وجود نداشته.

این رقابت باعث می‌شود شبکه‌ی سازنده، خروجی‌هایی به‌مرور واقعی‌تر تولید کند. پیش از مدل‌های انتشار، GAN استاندارد اصلی تولید تصویر مصنوعی بود.

GPU در اصل برای رندر گرافیک بازی طراحی شده بود، اما ساختار موازی‌اش برای محاسبات سنگین شبکه‌های عصبی هم فوق‌العاده مناسب از آب درآمد.

گاردریل‌ها جلوی خروجی‌های مضر، خارج از موضوع یا خطرناک را می‌گیرند. می‌توانند در سطح پرامپت، کد یا حتی خود مدل پیاده‌سازی شوند.

تصورش مثل پایین آمدن از یک تپه در مه غلیظ است، هر قدم را در جهتی برمی‌داری که سریع‌تر پایین بروی. این فرایند قلب آموزش تقریباً هر شبکه عصبی است.

هالوسینیشن یکی از بزرگ‌ترین چالش‌های LLMها است، چون مدل هیچ راهی برای تشخیص «دانستن» از «حدس زدن» ندارد و هر دو را با لحن یکسان بیان می‌کند.

مثل نرخ یادگیری یا تعداد لایه‌های شبکه. برخلاف پارامترهای مدل که در آموزش تنظیم می‌شوند، فراپارامترها را باید از قبل انتخاب کرد.

مثلاً بررسی و اصلاح خروجی مدل توسط انسان پیش از استفاده نهایی. این روش دقت و ایمنی سیستم را بالا می‌برد، به‌خصوص در تصمیمات حساس.

برخلاف آموزش که هزینه‌بر و یک‌بار انجام می‌شود، استنتاج هر بار که کاربر از مدل سوال می‌پرسد اتفاق می‌افتد و هزینه‌ی اجرایی مداوم دارد.

از فیلتر عکس گوشی تا خودروهای خودران، همه به نوعی از تشخیص تصویر استفاده می‌کنند. این حوزه بخشی از بینایی ماشین محسوب می‌شود.

این مرحله باعث می‌شود مدل خام که فقط دنباله متن را پیش‌بینی می‌کند، به دستیاری تبدیل شود که واقعاً به سوال یا درخواست پاسخ می‌دهد.

جیل‌بریک روی خود مدل انجام می‌شود، اما تزریق پرامپت معمولاً از طریق داده‌ی خارجی (مثل یک سند یا صفحه‌ی وب) دستورات مخفی را وارد سیستم می‌کند. هر دو از چالش‌های اصلی امنیت LLM هستند.

مثلاً «تهران، پایتخت، ایران» یک رابطه در گراف دانش است. این ساختار به سیستم‌ها کمک می‌کند دانش را دقیق‌تر و قابل جستجوتر نگه دارند.

مدل هیچ یادگیری واقعی ندارد و در لحظه‌ی پیش‌بینی، فاصله‌ی نمونه جدید تا همه‌ی داده‌ها را حساب می‌کند. ساده اما برای دیتاست‌های بزرگ کند است.

GPT، Claude و Gemini همه LLM هستند. اندازه‌ی «بزرگ» به میلیاردها پارامتر مدل اشاره دارد که به آن قدرت درک زمینه و تولید متن روان می‌دهد.

تاخیر کم برای اپلیکیشن‌های real-time مثل چت‌بات یا دستیار صوتی حیاتی است. مدل‌های بزرگ‌تر معمولاً تاخیر بیشتری دارند.

هدف کل فرایند آموزش، کمینه کردن همین عدد است. انتخاب تابع خطای مناسب برای هر مسئله، تاثیر زیادی روی نتیجه‌ی نهایی مدل دارد.

به‌جای آموزش دوباره‌ی میلیاردها پارامتر، LoRA فقط چند لایه‌ی کوچک اضافه می‌کند و آموزش می‌دهد، که هزینه و حافظه‌ی مورد نیاز را به‌شدت کاهش می‌دهد.

به‌جای برنامه‌نویسی دستی هر قانون، مدل با دیدن نمونه‌های زیاد، الگوها را خودش کشف می‌کند. زیربنای اکثر سیستم‌های هوش مصنوعی امروزی است.

مدل حاصل نهایی فرایند یادگیری ماشین است، شامل وزن‌ها و پارامترهایی که در طول آموزش تنظیم شده‌اند.

مدلی که هم عکس را توصیف می‌کند و هم به سوال متنی درباره‌ی آن پاسخ می‌دهد، چندوجهی است. این قابلیت روزبه‌روز به بخش استاندارد مدل‌های پیشرفته تبدیل می‌شود.

پیش از MCP، هر اتصال بین مدل و ابزار (مثل گوگل درایو یا اسلک) باید جداگانه پیاده‌سازی می‌شد. این پروتکل مثل یک زبان مشترک، اتصال ایجنت‌ها به دنیای بیرون را ساده‌تر می‌کند.

این روش اجازه می‌دهد مدل خیلی بزرگ باشد اما در لحظه‌ی پاسخ‌دهی، فقط بخش کوچکی از آن محاسبه شود، که سرعت و بهره‌وری را بالا می‌برد.

شبکه عصبی از نورون‌های مصنوعی تشکیل شده که در لایه‌های ورودی، پنهان و خروجی قرار دارند. پایه‌ی اصلی یادگیری عمیق است.

ترجمه ماشینی، تحلیل احساسات متن و چت‌بات‌ها همه از NLP استفاده می‌کنند. مدل‌های زبانی بزرگ امروزی، پیشرفته‌ترین شکل NLP هستند.

مثلاً در جمله «علی در تهران کار می‌کند»، مدل باید «علی» را شخص و «تهران» را مکان تشخیص دهد. این کار پایه‌ی بسیاری از سیستم‌های استخراج اطلاعات است.

مدلی که overfit شده، روی داده‌ای که دیده عالی عمل می‌کند اما روی داده‌ی جدید ضعیف است، چون به‌جای یادگیری واقعی، جزئیات را حفظ کرده.

مدل‌های متن‌باز مثل Llama یا Mistral به توسعه‌دهنده‌ها اجازه می‌دهند مدل را روی سرور خودشان اجرا و حتی فاین‌تیون کنند، برخلاف مدل‌های بسته که فقط از طریق API در دسترس‌اند.

حالت خاصی از few-shot learning است که در آن فقط یک مثال به مدل نشان داده می‌شود تا الگوی درخواست شده را بفهمد.

یک پرامپت خوب می‌تواند کیفیت خروجی مدل را کاملاً متفاوت کند، بدون این‌که خود مدل تغییری کرده باشد. شامل تکنیک‌هایی مثل مثال دادن یا مشخص کردن فرمت خروجی است.

تعداد پارامترها معمولاً به‌عنوان معیاری از «اندازه» مدل استفاده می‌شود، مثلاً مدلی با ۷۰ میلیارد پارامتر. پارامتر بیشتر لزوماً به معنی مدل بهتر نیست.

در این مرحله مدل زبان، دستور زبان و دانش عمومی را یاد می‌گیرد. مراحل بعدی مثل فاین‌تیون، روی همین پایه ساخته می‌شوند.

پرسپترون ورودی‌ها را با وزن‌های مختلف جمع می‌زند و از یک تابع فعال‌سازی عبور می‌دهد. ترکیب هزاران پرسپترون در لایه‌های مختلف، شبکه عصبی امروزی را می‌سازد.

کوانتیزاسیون حجم مدل و مصرف حافظه را به‌شدت کاهش می‌دهد و اجازه می‌دهد مدل‌های بزرگ روی سخت‌افزار ضعیف‌تر یا حتی موبایل اجرا شوند، البته با کمی افت دقت.

در سیستم‌های RAG یا جستجوی معنایی، کوئری همان سوال یا عبارتی است که قرار است به نتایج یا اسناد مرتبط تبدیل شود.

RAG به مدل کمک می‌کند بدون نیاز به فاین‌تیون، از اطلاعات به‌روز یا اختصاصی سازمان استفاده کند و هالوسینیشن را هم کاهش می‌دهد.

مدل با آزمون و خطا در یک محیط عمل می‌کند و بر اساس نتیجه‌ی هر عمل، پاداش یا جریمه می‌گیرد. در بازی‌ها، رباتیک و تنظیم رفتار LLM کاربرد دارد.

انسان‌ها بین چند پاسخ مدل، بهترین را انتخاب می‌کنند، سپس مدل با یادگیری تقویتی یاد می‌گیرد پاسخ‌هایی شبیه گزینه‌ی برتر تولید کند. نقش کلیدی در همسو کردن رفتار مدل‌های زبانی امروزی دارد.

مثلاً پیش‌بینی قیمت خانه یا دمای فردا، مسئله‌ی رگرسیون است، برخلاف طبقه‌بندی که خروجی آن یک برچسب مشخص است.

در این روش، به مدل هم ورودی و هم پاسخ درست داده می‌شود تا رابطه‌ی بین آن‌ها را یاد بگیرد. اکثر مدل‌های طبقه‌بندی و پیش‌بینی با این روش آموزش می‌بینند.

با استفاده از embedding، سیستم می‌تواند نتایجی را پیدا کند که از نظر مفهومی مرتبط‌اند حتی اگر کلمات دقیقاً یکسان نباشند. پایه‌ی موتورهای جستجوی هوشمند و RAG است.

وقتی داده‌ی واقعی کم، گران یا حساس (مثل داده پزشکی) باشد، داده‌ی مصنوعی می‌تواند جایگزین یا مکمل آن برای آموزش مدل باشد.

برخلاف پرامپت کاربر که هر بار تغییر می‌کند، پرامپت سیستمی معمولاً ثابت است و لحن، نقش و محدودیت‌های مدل را در طول کل مکالمه مشخص می‌کند.

ترنسفورمر برخلاف مدل‌های قدیمی‌تر، کل جمله را همزمان پردازش می‌کند نه کلمه‌به‌کلمه، که هم سرعت آموزش و هم درک زمینه را به‌شدت بهبود داد.

یک توکن می‌تواند یک کلمه کامل، بخشی از کلمه یا حتی یک حرف باشد. قیمت‌گذاری API اکثر مدل‌های زبانی هم بر اساس تعداد توکن است.

کیفیت، حجم و تنوع داده آموزشی مستقیماً روی عملکرد نهایی مدل اثر می‌گذارد. منبع داده آموزشی یکی از بحث‌برانگیزترین موضوعات حقوقی هوش مصنوعی امروز است.

دمای پایین پاسخ‌های قابل‌پیش‌بینی‌تر و محافظه‌کارانه‌تر می‌دهد، دمای بالا پاسخ‌های متنوع‌تر اما گاهی کمتر منسجم تولید می‌کند.

این آزمون در سال ۱۹۵۰ توسط آلن تورینگ پیشنهاد شد. اگر انسان نتواند در گفتگو تشخیص دهد طرف مقابلش ماشین است یا انسان، مدل این آزمون را «رد» کرده است.

مثلاً دسته‌بندی مشتریان بر اساس رفتار خریدشان، بدون این‌که از قبل دسته‌ها مشخص شده باشند. برخلاف یادگیری نظارت‌شده، اینجا پاسخ درستی از قبل وجود ندارد.

برخلاف overfitting، مدل underfit شده روی داده آموزشی و داده جدید هر دو ضعیف عمل می‌کند، معمولاً به‌خاطر ساده بودن بیش از حد مدل یا آموزش ناکافی.

این نوع پایگاه داده قلب اصلی سیستم‌های RAG است، چون به مدل اجازه می‌دهد سریع‌ترین اسناد مرتبط با یک سوال را از میان میلیون‌ها سند پیدا کند.

تصویر به قطعات کوچک تقسیم می‌شود و هر قطعه مثل یک توکن متنی پردازش می‌شود. ViT در بسیاری از وظایف بینایی ماشین، جایگزین CNN شده است.

این مجموعه جدا از داده آموزشی و داده تست است و کمک می‌کند تشخیص دهی مدل دارد overfit می‌شود یا نه، پیش از این‌که روی داده تست نهایی امتحان شود.

وزن‌ها همان چیزی هستند که در طول آموزش، بارها و بارها تنظیم می‌شوند تا مدل به خروجی درست برسد. «دانلود کردن مدل» در واقع یعنی دانلود همین فایل وزن‌ها.

تمام مدل‌های امروزی، از جمله LLMها، در دسته‌ی هوش مصنوعی محدود قرار می‌گیرند، چون در یک یا چند حوزه‌ی خاص خوب عمل می‌کنند اما درک عمومی و آگاهانه ندارند.

مدل صرفاً بر اساس دانشی که در پیش‌آموزش کسب کرده، وظیفه را حدس می‌زند. هرچه مدل بزرگ‌تر و پیش‌آموزش قوی‌تر باشد، عملکرد zero-shot بهتر است.

این حملات معمولاً پیش از این‌که سازنده‌ی مدل بتواند وصله‌اش کند کشف و منتشر می‌شوند، شبیه به مفهوم آسیب‌پذیری روز-صفر در امنیت سایبری سنتی.