مدل‌های زبانی فقط به آنچه در آموزش دیده‌اند تکیه دارند. RAG (Retrieval-Augmented Generation) این مشکل را با افزودن مرحلهٔ جست‌وجو حل می‌کند.
مراحل کار
- اسناد (مثل راهنماها یا پایگاه دانش شرکت) به تکه‌های کوچک تقسیم و در پایگاه برداری ذخیره می‌شوند.
- با پرسش کاربر، مرتبط‌ترین تکه‌ها بازیابی می‌شوند.
- تکه‌ها همراه پرسش به مدل داده می‌شود تا پاسخ را بر اساس آن‌ها بنویسد.
مزیت‌ها و محدودیت‌ها
- پاسخ‌ها به منبع مشخص تکیه می‌کنند و امکان ذکر مرجع هست.
- نیاز به آموزش دوباره مدل برای اضافه‌شدن دانش جدید نیست.
- کیفیت پاسخ به کیفیت بازیابی بستگی دارد؛ اگر سند مرتبط پیدا نشود، پاسخ ضعیف می‌شود.
RAG محبوب‌ترین راه ساخت چت‌بات پشتیبانی و جست‌وجوی هوشمند در اسناد داخلی است.
