دواپس
اجرای مدل‌های LLM با Docker و GPU؛ راهنمای عملی دواپس
اجرای مدل زبانی با Docker باعث می‌شود محیط شما تکرارپذیر، قابل‌انتقال و ایزوله باشد؛ به‌خصوص وقتی از GPU استفاده می‌کنید. پیش‌نیازها درایور انویدیا و بسته‌ی NVIDIA Container Toolkit باید روی میزبان نصب باشند تا کانتینر به GPU دسترسی داشته باشد. با دستور nvidia-smi درستی نصب را بررسی کنید. حجم‌ها برا