راهنمای خرید سیستم برای هوش مصنوعی لوکال: از کدنویسی تا مدل‌سازی، چه کامپیوتری باید بخرید؟

اگه این روزا اسم «هوش مصنوعی لوکال» یا Local AI به گوشت خورده و دنبال این هستی که ببینی برای اجرای این مدل‌ها روی سیستم خودت، دقیقاً چه کامپیوتری لازم داری، این مقاله دقیقاً برای توئه. قراره ساده، شفاف و بدون پیچیدگی الکی، هر چیزی که برای تصمیم‌گیری درست لازم داری رو بهت بگیم؛ از کارت گرافیک و رم گرفته تا اینکه برای کدنویسی، مدل‌سازی یا تولید تصویر، هرکدوم چه سیستمی می‌خوان.

اول از همه: چرا هوش مصنوعی رو لوکال اجرا کنیم؟

قبل از رفتن سراغ سخت‌افزار، بد نیست بدونی چرا اصلاً آدم‌ها به‌جای استفاده از ChatGPT یا سرویس‌های آنلاین، وقت می‌ذارن مدل رو روی سیستم خودشون بالا میارن:

• حریم خصوصی کامل: داده‌ها و مکالمات هیچ‌وقت از سیستم تو خارج نمی‌شن.
• هزینه صفر بعد از خرید سیستم: نه اشتراک ماهانه، نه هزینه به ازای هر توکن.
• بدون قطعی و بدون محدودیت: اینترنت قطع باشه هم مدل کار می‌کنه، و هیچ‌وقت پیام «ظرفیت تکمیل است» نمی‌بینی.
• آزادی کامل: می‌تونی مدل رو هرجور که دلت می‌خواد تنظیم، فاین‌تیون یا سفارشی کنی.

قبل از هر چیز: دو دنیای کاملاً متفاوت

مهم‌ترین نکته‌ای که باید از همون اول روشن بشه اینه که «استفاده از یک مدل آماده» با «آموزش دادن یک مدل» دو تا کار کاملاً متفاوتن و نیازشون به سخت‌افزار زمین تا آسمون فرق داره:

• Inference (اجرای مدل آماده): یعنی یه مدل از قبل آموزش‌دیده (مثل Llama یا Mistral) رو دانلود می‌کنی و باهاش چت می‌کنی، کد می‌زنی یا عکس می‌سازی. این کار سبک‌تره و با یک سیستم خانگی خوب هم قابل انجامه.
• Training / Fine-tuning (آموزش یا تنظیم دقیق مدل): یعنی می‌خوای یک مدل رو از صفر آموزش بدی یا یک مدل موجود رو با داده‌های خودت تنظیم کنی. این کار خیلی سنگین‌تره و معمولاً به کارت‌های گرافیک قدرتمند و گاهی چند کارت هم‌زمان نیاز داره.

در تمام این مقاله، هر جا سراغ سخت‌افزار می‌ریم، این تفاوت رو مدنظر قرار می‌دیم.

قلب ماجرا: کارت گرافیک (GPU) و مقدار VRAM

اگه فقط یک جمله از این مقاله قراره یادت بمونه، همین باشه: مهم‌ترین قطعه برای هوش مصنوعی، کارت گرافیک است و مهم‌ترین مشخصه‌ی کارت گرافیک، مقدار VRAM (حافظه اختصاصی گرافیک) است، نه لزوماً قدرت پردازشی خام آن. مدل‌های هوش مصنوعی باید کامل داخل VRAM بارگذاری بشن تا با سرعت مطلوب کار کنن؛ هرچی VRAM کمتر باشه، یا مدل‌های بزرگ‌تر اصلاً روی سیستم بالا نمیان، یا مجبوری از نسخه‌های فشرده‌شده (quantized) و کندتر استفاده کنی.

چقدر VRAM برای هر مدل لازمه؟

NVIDIA یا AMD؟

خبر رو مستقیم بگیم: در دنیای هوش مصنوعی، تقریباً همه‌ی ابزارها و کتابخانه‌های محبوب (مثل PyTorch) روی فناوری CUDA ساخته شدن که مخصوص کارت‌های NVIDIA است. یعنی اگه می‌خوای بدون سردردی و مشکلات سازگاری کار کنی، سراغ کارت گرافیک NVIDIA برو.

چند مدل کارت گرافیک پیشنهادی

• RTX 4060 Ti (16GB): نقطه شروع خوب برای اجرای مدل‌های تا ۱۳ میلیارد پارامتر با قیمت مناسب.
• RTX 3090 / RTX 4090 (24GB): انتخاب محبوب کسانی که جدی وارد این حوزه شدن؛ ۲۴ گیگ VRAM در بیشتر سناریوها کافیه.
• کارت‌های حرفه‌ای (مثل RTX A6000، یا استفاده از چند کارت ۴۰۹۰ کنار هم): برای فاین‌تیون مدل‌های بزرگ و پروژه‌های جدی تحقیقاتی یا تجاری.

پردازنده مرکزی (CPU)

برای Inference معمولی، پردازنده نقش پررنگی نداره و فقط باید به اندازه‌ی کافی قوی باشه که سرعت GPU رو محدود نکنه (چیزی که بهش می‌گن Bottleneck). اما اگه قراره از حالت‌های ترکیبی (مثل CPU Offloading برای مدل‌های خیلی بزرگ) یا اجرای کامل مدل روی CPU (با ابزارهایی مثل llama.cpp) استفاده کنی، تعداد هسته و کلاک بالا اهمیت پیدا می‌کنه. یک پردازنده میان‌رده تا بالارده از خانواده‌ی اینتل Core i5/i7 نسل‌های جدید یا AMD Ryzen ۵/۷ برای اکثر کاربران کاملاً کافیه.

حافظه رم (RAM)

رم نقش «فضای کاری» سیستم رو داره. برای راحتی کار و اجرای هم‌زمان مدل به همراه نرم‌افزارهای دیگه، پیشنهاد ما حداقل ۳۲ گیگابایت است. اگه قراره مدل‌های بزرگ‌تر رو با کمک CPU Offloading اجرا کنی (یعنی بخشی از مدل روی رم لود بشه چون روی VRAM جا نمی‌شه)، رفتن به سمت ۶۴ گیگابایت منطقی‌تره.

حافظه ذخیره‌سازی (Storage)

فایل مدل‌های هوش مصنوعی معمولاً بین چند گیگابایت تا بیش از صد گیگابایت حجم دارن. دو نکته مهمه:

• حتماً SSD از نوع NVMe: سرعت لود شدن مدل داخل حافظه مستقیماً به سرعت دیسک وابسته‌ست.
• حجم کافی: اگه قراره چند مدل مختلف رو نگه داری و تست کنی، فضای ۱ ترابایت به بالا خیلی زود لازمت می‌شه.

پاور و خنک‌کننده، قطعاتی که نباید دست کم بگیری

کارت‌های گرافیک قدرتمند مصرف برق بالایی دارن، پس منبع تغذیه باکیفیت و با توان کافی حیاتیه. از طرفی، پروسه‌ی آموزش یا حتی اجرای طولانی‌مدت مدل‌های سنگین می‌تونه ساعت‌ها سیستم رو تحت فشار نگه داره؛ بدون خنک‌کننده مناسب (چه هوایی چه مایع)، عمر قطعات پایین میاد و کارایی افت می‌کنه.

حالا برویم سراغ سناریوها: چه کاری، چه سیستمی؟

۱. دستیار کدنویسی لوکال

اگه هدفت اینه که با ابزارهایی مثل Continue یا افزونه‌های کدنویسی، یک دستیار برنامه‌نویسی خصوصی روی سیستم خودت داشته باشی (با مدل‌هایی مثل DeepSeek Coder یا Qwen Coder)، مدل‌های ۷ تا ۱۳ میلیاردی معمولاً کاملاً جواب می‌دن. یک سیستم با کارت گرافیک حداقل ۱۲ تا ۱۶ گیگابایت VRAM (مثل RTX ۴۰۶۰ Ti 16GB) و ۳۲ گیگ رم، انتخاب خیلی خوبیه.

۲. چت‌بات و دستیار متنی شخصی

برای اجرای مدل‌های زبانی بزرگ به‌عنوان دستیار شخصی (خلاصه‌نویسی، پاسخ به سوالات، نوشتن متن)، هرچی مدل بزرگ‌تر باشه، کیفیت پاسخ‌ها هم بهتر میشه. برای شروع، مدل‌های ۷B تا ۱۳B با یک کارت ۱۲ گیگابایتی به بالا عالی کار می‌کنن؛ اگه بودجه اجازه می‌ده و می‌خوای کیفیتی نزدیک‌تر به مدل‌های تجاری تجربه کنی، سراغ کارت ۲۴ گیگابایتی برو.

۳. تولید تصویر با هوش مصنوعی

ابزارهایی مثل Stable Diffusion یا ComfyUI برای تولید تصویر، به VRAM بالا خیلی حساس‌ترن. برای کار روان و بدون دردسر، حداقل ۱۲ گیگابایت VRAM پیشنهاد می‌شه؛ برای مدل‌های جدیدتر و رزولوشن بالا، ۱۶ گیگابایت به بالا راحت‌ترته.

۴. آموزش و فاین‌تیون مدل‌ها

این سنگین‌ترین سناریوی ممکنه. آموزش یا حتی فاین‌تیون یک مدل، به VRAM بالا (۲۴ گیگابایت به بالا)، رم زیاد (۶۴ گیگابایت به بالا) و در پروژه‌های جدی‌تر، به بیش از یک کارت گرافیک هم‌زمان نیاز داره. اگه قراره وارد این سطح بشی، بهتره سیستم رو به‌صورت اختصاصی و با مشورت تیم فنی ببندی.

۵. تولید و پردازش صدا با AI

ابزارهای تبدیل متن به گفتار، کلون صدا یا پردازش موسیقی معمولاً نسبت به تصویر و متن سبک‌ترن، اما همچنان یک کارت گرافیک با حداقل ۸ گیگابایت VRAM برای تجربه روان توصیه می‌شه.

جمع‌بندی: سه سطح پیشنهادی بر اساس بودجه

سطح اقتصادی؛ برای شروع و یادگیری

کارت گرافیک با ۸ تا ۱۲ گیگابایت VRAM، رم ۱۶ تا ۳۲ گیگابایت و یک SSD NVMe مناسب. این سیستم برای آشنایی با فضا، تست مدل‌های کوچک و دستیار کدنویسی سبک عالیه.

سطح میان‌رده؛ برای کاربری جدی روزمره

کارت گرافیک با ۱۶ گیگابایت VRAM، رم ۳۲ گیگابایت و SSD با فضای بالا. این سطح جواب‌گوی اکثر مدل‌های متن‌باز محبوب، تولید تصویر و دستیار کدنویسی حرفه‌ای است.

سطح حرفه‌ای؛ برای آموزش مدل و پروژه‌های سنگین

کارت گرافیک ۲۴ گیگابایت به بالا (یا چند کارت)، رم ۶۴ گیگابایت به بالا و فضای ذخیره‌سازی زیاد. این سیستم مخصوص کسانیه که می‌خوان مدل آموزش بدن یا روی پروژه‌های تجاری کار کنن.

چند نرم‌افزار کاربردی که باید بشناسی

• Ollama و LM Studio: ساده‌ترین راه برای دانلود و اجرای مدل‌های زبانی روی سیستم شخصی، حتی بدون دانش فنی عمیق.
• ComfyUI و Automatic1111: محبوب‌ترین ابزارها برای تولید تصویر با هوش مصنوعی.
• PyTorch و CUDA Toolkit: پایه‌ی اصلی برای توسعه‌دهنده‌هایی که می‌خوان مدل آموزش بدن یا کدنویسی تخصصی‌تر انجام بدن.

حرف آخر

انتخاب سیستم مناسب برای هوش مصنوعی لوکال، قبل از هر چیز به این برمی‌گرده که دقیقاً قراره چه کاری انجام بدی. خبر خوب اینه که لازم نیست حدس بزنی؛ تیم فنی رویان تِک آماده‌ست تا با توجه به بودجه و هدف تو (چه کدنویسی، چه تولید تصویر، چه آموزش مدل)، دقیق‌ترین و بهینه‌ترین سیستم رو برات ببنده. کافیه با ما در ارتباط باشی تا بدون هیچ سردردی، سیستم رویاییت آماده بشه.