پیاده‌سازی هوش مصنوعی در سازمان از صفر: مدل متن‌باز، سخت‌افزار و هزینه

داده از سازمان بیرون نمی‌رود؛ پس هوش مصنوعی باید بیاید داخل

صحنه آشناست: یک کارشناس متن قرارداد یا گزارش داخلی را در یک چت‌بات خارجی چسبانده تا خلاصه‌اش کند، و حالا مدیر فناوری یا مدیر حراست می‌پرسد «این داده الان کجاست؟». در بانک، بیمه، بیمارستان، دفتر حقوقی، دستگاه دولتی و شرکت بزرگ جواب معمولاً روشن است: پرونده مشتری، سابقه بیمار و مکاتبه داخلی نباید به سرور یک شرکت خارجی برود. پس یا باید جلوی استفاده را گرفت، یا یک هوش مصنوعی امن در اختیار کارمندها گذاشت که روی سرور خود سازمان اجرا شود.

خبر خوب این است که مدل‌های «وزن‌باز» (open-weight) حالا آن‌قدر قوی‌اند که این کار شدنی است: فایل مدل را دانلود می‌کنی و روی سخت‌افزار خودت اجرا می‌کنی، بدون این‌که یک کلمه از شبکه سازمان بیرون برود. خبر بد این است که بزرگ‌ترین‌هایشان سخت‌افزاری در حد یک سرور هشت‌GPU می‌خواهند. این راهنما (نوشته ۲۶ مهر ۱۴۰۵) قدم‌به‌قدم می‌گوید از کجا شروع کنی، کدام مدل برای چه کاری، چقدر حافظه و برق لازم است و هزینه را چطور حساب کنی. اگر فقط می‌خواهی بدانی ChatGPT و Gemini و بقیه چه فرقی دارند، مقایسه هوش مصنوعی‌ها را بخوان؛ این مقاله درباره مدلی است که مال خودت می‌شود.

مراحل پیاده‌سازی هوش مصنوعی در سازمان: ۱۰ قدم از صفر

1. دو یا سه کاربرد مشخص تعریف کن، نه «هوش مصنوعی برای همه». مثال: خلاصه نامه‌های وارده دبیرخانه، پاسخ به سؤال کارمندها از آیین‌نامه‌ها، پیش‌نویس پاسخ به شکایت مشتری. برای هر کدام بنویس الان چقدر وقت می‌برد و «خوب» یعنی چه.

2. داده را طبقه‌بندی کن. چه چیزی عمومی است، چه چیزی داخلی، چه چیزی محرمانه (اطلاعات هویتی مشتری، پرونده پزشکی، اسرار تجاری). همین جدول تعیین می‌کند کدام کاربرد اصلاً اجازه دارد به یک سرویس بیرونی برسد.

3. تصمیم بگیر: API یا سرور خودی. اگر داده عمومی است و قانون و قرارداد اجازه می‌دهد، API یک سرویس خیلی ارزان‌تر است (حسابش پایین‌تر آمده). اگر داده محرمانه است یا نباید از کشور یا ساختمان خارج شود، مدل وزن‌باز روی سرور خودی.

4. فهرست کوتاه مدل بساز. از رتبه‌بندی‌های قابل‌بررسی شروع کن (بخش بعد)، ولی با سه فیلتر: مجوز اجازه کار تو را می‌دهد؟ روی سخت‌افزاری که واقعاً می‌توانی تهیه کنی جا می‌شود؟ کاربردت تصویر هم دارد یا فقط متن است؟

5. آزمون فارسی روی کار خود سازمان. هیچ رتبه‌بندی‌ای جای این را نمی‌گیرد. نمونه مجموعه آزمون را پایین‌تر گذاشته‌ایم.

6. ابزار اجرا (serving) را انتخاب کن. برای پایلوت روی یک رایانه: Ollama (مجوز MIT، ویندوز و مک و لینوکس) یا llama.cpp (مجوز MIT، فشرده‌سازی ۱٫۵ تا ۸ بیتی). برای سرویس واقعی با ده‌ها کاربر هم‌زمان: vLLM با «سرور API سازگار با OpenAI» و تقسیم مدل روی چند GPU، یا SGLang (مجوز Apache 2.0). کارت مدل‌های بزرگی که پایین معرفی شده، دستور اجرای همین دو را داده‌اند.

7. اسناد سازمان را وصل کن (RAG). مدل آیین‌نامه‌های تو را نمی‌داند. به‌جای آموزش دوباره مدل، اسناد را تکه‌تکه و فهرست کن تا هر سؤال، چند بند مرتبط را همراه خودش به مدل بدهد و جواب با ارجاع به همان بند بیاید. این ارزان‌ترین راه برای جواب دقیق از اسناد خودت است.

8. دسترسی، ثبت و امنیت. ورود با حساب سازمانی، این‌که هر نفر فقط اسنادی را ببیند که در سامانه اصلی هم اجازه دیدنش را دارد، ثبت همه پرسش‌ها و پاسخ‌ها برای حسابرسی، و سرور بدون دسترسی به اینترنت بعد از نصب.

9. پایلوت با یک تیم. یک واحد ۱۰ تا ۲۰ نفره، یک کاربرد، چهار تا شش هفته. کسی را مسئول جمع کردن نمونه‌های بد کن.

10. بسنج، بعد گسترش بده. زمان صرفه‌جویی‌شده در هر کار، درصد جواب‌هایی که بدون ویرایش قابل‌استفاده بود، و خطاهای خطرناک. اگر عددها خوب بود، کاربرد دوم و تیم دوم؛ اگر نه، اول کاربرد یا مدل را عوض کن، نه سخت‌افزار را.

تیمی که لازم داری: یک صاحب محصول از سمت کسب‌وکار که کاربرد را تعریف و نتیجه را قضاوت می‌کند؛ یک یا دو مهندس LLM برای انتخاب مدل، RAG و ارزیابی؛ یک مهندس زیرساخت برای GPU، شبکه و پایش؛ مسئول امنیت اطلاعات؛ چند کارشناس خبره همان حوزه برای ساختن آزمون و نمره دادن؛ و مشاور حقوقی برای مجوز مدل و خرید سخت‌افزار.

آزمون فارسی: ده سؤال از کار خودت، قبل از هر خریدی

هیچ‌کدام از کارت‌های مدلی که در این مقاله لینک داده‌ایم پشتیبانی از فارسی را صریح ننوشته‌اند؛ پس کیفیت فارسی را باید خودت بسنجی. برای این کار لازم نیست سخت‌افزار بخری: نسخه کوچک هر مدل را روی یک رایانه با Ollama اجرا کن یا یک GPU ابری را چند ساعت اجاره کن و فقط داده غیرمحرمانه یا ساختگی بده. اگر دنبال نقطه شروع عمومی هستی، رتبه‌بندی متن‌باز مدل‌های فارسی PartAI در Hugging Face هست؛ ببین مدل‌های فهرست کوتاهت در آن هستند یا نه، ولی تصمیم را با آزمون خودت بگیر.

هر سؤال را دست‌کم سه بار بپرس (جواب‌ها هر بار کمی فرق دارند)، دو نفر جدا نمره بدهند، و زمان پاسخ را هم یادداشت کن. مدلی که در سؤال ۴ جواب می‌سازد، برای کار اداری خطرناک است حتی اگر در بقیه عالی باشد.

بهترین هوش مصنوعی متن‌باز کدام است؟ فقط با شاهد

«بهترین» بدون معیار معنی ندارد. ما یک معیار قابل‌بررسی برداشتیم: شاخص هوش Artificial Analysis برای مدل‌های وزن‌باز (نسخه 4.3.2، باز شده ۲۶ مهر ۱۴۰۵) که مدل‌ها را با مجموعه‌ای از آزمون‌های استدلال، دانش و کدنویسی می‌سنجد. در آن روز بالای جدول این‌ها بودند: MiMo-V2.6-Pro شیائومی (۴۶)، GLM-5.3 از Z.ai (۴۵)، Step 5 Preview (۴۴)، Kimi K3 (۴۴)، GLM-5.3-Flash (۴۲)، DeepSeek V4.1 Flash و Muse Spark Open متا (هر دو ۳۹) و Qwen3.8 27B (۳۴). این شاخص فارسی را جدا نمی‌سنجد؛ برای همین آزمون بخش قبل لازم است. رتبه‌بندی LMArena هم معتبر است ولی صفحه‌اش از سمت ما باز نشد، پس به آن استناد نکرده‌ایم.

• DeepSeek V4.1 Flash (کارت مدل): مجوز MIT یعنی تقریباً بدون قید؛ تعداد پارامتر فعالش در هر توکن کم است و برای همین سریع جواب می‌دهد، و ورودی تصویر هم دارد. کارت مدل اجرای آن را با vLLM و SGLang توضیح داده است. بهترین برای: سازمانی که یک مدل بزرگ همه‌کاره با مجوز بی‌دردسر و فهم اسکن و تصویر می‌خواهد.

• GLM-5.3 (کارت مدل): بالاترین امتیاز بین مدل‌هایی که با جای کافی برای کاربران هم‌زمان روی یک سرور ۸ × H200 جا می‌شوند. متن مجوزش اجازه استفاده، تغییر و فروش را می‌دهد و تنها قید جدی‌اش برای غول‌هایی است که مدل را به‌عنوان API می‌فروشند. کارت مدل زبان‌ها را انگلیسی و چینی برچسب زده است. بهترین برای: استدلال و کدنویسی متنی وقتی سخت‌افزار سطح بالا داری.

• GLM-5.3-Flash (کارت مدل): نسخه سبک‌تر و چندرسانه‌ای همان خانواده با مجوز MIT؛ حدود نصف حافظه GLM-5.3 را می‌خواهد و در همان جدول ۴۲ گرفته است. بهترین برای: نقطه تعادل کیفیت و سخت‌افزار.

• Kimi K3 (کارت مدل): قوی ولی بسیار بزرگ. مجوزش برای سرویس‌های خیلی بزرگ شرط نمایش نام و قرارداد جدا دارد و صریحاً می‌گوید این شرط‌ها شامل «استفاده داخلی» نمی‌شود. بهترین برای: سازمانی که بیش از یک سرور GPU دارد.

• Qwen3.8-27B و Gemma 4 31B (کارت Qwen، کارت Gemma): هر دو Apache 2.0، هر دو تصویر می‌فهمند و هر دو روی یک GPU اجرا می‌شوند. کارت Gemma 4 از پشتیبانی آماده ۳۵+ زبان و پیش‌آموزش روی ۱۴۰+ زبان می‌گوید، ولی فارسی را نام نبرده است. بهترین برای: پایلوت و آزمون فارسی ارزان، و کاربردهای سبک روی سرور کوچک.

• gpt-oss-120b (کارت مدل): Apache 2.0 و طبق کارت مدل روی یک H100 ۸۰ گیگابایتی جا می‌شود؛ قدیمی‌تر از بقیه (مرداد ۱۴۰۴) و فقط متنی. بهترین برای: پله میانی با یک GPU بزرگ.

• دو مدل دیگر که باید بدانی: MiMo-V2.6-Pro شیائومی (MIT، ۱٫۰۲ هزار میلیارد پارامتر، ۴۲ میلیارد فعال) صدر جدول است ولی وزن‌هایش تقریباً همه حافظه یک سرور هشت H200 را پر می‌کند. Muse Spark Open متا (۸۱۶ میلیارد، ۴۲ میلیارد فعال) طبق کارتش دست‌کم ۷۰۰ گیگابایت حافظه GPU می‌خواهد، دانلودش فرم هویت و سازمان دارد و مجوزش نمایش «Built with Muse Spark Open» و شرط‌های دیگری می‌گذارد.

مدل‌های تصویری، کوتاه: فهمیدن تصویر (خواندن فرم، فاکتور، نمودار) با تولید تصویر فرق دارد. DeepSeek V4.1 Flash، GLM-5.3-Flash، Qwen3.8 و Gemma 4 تصویر را به‌عنوان ورودی می‌فهمند. DeepSeek مدل جدای DeepSeek-VL2 را هم برای OCR و فهم سند و جدول دارد که کارتش استفاده تجاری را مجاز اعلام کرده است. برای تولید تصویر، Janus-Pro دیپ‌سیک هم می‌فهمد هم می‌سازد، ولی مدل ۷ میلیاردی است و ورودی تصویرش ۳۸۴ در ۳۸۴ پیکسل؛ کیفیت ساختش را کنار مدل‌های تخصصی مقایسه کن. در خانواده FLUX مجوزها فرق دارند: FLUX.2 klein 4B با Apache 2.0 منتشر شده، اما klein 9B و FLUX.2 dev مجوز غیرتجاری دارند. Qwen-Image-2.1 هم مجوز qwen-research دارد؛ قبل از استفاده تجاری متن مجوز را بخوان.

سرور هوش مصنوعی چقدر حافظه می‌خواهد؟ حساب شفاف

قاعده ساده است: حافظه وزن‌ها = تعداد پارامتر × بایت هر پارامتر. BF16 دو بایت، FP8 و INT8 یک بایت، و فشرده‌سازی ۴ بیتی نیم بایت. Hugging Face برای هر مدل تعداد پارامتر را به تفکیک نوع ذخیره نشان می‌دهد؛ ما همان عددها را ضرب کرده‌ایم. روی این عدد باید جا برای «حافظه گفتگو» (KV cache) هم بگذاری که با تعداد کاربر هم‌زمان و طول متن‌ها بزرگ می‌شود؛ اندازه دقیقش را با تست بار خودت بسنج.

عددهای سخت‌افزار از صفحه رسمی سازنده: H200 ۱۴۱ گیگابایت حافظه و توان تا ۷۰۰ وات (نسخه SXM) دارد. طبق راهنمای DGX H100/H200 انویدیا یک سرور کامل هشت H200 روی هم ۱٬۱۲۸ گیگابایت حافظه GPU، ۲ ترابایت RAM، شش منبع تغذیه ۳٫۳ کیلوواتی، حداکثر توان ۱۰٫۲ کیلووات، ۸ یونیت رک و تا ۱۳۰ کیلو وزن دارد. کارت ایستگاه کاری RTX PRO 6000 ۹۶ گیگابایت حافظه و حداکثر ۶۰۰ وات مصرف دارد؛ یعنی Qwen3.8-27B یا Gemma 4 31B بدون فشرده‌سازی روی یک کارت جا می‌شوند.

هزینه پیاده‌سازی هوش مصنوعی: سه سطح

قیمت اجاره GPU از صفحه قیمت Lambda (باز شده ۲۶ مهر ۱۴۰۵، دلار در ساعت به ازای هر GPU، بدون مالیات) برداشته شده و ماهانه با ۷۳۰ ساعت (کارکرد شبانه‌روزی) حساب شده است. هایپراسکیلرها هم همین سخت‌افزار را دارند؛ مثلاً AWS p5en هشت H200 با ۱٬۱۲۸ گیگابایت دارد. قیمت خرید GPU را از هیچ منبع رسمی قابل‌استنادی پیدا نکردیم (انویدیا قیمت فهرست منتشر نمی‌کند)، پس عددی نمی‌دهیم.

مقایسه با API، برای دیدن منطق سربه‌سر: طبق صفحه قیمت DeepSeek مدل deepseek-flash (همان V4.1 Flash) در ساعت‌های اوج برای هر یک میلیون توکن ۰٫۳ دلار ورودی و ۱٫۲ دلار خروجی می‌گیرد و بیرون از ساعت اوج نصف. فرض کن ۲۰۰ کارمند هر کدام روزی ۳۰ درخواست با ۲٬۰۰۰ توکن ورودی و ۵۰۰ توکن خروجی دارند، ۲۲ روز در ماه: ۲۶۴ میلیون توکن ورودی (۷۹ دلار) و ۶۶ میلیون خروجی (۷۹ دلار)، روی هم حدود ۱۶۰ دلار در ماه. همان مدل روی سرور اجاره‌ای سطح ج حدود ۳۹ هزار دلار است؛ با این ترکیب ورودی و خروجی (میانگین ۰٫۴۸ دلار برای هر میلیون توکن) سربه‌سر حدود ۸۱ میلیارد توکن در ماه است، یعنی حدود ۲۵۰ برابر این مثال.

نتیجه صادقانه: سرور خودی معمولاً ارزان‌تر نیست؛ دلیلش حاکمیت داده است. پس اگر داده‌ات اجازه می‌دهد، API ارزان‌تر است. اگر نمی‌دهد (که برای سازمان‌های این مقاله معمولاً نمی‌دهد)، کوچک‌ترین مدلی را بردار که آزمون فارسی‌ات را قبول می‌شود: فاصله سطح الف تا ج حدود پنجاه برابر هزینه است.

ریسک‌هایی که قبل از خرید باید روی میز باشد

• تحریم و کنترل صادرات: GPUهای مرکز داده آمریکایی‌اند. مقررات تحریم ایران در آمریکا (31 CFR 560.204) صادرات و صادرات مجدد کالا، فناوری و خدمات به ایران را، مستقیم یا غیرمستقیم و حتی از راه کشور ثالث، ممنوع می‌کند؛ صفحه برنامه تحریم ایران در خزانه‌داری آمریکا هم مرتب به‌روز می‌شود. یعنی تأمین این سخت‌افزار برای سازمان ایرانی پیامد حقوقی جدی دارد. قبل از هر خرید، با مشاور حقوقی متخصص تحریم صحبت کن؛ این مقاله هیچ مسیر تأمینی پیشنهاد نمی‌کند. شرط‌های مجوز هر مدل را هم همان مشاور بخواند.

• برق و سرمایش: سرور سطح ج تا حدود ۱۰ کیلووات می‌کشد و گرمایش باید بیرون برود. اگر محل نصب قطعی برق یا خاموشی برنامه‌ریزی‌شده دارد، UPS و برق پشتیبان را در طراحی بیاور، نه بعد از اولین قطعی.

• نگهداری: خرابی GPU، به‌روزرسانی درایور و ابزار اجرا، پایش دما و حافظه. بدون مهندس مسئول، سرور گران یک جعبه خاموش می‌شود.

• عمر کوتاه مدل‌ها: جدول بالا در چند ماه عوض می‌شود. معماری را طوری بچین که عوض کردن مدل یک تغییر تنظیمات باشد (vLLM و SGLang هر دو API سازگار با OpenAI می‌دهند) و آزمون فارسی‌ات را نگه دار تا مدل تازه را در یک روز بسنجی.

• توهم و مسئولیت: مدل گاهی با اطمینان اشتباه می‌کند. در پزشکی، حقوق و تصمیم مالی، خروجی پیش‌نویس است و امضا با انسان.

این راهنما را برای تیم یا پیجت پست اسلایدی کن

فرهوشان مجموعه ابزارهای هوش مصنوعی فارسی است و راه‌اندازی سرور داخل سازمان را نمی‌فروشد. ولی اگر می‌خواهی همین نقشه راه را به مدیرانت معرفی کنی یا در پیج تکنولوژی‌ات منتشرش کنی، پست‌لوپ از یک موضوع یا متن، پست اسلایدی فارسی طراحی‌شده می‌سازد: متن هر اسلاید، تصویر، کپشن و هشتگ. برای نام‌های شناخته‌شده مثل DeepSeek، Qwen یا NVIDIA لوگوی واقعی خودشان را روی اسلاید می‌گذارد. لینک پایین فرم را این‌طور باز می‌کند:

1. موضوع از قبل پر شده: «راه‌اندازی هوش مصنوعی سازمانی از صفر: مدل‌های متن‌باز، سخت‌افزار و هزینه؛ برای پیج تکنولوژی و مدیران». اگر مخاطبت فرق دارد، عوضش کن؛ مثلاً «برای مدیران بیمارستان».

2. لحن «آموزشی» و ۱۰ اسلاید انتخاب شده است. اگر می‌خواهی عددها و نام مدل‌ها دقیقاً همین مقاله باشد، به‌جای موضوع، یک فهرست شماره‌دار ۱ تا ۱۰ بنویس؛ پست‌لوپ هر شماره را یک اسلاید می‌کند و نام‌ها و عددها را دست نمی‌زند.

3. بساز و قبل از انتشار، عددها را با تاریخ همین مقاله تطبیق بده. هزینه ساخت را قبل از ساخت می‌بینی.