هزینهٔ واقعی ساخت چت‌بات هوش مصنوعی در ۱۴۰۵: API، سرور اختصاصی یا پلتفرم آماده

وقتی کسی می‌پرسد «ساخت یک چت‌بات هوش مصنوعی چقدر خرج دارد؟»، جواب صادقانه این است: بستگی دارد. ولی این جواب به درد کسی که باید بودجه ببندد نمی‌خورد. در این نوشته سعی می‌کنم نشان بدهم هزینه دقیقاً به چه چیزهایی بستگی دارد، تا خودتان بتوانید برای مورد خودتان برآورد کنید و از فروشنده‌ها سؤال درست بپرسید.

من چت‌بات با قیمت ثابت نمی‌فروشم. در یارابات دستیارهای مبتنی بر دانش کسب‌وکار ساخته‌ام و مدل زبانی را روی سرور سازمان‌هایی راه انداخته‌ام که داده‌شان نباید بیرون برود؛ آنچه اینجا می‌نویسم از همان تجربه است. قیمت‌ها در ایران سریع عوض می‌شوند؛ برای همین اینجا عدد قیمت نمی‌نویسم و روش برآورد را توضیح می‌دهم.

سه راه ساختن چت‌بات

۱. پلتفرم آماده

اشتراک ماهانه می‌خرید، اسناد و سؤال‌های متداولتان را بارگذاری می‌کنید و یک ویجت روی سایت می‌گذارید. نمونه‌های ایرانی پرداخت داخلی دارند؛ نمونه‌های خارجی معمولاً کارت ارزی می‌خواهند. یارابات، که خودم مدیر فنی‌اش هستم، هم یکی از همین پلتفرم‌هاست.

وقتی به درد می‌خورد: سؤال‌های مشتری‌ها تکراری است، دانشتان در چند ده صفحه جا می‌شود، و لازم نیست چت‌بات به سیستم‌های داخلی‌تان وصل شود. برای شروع و سنجیدن اینکه اصلاً مشتری‌ها از چت‌بات استفاده می‌کنند یا نه، معمولاً بهترین گزینه است.

۲. ساخت اختصاصی روی API یک مدل آماده

یک تیم (داخلی یا بیرونی) بخش جست‌وجو در اسناد، صفحهٔ گفت‌وگو و اتصال‌ها را می‌سازد. برای نوشتن جواب هم از API یک مدل تجاری، مثل مدل‌های OpenAI یا Anthropic، استفاده می‌کند؛ یعنی برنامهٔ شما از راه اینترنت سؤال را به سرویس آن شرکت می‌فرستد و جواب را می‌گیرد. به ازای هر توکن (تکه‌ای از متن؛ پایین‌تر توضیحش داده‌ام) پول می‌دهید.

وقتی به درد می‌خورد: چت‌بات باید به CRM، سامانهٔ سفارش یا پایگاه دانش بزرگی وصل شود، کیفیت جواب فارسی برایتان خیلی مهم است، و فرستادن متن گفت‌وگوها به یک سرویس خارجی (و یک واسطه) از نظر حقوقی و امنیتی برایتان مشکلی ندارد.

۳. ساخت اختصاصی روی مدل متن‌باز و سرور خودتان

همان سامانه، ولی مدل زبانی روی سرور GPU خودتان یا سروری که اجاره کرده‌اید اجرا می‌شود و هیچ داده‌ای از شبکهٔ شما بیرون نمی‌رود. بخشی از کارهای یارابات برای کتابخانه‌ها و شرکت‌های بیمه از همین نوع بود.

وقتی به درد می‌خورد: داده‌تان محرمانه است یا قانوناً نباید از کشور یا سازمان خارج شود، حجم استفاده بالاست، یا نمی‌خواهید سرویستان با یک تحریم یا قطعی واسطه از کار بیفتد.

هزینه‌های یک‌باره

شناخت مسئله و آماده‌سازی داده: بزرگ‌ترین و دست‌کم‌گرفته‌ترین بخش

تقریباً در همهٔ پروژه‌هایی که دیده‌ام، سخت‌ترین بخش ساختن چت‌بات نبود، جمع کردن و مرتب کردن دانشی بود که چت‌بات باید از آن جواب بدهد. دانش سازمان معمولاً در PDFهای اسکن‌شده، فایل‌های Word با نسخه‌های متناقض، گروه‌های پیام‌رسان و ذهن کارمندهای قدیمی پخش است.

کارهای این مرحله: پیدا کردن منابع، حذف نسخه‌های قدیمی، تبدیل اسکن به متن، یکدست کردن حروف فارسی (ی و ک عربی، نیم‌فاصله)، و مشخص کردن اینکه چت‌بات به چه سؤال‌هایی نباید جواب بدهد. این کار را باید کسی از داخل سازمان همراهی کند، پس هزینه‌اش فقط فاکتور پیمانکار نیست، وقت کارمندهای شما هم هست.

بازهٔ هزینه و زمان این مرحله آن‌قدر به وضع اسناد هر سازمان بستگی دارد که یک عدد کلی گمراه‌کننده است. ولی یک چیز تقریباً همیشه ثابت است: این همان بخشی است که کمتر از همه جدی گرفته می‌شود و بعداً بیشترین دردسر را درست می‌کند.

ساخت بخش جست‌وجو در اسناد (RAG)

چت‌بات سازمانی معمولاً با روش RAG کار می‌کند: اول تکه‌های مرتبط را از اسناد شما پیدا می‌کند و بعد مدل زبانی از روی همان تکه‌ها جواب می‌نویسد. هزینه‌اش به حجم و نوع اسناد بستگی دارد. جست‌وجوی خوب در متن فارسی ساده نیست؛ در بنچمارک RAG فارسی، که آزمونی برای مقایسهٔ روش‌های جست‌وجو در متن فارسی است، نشان داده‌ام هر مرحلهٔ جست‌وجو چقدر دقت اضافه می‌کند و چقدر تأخیر.

مجموعهٔ ارزیابی

یک فهرست از سؤال‌های واقعی با جواب درست، که هر تغییری در سیستم را با آن بسنجید. هزینه‌اش کم است و بدون آن نمی‌دانید چت‌باتتان واقعاً خوب کار می‌کند یا فقط در دمو خوب به نظر می‌رسد. ساده‌ترین شروع: از کارشناس‌های خودتان بخواهید پنجاه سؤال واقعی با جواب درست بنویسند، از جمله سؤال‌هایی که جوابشان در اسناد نیست. همین مجموعه بعداً کمک می‌کند ارزان‌ترین مدلی را پیدا کنید که برای کار شما کافی است.

اتصال‌ها و رابط کاربری

هر کانال یک کار جداست: ویجت سایت، ربات تلگرام، بله یا ایتا، اتصال به CRM یا سامانهٔ سفارش برای جواب دادن به «سفارش من کجاست؟». اتصال به سامانه‌های داخلی اغلب از خود چت‌بات وقت بیشتری می‌گیرد، چون آن سامانه‌ها کمتر API مستندی دارند. پنل مدیریت برای دیدن گفت‌وگوها و ویرایش دانش را هم در برآورد بیاورید.

هزینه‌های جاری

توکن چیست و چرا فارسی گران‌تر است

مدل‌های زبانی متن را به تکه‌های کوچکی به نام توکن می‌شکنند و API بر اساس تعداد توکن ورودی (سؤال، دستورالعمل و اسنادی که همراهش می‌فرستید) و توکن خروجی (جوابی که مدل می‌نویسد) پول می‌گیرد. توکن خروجی معمولاً چند برابر توکن ورودی قیمت دارد.

توکنایزر، یعنی بخشی که متن را به توکن می‌شکند، در بیشتر مدل‌ها با متن انگلیسی ساخته شده و فارسی را ریزتر می‌شکند. نتیجه اینکه یک جملهٔ فارسی در بیشتر مدل‌ها توکن بیشتری از معادل انگلیسی‌اش مصرف می‌کند؛ به تجربهٔ من، به‌طور میانگین حدود دو برابر. یعنی برآوردهایی که از منابع انگلیسی می‌خوانید، برای چت‌بات فارسی کم است.

یک فرمول ساده برای برآورد هزینهٔ ماهانهٔ API

هزینهٔ ماهانه = تعداد گفت‌وگو در ماه × تعداد نوبت هر گفت‌وگو × (توکن ورودی هر نوبت × قیمت ورودی + توکن خروجی هر نوبت × قیمت خروجی)

یک مثال با فرض‌های مشخص: ماهی ۳٬۰۰۰ گفت‌وگو، هر گفت‌وگو ۴ نوبت پرسش و پاسخ. در RAG هر نوبت فقط سؤال کاربر نیست؛ دستورالعمل سیستم، تکه‌هایی که از اسناد پیدا شده و تاریخچهٔ گفت‌وگو هم فرستاده می‌شود. فرض می‌کنیم هر نوبت به‌طور میانگین ۳٬۰۰۰ توکن ورودی و ۳۰۰ توکن خروجی (متن فارسی) دارد.

پس در ماه ۱۲٬۰۰۰ نوبت داریم: ۳۶ میلیون توکن ورودی و ۳٫۶ میلیون توکن خروجی. حالا قیمت هر یک میلیون توکن ورودی و خروجی را از صفحهٔ رسمی قیمت‌گذاری مدلی که در نظر دارید، مثلاً OpenAI یا Anthropic، بردارید و در فرمول بگذارید. عدد نهایی را اینجا نمی‌نویسم، چون هم قیمت مدل‌ها مدام عوض می‌شود و هم، برای خرید از ایران، نرخ واسطه‌ها.

سه نکته از همین حساب: اول، در فهرست قیمت همین سرویس‌ها فاصلهٔ ارزان‌ترین و گران‌ترین مدل ده‌ها برابر است، پس انتخاب مدل از هر چیز دیگری روی قبض اثر دارد. دوم، در RAG بیشتر توکن‌ها ورودی‌اند (در این مثال ده برابر خروجی)، پس فرستادن تکه‌های کمتر و دقیق‌تر هم کیفیت را بهتر می‌کند و هم هزینه را کم. سوم، بیشتر این سرویس‌ها برای ورودی تکراری، مثل دستورالعمل ثابت سیستم، تخفیف می‌دهند (اسمش prompt caching است) و این قبض را پایین‌تر می‌آورد.

واقعیت API خارجی در ایران

میزبانی روی سرور خودتان

در این مسیر پول توکن نمی‌دهید، ولی هزینه‌تان ثابت است و ربطی به میزان استفاده ندارد: خرید یا اجارهٔ سرور GPU، برق، فضای دیتاسنتر، و وقت کسی که سرویس را سرپا نگه دارد، به‌روزش کند و وقتی نیمه‌شب از کار افتاد درستش کند. برای اینکه حدود مصرف برق دستتان بیاید: سروری که به‌طور میانگین یک کیلووات مصرف کند و شبانه‌روز روشن باشد، ماهی حدود ۷۲۰ کیلووات‌ساعت برق می‌خورد.

اجارهٔ سرور GPU داخل ایران هم شدنی است. خودم با ایران GPU کار می‌کنم و از سرویسشان راضی‌تر بوده‌ام؛ ولی این تجربهٔ شخصی من است و قیمت اجاره هم زود عوض می‌شود، پس عدد را همان روز از خود ارائه‌دهنده بگیرید.

اینکه چه GPU و چقدر حافظه برای چند کاربر هم‌زمان لازم است را در راهنمای انتخاب سرور برای اجرای مدل زبانی جدا توضیح داده‌ام. خلاصه‌اش: با ترافیک کم، API تقریباً همیشه ارزان‌تر است. سرور اختصاصی وقتی به‌صرفه است که حجم استفاده بالا باشد یا داده اصلاً اجازهٔ بیرون رفتن نداشته باشد. مدل‌های متن‌بازی که روی یک سرور معقول اجرا می‌شوند هم معمولاً در فارسی به پای بهترین مدل‌های تجاری نمی‌رسند، پس کیفیت را حتماً با مجموعهٔ ارزیابی خودتان بسنجید.

نگهداری

چت‌بات بعد از راه‌اندازی تمام نمی‌شود. قیمت‌ها و قوانین و محصولاتتان عوض می‌شوند و دانش چت‌بات باید همراهشان به‌روز شود. کسی باید هر هفته نمونه‌ای از گفت‌وگوها را بخواند و جواب‌های غلط را پیدا کند. مدل‌ها هم هر چند ماه نسخهٔ جدید می‌گیرند یا بازنشسته می‌شوند و هر تعویض یعنی یک دور ارزیابی دوباره.

در عمل بیشتر سازمان‌ها تا وقتی کسی از یک جواب غلط شاکی نشود، دست به چت‌بات نمی‌زنند. حجم به‌روزرسانی هم یکنواخت نیست: هفته‌ها و ماه‌های اول بعد از راه‌اندازی زیاد است و بعد کم می‌شود، تا جایی که شاید هر چند ماه یا سالی یک بار لازم باشد. بودجهٔ نگهداری را هم همین‌طور ببینید: سنگین در شروع، سبک در ادامه.

هزینه‌های پنهان

• بررسی مرتب جواب‌ها: اگر کسی گفت‌وگوها را نخواند، اولین کسی که از جواب غلط باخبر می‌شود مشتری عصبانی است.
• تحویل به انسان: چت‌بات باید بداند کجا گفت‌وگو را به اپراتور بدهد، و کسی باید آن طرف باشد. یعنی هزینهٔ پشتیبانی انسانی صفر نمی‌شود.
• جواب ساختگی (hallucination): مدل گاهی با اطمینان جواب غلط می‌سازد. در بنچمارک خودم، مدلی که روی سرور خودمان اجرا می‌شد، در سؤال‌هایی که جوابشان در اسناد بود منبع درست را در ۹۵ تا ۱۰۰ درصد موارد آورد، ولی در نمونهٔ کوچکی از ۲۰ سؤال، فقط حدود نیمی از سؤال‌هایی را که جوابشان در اسناد نبود رد کرد. یعنی گفتن «نمی‌دانم» را باید جدا اندازه گرفت و تقویت کرد، و این هزینه دارد.
• تحریم و پرداخت: اشتراک ارزی، قطع شدن ناگهانی واسطه، یا تغییر نرخ ارز وسط قرارداد.
• وابستگی به فروشنده: اگر دانش، تاریخچهٔ گفت‌وگوها و تنظیمات فقط در پلتفرم فروشنده باشد و خروجی گرفتن ممکن نباشد، عوض کردن فروشنده یعنی از صفر شروع کردن.

مقایسهٔ سه مسیر

قبل از امضای قرارداد از فروشنده بپرسید

1. از کدام مدل استفاده می‌کنید، از چه راهی به آن دسترسی دارید، و اگر آن دسترسی قطع شد چه می‌شود؟
2. هزینهٔ ماهانه ثابت است یا به مصرف بستگی دارد؟ اگر تعداد گفت‌وگوها دو برابر شود، قبض چقدر می‌شود؟
3. آماده‌سازی داده در قیمت هست؟ چه کسی اسناد ما را مرتب می‌کند و از طرف ما چقدر وقت لازم است؟
4. کیفیت جواب‌ها را چطور اندازه می‌گیرید؟ نتیجه را روی سؤال‌های واقعی ما نشان می‌دهید؟
5. وقتی جواب در اسناد ما نیست، چت‌بات چه می‌کند؟
6. متن گفت‌وگوها کجا ذخیره می‌شود و چه کسی به آن دسترسی دارد؟
7. اگر بخواهیم فروشنده را عوض کنیم، دانش و تاریخچهٔ گفت‌وگوها را در چه قالبی تحویل می‌گیریم؟
8. به‌روزرسانی دانش و تعویض مدل بعد از تحویل با کیست و هزینه‌اش چقدر است؟

فروشنده‌ای که به این سؤال‌ها جواب روشن بدهد، حتی اگر گران‌تر باشد، معمولاً در نهایت ارزان‌تر تمام می‌شود.

پرسش‌های متداول

اگر می‌خواهید برای مورد خودتان برآورد دقیق‌تری داشته باشید، یا پیشنهاد فروشنده‌ای را دارید و می‌خواهید یک نفر از جنبهٔ فنی نگاهش کند، در صفحهٔ مشاوره و پیاده‌سازی نوشته‌ام چطور می‌توانم کمک کنم.