مشاوره و پیادهسازی هوش مصنوعی برای سازمانها
من علی صالحی هستم، مهندس هوش مصنوعی و مدیر فنی یارابات. کارشناسی ارشد هوش مصنوعی را از دانشگاه فردوسی مشهد گرفتهام و بیش از شش سال است سیستمهایی میسازم که کاربر واقعی دارند: مدلهای زبانی، پرسشوپاسخ روی دانش سازمان، و پردازش زبان فارسی.
این صفحه برای مدیری است که میخواهد بداند مشاورهٔ هوش مصنوعی برای کسبوکارش دقیقاً یعنی چه، در هر مرحله چه تحویل میگیرد، و آیا من آدم مناسب این کار هستم.
در یک نگاه
- کار را از پیدا کردن مسئلهٔ درست و ساختن مجموعهٔ ارزیابی شروع میکنم، نه از کد.
- در هر مرحله چیز مشخصی تحویل میگیرید و پیشرفت را با عدد میبینید، نه با حس.
- اگر داده نباید از سازمان بیرون برود، سیستم روی سرورهای خودتان اجرا میشود.
- سه شکل همکاری: ساختن، مشاوره یا آموزش.
مشکل معمولاً مدل نیست
در تجربهٔ من، بیشتر پروژههای هوش مصنوعی بهخاطر ضعف مدل به نتیجه نمیرسند. یا مسئلهٔ اشتباهی انتخاب شده، یا کسی اندازه نگرفته که سیستم واقعاً درست جواب میدهد یا فقط به نظر خوب کار میکند.
برای همین پیادهسازی هوش مصنوعی در سازمان را از ساختن شروع نمیکنم. از پیدا کردن جایی شروع میکنم که هوش مصنوعی واقعاً به کار میآید، و از اندازهگیری.
روش کار من در چهار مرحله
۱. پیدا کردن جایی که هوش مصنوعی میارزد
با مدیرها و با کسانی که هر روز با خود کار درگیرند حرف میزنم و دنبال جاهایی میگردم که وقت زیادی صرف کار تکراری با متن میشود: جواب دادن به سؤالهای تکراری، گشتن در آییننامهها و اسناد، دستهبندی درخواستها، خلاصه کردن گزارشها. بعد بررسی میکنیم که دادهٔ لازم برای هر کدام وجود دارد یا نه.
گاهی جواب درست این است که هوش مصنوعی لازم نیست و یک جستوجوی بهتر مسئله را حل میکند. این را هم صریح میگویم.
آنچه تحویل میگیرید: فهرست کوتاهی از کاربردهای ممکن، با ارزش، دشواری و ریسک هر کدام، و پیشنهاد اینکه از کدام شروع کنیم.
۲. اندازهگیری، پیش از ساختن
پیش از نوشتن حتی یک خط کد، مجموعهٔ ارزیابی را میسازیم: سؤالها یا نمونههای واقعی از کار شما، همراه با جواب درست هر کدام. اگر هنوز دادهای از کاربران ندارید، کارشناسهای خودتان حدود پنجاه سؤال مینویسند. سؤالهایی که جوابشان در اسناد نیست هم باید در این مجموعه باشد، چون سیستم خوب باید بتواند بگوید «نمیدانم».
دلیلش ساده است: سیستمی که اندازهگیری نشود، فقط به نظر خوب کار میکند.
آنچه تحویل میگیرید: مجموعهٔ ارزیابی، که مال خودتان است و بعد از من هم به کارتان میآید؛ عدد پایه، یعنی سادهترین راهحل امروز چقدر خوب است؛ و معیار پذیرش: سیستم با چه عددی آماده است.
۳. ساختن
معمولاً حاصل این مرحله یک سیستم پرسشوپاسخ روی دانش سازمان (RAG)، یک دستیار اختصاصی یا ابزاری برای پردازش متن فارسی است. مدل، روش پیدا کردن متن مرتبط در اسناد و ساختار کلی سیستم را انتخاب میکنم و دلیل هر انتخاب را میگویم.
هر تغییر، از عوض کردن مدل تا اضافه کردن جستوجوی کلیدواژهای، روی همان مجموعهٔ ارزیابی سنجیده میشود. پس پیشرفت را با عدد میبینید، نه با حس.
آنچه تحویل میگیرید: سیستمی که کار میکند، کد آن، و گزارشی که نشان میدهد هر بخش چقدر خوب کار میکند و کجا هنوز ضعف دارد.
۴. راهاندازی، حتی روی سرورهای خودتان
سیستم را همانجایی راه میاندازم که لازم دارید. اگر داده نباید از سازمان بیرون برود، مدل زبانی روی سرورهای خود سازمان اجرا میشود و هیچ درخواستی به سرویس خارجی نمیرود. در یارابات همین کار را برای سازمانهایی مثل کتابخانهها و شرکتهای بیمه انجام دادیم. اینکه چنین سروری چه سختافزاری لازم دارد را در راهنمای انتخاب سرور برای اجرای مدل زبانی نوشتهام.
آنچه تحویل میگیرید: سرویسی که روی زیرساخت شما کار میکند، مستندات راهاندازی و نگهداری، و آموزش تیم فنیتان تا به من وابسته نمانید.
سه شکل همکاری
۴ مرحله
ساختن
محصول هوشمند، از معماری تا انتشار؛ یعنی هر چهار مرحلهٔ بالا.
کنار تیم
مشاوره
اگر تیم فنی دارید، کنارشان کار میکنم: انتخاب مسئله، طراحی ارزیابی، بازبینی ساختار فنی سیستم و تصمیم دربارهٔ مدل و محل اجرا.
کارگاه
آموزش
کارگاه و دورهٔ عملی برای تیمها، از مبانی یادگیری ماشین تا ساخت سیستمهای پرسشوپاسخ.
در آموزش، تا حالا کارگاه پردازش زبان طبیعی در مدرسهٔ تابستانی ICDS.ai و کارگاه «مدلهای زبانی در خدمت بشریت» در چهارمین سمپوزیوم هوش مصنوعی در خدمت بشریت در دانشگاه فردوسی را برگزار کردهام، دورهٔ «هوش مصنوعی مولد، کاربردها و چرخهٔ عمر پروژه» را در مکتبخونه منتشر کردهام و در وبیناری برای مدیران فروشگاههای آنلاین، ساخت چتبات پشتیبانی را قدمبهقدم نشان دادهام.
کارهایی که خودتان میتوانید ببینید
یارابات
بهعنوان مدیر فنی، معماری و توسعهٔ یارابات را رهبری کردم؛ پلتفرم هوش مصنوعی فارسی با بیش از ۸۰ هزار کاربر، که حدود ۲۹ هزار نفرشان دستکم یک بار با یک دستیار گفتوگو کردهاند. ۴۱ دستیار اختصاصی ساختیم که هر کدام از دانش کسبوکار خود مشتری جواب میدهند و به وردپرس یا تلگرام وصل میشوند. برای سازمانهایی هم که دادهشان نباید بیرون میرفت، مدل زبانی را روی GPU (کارت گرافیک) خودشان راه انداختیم. جزئیات پروژهٔ یارابات
بنچمارک RAG فارسی
یک پروژهٔ متنباز که در آن روشهای پیدا کردن متن مرتبط را برای پرسشوپاسخ فارسی روی ۶۵۱ سؤال آزمون از مجموعهٔ PersianQA مقایسه کردم. سهم سؤالهایی که سند درست در اولین نتیجه بود، با جستوجوی کلیدواژهای ۹۰٫۹ درصد بود، با جستوجوی ترکیبی (کلیدواژه بهعلاوهٔ معنا) به ۹۶٫۲ درصد، و با مرتب کردن دوبارهٔ نتیجهها به ۹۸٫۶ درصد رسید. هزینهٔ زمانی هر مرحله هم ثبت شده است.
نتیجهای را هم که خوب نبود پنهان نکردم: مدل زبانیای که روی سرور خودم اجرا شد، در ۹۵ تا ۱۰۰ درصد سؤالهای جوابدار منبع درست را آورد، اما در نمونهٔ کوچکی از ۲۰ سؤالِ بیجواب، فقط حدود نیمی را رد کرد و گفت «نمیدانم». مرتب کردن دوبارهٔ نتیجهها هم دقت را بالا برد، ولی روی CPU حدود ۱۲ ثانیه برای هر سؤال طول میکشید، پس در حالت پیشفرض سرویس خاموشش کردم. در پروژهٔ شما هم همینطور گزارش میدهم: هم قوت، هم ضعف. جزئیات بنچمارک
گفتوگو با پایگاه دادهٔ سازمان (آزمایشی)
دستیاری ساختهام که سؤال معمولی را، مثل «ماه پیش چند مشتری داشتیم؟»، به SQL تبدیل میکند، روی پایگاه داده اجرا میکند و جواب را بهصورت جدول یا نمودار توضیح میدهد. سؤال بعدی، مثل «نسبت به ماه قبلش چطور؟»، را هم با توجه به همان گفتوگو میفهمد. آن را با مدل متنباز GPT-OSS 120B آزمایش کردم، که یعنی میشود روی سرور خود سازمان هم اجرایش کرد. هنوز آزمایشی است، ولی برای گزارشگیری و تحلیل داده بدون نوشتن کد SQL امیدوارکننده است.
برای چه کسانی مناسب نیستم
اگر یکی از اینها وصف حال شماست، احتمالاً همکاری ما به نتیجه نمیرسد، و بهتر است همین اول بدانیم:
- فقط یک چتبات ساده روی سایت میخواهید، آن هم فردا. برای این کار یک محصول آماده، مثل دستیارهای یارابات، معمولاً سریعتر و ارزانتر است.
- هدف «داشتن هوش مصنوعی» است، نه حل یک مسئلهٔ مشخص.
- نمیتوانید چند ساعت از وقت کارشناسهایتان را برای ساختن مجموعهٔ ارزیابی بگذارید. بدون آن، نه من میتوانم کیفیت را نشان بدهم، نه شما میتوانید آن را بسنجید.
- دقت صددرصد میخواهید. سیستم خوب خطا را کم میکند و اندازهاش را نشان میدهد، ولی به صفر نمیرساند.
- مسئلهٔ اصلیتان بینایی ماشین یا رباتیک است. تمرکز من زبان و متن است.
پرسشهای رایج
هزینهٔ مشاوره و پیادهسازی چطور حساب میشود؟
بدون شناخت مسئله، هر عددی حدس است؛ برای همین قیمت ثابتِ از پیش نمیدهم. روال این است: گفتوگوی اول کوتاه و بدون هزینه است تا ببینیم مسئلهٔ شما اصلاً با هوش مصنوعی حل میشود یا نه. مرحلهٔ اول (پیدا کردن مسئله و ساختن مجموعهٔ ارزیابی) کاری کوتاه با هزینهٔ مشخص است و خروجیاش برآورد روشن زمان و هزینهٔ ساخت است. قیمت ساخت و راهاندازی بعد از آن، بر اساس همان برآورد و مرحلهبهمرحله تعیین میشود. پشتیبانی و بهروزرسانی بعد از راهاندازی را، اگر بخواهید، جدا توافق میکنیم.
هزینهٔ اجرای سیستم جدا از هزینهٔ ساخت است: یا سختافزار خودتان، یا هزینهٔ مصرف یک سرویس مدل زبانی. این را در مرحلهٔ اول برآورد میکنم تا پیش از تصمیم، تصویر کامل را داشته باشید.
یک پروژه معمولاً چقدر طول میکشد؟
از یکی دو ماه تا حدود یک سال. بیشتر از خود مدل، به پیچیدگی مسئله، کیفیت و در دسترس بودن داده، و سرعت دسترسی به سیستمها و آدمهای سازمان بستگی دارد. مرحلهٔ اول کوتاه است و بعد از آن برآورد دقیقتری از بقیهٔ کار دارید.
نکتهٔ مهم این است که بعد از دو مرحلهٔ اول، با یک عدد واقعی در دست تصمیم میگیرید ادامه بدهید یا نه؛ پیش از آنکه هزینهٔ اصلی ساخت را بپردازید.
دادههای ما از سازمان بیرون میرود؟
لازم نیست برود. در این حالت مدل زبانی، جستوجو و همهٔ سرویسها روی سرورهای خود شما اجرا میشوند و هیچ درخواستی به سرویس خارجی نمیرود؛ همان کاری که در مرحلهٔ چهارم گفتم.
برای مدل اختصاصی حتماً باید GPU بخریم؟
همیشه نه. اگر داده اجازهٔ بیرون رفتن دارد، یک سرویس آماده ممکن است سادهتر باشد. اگر ندارد، سرور GPU لازم است و اندازهاش به مدل و تعداد کاربرهای همزمان بستگی دارد.
پیش از خرید، چند مدل با اندازههای مختلف را روی مجموعهٔ ارزیابی شما میسنجیم تا کوچکترین مدلی را پیدا کنیم که کیفیت لازم را میدهد.
برای چت بات سازمانی، ChatGPT بهتر است یا مدل خودمان؟
مدلهای تجاری بزرگ در خیلی از کارها قویاند. اما برای یک سازمان ایرانی سه چیز را باید در نظر گرفت: داده به سرور خارجی میرود؛ دسترسی و پرداخت ارزی دردسر دارد؛ و متن فارسی در بیشتر مدلها بهطور میانگین حدود دو برابر متن انگلیسی هممعنا توکن (واحدی که مدل متن را با آن میشمارد و هزینه بر اساس آن حساب میشود) مصرف میکند، یعنی هزینهٔ بیشتر (حساب هزینهاش را اینجا نوشتهام).
جواب قطعی را مجموعهٔ ارزیابی میدهد، نه سلیقه. در خیلی از سیستمهای پرسشوپاسخ هم اینکه سند درست پیدا شود، از انتخاب مدل مهمتر است.
شما در مشهد هستید؛ همکاری از راه دور چطور پیش میرود؟
بیشتر کار از راه دور شدنی است: جلسههای آنلاین و کار روی یک محیط آزمایشی با دسترسی امن. برای راهاندازی روی سرورهای داخلی، اگر دسترسی راه دور ممکن نباشد، با تیم فنی شما قدمبهقدم پیش میرویم.
برای جلسه یا کار حضوری در شهرهای دیگر، بسته به پروژه در همان گفتوگوی اول توافق میکنیم.
از کجا شروع کنیم
اگر فکر میکنید هوش مصنوعی جایی از کارتان را بهتر میکند، یا پروژهای دارید که به نتیجه نرسیده، به من ایمیل بزنید: salehiali.data@gmail.com
در چند خط بنویسید چه کاری میخواهید بهتر شود، چه دادهای دارید، و آیا داده باید داخل سازمان بماند. با همین اطلاعات میگویم قدم اول چه باید باشد.