تعریف اصطلاحهوش مصنوعی سازمانی
مدل زبانی کوچک (SLM) چیست و چرا سازمانها سراغ مدلهای کوچکتر رفتهاند؟
مدل زبانی کوچک (SLM) مدلی با پارامترهای بسیار کمتر از مدلهای بزرگ است که روی سختافزار معمولی اجرا میشود و برای کارهای مشخص مانند طبقهبندی، استخراج و پاسخ کوتاه سریع و کمهزینه است. Gartner پیشبینی کرده تا ۲۰۲۷ استفاده از مدلهای کوچک ویژه وظیفه دستکم سه برابر مدلهای بزرگ همهمنظوره باشد. محدودیتها: دانش و استدلال کمتر و ضعف احتمالی در فارسی. رویکرد رایج، مسیریابی ترکیبی بین مدل کوچک و بزرگ با تأیید انسانی است.
خلاصه در چند نکته
- SLM معمولاً از چند صد میلیون تا حدود ده میلیارد پارامتر دارد.
- برای طبقهبندی، استخراج و پاسخ کوتاه سریع و کمهزینه است.
- اجرای محلی را بدون سختافزار سنگین ممکن میکند.
- در استدلال پیچیده و دانش عمومی از مدل بزرگ ضعیفتر است.
- الگوی مسیریابی، کار ساده را به مدل کوچک و کار دشوار را به مدل بزرگ میدهد.
- کیفیت فارسی مدل کوچک باید با داده واقعی آزموده شود.
فهرست مطالب
وقتی از هوش مصنوعی مولد صحبت میشود، معمولاً نام مدلهای غولپیکری به ذهن میآید که روی هزاران پردازنده گرافیکی در مراکز داده بزرگ اجرا میشوند. اما یکی از روندهای مهم سالهای اخیر، حرکت در جهت مخالف است: مدلهای زبانی کوچک یا SLM (Small Language Model). این مدلها بهجای اینکه همهکاره باشند، برای کارهای مشخص سبک، سریع و کمهزینه هستند و میتوانند روی یک سرور معمولی سازمان یا حتی یک لپتاپ اجرا شوند.
این مقاله توضیح میدهد مدل زبانی کوچک چیست، چه تفاوتی با مدل بزرگ دارد، برای چه کارهایی مناسب است و چرا الگوی «ترکیب مدل کوچک و بزرگ» در حال تبدیل شدن به رویکرد رایج سازمانهاست.
تعریف مدل زبانی کوچک
مدل زبانی کوچک مدلی از همان خانواده مدلهای زبانی است که تعداد پارامترهای آن بهمراتب کمتر از مدلهای بزرگ است. مرز دقیق و پذیرفتهشدهای وجود ندارد، اما در گفتوگوهای رایج، مدلهایی با چند صد میلیون تا حدود ده میلیارد پارامتر را «کوچک» مینامند؛ در حالی که مدلهای بزرگ از دهها تا صدها میلیارد پارامتر یا بیشتر دارند.
اصول کار مدل کوچک با مدل بزرگ یکسان است: هر دو بر پایه معماری ترنسفورمر و پیشبینی توکن بعدی کار میکنند. تفاوت در ظرفیت است؛ مدل کوچک دانش عمومی کمتری در خود جای میدهد و در استدلالهای چندمرحلهای پیچیده ضعیفتر است، اما در کارهای محدود و مشخص میتواند عملکرد بسیار خوبی داشته باشد. مبانی مدلهای زبانی را در مقاله مدل زبانی بزرگ چیست توضیح دادهایم.
نمونههایی از خانوادههایی که نسخههای کوچک منتشر کردهاند: سری Phi از Microsoft، نسخههای کوچک Llama، Qwen و Gemma. بسیاری از این مدلها وزنباز هستند و میتوان آنها را روی سرور سازمان اجرا کرد؛ ملاحظات مجوز و امنیت آنها را در مقاله مدلهای متنباز برای سازمان بررسی کردهایم.
مقایسه مدل کوچک و مدل بزرگ
| معیار | مدل کوچک (SLM) | مدل بزرگ (LLM) |
|---|---|---|
| تعداد پارامتر | چند صد میلیون تا حدود ده میلیارد | دهها تا صدها میلیارد یا بیشتر |
| سختافزار | یک GPU معمولی، گاهی CPU | چند GPU قدرتمند یا سرویس ابری |
| سرعت پاسخ | بسیار سریع | کندتر |
| هزینه هر درخواست | پایین | بالاتر |
| دانش عمومی | محدود | گسترده |
| استدلال پیچیده | ضعیفتر | قویتر |
| کارهای تکراری و مشخص | بسیار مناسب | گاهی بیش از نیاز |
| اجرای محلی | آسان | دشوار و پرهزینه |
چرا سازمانها سراغ مدلهای کوچک رفتهاند؟
۱. بیشتر کارهای سازمانی «کوچک» هستند
بخش بزرگی از کاربردهای هوش مصنوعی در سازمان، کارهای تکراری و مشخص است: تشخیص موضوع یک نامه، استخراج شماره قرارداد و تاریخ از یک سند، دستهبندی یک تیکت پشتیبانی، تشخیص زبان یا لحن یک پیام. برای این کارها به مدلی که شعر بگوید و مسئله ریاضی حل کند نیازی نیست.
۲. هزینه و سرعت
Gartner در فروردین ۱۴۰۴ (آوریل ۲۰۲۵) پیشبینی کرد که تا سال ۲۰۲۷، حجم استفاده سازمانها از مدلهای کوچک و ویژه وظیفه دستکم سه برابر مدلهای زبانی بزرگ همهمنظوره خواهد بود. دلیلی که Gartner مطرح کرد این بود که مدلهای کوچک پاسخ سریعتری میدهند، توان محاسباتی کمتری مصرف میکنند و هزینه عملیات و نگهداری را کاهش میدهند؛ در حالی که دقت مدلهای همهمنظوره در کارهایی که به زمینه تخصصی کسبوکار نیاز دارند، افت میکند.
۳. اجرای محلی و حفظ داده
مدل کوچک را میتوان بدون سرمایهگذاری سنگین روی سختافزار، داخل شبکه سازمان اجرا کرد. برای سازمانهایی که نمیخواهند داده از شبکه خارج شود، این مزیت تعیینکننده است. جزئیات این رویکرد را در راهنمای مدل زبانی محلی آوردهایم.
۴. پیشبینیپذیری
مدل کوچکی که برای یک کار مشخص تنظیم یا ارزیابی شده، رفتار قابل پیشبینیتری دارد و آزمودن آن سادهتر است.
محدودیتهای مدل کوچک
انصاف حکم میکند محدودیتها را هم بگوییم:
- دانش محدود: مدل کوچک اطلاعات عمومی کمتری دارد و احتمال پاسخ نادرست در پرسشهای باز بیشتر است.
- استدلال چندمرحلهای ضعیفتر: برای تحلیل پیچیده یک قرارداد یا مقایسه چند سند طولانی، ممکن است کافی نباشد.
- پنجره زمینه کوچکتر: برخی مدلهای کوچک متن طولانی را کمتر خوب پردازش میکنند.
- فارسی: مدلهای کوچک چندزبانه، معمولاً فارسی را ضعیفتر از مدلهای بزرگ میفهمند و تولید میکنند؛ آزمون با داده واقعی فارسی ضروری است.
الگوی ترکیبی: مسیریابی بین مدل کوچک و بزرگ
روند ۲۰۲۶ در بسیاری از سازمانها، انتخاب «یکی از دو» نیست، بلکه ترکیب هوشمندانه است. در این الگو، یک لایه مسیریاب تصمیم میگیرد هر درخواست به کدام مدل برود:
- درخواست ساده و تکراری (دستهبندی، استخراج، پاسخ کوتاه) به مدل کوچک میرود.
- درخواست پیچیده (تحلیل، استدلال، نگارش طولانی) به مدل بزرگتر میرود.
- اگر مدل کوچک اطمینان کافی نداشته باشد، درخواست به مدل بزرگ ارجاع میشود یا برای بررسی انسانی علامت میخورد.
نمونه عملی
فرض کنید یک سازمان روزانه چند صد نامه وارده دریافت میکند:
- مدل کوچک موضوع هر نامه را تشخیص میدهد، فرستنده و تاریخ را استخراج میکند و واحد مقصد را پیشنهاد میدهد.
- برای نامههایی که خلاصه یا پیشنویس پاسخ لازم دارند، مدل بزرگتر به کار گرفته میشود.
- در همه موارد، پیشنهاد هوش مصنوعی را کارشناس دبیرخانه تأیید یا اصلاح میکند.
نتیجه: بیشتر درخواستها با هزینه و زمان پایین پاسخ میگیرند و ظرفیت مدل بزرگ برای کارهایی که واقعاً به آن نیاز دارند حفظ میشود. منطق مشابهی در مسیریابی تیکت با هوش مصنوعی در میز خدمت هم دیده میشود.
کاربردهای مناسب مدل کوچک در سازمان
| کاربرد | نمونه | چرا مدل کوچک کافی است |
|---|---|---|
| طبقهبندی | تشخیص نوع نامه یا تیکت | خروجی محدود و از پیش تعریفشده |
| استخراج اطلاعات | شماره، تاریخ، مبلغ از سند | الگوی مشخص و قابل ارزیابی |
| تشخیص لحن یا فوریت | تشخیص شکایت فوری | تصمیم ساده |
| بازنویسی کوتاه | اصلاح املا و نیمفاصله | تغییر محدود متن |
| فیلتر و پیشپردازش | حذف متن تکراری پیش از ارسال به مدل بزرگ | کار مقدماتی |
| پاسخ کوتاه از سند یافتهشده | پاسخ از یک بند آییننامه | زمینه کوتاه و مشخص |
برای استخراج اطلاعات از اسناد، مفهوم پردازش هوشمند اسناد هم مرتبط است.
مدلهای کوچک چگونه ساخته میشوند؟
دانستن روش ساخت مدلهای کوچک به درک تواناییها و محدودیتهایشان کمک میکند. سه رویکرد رایج وجود دارد:
آموزش مستقیم با داده باکیفیت
برخی سازندگان نشان دادهاند که اگر داده آموزشی با دقت انتخاب و پالایش شود، مدلی با پارامترهای کم هم میتواند در بسیاری از آزمونها به مدلهای بسیار بزرگتر نزدیک شود. کیفیت داده در این رویکرد از حجم آن مهمتر است.
تقطیر دانش (Distillation)
در این روش، یک مدل بزرگ نقش «معلم» را دارد و مدل کوچک «شاگرد» یاد میگیرد خروجیهای آن را تقلید کند. نتیجه مدلی سبکتر است که بخشی از توانایی مدل بزرگ را به ارث میبرد. بسیاری از نسخههای کوچک خانوادههای معروف به این روش ساخته شدهاند.
کوانتیزهسازی
کوانتیزهسازی در واقع مدل را «کوچک» نمیکند، بلکه دقت عددی وزنها را کاهش میدهد (مثلاً از ۱۶ بیت به ۴ بیت) تا حافظه و توان مصرفی کم شود. این روش اغلب در کنار مدلهای کوچک به کار میرود تا اجرای آنها روی سختافزار معمولی ممکن شود، هرچند ممکن است کیفیت را اندکی کاهش دهد.
مدل کوچک در کنار جستجو و بازیابی
ضعف اصلی مدل کوچک، دانش محدود است. یک راه مؤثر برای جبران آن، ترکیب با جستجو و بازیابی است: بهجای اینکه از مدل بخواهیم پاسخ را از حافظه خود بگوید، ابتدا اسناد مرتبط سازمان را پیدا میکنیم و فقط از مدل میخواهیم پاسخ را از همان متن استخراج و بیان کند. در این حالت، مدل کوچک به دانش عمومی زیادی نیاز ندارد و کار آن به خواندن و خلاصه کردن یک متن کوتاه محدود میشود؛ کاری که در آن معمولاً عملکرد قابل قبولی دارد. البته کیفیت پاسخ در این الگو به شدت به کیفیت جستجو وابسته است: اگر سند درست پیدا نشود، هیچ مدلی، کوچک یا بزرگ، پاسخ درست نمیدهد.
چگونه تصمیم بگیریم؟
- [ ] کار مورد نظر خروجی محدود و قابل ارزیابی دارد؟ اگر بله، مدل کوچک را اول امتحان کنید.
- [ ] حجم درخواستها بالاست؟ هزینه و سرعت مدل کوچک مزیت مهمی است.
- [ ] داده نباید از سازمان خارج شود؟ مدل کوچک اجرای محلی را آسانتر میکند.
- [ ] کار به استدلال طولانی یا دانش گسترده نیاز دارد؟ مدل بزرگتر لازم است.
- [ ] کیفیت فارسی مدل کوچک را با نمونه واقعی سنجیدهاید؟
- [ ] برای ارجاع درخواستهای دشوار به مدل بزرگ یا انسان، مسیر تعریف کردهاید؟
اشتباههای رایج
- استفاده از یک مدل بزرگ برای همه کارها: هزینه و تأخیر غیرضروری.
- استفاده از مدل کوچک برای کارهای استدلالی: نتیجه ناامیدکننده و بیاعتمادی کاربران.
- قضاوت با آزمون انگلیسی: عملکرد فارسی ممکن است بسیار متفاوت باشد.
- نبود معیار ارزیابی: بدون نمونههای برچسبخورده، نمیدانید مدل کوچک کافی است یا نه.
موضع آریا آیتی
قابلیتهای هوش مصنوعی آریا آیتی روی سرورهای مشتری یا سرورهای آریا آیتی مستقر میشود و داده سازمان به مدلهای عمومی اینترنت فرستاده نمیشود. در همه قابلیتها مدل پیشنهاد میدهد و انسان تصمیم میگیرد. اینکه در هر استقرار از چه مدل یا ترکیبی از مدلها استفاده شود، چه سختافزاری لازم باشد و دقت فارسی آن چقدر باشد، بهصورت عمومی اعلام نشده و در مشاوره بر اساس نیاز سازمان بررسی میشود. آریا آیتی سرویس جداگانه آموزش یا تنظیم دقیق مدل ارائه نمیکند. برای بررسی زیرساخت، خدمات پیادهسازی را ببینید.
جمعبندی
مدل زبانی کوچک نسخه سبک، سریع و کمهزینه مدلهای زبانی است که برای کارهای تکراری و مشخص مانند طبقهبندی، استخراج و پاسخ کوتاه بسیار مناسب است و اجرای محلی را آسان میکند. محدودیت آن در دانش عمومی و استدلال پیچیده است. رویکرد رایج سازمانها، ترکیب مدل کوچک برای حجم بالای کارهای ساده و مدل بزرگتر برای کارهای دشوار، همراه با تأیید انسانی است.
مشاوره رایگان: برای بررسی اینکه کدام کارهای سازمانتان با هوش مصنوعی قابل پشتیبانی است، با کارشناسان آریا آیتی گفتوگو کنید یا درخواست پایلوت دستیار (پلن سازمانی) را ثبت کنید.
پرسشهای متداول
مدل زبانی کوچک چند پارامتر دارد؟
+
مرز دقیقی وجود ندارد، اما معمولاً مدلهایی با چند صد میلیون تا حدود ده میلیارد پارامتر را کوچک مینامند؛ مدلهای بزرگ دهها تا صدها میلیارد پارامتر دارند.
آیا مدل کوچک جای مدل بزرگ را میگیرد؟
+
نه کاملاً. مدل کوچک برای کارهای تکراری و مشخص مناسب است و مدل بزرگ برای استدلال و نگارش پیچیده. رویکرد رایج ترکیب این دو با یک لایه مسیریاب است.
آیا مدل کوچک روی سرور معمولی اجرا میشود؟
+
بسیاری از مدلهای کوچک روی یک GPU معمولی و برخی برای حجم کم حتی روی CPU اجرا میشوند؛ نیاز دقیق به اندازه مدل، کوانتیزهسازی و تعداد کاربران همزمان بستگی دارد.
مدل کوچک برای فارسی مناسب است؟
+
بستگی به مدل و کار دارد. مدلهای کوچک چندزبانه معمولاً در فارسی ضعیفترند، اما برای کارهای محدود مانند طبقهبندی ممکن است کافی باشند. آزمون با داده واقعی ضروری است.
