مدل زبانی کوچک (SLM) چیست؟
مدلهای زبانی کوچک (Small Language Model) مدلهایی سبک و کممصرفاند که برای اجرا روی گوشی، لپتاپ و دستگاههای لبه طراحی میشوند.
مدل زبانی کوچک یا SLM (Small Language Model) مدلی هوش مصنوعی است که با پارامترهای (Parameter) کمتر از مدلهای رایج آموزش دیده است؛ معمولاً از چند صد میلیون تا چند میلیارد پارامتر. پارامترها دانش آموختهشده مدل را در خود نگه میدارند؛ هرچه تعدادشان کمتر باشد، مدل سبکتر است و فضای کمتری از حافظه دستگاه میگیرد.
هدف اصلی SLM اجرای مدل روی خود دستگاه (On-Device) است؛ یعنی بدون ارسال داده به سرور. همین ویژگی سه مزیت مهم میسازد: پاسخگویی آنی به دلیل حذف تأخیر شبکه (Latency)، حریم خصوصی کامل چون دادهها هرگز دستگاه را ترک نمیکنند، و حذف هزینه استنتاج ابری (Cloud Inference).
سبکبودن به معنای ناتوانی نیست. یک SLM خوب با انتخاب داده آموزش مناسب، برای زبان و حوزهای مشخص — مثلاً فارسی — در کاربردهایی مثل پاسخگویی، خلاصهسازی و دستیارهای صوتی عملکردی رقابتی ارائه میدهد. تفاوت اصلی با مدلهای بزرگ در گستره دانش عمومی است، نه در مهارت انجام یک وظیفه مشخص.
بوکان دقیقاً روی همین نقطه تمرکز کرده است: ساخت مدلهای زبانی کوچک فارسی که بهجای دیتاسنتر، روی پردازنده گوشی، لپتاپ و تجهیزات لبه (Edge) اجرا میشوند.