دوره آموزشی تکنیک‌های پیشرفته کوانتایزیشن (کم‌سازی) برای مدل‌های زبانی بزرگ

در عصر مدل‌های بزرگ، چالش اصلی، اجرای بهینه و سریع این مدل‌ها بر روی سخت‌افزارهای محدود است. این دوره شما را با لبه‌های تکنولوژی در حوزه کوانتیزاسیون (Quantization) آشنا می‌کند. نایان ساکسنا ابتدا با تشریح مبانی ریاضی (Mathematical Foundations) شروع می‌کند تا درک عمیقی از تأثیر این فرآیند بر معماری‌های ترنسفورمر (Transformer Architectures) ایجاد کند.

سپس با ورود به مباحث پیشرفته، الگوریتم‌های کلیدی صنعت از جمله GPTQ، AWQ و SmoothQuant را به صورت عملی و با استفاده از Google Colab پیاده‌سازی خواهید کرد. در این مسیر، شما نکات حیاتی در مورد فرمت‌های دقت (Precision Formats)، استراتژی‌های کالیبراسیون (Calibration Strategies) و روش‌شناسی‌های ارزیابی (Evaluation Methodologies) را فرا می‌گیرید. هدف نهایی این دوره، توانمندسازی شما برای انتخاب آگاهانه بهترین متد کوانتیزاسیون بر اساس نیازهای مدل و کسب‌وکار است؛ به‌گونه‌ای که ضمن کاهش چشمگیر اندازه مدل، کیفیت عملکرد (Performance Quality) به شکلی بهینه حفظ شود.

اهداف یادگیری
تحلیل بنیادین: بررسی مبانی ریاضی کوانتیزاسیون و تأثیرات دقیق آن بر ساختار مدل‌های ترنسفورمر.
پیاده‌سازی متدهای پیشرفته: یادگیری عملی تکنیک‌های نوین شامل GPTQ، AWQ و SmoothQuant در محیط‌های توسعه.
ارزیابی هوشمندانه: توانایی سنجش و تحلیل تفاوت‌ها (Trade-offs) بین رویکردهای مختلف کوانتیزاسیون با استفاده از معیارهای تخصصی.
بهینه‌سازی دقیق: ارتقای نتایج خروجی از طریق به‌کارگیری استراتژی‌های پیشرفته کالیبراسیون.
انتخاب استراتژیک: توانمندی در مقایسه و انتخاب بهینه‌ترین روش کوانتیزاسیون متناسب با معماری مدل و الزامات خاص هر پروژه.

مخاطبان دوره
مهندسان یادگیری ماشین (Machine Learning Engineers)
متخصصان و توسعه‌دهندگان فعال در حوزه هوش مصنوعی (AI Practitioners)
رهبران فنی (Technical Leads) که بر روی استقرار و بهینه‌سازی مدل‌های زبانی بزرگ (LLMs) کار می‌کنند.