دوره آموزشی هوش مصنوعی تولیدی و مدل‌های متن‌باز: تمرین عملی با مدل‌های Hugging Face

مدل‌های زبان بزرگ (LLMها) در حال تبدیل شدن به اجزای کلیدی در صنایع مختلف هستند. این دوره که توسط مدرس هارپریت ساهوتا تدریس می‌شود، یک بررسی عمیق از نحوه کارکرد تولید متن با استفاده از LLMها ارائه می‌دهد. در این دوره، شما با اهمیت توکنیزه کردن، توکن‌های خاص و الگوهای چت در تولید متن آشنا خواهید شد. همچنین نحوه دستکاری توکن انتخاب‌شده بعدی را خواهید آموخت و درک فنی و شهودی از پارامترهای تولید مانند دما (temperature)، بالاترین احتمال (top-p)، بالاترین k (top-k)، جریمه تکرار (repetition penalty)، جریمه طول (length penalty) و لیست کلمات بد (bad words list) پیدا خواهید کرد. کشف خواهید کرد که چگونه این پارامترها می‌توانند برای شکل‌دهی استراتژی‌های رمزگشایی قدرتمند ترکیب شوند، از جمله جستجوی حریصانه (greedy search)، نمونه‌برداری چندنمونه‌ای (multinomial sampling)، جستجوی پرتوی (beam search) و جستجوی مقابله‌ای (contrastive search). همچنین تجربه عملی با استفاده از API تولید متن Hugging Face خواهید داشت و نگاهی به تعامل با API NVIDIA NIM برای کاوش در مدل‌های بزرگتر خواهید انداخت. در پایان این دوره، شما یک پایه مستحکم در کنترل تولید متن با LLMها خواهید داشت و قادر خواهید بود این مهارت‌ها را در سناریوهای واقعی به کار ببرید.

اهداف آموزشی:
درک اهمیت توکنیزه کردن، توکن‌های خاص و الگوهای چت در تولید متن.
یادگیری نحوه دستکاری توکن‌های انتخاب‌شده و استفاده از پارامترهای تولید.
درک پارامترهای مختلف تولید متن مانند دما، top-p، top-k و سایر جریمه‌ها.
کشف استراتژی‌های مختلف رمزگشایی از جمله جستجوی حریصانه، نمونه‌برداری چندنمونه‌ای و جستجوی پرتوی.
کار با API تولید متن Hugging Face و تعامل با API NVIDIA NIM برای مدل‌های بزرگتر.